Python基础语法(多进程开发进程建数据共享进程锁进程池)

 Python基础语法文章导航:

  1. Python基础(01初识数据类型&变量)
  2. Python基础(02条件&循环语句)
  3. Python基础(03字符串格式化&运算符&进制&编码)
  4. Python基础(04 基础练习题)
  5. Python数据类型(day05整型&布尔类型&字符串类型)
  6. Python数据类型(06列表&元组)
  7. Python数据类型(07集合&字典&浮点型&None)
  8. Python文件操作01(自动化测试文件相关操作)
  9. Python函数入门(08函数定义&参数&返回值)

  10. Python文件操作02(自动化测试文件相关操作)

  11. Python函数(10生成器&内置函数&推导式)

  12. Python函数(11自定义模块&第三方模块&内置模块)

  13. Python函数(12时间处理&正则表达式)

  14. Python函数(13面向对象)

  15. Python面向对象(15成员&成员修饰符)

  16. Python函数(16进程和线程)

  17. Python基础语法(17多线程&线程锁&单例模式)

目录

一.多进程开发

1. 进程介绍

2. 常见功能

(1)p.start()

(2)p.join()

(3)p.daemon = 布尔值

(4)进程的名称的设置和获取

(5)自定义进程类,直接将线程需要做的事写到run方法中。

(6)CPU个数,程序一般创建多少个进程?(利用CPU多核优势)

二. 进程间数据的共享

1.共享

2.交换

(1)Queues

(2)Pipes

 3. 进程锁

4. 进程池


一.多进程开发

        进程是计算机中资源分配的最小单元;一个进程中可以有多个线程,同一个进程中的线程共享资源;进程与进程之间则是相互隔离

Python中通过多进程可以利用CPU的多核优势,计算密集型操作适用于多进程。

1. 进程介绍

import multiprocessingdef task(arg):passdef run():p1 = multiprocessing.Process(target=task, args=('XXX'), )#当前进程准备就绪,等待被CPU调度(工作单元其实是进程中的线程)p1.start()if __name__ == '__main__':run()

2. 常见功能

进程的常见方法:

(1)p.start()

  当前进程准备就绪,等待被CPU调度(工作单元其实是进程中的线程)。

(2)p.join()

  等待当前进程的任务执行完毕后再向下继续执行

def task(arg):time.sleep(2)print("执行中...")if __name__ == '__main__':multiprocessing.set_start_method("spawn")name=[]p1=multiprocessing.Process(target=task,args=('xxx',))p1.start()p1.join()time.sleep(2)print("继续执行...")
#执行中...
#继续执行...(过了2秒后出现)

(3)p.daemon = 布尔值

  守护进程(必须放在start之前)

  • p.daemon =True,设置为守护进程,主进程执行完毕后,子进程也自动关闭。

  • p.daemon =False,设置为非守护进程,主进程等待子进程,子进程执行完毕后,主进程才结束。

import multiprocessing
import timedef task(arg):time.sleep(2)print("执行中...")if __name__ == '__main__':multiprocessing.set_start_method("spawn")p1=multiprocessing.Process(target=task,args=('xxx',))p1.daemon=Truep1.start()time.sleep(2)print("继续执行...")
#继续执行...
import multiprocessing
import timedef task(arg):time.sleep(2)print("执行中...")if __name__ == '__main__':multiprocessing.set_start_method("spawn")p1=multiprocessing.Process(target=task,args=('xxx',))p1.daemon=Falsep1.start()time.sleep(2)print("继续执行...")
# 继续执行...
# 执行中...

(4)进程的名称的设置和获取

  • getpid:返回调用进程自身的进程ID。用于标识进程自身。

  • getppid:返回调用进程的父进程ID。用于标识创建调用进程的父进程。

  • multiprocessing.current_process().name:获取当前进程的名字

import multiprocessing
import os
import threading
import timedef func():time.sleep(3)def task(arg):for i in range(10):t=threading.Thread(target=func)t.start()#getpid、getppid分别获取当前进程的进程ID和当前进程的父进程ID。print(os.getpid(),os.getppid())print("线程个数",len(threading.enumerate()))time.sleep(2)print("当前进程的名称:",multiprocessing.current_process().name)if __name__ == '__main__':print(os.getpid())multiprocessing.set_start_method("spawn")p1=multiprocessing.Process(target=task,args=('xxx',))p1.name="哈哈哈哈哈"p1.start()print("继续执行...")
# 33756
# 继续执行...
# 22624 33756
# 线程个数 11
# 当前进程的名称: 哈哈哈哈哈备注:线程计算方法   有1(执行task的线程)+ 10(循环创建的线程)= 11个线程

(5)自定义进程类,直接将线程需要做的事写到run方法中。

import multiprocessing
class MyProcess(multiprocessing.Process):def run(self):print("执行此进程",self)if __name__ == '__main__':multiprocessing.set_start_method("spawn")p=MyProcess(args=('xxx',))p.start()print("继续执行...")
# 继续执行...
# 执行此进程 <MyProcess name='MyProcess-1' parent=29592 started>

(6)CPU个数,程序一般创建多少个进程?(利用CPU多核优势)

import multiprocessing
n=multiprocessing.cpu_count()
print(n)
#8
import multiprocessingdef task():passif __name__ == '__main__':count=multiprocessing.cpu_count()for i in range(count-1):p=multiprocessing.Process(target=task)p.start()

二. 进程间数据的共享

        进程是资源分配的最小单元,每个进程中都维护自己独立的数据,不共享

import multiprocessing
def task(data):data.append(666)if __name__ == '__main__':data_list=[]p=multiprocessing.Process(target=task,args=(data_list,))p.start()p.join()print("主进程:",data_list)
# 主进程: []

        如果想要让他们之间进行共享,则可以借助一些特殊的东西来实现。

1.共享

        multiprocessing.Value: 这是一个类,用来创建可以在不同进程间共享的值。它允许在多进程环境中安全地共享基本数据类型,如整数、浮点数等。

        在 Python 的 multiprocessing 模块中,常见的类型代码包括 'i'(整数)、'd'(浮点数)、'c'(字符,但通常用于 Array 而非 Value)等。

from multiprocessing import Value, Processdef func(n,m1,m2):n.value=888#将字符串 'a' 使用 utf-8 编码转换成了字节串 b'a',然后赋值给 m1.valuem1.value='a'.encode('utf-8')m2.value="武"if __name__ == '__main__':#这里的作用是使用Value类从multiprocessing模块创建一个可以在进程间共享的整数值#'i': 这个字符代表了要创建的共享变量的类型。在本例中,'i' 表示这是一个整数(integer)类型。# 666: 这是共享变量初始化的值。即这个可以在进程间共享的整数的初始值被设定为666。num=Value('i',666)#创建了一个新的共享内存变量 v1,类型指定为 'c',这通常表示一个字符类型v1=Value('c')#试图使用 'u' 类型创建一个 multiprocessing.Value 实例。但是,按照 multiprocessing.Value 的标准用法,类型代码 'u' 并不是直接支持的。v2=Value('u')p=Process(target=func,args=(num,v1,v2))p.start()p.join()print(num.value)print(v1.value)print(v2.value)
# 888
# b'a'
# 武
from multiprocessing import Process, Value, Array
def f(data_array):data_array[0] = 666if __name__ == '__main__':arr = Array('i', [11, 22, 33, 44]) # 数组:元素类型必须是int; 只能是这么几个数据。p = Process(target=f, args=(arr,))p.start()p.join()print(arr[:])
#[666, 22, 33, 44]

        利用 Python 的 multiprocessing 模块中的 Manager 类来创建一个管理器上下文。这个管理器允许您创建可在多个进程之间共享的容器,如列表、字典等。这种方式比直接使用 Value 或 Array 更灵活,尤其适合于需要共享复杂数据结构的场景。 

from multiprocessing import Process, Manager
def f(d, l):d[1] = '1'd['2'] = 2d[0.25] = Nonel.append(666)if __name__ == '__main__':with Manager() as manager:d = manager.dict()l = manager.list()p = Process(target=f, args=(d, l))p.start()p.join()print(d)print(l)
# {1: '1', '2': 2, 0.25: None}
# [666]

2.交换

(1)Queues

        使用 queue = multiprocessing.Queue() 这段代码时,创建一个线程或进程安全的队列,这个队列允许您在多个进程之间安全地传递数据,用于进程间通信的一个非常实用的数据结构。

        q.put(i) 表示正向这个队列中放入一个元素 i。这里 i 应该是一个在上下文中已经定义过的变量,意味着即使有多个进程同时尝试向队列中放入或获取数据,队列也能保证数据的正确性和完整性,不会引发冲突。

        一旦数据被放入队列,其他进程可以通过 q.get() 方法来取出这个数据。这是一种典型的“生产者-消费者”模型,其中一个进程(生产者)向队列中放入数据,另一个或多个进程(消费者)从队列中取出并处理数据。

import multiprocessing
def task(q):for i in range(10):q.put(i)if __name__ == '__main__':queue = multiprocessing.Queue()p = multiprocessing.Process(target=task, args=(queue,))p.start()p.join()print("主进程")print(queue.get())print(queue.get())print(queue.get())print(queue.get())print(queue.get())
# 主进程
# 0
# 1
# 2
# 3
# 4

(2)Pipes

import time
import multiprocessing
def task(conn):time.sleep(1)conn.send([111, 22, 33, 44])data = conn.recv() # 阻塞print("子进程接收:", data)time.sleep(2)if __name__ == '__main__':parent_conn, child_conn = multiprocessing.Pipe()p = multiprocessing.Process(target=task, args=(child_conn,))p.start()info = parent_conn.recv() # 阻塞print("主进程接收:", info)parent_conn.send(666)
# 主进程接收: [111, 22, 33, 44]
# 子进程接收: 666

 3. 进程锁

如果多个进程抢占式去做某些操作时候,为了防止操作出问题,可以通过进程锁来避免。

        lock = multiprocessing.RLock() 时,您初始化了一个可重入锁(Reentrant Lock),这是 multiprocessing 模块提供的一个同步原语。可重入锁允许同一个进程多次获得同一个锁,而不会发生死锁。这对于需要在多进程中保护共享资源的情况非常有用,尤其是当某个进程可能在其持有锁的期间再次请求同一把锁时。

        在每个进程中,对于那些需要互斥访问的资源,您需要在访问之前获取锁(lock.acquire()),并在访问完毕后释放锁(lock.release())

import time
import multiprocessingdef task(lock):print("开始")lock.acquire()# 假设文件中保存的内容就是一个值:10with open('f1.txt', mode='r', encoding='utf-8') as f:current_num = int(f.read())print("排队抢票了")time.sleep(0.5)current_num -= 1with open('f1.txt', mode='w', encoding='utf-8') as f:f.write(str(current_num))lock.release()if __name__ == '__main__':multiprocessing.set_start_method("spawn")lock = multiprocessing.RLock()  # 进程锁for i in range(10):p = multiprocessing.Process(target=task, args=(lock,))p.start()# spawn模式,需要特殊处理。time.sleep(7)
# 开始
# 排队抢票了
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了

4. 进程池

注意:如果在进程池中要使用进程锁,则需要基于Manager中的Lock和RLock来实现。

        通过使用 manager = multiprocessing.Manager() 创建的管理器,您能够创建可在多个进程间共享的同步对象,如锁。因此,lock_object = manager.RLock() # Lock 正确地创建了一个可在进程池中各个进程间共享的可重入锁(RLock)。这解决了之前直接使用 multiprocessing.RLock() 时遇到的共享问题,因为 Manager 自动处理了跨进程的数据同步。

import time
import multiprocessing
from concurrent.futures.process import ProcessPoolExecutordef task(lock):print("开始")# lock.acquire()# lock.relase()with lock:# 假设文件中保存的内容就是一个值:10with open('f1.txt', mode='r', encoding='utf-8') as f:current_num = int(f.read())print("排队抢票了")time.sleep(1)current_num -= 1with open('f1.txt', mode='w', encoding='utf-8') as f:f.write(str(current_num))if __name__ == '__main__':pool = ProcessPoolExecutor()# lock_object = multiprocessing.RLock() # 不能使用manager = multiprocessing.Manager()lock_object = manager.RLock() # Lockfor i in range(10):pool.submit(task, lock_object)
# 开始
# 排队抢票了
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 开始
# 排队抢票了
# 开始
# 排队抢票了
# 开始
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了
# 排队抢票了

 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/415917.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Marin说PCB之闲谈设计经验之沟通

今天这期小编我不讲解技术&#xff0c;主要是分享一些个人的工作中的一些经验吧&#xff0c;首先给诸位分享的就是小编我的学的降龙十八掌第一式&#xff1a;沟通&#xff0c;为啥要说沟通是第一个我要说的话题呢&#xff0c;这个说来话长了&#xff0c;小编我就长话短说了。 因…

Rust: Web框架Axum和Rest Client协同测试

Axum作为Rust当红Web框架&#xff0c;值得了解一下。下面实例包括几个典型的常场场景。 具体如下&#xff1a; 一、Axum 1、toml中依赖 [dependencies] tokio {version"1.39.3",features ["full"]} axum {version "0.7.5",features ["to…

OceanBase 关于 place_group_by HINT的使用

PLACE_GROUP_BY Hint 表示在多表关联时&#xff0c;如果满足单表查询后直接进行group by 的情形下&#xff0c;在跟其它表进行关联统计&#xff0c;减少表内部联接。 NO_PLACE_GROUP_BY Hint 表示在多表关联时&#xff0c;在关联后才对结果进行group by。 使用place_group_by …

html+css+js网页设计 故宫10个页面 ui还原度100%

htmlcssjs网页设计 故宫10个页面 ui还原度100% 网页作品代码简单&#xff0c;可使用任意HTML编辑软件&#xff08;如&#xff1a;Dreamweaver、HBuilder、Vscode 、Sublime 、Webstorm、Text 、Notepad 等任意html编辑软件进行运行及修改编辑等操作&#xff09;。 获取源码 …

Spring 学习笔记

概述 Spring 是一个企业级 J2EE 应用开发一站式解决方案&#xff0c;其提供的功能贯穿了项目开发的表现层、业务层和持久化层&#xff0c;同时&#xff0c;Spring 可以和其他应用框架无缝整合 Spring 的特性包括以下几个方面&#xff1a; 轻量&#xff1a;Spring 是一个轻量…

三级_网络技术_58_应用题

一、 请根据下图所示网络结构回答下列问题。 1.填写RG的路由表项。 目的网络/掩码长度输出端口__________S0&#xff08;直接连接&#xff09;__________S1&#xff08;直接连接&#xff09;__________S0__________S1__________S0__________S1 (2)如果在不改变路由表项的前提…

如何录制黑神话悟空的游戏BGM导入iPhone手机制作铃声?

在游戏的世界里&#xff0c;总有那么一些旋律&#xff0c;能够触动玩家的心弦&#xff0c;让人难以忘怀。《黑神话悟空》以其精美的画面和动人的背景音乐&#xff0c;赢得了无数玩家的喜爱。如果你也想将游戏中的背景音录制下来&#xff0c;制作成个性化的m4r格式铃声&#xff…

C++ 设计模式——备忘录模式

C 设计模式——备忘录模式 C 设计模式——备忘录模式1. 主要组成成分2. 逐步构建备忘录模式步骤1: 创建备忘录步骤2: 实现原发器步骤3: 创建管理者&#xff08;负责人&#xff09;类步骤4: 客户端使用 3. 备忘录模式 UML 图UML 图解析 4. 备忘录模式的优点5. 备忘录模式的缺点6…

Camtasia 2024 v2024.0.6 for Mac 中文版 屏幕录像视频录制编辑软件

TechSmith Camtasia for Mac 中文版 是一款专业的屏幕录像及视频录制编辑软件。以业界领先的清晰度重新定义了屏幕录制&#xff0c;将屏幕、摄像头、麦克风和系统音频捕获为独立音轨&#xff0c;实现终极控制和灵活性。通过拖放过渡、标注等功能&#xff0c;以及改进的工作流程…

AI-Talk开发板之helloword

一、说明 创建第一个应用在AI-Talk开发板上运行&#xff0c;编写一个“Hello World”应用&#xff0c;启动之后在主函数里通过UART0&#xff08;debug&#xff09;打印"Hello World"。 官方指导&#xff1a;第一个应用 | 聆思文档中心 (listenai.com) 二、创建工程…

标准库标头 <optional> (C++17)学习之optional

类模板 std::optional 管理一个可选 &#xfeff;的所含值&#xff0c;即既可以存在也可以不存在的值。 一种常见的 optional 使用情况是作为可能失败的函数的返回值。与如 std::pair<T, bool> 等其他手段相比&#xff0c;optional 可以很好地处理构造开销高昂的对象&a…

Ollama拉起本地模型以及rag系统部署。

什么是 Ollama &#xff1f; Ollama 是一个简明易用的本地大模型运行框架。能在本地启动并运行 Llama、qwen、Gemma 及其他大语言模型&#xff0c;没有GPU资源照样可以拉起模型&#xff0c;和LocalAI 比较类似&#xff0c;但是加载模型更容易。 1.安装 安装后运行&#xff0c…

统一NLP和目标检测的DETR(一)——self attention、encoder、decoder

主流目标检测算法劣势 YOLO系列&#xff0c;它基于anchor来做&#xff0c;少不了要用MNS&#xff0c;导致速度相对较慢。 但今天介绍一款DETR&#xff0c;基于VIT的目标检测算法。 那么我们需要先深入过一遍VIT。 Vision transform 1、传统RNN网络的问题 单向&#xff1a;只…

YOLOv8改进实战 | 引入混合局部通道注意力模块MLCA(2023轻量级)

YOLOv8专栏导航:点击此处跳转 前言 YOLOv8 是由 YOLOv5 的发布者 Ultralytics 发布的最新版本的 YOLO。它可用于对象检测、分割、分类任务以及大型数据集的学习,并且可以在包括 CPU 和 GPU 在内的各种硬件上执行。 YOLOv8 是一种尖端的、最先进的 (SOTA) 模型,它建立在以前…

C++和Python混合编程——Python调用C++入门

大纲 背景代码入门环境准备头文件业务代码注册BOOST_PYTHON_MODULE作用 boost::python::class_模板类 编译运行项目地址 背景 Python语言在大数据、人工智能以及大模型开发中扮演着举足轻重的角色&#xff0c;其影响力不断扩大并深化。 在大数据领域&#xff0c;Python以其简…

unittest | 使用unittest模块来测试logging日志模块功能

我们在这篇文章实现了在项目工程中编写一个logging模块&#xff0c;但是我们如何确定我们编写的模块功能的是否正常? 你可能想到将全部代码写完后运行测试&#xff0c;但这是一个非常不好的习惯。❌ 最好的方式&#xff0c;是每写出来一个功能或者方法就对它进行测试&#x…

Java设计模式之装饰器模式详细讲解和案例示范

1. 引言 装饰器模式&#xff08;Decorator Pattern&#xff09;是一种结构型设计模式&#xff0c;它允许向现有对象添加新的功能&#xff0c;而无需修改其结构。这种模式通过使用组合而非继承来扩展对象的行为&#xff0c;在许多实际应用中极为常见。本文将详细介绍装饰器模式…

使用 docker 部署 kvm 图形化管理工具 WebVirtMgr

文章目录 [toc]前提条件镜像构建启动 webvirtmgr创建其他 superuser配置 nginx 反向代理和域名访问绑定 kvm 宿主机local sockettcp 连接 虚拟机创建创建快照虚拟机克隆删除虚拟机 kvm 官方提供了以下这些图形化管理&#xff0c;license 这块也提示了是商业版&#xff08;Comme…

Android实习面经整理第一篇

蔚来Android实习面经 一面(2024/3/11 35min) 自我介绍聊我的本专业说一说MVP架构,MVVM架构 MVP:V层持有P层,用户点击View,把数据发给P层,P层持有M层,然后P层把V层的数据发给M层获取其他数据,最后M层获取完数据后把数据还给P层,更新V层。P层也有V层的引用。MVVM:V层…

Qt 去掉QDialog对话框的问号

QT 对话框的问号是什么&#xff1f; QDialog默认的window flag中包含了Qt::WindowContextHelpButtonHint,这个flag意思是在窗口上提供“上下文帮助”按钮 使用方式/调用方式 void QWidget::setWhatsThis(const QString &)比如&#xff1a; ui->lineEdit_1->setWh…