Python中的多进程
off999 2025-04-29 03:19 5 浏览 0 评论
回顾
在Python进阶记录之基础篇(二十二)中,我们介绍了Python中对文本文件和二进制文件的简单操作,需要重点掌握文件的各种打开方式,以及简单的读写操作。今天我们讲一下Python中的多进程。
进程的基本概念
进程就是操作系统中执行的一个程序,操作系统以进程为单位分配存储空间,每个进程都有自己的地址空间、数据栈以及其他用于跟踪进程执行的辅助数据,操作系统管理所有进程的执行,为它们合理的分配资源。
进程可以通过fork或spawn的方式来创建新的进程来执行其他的任务,不过新的进程也有自己独立的内存空间,因此必须通过进程间通信机制来实现数据共享,具体的方式包括管道、信号、套接字、共享内存区等。
我们先来看这样一个例子:假设现在我们需要下载两个文件(具体怎么下载暂时先忽略)。按照我们之前掌握的知识点,就是一个一个地逐一下载。
上述代码中,我们将两个文件按顺序进行下载,为了模拟真实下载场景,我们设置相应的下载时间。可以看到,如果按顺序逐一下载,需要先等待一个文件下载完成后才能开始下一个文件的下载,整个过程下来需要耗费两个下载任务时间的总和,即9秒左右。
但是我们知道,这是两个毫不相关的下载任务,像这样逐一下载显然效率太低了。因此,就出现了并发编程的概念,而多进程就是Python实现并发编程的三种方式之一。
Python中多进程的创建方式
Python为我们提供了两种方式来实现多进程:系统的fork( )函数和multiprocessing
模块。其中multiprocessing模块是我们使用多进程的主要方式。
- 系统的fork( )函数
Unix和Linux操作系统提供了fork( )系统调用来创建进程,调用fork( )函数的是父进程,创建出的是子进程,子进程就是父进程的一个拷贝,但是子进程拥有自己的PID(进程标识)。
fork( )函数非常特殊,它会返回两次,父进程中可以通过fork( )函数的返回值得到子进程的PID,而子进程中的返回值永远都是0。
因此,在Unix和Linux操作系统中,Python的os模块也拥有fork( )函数。
fork( )函数可以创建子进程,通过子进程实现多进程。可以看到,通过创建子进程,耗时从原来的9秒左右缩短到5秒左右。
- multiprocessing模块
由于Windows系统中没有fork调用,因此我们在Windows系统中使用os.fork( )是无法运行的。
为了实现跨平台的多进程编程,Python为我们提供了multiprocessing模块。该模块中的Process类可以创建子进程,而且该模块还提供了更高级的封装,例如批量启动进程的进程池、用于进程间通信的队列和管道等。
因此,在Python的实际开发过程中,我们更多地是使用multiprocessing模块来实现多进程。
上述代码中,我们通过multiprocessing模块的Process类创建了进程对象,target参数表示目标函数,即进程启动后要执行的代码,args参数是目标函数所需要的参数,用一个元组接收。Process的start( )方法用于启动进程,而join( )方法表示等待进程执行结束再继续往下运行。
我们运行上述代码,可以发现两个下载任务一起执行,从而大大缩短了程序的执行时间。并且与fork( )函数相比,这种方式更加清晰。
进程池Pool
当下载文件增多,需要大量子进程时,我们也可以使用multiprocessing模块中的进程池Pool。假设现在有5个文件待下载,我们通过进程池Pool来实现并发下载。
上述代码中,我们创建了一个Pool对象,然后通过循环调用apply_async( )方法来创建进程。创建结束调用close( )方法,调用此方法后进程池就不能继续添加新的进程了。最后调用join( )方法等待所有子进程执行完毕。
从运行结果我们看到,程序并没有像我们预计地5个文件一起下载,而是先下载其中四个,直到四个中有一个下载完成才开始第5个。这是因为Pool线程池是有默认大小的,在我电脑上默认就是4,因此,最多同时执行4个进程。
如果你想同时执行5个,需要在创建Pool对象时传入一个5即可,p = Pool(5)。
进程间的通信
进程与进程之间有时也需要通信,在介绍进程的基本概念中我们提到,操作系统提供了很多机制来实现进程间的通信。Python的multiprocessing模块也包装了操作系统底层的机制,提供了对列(Queue)、管道(Pipes)等多种方式来实现数据共享。
下面我们以对列Queue为例,首先创建两个子进程,其中,一个往对列中写数据,一个从对列中读数据。
上述代码中,我们首先创建对列对象,然后创建两个进程分别用于数据的读和写。通过对列的put/get方法实现了两个进程之间的数据共享。
总结
以上内容介绍了进程的基本概念以及Python中多进程的使用方法,需要重点理解进程的概念。熟练掌握多进程的创建方法和各种基本操作。感谢大家的支持与关注,欢迎一起学习交流~
- 上一篇:一篇文章带你解析Python进程
- 下一篇:Python 进程:掌控并发世界的钥匙
相关推荐
- Python 数据分析——利用Pandas进行分组统计
-
话说天下大势,分久必合,合久必分。数据分析也是如此,我们经常要对数据进行分组与聚合,以对不同组的数据进行深入解读。本章将介绍如何利用Pandas中的GroupBy操作函数来完成数据的分组、聚合以及统计...
- python数据分析:介绍pandas库的数据类型Series和DataFrame
-
安装pandaspipinstallpandas-ihttps://mirrors.aliyun.com/pypi/simple/使用pandas直接导入即可importpandasas...
- 使用DataFrame计算两列的总和和最大值_[python]
-
【如果对您有用,请关注并转发,谢谢~~】最近在处理气象类相关数据的空间计算,在做综合性计算的时候,DataFrame针对每列的统计求和、最大值等较为方便,对某行的两列或多列数据进行求和与最大值等的简便...
- 8-Python内置函数
-
Python提供了丰富的内置函数,这些函数可以直接使用而无需导入任何模块。以下是一些常用的内置函数及其示例:1-print()1-1-说明输出指定的信息到控制台。1-2-例子2-len()2-1-说...
- Python中函数式编程函数: reduce()函数
-
Python中的reduce()函数是一个强大的工具,它通过连续地将指定的函数应用于序列(如列表)来对序列(如列表)执行累积操作。它是functools模块的一部分,这意味着您需要在使用它之...
- 万万没想到,除了香农计划,Python3.11竟还有这么多性能提升
-
众所周知,Python3.11版本带来了较大的性能提升,但是,它具体在哪些方面上得到了优化呢?除了著名的“香农计划”外,它还包含哪些与性能相关的优化呢?本文将带你一探究竟!作者:BeshrKay...
- 最全python3.11版12类75个内置函数大全
-
获取全部内置函数:importbuiltins#导入模块yc=[]#异常属性nc=[]#不可调用fn=[]#内置函数defll(ty=builtins):...
- 软件测试笔试题
-
测试工程师岗位,3-5年,10-14k1.我司有一款产品,类似TeamViewer,向日葵,mstsc,QQ远程控制产品,一个PC客户端产品,请设想一下测试要点。并写出2.写出常用的SQL语句8条,l...
- 备战各大互联网巨头公司招聘会,最全Python面试大全,共300题
-
前言众所周知,越是顶尖的互联网公司在面试这一part的要求就越高,需要你有很好的技术功底、项目经验、一份漂亮的简历,当然还有避免不了的笔试过关。对于Python的工程师来说,全面掌握好有关Python...
- 经典 SQL 数据库笔试题及答案整理
-
马上又是金三银四啦,有蛮多小伙伴在跳槽找工作,但对于年限稍短的软件测试工程师,难免会需要进行笔试,而在笔试中,基本都会碰到一道关于数据库的大题,今天这篇文章呢,就收录了下最近学员反馈上来的一些数据库笔...
- 用Python开发日常小软件,让生活与工作更高效!附实例代码
-
引言:Python如何让生活更轻松?在数字化时代,编程早已不是程序员的专属技能。Python凭借其简洁易学的特点,成为普通人提升效率、解决日常问题的得力工具。无论是自动化重复任务、处理数据,还是开发个...
- 太牛了!102个Python实战项目被我扒到了!建议收藏!
-
挖到宝了!整整102个Python实战项目合集,从基础语法到高阶应用全覆盖,附完整源码+数据集,手把手带你从代码小白变身实战大神!这波羊毛不薅真的亏到哭!超全项目库,学练一站式搞定这份资...
- Python中的并发编程
-
1.Python对并发编程的支持多线程:threading,利用CPU和IO可以同时执行的原理,让CPU不会干巴巴等待IO完成。多进程:multiprocessing,利用多核CPU...
- Python 也有内存泄漏?
-
1.背景前段时间接手了一个边缘视觉识别的项目,大功能已经开发的差不多了,主要是需要是优化一些性能问题。其中比较突出的内存泄漏的问题,而且不止一处,有些比较有代表性,可以总结一下。为了更好地可视化内存...
- python爬虫之多线程threading、多进程、协程aiohttp批量下载图片
-
一、单线程常规下载常规单线程执行脚本爬取壁纸图片,只爬取一页的图片。importdatetimeimportreimportrequestsfrombs4importBeautifu...
你 发表评论:
欢迎- 一周热门
-
-
python 3.8调用dll - Could not find module 错误的解决方法
-
加密Python源码方案 PyArmor(python项目源码加密)
-
Python3.8如何安装Numpy(python3.6安装numpy)
-
大学生机械制图搜题软件?7个受欢迎的搜题分享了
-
编写一个自动生成双色球号码的 Python 小脚本
-
免费男女身高在线计算器,身高计算公式
-
将python文件打包成exe程序,复制到每台电脑都可以运行
-
Python学习入门教程,字符串函数扩充详解
-
Python数据分析实战-使用replace方法模糊匹配替换某列的值
-
Python进度条显示方案(python2 进度条)
-
- 最近发表
- 标签列表
-
- python计时 (54)
- python安装路径 (54)
- python类型转换 (75)
- python进度条 (54)
- python的for循环 (56)
- python串口编程 (60)
- python写入txt (51)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python qt (52)
- python人脸识别 (54)
- python斐波那契数列 (51)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)