首页 > 系统相关 >< Python全景系列-5 > 解锁Python并发编程:多线程和多进程的神秘面纱揭晓

< Python全景系列-5 > 解锁Python并发编程:多线程和多进程的神秘面纱揭晓

时间:2023-05-22 15:04:40浏览次数:43  
标签:Python 解锁 编程 进程 线程 print 多线程

欢迎来到我们的系列博客《Python全景系列》!在这个系列中,我们将带领你从Python的基础知识开始,一步步深入到高级话题,帮助你掌握这门强大而灵活的编程语法。无论你是编程新手,还是有一定基础的开发者,这个系列都将提供你需要的知识和技能。

这是本系列的第五篇,我们将深入探讨Python中的并发编程,特别关注多线程和多进程的应用。我们将先从基本概念开始,然后通过详细举例探讨每一种机制,最后分享一些实战经验以及一种优雅的编程技巧。

第一部分:多线程介绍

线程是操作系统中最小的执行单元。在单个程序或进程内,可以并发运行多个线程,共享进程的资源,如内存和文件描述符。

1.1 Python中的多线程

Python支持多线程编程,并提供了threading模块作为支持。这个模块提供了Thread类,我们可以通过创建其实例并向其传递函数来创建新线程。当然,你也可以通过继承Thread类并重写run()方法来创建自定义线程。下面是一个多线程编程的例子:

import threading

def print_numbers():
    for i in range(10):
        print(i)

def print_letters():
    for letter in 'abcdefghij':
        print(letter)

# 创建线程
t1 = threading.Thread(target=print_numbers)
t2 = threading.Thread(target=print_letters)

# 启动线程
t1.start()
t2.start()

# 等待线程结束
t1.join()
t2.join()

在上面的例子中,我们定义了两个函数:一个打印数字,另一个打印字母。然后我们创建了两个线程,每个线程的目标是执行这些函数。start()方法用于启动线程,而join()方法用于等待线程完成。

1.2 多线程的实际应用

尽管Python的多线程因为全局解释器锁(GIL)的存在,并不能实现真正的并行,但是它们在I/O密集型任务中仍然很有用。GIL是CPython解释器的一个互斥锁,保证在任何时刻只有一个线程在执行。这意味着在CPU密集型任务中,多线程可能不是最佳选择,因为它们无法充分利用多核CPU。

然而,在I/O密集型任务中,多线程能够提高程序性能。例如,如果一个程序需要从多个源下载文件,那么使用多线程可以使得当一个线程等待网络响应时,其他线程可以继续下载其他文件。这样,程序可以在同一时间从多个源下载文件,大大提高了效率。

第二部分:多进程介绍

进程是操作系统中独立的执行实体,每个进程都有自己的内存空间、文件描述符等资源。与线程不同,进程之间的资源

并不共享,每个进程都有自己独立的资源。

2.1 Python中的多进程

Python通过multiprocessing模块提供了多进程支持。类似于多线程,我们可以通过创建Process类的实例并向其传递函数来创建新进程。我们也可以通过继承Process类并重写run()方法来创建自定义进程。

以下是一个简单的多进程编程的例子:

import multiprocessing

def print_numbers():
    for i in range(10):
        print(i)

def print_letters():
    for letter in 'abcdefghij':
        print(letter)

# 创建进程
p1 = multiprocessing.Process(target=print_numbers)
p2 = multiprocessing.Process(target=print_letters)

# 启动进程
p1.start()
p2.start()

# 等待进程结束
p1.join()
p2.join()

这个例子和前面的多线程例子类似,不同的是这里我们创建的是两个进程,而不是线程。

2.2 多进程的实际应用

多进程可以实现真正的并行,使得Python程序可以利用多核CPU。因此,对于CPU密集型任务,多进程通常比多线程更有优势。另一方面,多进程的开销比多线程大,而且进程间的通信和同步也比线程间的更为复杂。因此,对于I/O密集型任务,或者需要频繁通信的任务,多线程可能会是更好的选择。

第三部分:优化并发编程的技巧

在Python中,concurrent.futures模块为多线程和多进程编程提供了高级接口,可以让我们更加简洁地编写代码。

这个模块提供了ThreadPoolExecutorProcessPoolExecutor两个类,它们分别用于创建线程池和进程池。这两个类都实现了相同的接口,你可以使用submit()方法提交任务,然后使用as_completed()函数等待任务完成。

下面是一个使用concurrent.futures模块的示例:

import concurrent.futures

def print_numbers():
   for i in range(10):
       print(i)

def print_letters():
   for letter in 'abcdefghij':
       print(letter)

# 使用线程池
with concurrent.futures.ThreadPoolExecutor() as executor:
   future1 = executor.submit(print_numbers)
   future2 = executor.submit(print_letters)
   for future in concurrent.futures.as_completed([future1, future2]):
       pass

# 使用进程池
with concurrent.futures.ProcessPoolExecutor() as executor:
   future1 = executor.submit(print_numbers)
   future2 = executor.submit(print_letters)
   for future in concurrent.futures.as_completed([future1, future2]):
       pass
   			```
在上面的例子中,我们创建了线程池和进程池,然后向它们提交任务。可以看到,使用`concurrent.futures`模块,我们的代码更加简洁,易读性和可维护性也有所提高。

# 总结
Python的多线程和多进程都是非常强大的工具,可以帮助我们编写出更高效的程序。然而,它们也各有优缺点,需要我们根据具体的任务和需求来选择。同时,Python还提供了`concurrent.futures`模块,可以使我们的并发编程变得更加简单和高效。

我们希望本文能帮助你更好地理解和使用Python的多线程和多进程。如果你有任何疑问或者建议,欢迎在评论区留言。

**【第一时间获得Python全视角更新信息,请关注本人微信公众号: Python全视角】**


> 如有帮助,请多关注
> 个人微信公众号:【Python全视角】
> TeahLead_KrisChang,10+年的互联网和人工智能从业经验,10年+技术和业务团队管理经验,同济软件工程本科,复旦工程管理硕士,阿里云认证云服务资深架构师,上亿营收AI产品业务负责人。

标签:Python,解锁,编程,进程,线程,print,多线程
From: https://blog.51cto.com/u_15863876/6324126

相关文章

  • Python 读取文件首行和最后一行
    常规方法:从前往后依次读取步骤:open打开文件。读取文件,把文件所有行读入内存。遍历所有行,提取指定行的数据。优点:简单,方便缺点:当文件大了以后时间太慢,无法忍受fname='test.html'withopen(fname,'r',encoding='utf-8')asf:#打开文件lines=f.readlines()#......
  • python从视频中导出音频
     pipinstallffmpeg pipinstallmoviepy  (wind_2021)L:\>(wind_2021)L:\>(wind_2021)L:\>pipinstallffmpegLookinginindexes:https://pypi.tuna.tsinghua.edu.cn/simpleCollectingffmpegDownloadinghttps://pypi.tuna.tsinghua.e......
  • python实现kafka收到消息然后在通过websockt发送给其他服务器的方法(异步调用并且收到
    importasyncioimportthreadingfromkafkaimportKafkaConsumerimportwebsocketsconnected=set()asyncdefhandler(websocket,path):connected.add(websocket)whileTrue:awaitasyncio.sleep(1)defstart_kafka():consumer=KafkaC......
  • 【PYTHON】pandas字符替换
    处理文本数据时,常见的存储格式为textfile格式,对应行分隔符为"\n",列分隔符为"\t"。而大家往往不会直接使用txt格式文件进行日常操作,Excel更为简便通用。因此,如果我们需要处理的Excel数据中,某个取值内出现了"\t"或"\n"或"\r\n"符号,转为txt格式文件处理将出现数据错位的情况......
  • python学习笔记32:操作sqlite数据库
    importsqlite3#1.创建数据库连接#如果test.db存在,则建立连接,返回connect对象#如果test.db不存在,则新建数据库,再建立连接,返回connect对象conn=sqlite3.connect(database='test.db')#2.创建cursor对象cursor=conn.cursor()#SQL指令sql='''......
  • 多线程-sychronized锁膨胀
    sychronized什么是cascas的定义:在操作系统中,CAS通常代表“CompareAndSwap”,它是一种原子操作,用于解决并发访问的问题。具体地说,CAS操作会比较并交换一个内存位置的值,只有当内存位置的值与期望的值相等时,才会将新值写入该位置。如果内存位置的值与期望的值不相等,则说明这个内存位......
  • Python基础知识一
    1:print输出信息  例子: ( 所有的标点符号都要是英文状态下输入,要不然会报错)print(“helloworld”)注意:python和python32:ipython在python前加i,此命令拥有和python类似的功能,但同时拥有linux下执行命令的功能ipython或者ipython33:注释在python中“#”右边的字符为注释,......
  • Python爬虫以及数据可视化分析之某站热搜排行榜信息爬取分析
    目录前言一,确定目标二,发送请求三,解析数据四,保存数据pyecharts进行可视化“某站”数据排名前10视频类型“某站”标题标签可视化“某站”喜欢视频分类概况总结前言本项目将会对“某站”热搜排行的数据进行网页信息爬取以及数据可视化分析本教程仅供学习参考!首先,准备好相关库requ......
  • Python学习
    3-13字符串类型字符串类型:str   1.定义格式:       变量='内容'           打印一行       变量="内容"           打印一行       变量='''内容'''或者三引号           可以通过回车的方式换行,且打印出......
  • Python自动化运维
    2-27在命令行窗口中启动的Python解释器中实现在Python自带的IDLE中实现print("Helloworld")编码规范每个import语句只导入一个模块,尽量避免一次导入多个模块不要在行尾添加分号“:”,也不要用分号将两条命令放在同一行建议每行不超过80个字符使用必要的空行可以增加代码的可读性运......