首页 > 系统相关 >python高级技术(死锁、递归锁、信号量、Event时间、进程池、线程池、协程)

python高级技术(死锁、递归锁、信号量、Event时间、进程池、线程池、协程)

时间:2023-05-16 18:13:27浏览次数:37  
标签:__ 协程 python 死锁 线程 time print import def

一 死锁和递归锁(了解)

进程也有死锁与递归锁,使用方法类似

所谓死锁: 是指两个或两个以上的进程或线程在执行过程中,因争夺资源而造成的一种互相等待的现象,若无外力作用,它们都将无法推进下去。

此时称系统处于死锁状态或系统产生了死锁,这些永远在互相等待的进程称为死锁进程。

当你知道锁的使用抢锁必须要释放锁,其实你在操作锁的时候也极其容易产生死锁现象
(整个程序卡死 阻塞)

# 递归锁
递归锁的特点
    可以被连续的acquire和release
    但是只能被第一个抢到这把锁执行上述操作
    它的内部有一个计数器 每acquire一次计数加一 每release一次计数减一
    只要计数不为0 那么其他人都无法抢到该锁
from threading import Thread, Lock, RLock
import time

mutexA = Lock()
mutexB = Lock()
# mutexA = mutexB = RLock()


# 类只要加括号多次 产生的肯定是不同的对象
# 要实现多次加括号是同一对象,要用单例模式

class MyThead(Thread):
    def run(self):
        self.func1()
        self.func2()

    def func1(self):
        mutexA.acquire()
        print('{} 抢到A锁'.format(self.name))  # 获取当前线程名
        mutexB.acquire()
        print('{} 抢到B锁'.format(self.name))
        mutexB.release()
        mutexA.release()

    def func2(self):
        mutexB.acquire()
        print('{} 抢到B锁'.format(self.name))
        time.sleep(2)
        mutexA.acquire()
        print('{} 抢到A锁'.format(self.name))  # 获取当前线程名
        mutexA.release()
        mutexB.release()


if __name__ == '__main__':
    for i in range(10):
        t = MyThead()
        t.start()

'''
Thread-1 抢到A锁
Thread-1 抢到B锁
Thread-1 抢到B锁
Thread-2 抢到A锁
'''

上述是死锁现象,加上递归锁:

mutexA = mutexB = RLock()
有计数功能,解决死锁现象

二 信号量(了解)

信号量在不同的阶段可能对应不同的技术点
在并发编程中信号量指的是锁!!!
'''
如果我们将互斥锁比喻成一个厕所的话
那么信号量就相当于多个厕所
'''
from threading import Thread, Semaphore
import time
import random

sm = Semaphore(5)  # 括号内写数字,写几就是表示开设几个坑位


def task(name):
    sm.acquire()
    print('{} 正在蹲坑'.format(name))
    time.sleep(random.randint(1,5))
    sm.release()


if __name__ == '__main__':
    for i in range(1,21):
        t = Thread(target=task, args=('学生{}号'.format(i),))
        t.start()

每5个人一组,去抢锁,这一组就开始使用坑位。

三 Event事件(了解)

一些进程/线程需要等待另外一些进程/线程运行完毕之后才能运行,类似于发射信号一样
from threading import Thread, Event
import time

event = Event()  # 造了一个红绿灯


def light():
    print('红灯亮着得')
    time.sleep(3)
    print('绿灯亮 ')
    event.set()


def car(name):
    print('{} 号车正在等红灯'.format(name))
    event.wait()
    print('{} 号车加油启动'.format(name))


if __name__ == '__main__':
    t = Thread(target=light)
    t.start()

    for i in range(20):
        t = Thread(target=car, args=('{}'.format(i),))
        t.start()

四 线程q(了解)

import queue

# 使用的队列都是只能在本地测试使用

# 1 队列q 先进先出
# 2 后进先出q
q = queue.LifoQueue(3)  # last in fist out
q.put(1)
q.put(2)
q.put(3)
print(q.get())

# 优先级q  你可以给放入队列中的数据设置进出的优先级
q = queue.PriorityQueue(3)
q.put((23, '111'))
q.put((0, '222'))
q.put((-2, '333'))
print(q.get())

# put括号内放入一个元组,第一个放数字表示优先级
# 需要注意的是,数字越小优先级越高

 五 进程池与线程池(掌握)

先回顾之前TCP服务端实现并发的效果是怎么玩的
每来一个人就开设一个进程或者线程去处理
'''
无论是开设进程还是线程,都要消耗计算机资源
只不过开设线程的消耗比开设进程的小一点

我们是不可能做到无限制的开设进程和线程的,因为计算机硬件的资源跟不上
硬件的开发速度远远赶不上软件

为保证计算机正常工作,不能无限制的开设进程和线程
宗旨是应该在保证计算机硬件能够正常工作的情况下最大限度的利用它
'''
* 池的概念
池是用来保证计算机硬件安全的情况下最大限度的利用计算机
它减低了程序的运行效率但是保证了计算机硬件的安全,从而让你写得程序能够正常运行
from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor
import time
import os

# pool = ThreadPoolExecutor(5)  # 池子里面固定只有五个线程
# 括号内可以传数字 不传的话默认会开设当前计算机CPU个数五倍的线程
pool = ProcessPoolExecutor(5)
# 括号内可以传数字,不传的话默认会开设当前计算机CPU个数进程
'''
池子造出来之后,里面会固定存在五个线程
这五个线程不会出现重复创建和销毁的过程

池子的使用非常的简单
只需要做的任务往池子中提交即可,自动会有人来服务你
'''


def task(n):
    print(n, os.getpid())
    time.sleep(2)
    return n ** n


def call_back(n):
    print('call_back>>>:', n.result())


'''
任务的提交方式
    同步:提交任务之后原地等待任务的放回结果,期间不做任何事
    异步:提交任务之后不等待任务的返回结果,执行继续往下执行
        返回结果如何获取???
        异步提交任务的返回结果,应该通过回调机制来获取
        回调机制:
            相当于每个异步任务绑定了一个定时炸弹
            一旦该任务有结果立刻触发爆炸
'''
if __name__ == '__main__':

    # pool.submit(task, 1)  # 朝池子中提交任务  异步提交
    # print('主')

    # t_list = []
    for i in range(20):
        # res = pool.submit(task, i)
        res = pool.submit(task, i).add_done_callback(call_back)
        print(res)  # None
        # print(res.result())  # result方法  同步提交
        # t_list.append(res)
    # 等待线程池中所有的任务执行完毕之后再继续往下执行
    # pool.shutdown()  # 关闭线程池 等待线程池中所有的任务运行完毕
    # for t in t_list:
    #     print('--->:', t.result())

'''
程序由并发变成了串行
任务的为什么打印的是None
res.result() 拿到的就是异步提交的任务的返回结果
'''
* 总结
from concurrent.futures import ThreadPoolExecutor,ProcessPoolExecutor
pool=ProcessPoolExecutor(5)
pool.submit(task,i).add_done_callback(call_back)

 六 协程

进程:资源单位
线程:执行单位
协程:这个概念是程序员自己想出来了,不存在
单线程下实现并发
程序员自己在代码层面上检测我们所有的IO操作
一旦遇到了IO,我们在代码级别完成切换
这样给CPU的感觉是你这个程序一直在运行,没有IO
从而提升程序的运行效率

总结协程特点:

  1. 必须在只有一个单线程里实现并发
  2. 修改共享数据不需加锁
  3. 用户程序里自己保存多个控制流的上下文栈
  4. 附加:一个协程遇到IO操作自动切换到其它协程(如何实现检测IO,yield、greenlet都无法实现,就用到了gevent模块(select机制))

多道技术
切换+保存状态
CPU两种切换
1.程序遇到IO
2.程序长时间占用

TCP服务端
accept
recv

切换
切换不一定是提升效率,也可能是降低效率
IO切 提升
没有IO 降低
import time


# 串行执行计算密集型的任务 0.5250000953674316
def func1():
    for i in range(10000000):
        i + 1


def func2():
    for i in range(10000000):
        i + 1


start_time = time.time()
func1()
func2()
print(time.time() - start_time)


# 切换 + yield  0.6111178398132324
import time


def func1():
    while True:
        10000000 + 1
        yield


def func2():
    g = func1()
    for i in range(10000000):
        i + 1
        next(g)


start_time = time.time()
func2()
print(time.time() - start_time)
    保存状态
保存上一次执行的状态,下一次接到上一次的操作继续往后执行
yield
* 验证切换是否就一定提升效率

# gevent模块(了解)
pip3 install geventfrom gevent import monkey;monkey.patch_all()
import time
from gevent import spawn

'''
gevent模块本身无法检测常见的一些IO操作
在使用的时候要额外的加入猴子补丁
'''


def func1():
    print('he')
    time.sleep(2)
    print('he')


def func2():
    print('ha')
    time.sleep(3)
    print('ha')


start_time = time.time()
g1 = spawn(func1)
g2 = spawn(func2)
g1.join()  # 等待被检测的任务执行完毕,在往后继续执行
g2.join()
# func1()
# func2()
print(time.time() - start_time) # 3.021846055984497,用时最多的一个,两个来回切换,CPU检测不到有IO操作

'''

he
ha
he
ha
3.0171852111816406

'''


# 协程实现TCP服务端的并发
服务端:
from gevent import monkey
monkey.patch_all()
import socket
from gevent import spawn


def communication(conn):
    while True:
        try:
            data = conn.recv(1024)
            if len(data) == 0:
                break
            conn.send(data.upper())
        except ConnectionResetError as e:
            print(e)
            break
    conn.close()


def server(ip, port):
    server = socket.socket()
    server.bind((ip, port))
    server.listen(5)
    while True:
        conn, addr = server.accept()
        spawn(communication, conn)


if __name__ == '__main__':
    g1 = spawn(server, '127.0.0.1', 8080)
    g1.join()

客户端:

from threading import Thread, current_thread
import socket


def x_client():
    client = socket.socket()
    client.connect(('127.0.0.1', 8080))
    n = 0
    while True:
        msg = '{} say hello {}'.format(current_thread().name, n)
        n += 1
        client.send(msg.encode('utf-8'))
        data = client.recv(1024)
        print(data.decode('utf-8'))


if __name__ == '__main__':
    for i in range(100):
        t = Thread(target=x_client)
        t.start()
# 总结
理想状态:
我们可以通过
多进程下面开设多线程
多线程下面再开设协程
从而使我们的程序执行效率提升

 

标签:__,协程,python,死锁,线程,time,print,import,def
From: https://www.cnblogs.com/coderxueshan/p/17405611.html

相关文章

  • Python语法入门
    数据类型(续上)1.字符串(str)不用于计算,仅用于描述,任何数据类型都可以转变为字符串,类似文本的存在。 方式(被引号引起来的部分):   1. name= '蔡敏'   推荐使用   2.  name= "蔡敏"   推荐使用   3. name=  '''蔡敏'''   ......
  • python爬取电影演员数据
    可以使用Python中的BeautifulSoup和Requests库来爬取网络上的电影数据和演员数据。首先需要使用Requests库发送网络请求,获取HTML页面的源代码。然后,使用BeautifulSoup库解析HTML代码,提取需要的数据。下面是一个示例代码,用于从IMDb网站上获取电影"Titanic"的演员列表,以及他们的角......
  • 常用指令—python,cmd,pytorch等
    1.查看当前使用的python解释器查看电脑里有多少个pythonwherepython查看当前使用的python解释器在哪个路径下在cmd中,切换到pythonimportsyssys.executable2.conda查看虚拟环境列表condaenvlist激活具体虚拟环境condaactivate环境名3.pytorchimport......
  • python的文件操作
    1、应用程序直接操作的是文件,对文件进行的所有的操作,都是向操作系统发送系统调用,然后再由操作将其转换成具体的硬盘操作 2、控制文件的读写内容的模式:t和b t文本(默认的模式):读写都以str(unicode为单位)文本文件  必须指定encoding='utf-8'b(二进制/bytes) ......
  • Python 的闭包
    闭包是一种特殊的函数,它能够实现类似于函数模板和面向对象的功能.可以实现代码复用:通过函数模板可以实现一类相似功能的函数,在不同的场景中只需要传入不同的参数即可。可以用闭包实现装饰器.defouter_func(x):definner_func(y):returnx+yreturninne......
  • 【Python】多进程 多线程
    1.进程Process1.1多进程#-*-coding:UTF-8-*-"""#计算8的20次方"""importtimeimportosfrommultiprocessingimportProcessimportosimporttimedeflong_time_task(i):print('子进程:{}-任务{}'.format(os.getpid()......
  • Python try 和 except
    使用场景:当代码有可能报错,但不想由于代码报错而中断整个代码的运行,就可以使用。#用法try:xxx#需要运行的代码exceptExceptionase:#可以根据可能发生的error类型,但是Exception比较万能print(e) 参考:blog.csdn.net/chengxuyuanlaow/article/details/1275......
  • python3 获取mongodb表中数据的条数
    说明:此处考虑了时区,mongodb默认使用"格林威治时间"1#!/usr/bin/python323importpymongo4importdatetime5importpytz67#统计8"""9/usr/bin/pip3install-Ivpymongo-ihttp://pypi.douban.com/simple/--trusted-hostpypi.douban.com......
  • 在内陆指定国内pip安装源安装python第三方库
    Python官方网站提供了第三方库索引网站(PyPI:thePythonPackageIndex)https://pypi.org,内陆需要代理才能访问。在内陆指定国内pip安装源安装python第三方库,在Windows的CMD窗口运行:pipinstalldocx-ihttps://mirrors.aliyun.com/pypi/simple/pipinstallopenpyxl-ihttps://m......
  • mac 12以上python环境问题
    每次因为环境问题,会导致浪费很多时间,故有必要写一篇博客记录一下,防止以后踩坑,没有升级的,建议升级到mac12以上我现在的系统版本是13.3.1内置的python3版本是3.9.6。  由于项目里需要使用python2版本,故需要装一下python2版本:下载地址: https://www.python.org/downloads/......