首页 > 系统相关 >Python爬虫-第四章-1-多线程多进程并发爬取Ⅰ

Python爬虫-第四章-1-多线程多进程并发爬取Ⅰ

时间:2023-01-15 22:01:37浏览次数:38  
标签:-------- __ Python 爬取 start print 100 多线程

多线程多进程用的方式

# Demo Describe:多线程写法

from threading import Thread # 线程
from multiprocessing import Process # 进程


# start--------1,多线程调用的方式一----------------------
def fun1():
for i in range(100):
print('fun()1,', i)


def fun2():
# 创建线程
t = Thread(target=fun1)
# 开启多线程状态,由CPU决定执行具体时间
t.start()
for i in range(100, 200):
print('fun()2,', i)


# fun2()
# end--------1,多线程调用的方式一----------------------

# start--------2,多线程调用的方式二----------------------
class MyThread(Thread):
def run(self):
for i in range(100):
print('子线程运行,', i)


# if __name__ == '__main__':
# t = MyThread()
# t.start()
# for i in range(100):
# print('main,',i)

# end--------2,多线程调用的方式二----------------------

# start--------3,多进程调用的方式一----------------------
def funProcess1():
for i in range(100):
print('子进程,', i)


# if __name__ == '__main__':
# p = Process(target=funProcess1)
# p.start()
# for i in range(100):
# print('主进程,',i)

# end--------3,多进程调用的方式一----------------------

# start--------4,线程中增加进程练习----------------------
def funProcess2(name):
for i in range(100):
print(name, i)


if __name__ == '__main__':
t1 = Thread(target=funProcess2, args=('进程一',)) # 传参必须是元组
t1.start()

t2 = Thread(target=funProcess2, args=('进程二',))
t2.start()

# end--------4,线程中增加进程练习----------------------

标签:--------,__,Python,爬取,start,print,100,多线程
From: https://blog.51cto.com/mooreyxia/6008906

相关文章

  • Python爬虫-第四章-1-多线程多进程并发爬取Ⅱ
    线程池使用案例:一次性开辟一些线程,用户直接给线程池提交任务,线程任务的调度交给线程池#DemoDescribe:线程池和进程池fromconcurrent.futuresimportThreadPoolExecutor,......
  • C 语言局部 static 变量多线程 DataRace 验证
    验证局部静态变量staticintcnt在无锁情况下的datarace:测试C源码:#include<stdio.h>#include<pthread.h>#include<stdlib.h>void*foo(void*args){s......
  • Python爬虫-第四章-1-多线程多进程并发爬取Ⅲ-爬取某菜市场批发价数据
    #DemoDescribe:爬取北京新发菜地数据importrequestsimportcsvfromconcurrent.futuresimportThreadPoolExecutorfromfake_useragentimportUserAgent'''本章内容:......
  • #python 利用pandas 合并csv/xlsx文件
     上次我们分享了利用powerquery来合并文件进行数据分析,但是Pq有一部分局限性,在现实工作中,我们往往需要合并多个文件去处理数据,如果面对20个甚至更多的文件,pq中的每一步......
  • (六)Java多线程
    Java多线程1、Java中的多线程1)通过JDK中的java.lang.Thread可以实现多线程。2)Java中多线程运行的程序可能是并发也可能是并行,取决于操作系统对线程的调度和计算机......
  • c#利用异步方法去模拟多线程处理业务
    一个巧妙的设计原理:利用async标识方法执行异步处理List<long>listIds=newList<long>();//业务任务:假设处理这个列表的任务objectlockObj=newobject......
  • npm install error python2
    >[email protected]/Users/nyan/personal/workspace/react16.9/node_modules/watchpack-chokidar2/node_modules/fsevents>nodeinstall.jsERROR:root:codef......
  • 公路堵车概率模型Python(Nagel-Schreckenberg交通流模型)
    路面上有N辆车,以不同速度向前行驶,模拟堵车问题。有以下假设:假设某辆车的当前速度是v如果前方可见范围内没车,下一秒车速提高到v+1如果前方有车,前车的距离为d,......
  • Python 计算HHI指数
    UntitledIn [1]:importpandasaspdInfo=pd.read_excel("BANK_Info.xlsx")Combas=pd.read_excel("Bank_Combas.xlsx")Comins=pd.read_excel("Bank......
  • Python爬取cnnvd
    利用python监控CNNVD上面的新出漏洞实例,可以配合邮箱推送获取最新的漏洞情报爬取cnnvdimportrequestsfrombs4importBeautifulSoupimportreimporttimeimport......