首页 > 编程语言 >Python 网络爬虫

Python 网络爬虫

时间:2023-03-11 15:56:54浏览次数:42  
标签:编码 200 encoding Python 爬虫 网络 headers url

必考点

1.导入库

2.定义变量

url=''  '' link=''  ''  headers={user-agent:}

 

3.执行代码

r=requests.get('''地址''',headers=headers,timeout=10)

response.html

 

4.判断

r.encoding    #编码问题(从http headers中猜测的内容编码)

r.status_code    #返回状态码 200

 

5.打印代码

print(r.text)

 

 

核心代码

1.

#书写标准
try:
expect:    #抛出异常

 

2.

 

r.encoding=r.apparent_encoding('''从内容中分析出来的内容编码''')
#在异常检测中,使用自动判断状态码:
r.raise_for_status()  200

 

 

 

3.

r.request.headers   #检查头标信息
r.request.url         #检查链接地址
''''

4.

  #带参数的url地址
    world={'wd':关键字'}
    url='https://www.baidu.com/s'

    ''''''

 

标签:编码,200,encoding,Python,爬虫,网络,headers,url
From: https://www.cnblogs.com/Treetop-He/p/17206155.html

相关文章

  • 如何选择理想的网络数据提供商?
    在当今的数字世界中,数据已成为推动现代企业发展的燃料,因为它使领导者能够做出经过深思熟虑的决策来推动公司向前发展。不幸的是,万维网上的大部分数据都是非结构化的,这意味......
  • 让Python PYQT5使用微软流畅设计体系UI
    PyQt-Fluent-Widgets项目地址: https://github.com/zhiyiYo/PyQt-Fluent-Widgets总所周知,Python一般的UI(比如Tkinter)肥肠的丑陋,肥肠的不现代化。蛋是现在微软有流畅设......
  • 网络安全(中职组)-B模块:Web安全应用-2
    Web安全应用-2任务环境说明:√服务器场景:match_win03-3-1(关闭链接)√服务器场景操作系统:WindowsServer20031.使用渗透机KaliLinux,登录靶机HTTP服务后台管理页面,并......
  • python-字典
    字典特点符号:{}关键字:dict保存的元素是:key:value一对数进行操作定义定义空字典方式一:dict1={}方式二:dict2=dict()/列表和元组都都可以用这种方式:list1=lis......
  • python 实现多语种检测
    首先安装如下包:pipinstalllangdetect然后新建一个python文件,重命名为detect.py,粘贴进如下案例代码:fromlangdetectimport*DetectorFactory.seed=0txt="......
  • centos 安装python3后yum报错
    问题centos安装python3后,并且把/usr/bin/python软链接到python3后,yum命令报错原因:yum命令依赖于python2,导致报错解决方法:修改/usr/bin/yum文件的第一行p......
  • Python 爬虫实战—热门视频排行榜
    基于python的requests、BeautifulSoup4第三方库,对哔站全站范围热门视频排行榜前一百实时爬取。importrequestsfrombs4importBeautifulSoupfile=open("hot100......
  • Python调用Motrix下载器下载
    打开Motrix运行importrequests,jsonjsonreq=json.dumps({'jsonrpc':'2.0','id':'qwer','method':'aria2.addUri',......
  • 常见网络流建图
    梳理一些常见的网络流建图模型。disclaimer:以下名词,模型皆本人所造,不保证合理性及正确性。选择式例题:LuoguP3254建立\(\{A_i\}\)表示选择对象,\(\{B_j\}\)表示被选......
  • 计算机网络【英语专业词汇】
    计算机网络computernetwork主机host端系统endsystem通信链路communicationlink分组交换机packetswitch传输速率transmissionrate分组packet路由器route......