在学习爬虫的前，我们应该首先了解下Urllib库，其实他是Python内置的 HTTP 请求库，说白了就是不需要我们另外的安装就可以直接使用，正常来说他包含了下面四个模块：
request：它是最基本的HTTP请求模块，可以用来模拟发送请求。只需要给库方法传入URL以及额外的参数，就可以模拟实现请求过程了。
error：异常处理模块，如果出现请求错误，我们可以捕获这些异常，然后进行修正。
parse：一个工具模块，提供了许多URL处理方法，比如拆分、解析、合并等。
robotparser：主要是用来识别网站的robots.txt文件，判断哪些网站可以爬哪些网站不可以爬，其实用得比较少。
怎样爬网页呢？
from urllib.request import urlopen
response = urlopen("http://www.baidu.com")
print(response.read().decode())
常见到的方法
requset.urlopen(url,data,timeout)
第一个参数url即为URL，第二个参数data是访问URL时要传送的数据，第三个timeout是设置超时时间。
第二三个参数是可以不传送的，data默认为空None，timeout默认为 socket._GLOBAL_DEFAULT_TIMEOUT
第一个参数URL是必须要传送的，在这个例子里面我们传送了百度的URL，执行urlopen方法之后，返回一个response对象，返回信息便保存在这里面。
response.read()
read()方法就是读取文件里的全部内容，返回bytes类型。
response.getcode()
返回 HTTP的响应码，成功返回200，4服务器页面出错，5服务器问题。
response.geturl()
返回 返回实际数据的实际URL，防止重定向问题。
403 Forbidden()
返回 服务器响应的HTTP报头。
Request对象
request模块主要负责构造和发起网络请求，并在其中添加Headers，Proxy等。
利用它可以模拟浏览器的请求发起过程。
其实上面的urlopen参数可以传入一个request请求,它其实就是一个Request类的实例，构造时需要传入Url,Data等等的内容。比如上面的两行代码，我们可以这么改写
from urllib.request import urlopen
from urllib.request import Request
request = Request("http://www.baidu.com")
response = urlopen(requst)
print (response.read().decode())
运行结果是完全一样的，只不过中间多了一个request对象，推荐大家这么写，因为在构建请求时还需要加入好多内容，通过构建一个request，服务器响应请求得到应答，这样显得逻辑上清晰明确
通过urllib发送的请求会有一个默认的Headers: “User-Agent”:“Python-urllib/3.6”，指明请求是由urllib发送的。所以遇到一些验证User-Agent的网站时，需要我们自定义Headers把自己伪装起来。
运行爬虫的时候，经常会出现被封IP的情况，这时我们就需要使用ip代理来处理，urllib的IP代理的设置如下
在开发爬虫过程中，对cookie的处理非常重要，urllib的cookie的处理如下：
Get 请求
大部分被传输到浏览器的html，images，js，css, … 都是通过GET方法发出请求的。它是获取数据的主要方法
例如：http://www.baidu.com 搜索
Get请求的参数都是在Url中体现的,如果有中文，需要转码，这时我们可使用
urllib.parse.urlencode()
urllib.parse. quote()
parse.urlencode()
在发送请求的时候，往往会需要传递很多的参数，如果用字符串方法去拼接会比较麻烦，parse.urlencode()方法就是用来拼接url参数的。
运行结果：
也可以通过parse.parse_qs()方法将它转回字典。
parse.quote()
url中只能包含ascii字符，在实际操作过程中，get请求通过url传递的参数中会有大量的特殊字符，例如汉字，那么就需要进行url编码。
例如：https://www.baidu.com/s?wd=%E6%AF%9B%E5%88%A9
from urllib import parse
url = 'https://www.baidu.com/s?wd={}'
save_url = url.format(parse.quote('毛利'))
print(save_url)
url = parse.unquote(save_url)
print(url)
https://www.baidu.com/s?wd=%E6%AF%9B%E5%88%A9
https://www.baidu.com/s?wd=毛利
我们需要将编码进行url编码
Post 请求
我们说了Request请求对象的里有data参数，它就是用在POST里的，我们要传送的数据就是这个参数data，data是一个字典，里面要匹配键值对
发送请求/响应header头的含义：
响应的编码
响应状态码
响应状态代码有三位数字组成，第一个数字定义了响应的类别，且有五种可能取值。
常见状态码：
Ajax的请求获取数据
有些网页内容使用AJAX加载，而AJAX一般返回的是JSON,直接对AJAX地址进行post或get，就返回JSON数据了。
请求 SSL证书验证
现在随处可见 https 开头的网站，urllib可以为 HTTPS 请求验证SSL证书，就像web浏览器一样，如果网站的SSL证书是经过CA认证的，则能够正常访问，如：https://www.baidu.com/。
# 忽略SSL安全认证
context = ssl._create_unverified_context()
# 添加到context参数里
response = urllib.request.urlopen(request, context = context)
总结
对于urllib库，个人不建议使用,只需要了解parse.urlencode()和parse.quote()即可。
标签：baidu,请求,url,request,爬虫,urllib,parse,使用 From： https://www.cnblogs.com/q-q56731526/p/17225746.html