首页 > 编程语言 >利用Python和fake_useragent模拟不同浏览器访问

利用Python和fake_useragent模拟不同浏览器访问

时间:2024-01-11 14:01:51浏览次数:35  
标签:请求 Python mafengwo fake UserAgent useragent requests

在Python中,您可以使用requests库来发送HTTP请求,并使用UserAgent对象设置请求头中的User-Agent字段,以模拟不同浏览器或设备。以下是一个示例代码,演示如何使用requests库和fake_useragent库获取https://www.mafengwo.cn/网页的内容:

首先,确保您已经安装了requestsfake_useragent库,您可以使用以下命令进行安装:

pip install requests
pip install fake_useragent

然后,可以使用以下Python代码获取网页内容:

import requests
from fake_useragent import UserAgent

def get_mafengwo_content():
    # 创建UserAgent对象
    user_agent = UserAgent()

    # 设置请求头
    headers = {
        'User-Agent': user_agent.random
    }

    # 目标网址
    url = 'https://www.mafengwo.cn/'

    try:
        # 发送GET请求
        response = requests.get(url, headers=headers)
        http://www.jshk.com.cn/mb/reg.asp?kefu=xiaoding;//爬虫IP免费获取;

        # 检查请求是否成功
        if response.status_code == 200:
            # 打印网页内容
            print(response.text)
        else:
            print(f"Failed to fetch the page. Status code: {response.status_code}")

    except Exception as e:
        print(f"An error occurred: {e}")

if __name__ == "__main__":
    get_mafengwo_content()

上述代码使用fake_useragent库中的UserAgent类生成一个随机的User-Agent字符串,并将其设置为请求头。然后,使用requests库发送GET请求,获取https://www.mafengwo.cn/网页的内容。

标签:请求,Python,mafengwo,fake,UserAgent,useragent,requests
From: https://blog.51cto.com/u_16479648/9198520

相关文章

  • Python Flask 返回函数 、带值的函数
    前言全局说明一、安装flask模块官方源:pip3installflask==2.3.2国内源:pip3installflask==2.3.2-ihttp://pypi.douban.com/simple/--trusted-hostpypi.douban.com以上二选一,哪个安装快用哪个flask安装时间2023-11更多国内源:https://www.cnblogs.com/wutou......
  • Python实现软件设计模式8:桥接模式 Bridge Pattern
    动机将抽象部分与实现部分分离,使他们都可以独立地变化。用抽象关联取代传统的多层继承。将类之间的静态继承关系转换为动态的对象组合关系。上图展示的软件系统中存在两个独立地变化维度,分别是抽象类(Abstraction)和实现类(Implementor),它俩都是接口、都分别可以独立地扩展出多......
  • Python Flask html 模板的继承
    前言全局说明一、安装flask模块官方源:pip3installflask==2.3.2国内源:pip3installflask==2.3.2-ihttp://pypi.douban.com/simple/--trusted-hostpypi.douban.com以上二选一,哪个安装快用哪个flask安装时间2023-11更多国内源:https://www.cnblogs.com/wutou......
  • Python实现软件设计模式7:适配器模式 Adapter Pattern
    动机有两个不存在直接继承或关联关系的类A、B,A希望能利用到B类中某个已存在的、功能完善的方法,而不再去具体实现A的接口源码;适配器模式使接口不兼容的那些类可以一起工作。主要角色目标类Target抽象接口类适配者Adaptee适配器Adapter具体实现接口客户端C......
  • python第三节:Str字符串类型(3)
    str.index(sub[, start[, end]])类似于 find(),但在找不到子字符串时会引发 ValueError。例子:str1='mynameisjack!'print(str1.index('i'))print(str1.index('b'))结果:Traceback(mostrecentcalllast): File"D:/pythonProject/test/test2024011......
  • 您好!您可以使用Python中的Pandas库来转换数据框为思维导图和流程图。以下是一些代码片
    您好!您可以使用Python中的Pandas库来转换数据框为思维导图和流程图。以下是一些代码片段,可帮助您开始:-要将数据框转换为思维导图,请使用`graphviz`库。您可以使用以下代码片段:```pythonfromgraphvizimportDigraphimportpandasaspddf=pd.DataFrame({'A':[1,2,3],'B......
  • conda、python、pip离线管理环境安装依赖包
    第一步:当你使用conda创建一个全新的环境,而你现在处于断网工作状态,condacreate-nexample--offline 这一步表示断网状态下创建conda环境,但是只有初始环境,没有python依赖包,这时,condacreate-nexample--clonebase这一步将base环境中的基础依赖包复制到你当前的离线环境中......
  • python 处理pdf加密文件
    近期有同事需要提取加密的pdf文件,截取其中的信息,并且重构pdf文件。网上没有搜到相关的pdf操作,于是咨询了chatgpt,给出了pypdf2的使用案例。但是时间比较久远了,很多库内的调用接口都已经更新了。于是自行到官方的库内学习相关接口使用。整理的处理代码如下:#-*-coding:utf-8-*......
  • python第三节:Str字符串类型(2)
    str.format(*args, **kwargs)执行字符串格式化操作。语法:点号前面是一个带槽(由大括号表示)的字符串,字符串里面可以设置各种参数和格式控制标记,后面是format和替换的字符串。{参数序号:格式控制标记}如下六个按照顺序使用。:填空对齐宽度逗号精度类型冒号用于填充的单个字符<左对齐>......
  • # yyds干货盘点 # 盘点一个Python自动化办公的需求——一键批量插图到Excel指定单元格
    大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Python自动化办公的问题,问题如下:大佬们,昨天我在做插入excel图片的时候想起一个需求,好像挺难办的,也蛮现实的。比如每个图片是有名称的,但在做excel的时候,能不能按照excel中的名称调用图片插入。就像下面这样......