首页 > 编程语言 >python爬取的数据存放在哪

python爬取的数据存放在哪

时间:2024-07-05 11:56:56浏览次数:12  
标签:学习 python 爬虫 爬取 Python 神经网络 CSDN 存放

大家好,本文将围绕python数据爬取有哪些库和框架展开说明,python爬取数据保存到数据库是一个很多人都想弄明白的事情,想搞清楚python爬取数据存入数据库需要先了解以下几个事情。

经常游弋在互联网爬虫行业的程序员来说,如何快速的实现程序自动化,高效化都是自身技术的一种沉淀的结果,那么使用Python爬虫都会需要那些数据库支持?下文就是有关于我经常使用的库的一些见解。

请求库:

1、urllib:urllib库是Python3自带的库(Python2有urllib和urllib2,到了Python3统一为urllib),这个库是爬虫里最简单的库。

2、requests:requests属于第三方库,使用起来比urllib要简单不少,且功能更加强大,是最常用的请求库。

3、Selenium:Selenium属于第三方库,它是一个自动化测试工具,可以利用它自动完成浏览器的操作,如点击,下拉,拖拽等等,通常完成ajax复杂的操作。

解析库:

1、lxml:属于第三方库,支持HTML和xml的解析,支持XPath的解析方式,解析效率非常高。

2、Beautiful Soup:属于第三方库,API强大,使用也方便。

3、pyquery:属于第三方库,功能强大在于css选择器上,对jQuery比较了解的话使用pyquery将会十分方便,因此我也比较推荐使用pyquery。

存储库:

1、PyMySQL:MySQL作为最常用的数据库之一,PyMySQL也是爬虫后存储数据的非常好的选择,它可以实现对数据库的创建表,增删查改等操作。

2、PyMongo:PyMongo是和MongoDB进行交互的库。

3、redis-py:redis-py是和Redis进行交互的库。

图像识别库:

1、tesserocr:tesserocr是Python使用OCR技术来识别图像,本质是对tesseract做一层API的封装,所以在安装tesserocr之前必须先安装tesseract。

爬虫框架

1、pyspider:pyspider 是由国人 binux 编写的强大的网络爬虫系统,它带有强大的 WebUI、脚本编辑器、任务监控器、项目管理以及结果处理器,它支持多种数据库后端、多种消息队列、JavaScript 渲染页面的爬取。依赖库有PhantomJS。

2、Scrapy:功能极其强大,依赖库较多。

读者神经网络CSDN:知道你对Python感兴趣,便准备了这套python神经网络CSDN

标签:学习,python,爬虫,爬取,Python,神经网络,CSDN,存放
From: https://blog.csdn.net/z123573z/article/details/140113458

相关文章

  • python作业题百度网盘,python大作业总结
    大家好,小编来为大家解答以下问题,python作业题百度网盘,python大作业总结,现在让我们一起来看看吧!大家好,本文将围绕python大作业代码及文档展开说明,python大作业代码100行是一个很多人都想弄明白的事情,想搞清楚python期末大作业题目需要先了解以下几个事情。大家好,给大家分......
  • python学习之字符串
    (一)表示方式:一对单影号或一对双影号:常用于单行字符串一对三影号(可双可单):常用于多行字符串,不用于给变量赋值时可作多行注释用字符串不可变,不能像列表一样修改其中某个元素,任何对是字符串的修改实际就是生成了一份新数据。(二)转义符\反斜杠(也是windows中路径分隔符,unix中路径分......
  • python学习之字符编码
    字符分类及历史ASCII0-255从数字到小写大写英文字母,加上一些特殊符号,常用的低字节(0-127)也是基本表,非常用的高字节(128-255)也是扩展表,8位为1字节,ASCII中每一个字符占一个字节GB2312中国1980年,为中文在计算机应用而制定的编码系统,一个字符占两个字节,中英文环境下兼容ASCII码,以连......
  • PYTHON如何下载第三方库
    相信小伙伴们在python之路上,难免需要引用python的第三方库来完成自己那个独属于自己的那个.py程序例如,小伙伴想引用pygame库来完善python程序但是,它却提示:其原因就是你的python没有检测到这个库的存在,因此报错下载python第三方库首先win+R打开运行输入cmd回车确认......
  • Python速通(输入输出)
    1.(牛牛最喜欢的语言)牛牛认为Python是世界上最好的语言,因为Python是一种简单、方便、易学习的语言,牛牛最喜欢Python了!现在请你输出字符串"Pythonisthebestlanguage!"表达牛牛对Python的喜爱。print("Pythonisthebestlanguage!")2.(冲击offer的牛牛)即将毕业的牛牛在牛......
  • Python数据分析代码示例
    数据清洗在进行数据分析之前,通常需要对原始数据进行清洗,即处理缺失值、异常值、重复值等问题。下面是一个数据清洗的示例代码:importpandasaspd#读取原始数据data=pd.read_csv('data.csv')#处理缺失值data=data.dropna()#处理异常值data=data[data['value'......
  • python - [12] 脚本一文通
    题记部分 一、文件夹&文件(1)删除空文件夹#删除目录中的空文件夹importosdefmove_epty_folders(directory_path):forroot,dirs,filesinos.walk(directory_path,topdown=False):forfolderindirs:folder_path=os.path.join(root,f......
  • Python-字典
    字典1.字典Python字典的主要属性如下:通过键而不是偏移量来读取:字典通过键将一系列值联系起来,这样就可以使用键从字典中取出存储于该键下的一项任意对象的无序集合:与列表不同,保存在字典中的项并没有特定的顺序,实际上,Python将各项伪随机地从左到右随机排序,以便快速查找长度可......
  • Python数据分析方法与技巧
    背景介绍数据分析是数据科学领域的核心技能之一,它涉及到数据的收集、清洗、处理、分析和可视化。数据分析是指通过收集、清洗、处理、分析和可视化数据来发现隐藏的模式、趋势和关系的过程。数据分析是数据科学的一个重要环节,它可以帮助我们解决各种问题,如预测、优化、决策等。......
  • Windows中配置python3.11环境安装教程
    在Windows中配置Python3.11环境,可以按照以下步骤进行:1.下载Python3.11打开Python的官方网站:https://www.python.org/导航到“Downloads”部分,并选择“Windows”。在“Windows”页面中,找到Python3.11的版本,点击下载适合你系统架构(32-bit或64-bit)的安装程序。2.安装Py......