首页 > 其他分享 >scrapy采集—爬取中文乱码,gb2312转为utf-8

scrapy采集—爬取中文乱码,gb2312转为utf-8

时间:2022-11-24 12:33:06浏览次数:42  
标签:body utf gb2312 乱码 scrapy response

有段时间没怎么使用scrapy了,最近采集一个网页,发现网页编码是gb2312,

一开始就取搜索了下,发现各种操作都有,有在settings中设置  

# FEED_EXPORT_ENCODING = 'utf-8'
FEED_EXPORT_ENCODING = 'GB2312'

有在spider中设置response.body的encoding的,而我用的是response.xpath,到这里发现问题也还是不能够解决,

最后发现 在Download MinddleWares中有个process_response方法,在下载器中间件中将返回的请求数据修改编码即可完成

response = HtmlResponse(url=response.url, body=response.body, encoding='utf-8')  
return response

 

标签:body,utf,gb2312,乱码,scrapy,response
From: https://www.cnblogs.com/kuba8/p/16921469.html

相关文章

  • 【MSSQL】SQL SERVER导入中文乱码问题解决
    公司最近承接了一个项目,甲方现使用旧版SiteServer框架(以下简称“SiteCMS”)作为门户网站,使用的数据源是SQLServer。现在需要对SiteCMS进行升级,在升级时数据库和数据库结构也......
  • pygame中文乱码问题
    一开始在做FlappyBird小游戏时面临中文乱码显示问题,如下所示:一开始我还以为是Python编码问题,然而Python3中自动解决了中文显示问题,最简单的例子就是用print()语句进行打印,......
  • scrapy爬取后中文乱码,解决word转为html 时cp1252编码问题
    解决思路1、循环暴力寻找编码,但是不如思路3defparse(self,response):print(response.text[:100])body=response.body#直接是bytes,response.tex......
  • jmeter中发出请求后,response data中的中文乱码了
    场景/报错:在jmeter中发出请求后,接收到的responsedata中的中文乱码了,显示如图:原因:编码方式有问题,这种情况应该是用ISO-8859-1读取了UTF-8解决方法:修改jmeter的配置文件,三步......
  • Windows2003英文版中文乱码问题的解决
    Windows2003英文版中文乱码问题的解决可以解决文件名乱码和文件内容乱码的问题。[1] 打开“控制面板”,双击“RegionalandLanguageOptions”图标,打开区域和语言设置窗口;[......
  • windows elasticsearch中文乱码
    一:找到安装目录下的config jvm.options文件  二:修改或增加:-Dfile.encoding=GBK  参考文章地址:https://www.shuzhiduo.com/A/rV57OjRL5P/......
  • MySQL UTF-8 编码下使中文排序生效的办法
    1.查询的时候是加入转换函数SELECT`hotel_name`FROM`hotel_base`ORDERBYconvert(`hotel_name`USINGgbk)COLLATEgbk_chinese_ci 2.设置单个需要中文排序字段的......
  • 关于若依框架后台数据库中午乱码 MySQL8.0 中文乱码
    --查看字符集编码设置为以下showVARIABLESlike'CHARACTER%'setcharacter_set_results=utf8mb4;character_set_client utf8mb4character_set_connection utf8......
  • [Bug0060]DBeaver打开sql脚本中文乱码
    问题乱码导入在表中也是展示乱码,想修改表中乱码,可以先修改为utf-8重新导入场景导入pig数据库发现乱码原因软件默认使用了GBK编码读取sql文件解决方案修改为UTF-8编......
  • SpringMVC乱码
    <!--配置中文乱码过滤器--><filter><filter-name>characterEncodingFilter</filter-name><filter-class>org.springframework.web.......