首页 > 编程语言 >【Python数据采集】国家自然科学基金大数据知识管理服务门户数据采集

【Python数据采集】国家自然科学基金大数据知识管理服务门户数据采集

时间:2024-10-07 19:47:04浏览次数:7  
标签:Python 解密 接口 采集 国家自然科学基金 数据

【Python数据采集】国家自然科学基金大数据知识管理服务门户数据采集

具体需求:从https://kd.nsfc.cn/网站中根据关键词搜索项目信息,收集列表中展示的信息以及详情页面中的参与人员信息等。

在开始干活之前,我们首先要做的是弄清楚需求,然后分析目标网址,确定目标数据所在接口及请求参数等信息。

经过分析,列表数据存在于接口/api/baseQuery/completionQueryResultsData中,并且请求返回的数据为加密信息。

经过调试分析发现,接口数据使用的是DES解密算法进行的数据解密。接下来那就简单一点了,扣一下JS脚本或者使用python语言还原解密算法即可。

至此,列表数据已解密完毕。示例数据如下:

详情页面的接口并未加密,找出相应的接口然后按照需要的参数进行传参即可。

如有需要可扫描下方二维码联系我。

 

 

标签:Python,解密,接口,采集,国家自然科学基金,数据
From: https://www.cnblogs.com/dzlishen/p/18450474

相关文章

  • 企业如何利用数据打造精准用户画像?
    0前言下半场,互联网公司已经不新鲜了,大部分公司已经互联网化。他们已经在用网络进行产品宣传,使用电商销售自己的商品。大数据“赋能”企业,有数据,有用户:通过大数据告诉政府该如何智慧地管理交通,做城市规划通过消费数据分析,告诉企业该在什么时间生产什么产品,以最大化地满足用户......
  • 大厂面试真题:说一下MySQL和NoSQL数据库的区别
    MySQL与NoSQL的区别数据模型:MySQL是关系型数据库,采用表格的形式存储数据,数据之间存在严格的关系和约束。它使用结构化查询语言(SQL)进行数据操作和查询,要求事先定义好表的结构和关系。NoSQL数据库是非关系型数据库,数据以键值对、文档、列族等形式存储,没有固定的表格结构,数据之......
  • 数据库客户端比较
    TablePlusTablePlus官网TablePlus-DatabaseClient|AppStore支持平台:macOS,iOS特点:支持iOS价格:单设备的永久授权(Basic)价格为$89。查看定价页面DBeaverDBeaver官网价格SequalAceSequalAce官网SequalAce|MacAppStoreNavicatPremiumLiteNavicat官......
  • 数据库锁定机制
    数据库锁定机制话说如果你只是单纯的说"锁表",总是让人感觉有点Low,而我们就直接换个比较高大上一点的名词,锁定机制!为了保证数据的完整,也就是他的一致性和有效性,所以才会让数据库出现了锁定机制,相对其他数据库而言,MySQL的锁机制比较简单,其最显著的特点是不同的存储引擎支持不......
  • 4、Linux中断系统中的重要数据结构
    本节内容,可以从request_irq(include/linux/interrupt.h)函数一路分析得到。能弄清楚下面这个图,对Linux中断系统的掌握也基本到位了 最核心的结构体是irq_desc,之前为了易于理解,我们说在Linux内核中有一个中断数组,对于每一个硬件中断,都有一个数组项,这个数组就是irq_desc......
  • 硬盘咔咔异响数据恢复
    当硬盘发出咔咔异响时,这通常表明硬盘可能遇到了严重的问题,如读写头故障、硬盘盘片损坏、电机或主板故障等。此时,数据恢复成为了一个关键的问题。以下是一些建议的数据恢复步骤和注意事项:一、立即停止使用一旦发现硬盘发出咔咔异响,应立即停止使用,避免进一步损坏硬盘和数据。继续......
  • 基于Springboot+Vue的线上课堂系统(含源码数据库)
    1.开发环境开发系统:Windows10/11架构模式:MVC/前后端分离JDK版本:JavaJDK1.8开发工具:IDEA数据库版本:mysql5.7或8.0数据库可视化工具:navicat服务器:SpringBoot自带apachetomcat主要技术:Java,Springboot,mybatis,mysql,vue2.视频演示地址3.功能系统中......
  • Redis:高性能的内存数据库
    Redis,全称是RemoteDictionaryServer,是一个开源的内存数据结构存储系统。它可以用作数据库、缓存和消息中间件,支持多种数据结构,如字符串、哈希、列表、集合和有序集合等。Redis以其高性能、丰富的数据类型和强大的功能,广泛应用于各种互联网应用中。一,Redis的核心特性......
  • mongodb(数据库)
    进入mongodb数据库管理系统本地进入mongo远程进入mongo-host=127.0.0.1-p=27017退出exit;查看数据库showdbs-----默认进入test的数据库里面创建数据库/选择数据库usemydb查看你现在使用的是哪个数据库db删除数据库db.dropDatabase()查看集合showcollection......
  • php网站怎么连接数据库配置文件
    在PHP网站中连接数据库通常需要一个配置文件来存储数据库连接信息。以下是创建和使用数据库配置文件的详细步骤:1.创建数据库配置文件创建配置文件:在项目的根目录或适当的位置创建一个配置文件,例如 config.php。编写配置信息:在 config.php 文件中编写数据库连接......