首页 > 其他分享 >scarpy架构组成和工作原理

scarpy架构组成和工作原理

时间:2023-01-04 10:34:05浏览次数:36  
标签:架构 name price list scrapy html scarpy 原理 class

 

汽车之间案例:

import scrapy


class CarSpider(scrapy.Spider):
    name = 'car'
    allowed_domains = ['https://car.autohome.com.cn/price/brand-15.html']
    # 注意如果你的请求的接口是html为结尾的  那么是不需要加/的
    start_urls = ['https://car.autohome.com.cn/price/brand-15.html']

    def parse(self, response):
        name_list = response.xpath('//div[@class="main-title"]/a/text()')
        price_list = response.xpath('//div[@class="main-lever"]//span/span/text()')

        for i in range(len(name_list)):
            name = name_list[i].extract()
            price = price_list[i].extract()
            print(name,price)

 

 

scrapy架构组成:

 

 

工作原理:

 

 

 

 

 

标签:架构,name,price,list,scrapy,html,scarpy,原理,class
From: https://www.cnblogs.com/zhaolei0419/p/17024163.html

相关文章

  • LNMP架构环境之Mariadb数据库环境 nginx+php+mysql
    1)安装Mariadb数据库#1)安装Mariadb数据库yuminstallmariadb-servermariadb-y#2)启动Mariadb数据库,并加入开机自动复制代码systemctlstartmariadbsystemctle......
  • 一致性哈希算法原理及实际应用
    最近有一位读者跟我交流,说除了算法题之外,系统设计题是一大痛点。算法题起码有很多刷题平台可以动手实践,但系统设计类的题目一般很难实践,所以看一些教程总结也只是一知半解,......
  • 浅谈存储系统:LSM 树设计原理
    我在上篇文章ApachePulsar的架构设计中介绍了Pulsar存算分离的架构,其中broker只负责计算,由BookKeeper负责底层的存储,我还画了这样一张图说明BookKeeper读写分......
  • 230103_50_RPC底层原理
    client通过调用stub来屏蔽网络通信的细节,这样就不用再client中写网络发送和接收的代码实现packagecom.bill.rpc02;importcom.bill.rpc.common.User;importjava.i......
  • CTO也糊涂的常用术语:功能模块、业务架构、用户需求、文档
    功能模块、业务架构、需求分析、用户需求、系统分析、功能设计、详细设计、文档、业务、技术……很多被随口使用的名词,其实是含糊甚至错误的。到底含糊在哪里,错误在哪里,不仅......
  • CTO也糊涂的常用术语(01-03)功能模块、业务架构、用户需求
    功能模块、业务架构、需求分析、用户需求、系统分析、功能设计、详细设计、文档、业务、技术……很多被随口使用的名词,其实是含糊甚至错误的。到底含糊在哪里,错误在哪里,不仅......
  • CTO也糊涂的常用术语(01-02)功能模块、业务架构
    功能模块、业务架构、需求分析、用户需求、系统分析、功能设计、详细设计、文档、业务、技术……很多被随口使用的名词,其实是含糊甚至错误的。到底含糊在哪里,错误在哪里,不仅......
  • part1_Keras的API及架构
    1Keras概述1.1为什么选择KerasKeras是用于构造神经网络模型的API,Keras由纯Python编写而成,并基于Tensorflow、Theano和CNTK后端,因此Keras是一个移植性较强的框架。Keras......
  • React Streaming SSR 原理解析
    作者:徐超功能简介React18提供了一种新的SSR渲染模式:StreamingSSR。通过StreamingSSR,我们可以实现以下两个功能:StreamingHTML:服务端可以分段传输HTML到浏览......
  • AD使用积累 - AD原理图界面选中所有器件但不选中电气连接线
    1、在随意一个器件上右键,选择查找相似对象。  2、在弹出的界面选择如下两项: 3、点击确定,会高亮所有元器件,这时再进行框选就可以只选中器件。 ......