首页 > 其他分享 >开源爬虫监控平台crawler-studio

开源爬虫监控平台crawler-studio

时间:2022-11-23 10:11:38浏览次数:71  
标签:爬虫 可视化 监控 studio crawler Scrapyd

项目地址

介绍

Crawler-Studio是基于Scrapy、Scrapyd、Scrapyd-Client、Scrapyd-API、Django、DRF、Vue.js 开发的一款开源分布式Scrapy爬虫监控平台

  • 使用简单,无需ELK及复杂的配置也能实现爬虫监控
  • 大屏展示scrapy爬虫运行状况
  • 可视化实时读取爬虫运行数据、错误日志
  • 监控爬虫日志错误率、内存占用以及掉线通知
  • 可视化分布式爬虫管理

本平台的优点

  • 体积小、依赖少、安装简单
  • 可视化界面操作简单
  • 做到了实时监控

如在使用过程中遇到问题,欢迎到 Issues 搜索解决方案或者提 Issue,感谢您的支持。

标签:爬虫,可视化,监控,studio,crawler,Scrapyd
From: https://www.cnblogs.com/WalkOnMars/p/16917368.html

相关文章

  • 网络爬虫-DeepNet爬虫
    DeepNet爬虫DeepWeb是相对于SurfaceWeb和DarkWeb而言的,是互联网页面的几种形态。DeepWeb指存储在网络数据库里,不能通过超链接访问而需要动态网页技术访问的资源集合......
  • GitHub原生AI代码生成工具Copilot,官方支持Visual Studio 2022
    人工智能程序员GitHubCopilot,在VisualStudio2022中推出,不过用户必须在主页注册报名,才有机会访问试用。现在,微软、OpenAI、GitHub三家联合打造的AI编程辅助工具G......
  • 爬虫-地铁站POI数据
    1.获取Web服务API百度地图开放平台2.准备url#--coding:utf-8--importjsonimportrequestsak='申请的访问应用(AK)'params={'query':'地铁站','......
  • java爬虫
    创建Maven工程加入依赖<!--https://mvnrepository.com/artifact/org.apache.httpcomponents/httpclient--><dependency><groupId>org.apache.httpcomponents</gr......
  • Java实现网络爬虫 案例代码
    Java实现网络爬虫案例代码需求说明搭建开发环境,实现《三国演义》全文保存在本地 步骤分析访问网址:http://www.shicimingju.com/book/sanguoyanyi.html分析网站URL......
  • 爬虫为什么喜欢用 python
    说到网络爬虫,相信大家都很熟悉。爬虫可以捕捉某个网站或应用程序的内容,提取有用的价值信息。爬虫可以使用多种编程语言,但Python确实是很常用的。你知道为什么吗?让......
  • Python爬虫异常怎么用邮件来通知
    正常企业做数据抓取经常会遇到各种故障问题,那么在人不能随时盯着爬虫电脑来防止错误,就需要用email来向自己报告。SMTP邮件协议是Python内置是支持的,他不仅可以发送纯文本的......
  • go 实现爬虫
    一:使用go获取远程图片存储在本地案例1>生成随机数len:=32bytes:=make([]byte,len)r:=rand.New(rand.NewSource(time.Now().Unix()))fori:=0;i<len;i++{......
  • 【DevEco Studio】MacOS系统 DevEco报错NoSuchFileException: /Applications/DevEco-S
    ​【问题描述】MacOS系统中DevEcoStudio从3.0.800版本更新至3.0.993版本,编译项目报错:NoSuchFileException:/Applications/DevEco-Studio.app/Contents/tools/gradle/......
  • 快速实现网络爬虫做对这几步就行
    什么是网络爬虫?我们经常听见一些大公司的程序员一直唠叨着“网络爬虫”,那么网络爬虫到底有啥奇特之处?通俗点讲,网络爬虫就是能够模拟像正常用户那样浏览网页,并且将所需要的......