首页 > 编程语言 >你没有看错,爬网页数据,C# 也可以像 Jquery 那样

你没有看错,爬网页数据,C# 也可以像 Jquery 那样

时间:2023-09-27 16:38:55浏览次数:53  
标签:Jquery jquery 网页 string C# CSQuery html var new


一:背景

1. 讲故事

前段时间搞了一个地方性民生资讯号,资讯嘛,都是我抄你的,你抄官媒的,小市民都喜欢奇闻异事,所以就存在一个需求,如何去定向抓取奇闻异事的地方号上的新闻,其实做起来很简单,用逻辑回归即可,这篇主要讨论如何去抓取,在 C# 中大家都知道抓取通用的库是 HtmlAgilityPack,但是这个库主流的做法是采用 xpath 提取网页内容,这就让我很不爽了,毕竟不熟悉莫名的抵抗哈,像我这个年纪的码农,被 Jquery 教育了至少 5-6 年,所以必须用 类Jquery 的方式,在 python 中有 cquery 做这件事情,那在 C# 中有没有类似的方式呢? 嘿嘿,万能的 github 上还真有。。。 就是本篇介绍的 CSQuery。

二:CSQuery

1. 安装

github的地址: https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_jquery

2. 举几个例子

一切都准备就绪了,那怎么用呢? 不着急,我以博客举两个例子。

1) 将首页中的 友情连接 提取到

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_jquery_02

如上图,要想获取这里的 友情链接几个大字,直接用 text() 肯定是不行的,默认情况它会将所有的子节点的文本也会抓到,如下图:

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_html_03

那怎么处理呢? 可以用 jquery 提供的 contents 方法,然后在获取的所有子节点中判断是否有 文本节点,最后获取文本节点的内容即可,如下代码:

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_html_04

用js是搞定了,那用 CSQuery 代码怎么搞定呢?模仿呗,如下代码:

static void Main(string[] args)
        {
            var jquery = CQ.CreateDocument(new WebClient().DownloadString(""));

            var content = jquery["#friend_link"].Contents().Filter((dom) =>
            {
                return dom.NodeType == NodeType.TEXT_NODE;
            }).Text();

            Console.WriteLine(content);
        }

我不知道用 xpath 提取这样的内容麻不麻烦,不过用 jquery 方式不简单,但轻车熟路。

2) 如何将 html 中的某些元素标颜色

有时候为了业务需要将某些 html 标签改一下颜色,比如说将首页的 tabmenu 中 博问专区 改成红色,如下图:

那用 CSQuery 怎么处理呢? 如果玩过 jquery,一般来说步骤如下:

  • 使用 each 遍历每一个子 li 标签
  • 使用 CSS 方法给 li 中 a 标签赋样式
  • 使用 Render 渲染生成一个新的的html

有了步骤,C#代码如下:

static void Main(string[] args)
        {
            Config.HtmlEncoder = HtmlEncoders.None;

            var jquery = CQ.CreateDocument(new WebClient().DownloadString(""));

            var html = jquery["#nav_left li"].Each(dom =>
               {
                   var self = jquery[dom];

                   var text = self.Text();

                   if (text == "博问" || text == "专区")
                   {
                       self.Find("a").CssSet(new { color = "red" });
                   }
               }).Render();
        }

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_github_05

3) 其他的操作方法

除了上面两个操作方法外,你还可以使用 after,before,replaceAll,IS 等等一百来个实用的方法,这篇肯定也无法一一介绍了,大家有兴趣可以下载下来看一看,捣鼓捣鼓。

三:其他用途

除了抓取html中的元素,我觉得这玩意还可以用在发送邮件时操控邮件模板,毕竟在很久以前大家都是用jquery来绘制 html,所以用 CSQuery 也是可以的,相对使用 xslt 有利有弊吧,接下来做一个例子:

1. 生成一个html模板

<!DOCTYPE html>

<html lang="en" xmlns="http://www.w3.org/1999/xhtml">
<head>
    <meta charset="utf-8" />
    <title></title>
</head>
<body>
    <ul id="main"></ul>
</body>
</html>

2. 使用 CSQuery 给 ul 追加 li

可以用 Append 将内容追加到 <ul> 节点内。

class Program
    {
        static void Main(string[] args)
        {
            Config.HtmlEncoder = HtmlEncoders.None;

            var strlist = new string[2] { "1", "2" };

            var path = Environment.CurrentDirectory + "\\2.html";
            var jquery = CQ.CreateFromFile(path);

            foreach (var str in strlist)
            {
                jquery.Find("#main").Append($"<li>{str}</li>");
            }

            var html = jquery.Render();
        }
    }

你没有看错,爬网页数据,C# 也可以像 Jquery 那样_github_06

3. 部分渲染 RenderSelection

Render方法是将整个Dom渲染成html,但有时候你只需要得到你修改的那部分内容,而不是整个html,这就涉及到了部分渲染,可以用 RenderSelection 方法即可,代码如下:

static void Main(string[] args)
        {
            Config.HtmlEncoder = HtmlEncoders.None;

            var strlist = new string[2] { "1", "2" };

            var path = Environment.CurrentDirectory + "\\2.html";
            var jquery = CQ.CreateFromFile(path);

            var current = jquery.Find("#main");

            foreach (var str in strlist)
            {
                current.Append($"<li>{str}</li>");
            }

            var html = current.RenderSelection();

            Console.WriteLine(html);
        }

------------- output ----------------

<ul id="main"><li>1</li><li>2</li></ul>

四:总结

Jquery 这种操作模式对我个人来说还是比较舒服的,毕竟熟! 不过在 html5 中也新增了 querySelector 和 querySelectorAll 支持 css3 选择器,非常强大,可 jquery 不光在选择器的灵活上,还在于对节点的灵活操作上,总的来说不是特别富交互的情况下可以怀旧一把。


标签:Jquery,jquery,网页,string,C#,CSQuery,html,var,new
From: https://blog.51cto.com/u_15353947/7626204

相关文章

  • c++正则表达式汇总
    一、校验字符的表达式1汉字:^[\u4e00-\u9fa5]{0,}$2英文和数字:^[A-Za-z0-9]+或[A−Za−z0−9]4,403长度为3-20的所有字符:^.{3,20}$4由26个英文字母组成的字符串:^[A-Za-z]+$5由26个大写英文字母组成的字符串:^[A-Z]+$6由26个小写英文字母组成的字符串:^[a-z]+$7由数字......
  • c的基本语法(课上笔记)
    "#"的意义预处理,在编译时进行内容代替scanf对于scanf("");引号中内容为必须输入的内容。当输入多个数据时,默认输入的数据间以空格或者回车分开。对于int,直接相除为向下取整14.0f格式即表示(float)14.0定义常量的方法#defineCSPo表示将CSP定义为o(CSP为宏,o为内容)const......
  • 在A6000上使用rppg-toolbox 产生当前pytorch不支持sm86
    问题描述最近使用rppg-toolbox来训练一些模型,直接按照rppg-toolbox主页上的安装方式安装,在A6000主机上使用torch时产生了warning,并且程序运行十分缓慢原因产生这个问题的原因是因为按照rppg-toolbox的安装方式,安装的pytorch1.12.1是不支持CUDA11.4的,使用PiPlist查看当前安装......
  • realloc函数应用&IO泄露体验
    本题主要介绍realloc函数,平时我们使用realloc最多便是在打malloc_hook-->onegadget的时候,使用realloc_hook调整onegadget的栈帧,从而getshell。在realloc函数中,也能像malloc一样创建堆,并且比malloc麻烦一些,但是倒是挺有趣的。reallocrealloc(realloc_ptr,size)有两个参数,并且在......
  • 5 分钟理解 Next.js SSG (Static Site Generation / Static Export)
    5分钟理解Next.jsSSG(StaticSiteGeneration/StaticExport)在本篇文章中,我们将介绍Next.js中的SSG(静态网站生成)功能,以及它是如何工作的。我们将介绍SSG的基本概念,以及在Next.js中如何使用ServerComponents和ClientComponents来实现不同的数据获取策略。什......
  • B. Amr and Pins( Codeforces Round #287 (Div. 2))
    #include<stdio.h>#include<string.h>#include<stdlib.h>#include<math.h>intmain(){doubler,x1,y1,x2,y2;while(scanf("%lf%lf%lf%lf%lf",&r,&x1,&y1,&x2,&y2)!=EOF){doubleaa=sq......
  • C. Anya and Ghosts(Codeforces Round #288 (Div. 2))
    #include<iostream>#include<algorithm>#include<stdio.h>#include<string.h>#include<stdlib.h>usingnamespacestd;structnode{intx;inty;}q[3010];inta[3001];intn,m,k;intmain(){while(scanf("......
  • C. Anya and Ghosts( Codeforces Round #288 (Div. 2))
    #include<iostream>#include<algorithm>#include<stdio.h>#include<string.h>#include<stdlib.h>usingnamespacestd;structnode{intx;inty;}q[3010];inta[3001];intn,m,k;intmain(){while(scanf("......
  • C++多线程Multithreading std::condition_variable
    多线程Multithreading#include<iostream>#include<thread>#include<mutex>#include<condition_variable>std::mutexmtx;std::condition_variablecv;boolisOdd=true;voidprintOdd(){for(inti=1;i<=100;i+=2){......
  • 【DevChat】使用bat修改环境变量path的值
    今天尝试使用DevChat插件进行脚本编程,随然没有100%满足我的需求,不过也挺厉害了,具体如下:需求:使用批处理查找环境变量path是否存在BAT_HOME,如果存在则删除,如果不存在则添加方案一:使用setx操作环境变量在Windows系统中,你可以使用以下的批处理脚本来实现你的需求。这个脚本会检查......