首页 > 其他分享 >Jsoup(HTML解析)

Jsoup(HTML解析)

时间:2023-04-18 11:48:09浏览次数:47  
标签:document HTML text System Jsoup html println 解析 out

1.Jsoup(HTML解析)

https://blog.csdn.net/qq_26786441/article/details/106207828

2.Jsoup解析html

https://blog.csdn.net/m0_66144992/article/details/122329560

 

1、环境

首先导入jar包

<dependency>
    <groupId>org.jsoup</groupId>
    <artifactId>jsoup</artifactId>
    <version>1.11.3</version>
</dependency>
<dependency>
    <groupId>org.apache.commons</groupId>
    <artifactId>commons-lang3</artifactId>
    <version>3.7</version>
</dependency>
<dependency>
    <groupId>commons-io</groupId>
    <artifactId>commons-io</artifactId>
    <version>2.6</version>
</dependency>

 

然后准备一个用于解析的jsoup.html,放于webapp目录下

<html>
<head>
    <title>传智播客官网-一样的教育,不一样的品质</title>
</head>
<body>
<div class="city">
    <h3 id="city_bj">北京中心</h3>
    <fb:img src="/2018czgw/images/slogan.jpg" class="slogan"/>
    <div class="city_in">
        <div class="city_con" style="display: none;">
            <ul>
                <li id="test" class="class_a class_b">
                    <a href="http://www.itcast.cn" target="_blank">
                        <span class="s_name">北京</span>
                    </a>
                </li>
                <li>
                    <a href="http://sh.itcast.cn" target="_blank">
                        <span class="s_name">上海</span>
                    </a>
                </li>
                <li>
                    <a href="http://gz.itcast.cn" target="_blank">
                        <span abc="123" class="s_name">广州</span>
                    </a>
                </li>
                <ul>
                    <li>天津</li>
                </ul>
            </ul>
        </div>
    </div>
</div>
</body>
</html>

2、3种获取Dom方式

2.1解析url

@Test
public void testJsoupUrl() throws Exception {
    //解析url地址
    Document document = Jsoup.parse(new URL("http://www.itcast.cn/"), 1000);
    //获取title的内容
    Element title = document.getElementsByTag("title").first();
    System.out.println(title.text());
}

虽然使用Jsoup可以替代HttpClient直接发起请求解析数据,但是往往不会这样用,因为实际的开发过程中,需要使用到多线程,连接池,代理等等方式,而jsoup对这些的支持并不是很好,

所以我们一般把jsoup仅仅作为Html解析工具使用

2.2解析字符串

@Test
public void testJsoupString() throws IOException {
    //读取文件获取
    //String html = FileUtils.readFileToString(new File("D:\\jsoup.html"), "UTF-8");
    String html = IOUtils.toString(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8");
    //解析字符串
    Document document = Jsoup.parse(html);
    //获取title的内容
    Element title = document.getElementsByTag("title").first();
    System.out.println(title.text());
}

2.3直接解析文件

@Test
public void testJsoupHtml() throws IOException {
    //解析文件
    // Document document = Jsoup.parse(new File("D:\\jsoup.html"),"UTF-8");
    Document document = Jsoup.parse(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8", "");
    //获取title内容
    Element title = document.getElementsByTag("title").first();
    System.out.println(title.text());
}

 

3、解析Dom方法

3.1dom方式遍历文档,获取元素

@Test
public void testDoucment() throws IOException {
    String html = IOUtils.toString(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8");
    Document document = Jsoup.parse(html);

    //1.根据id查询元素getElementById
    Element element = document.getElementById("city_bj");
    System.out.println(element.text());

    //2.根据标签获取元素getElementsByTag
    element = document.getElementsByTag("title").first();
    System.out.println(element.text());

    //3.根据class获取元素getElementsByClass
    //element = document.getElementsByClass("class_a").last();
    // element = document.getElementsByClass("class_b").last();
    element = document.getElementsByClass("class_a class_b").last();
    System.out.println(element.text());

    //4.根据属性获取元素getElementsByAttribute
    //        element = document.getElementsByAttribute("abc").first();
    element = document.getElementsByAttributeValue("abc", "123").first();
    System.out.println(element.text());
}

3.2元素中获取数据

@Test
public void testData() throws Exception {
    String html = IOUtils.toString(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8");
    Document document = Jsoup.parse(html);
    Element element = document.getElementById("test");

    //1.从元素中获取id
    String id = element.id();
    System.out.println(id);
    //2.从元素中获取className
    String className = element.className();
    System.out.println(className);
    //3.从元素中获取属性的值attr
    id = element.attr("id");
    System.out.println(id);
    //4.从元素中获取所有属性attributes
    Attributes attributes = element.attributes();
    String s = attributes.toString();
    System.out.println(s);
    //5.从元素中获取文本内容text
    System.out.println(element.text());
}

3.3select,css查找

@Test
public void testSelector() throws IOException {
    String html = IOUtils.toString(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8");
    Document document = Jsoup.parse(html);
    //tagname: 通过标签查找元素,比如:span
    Elements elements = document.select("span");
    elements.forEach(element -> System.out.println(element.text()));

    //#id: 通过ID查找元素,比如:#city_bjj
    String text = document.select("#city_bj").text();

    //.class: 通过class名称
    text = document.select(".class_a").text();

    //[attribute]: 利用属性查找元素,比如:[abc]
    text = document.select("[abc]").text();

    //[attr=value]: 利用属性值来查找元素,比如:[class=s_name]
    text = document.select("[class=s_name]").text();
}

3.4select,css组合查找

 @Test
public void testSelectors() throws IOException {
    String html = IOUtils.toString(new FileInputStream("src/main/webapp/jsoup.html"), "UTF-8");
    Document document = Jsoup.parse(html);

    //el#id: 元素+ID,比如: h3#city_bj
    String str = document.select("h3#city_bj").text();
    System.out.println(str);

    //el.class: 元素+class,比如: li.class_a
    System.out.println(document.select("li.class_a").text());

    //el[attr]: 元素+属性名,比如: span[abc]
    System.out.println(document.select("span[abc]").text());

    //任意组合: 比如:span[abc].s_name
    System.out.println(document.select("span[abc].s_name").text());

    //ancestor child: 查找某个元素下子元素,比如:.city_con li 查找"city_con"下的所有li
    System.out.println(document.select(".city_con li").text());

    //parent > child: 查找某个父元素下的直接子元素,比如:
    //.city_con > ul > li 查找city_con第一级(直接子元素)的ul,再找所有ul下的第一级li
    System.out.println(document.select(".city_con > ul > li").text());

    //parent > *: 查找某个父元素下所有直接子元素
    System.out.println(document.select(".city_con > *").text());

}

 

标签:document,HTML,text,System,Jsoup,html,println,解析,out
From: https://www.cnblogs.com/kelelipeng/p/17329025.html

相关文章

  • 管理后台中间件解析
    前言:管理后台中间件主要作用,登录判断,获取管理员及权限信息,记录日志正文:文件:admins/middleware/adminMid.go//声明一个接收用户基本信息的结构体typeUserInfostruct{UserNamestringUserTrueNamestringAdminUidint}varuserinfo=&UserInfo{"",""......
  • 如何将之前编辑的文章HTML源代码导入到TinyMCE编辑器中
    如果你想用TinyMCE来修改你之前写的文章那么你需要将源代码放到TinyMCE中,如果服务器把HTML源码发给我们可是我们应该怎样调用?方法为使用 tinymce.activeEditor.setContent()这个函数具体用法为:tinymce.activeEditor.setContent()//设置TinyMCE编辑器里的内容源代码tin......
  • HTML基础
    在发布这条博客之前,我已在B站自学HTML至P110,未以博客形式记录,而是在个人笔记本上记录,所以我对HTML已经有深刻的理解。要让设计者在网络上发布的网页能够被世界各地的浏览器所阅读,需要一种规范化的发布语言。在万维网上,文档的发布语言是HTML(超文本标记语言)。超文本标记语言就是该文......
  • html2canvas插件使用小结
    简介html2canvas能够实现在用户浏览器端直接对整个或部分页面进行截屏。这个html2canvas脚本将当页面渲染成一个canvas图片,通过读取DOM并将不同的样式应用到这些元素上实现。它不需要来自服务器任何渲染,整张图片都是在客户端浏览器创建。当浏览器不支持Canvas时,将采用Flashcanv......
  • Mybatis源码深度解析(转载)
    我们从一个简单案例入手,接着就是一步一步的剥开Mybatis的源码,大量的图文结合。Mybatis使用案例添加mybatis和mysql相关pom依赖。<!--Mybatis依赖--><dependency><groupId>org.mybatis</groupId><artifactId>mybatis</artifactId><version>3.5.2</......
  • html模板里的表达式不能用小于号
    今天用angular写*ngIf="item.cnt <= 5"这个表达式的时候报错,他将<后面的东西当做html标签来看了,怎么办呢可以用html转义字符来表示小于号<换成下面就可以了*ngIf="item.stockCnt &lt= 5"<<&#60;小于号>>&#62;大于号......
  • scrapy架构介绍、scrapy解析数据、settings相关配置、持久化方案
    上节回顾#1selenium -登录cnblogs,拿到cookie,再打开cnblogs,写入cookie,它就是登录状态-半自动点赞---》selenium生成的cookie,给requests用 -selenium操作浏览器,速度慢-requests速度快-动作链-自动登录12306#2打码平台 -帮我们破......
  • 森林之子结局有几个 结局解析_森林之子主角是谁的孩子
    做为《丛林》的续篇,《丛林之母》确实招揽了许多玩者们买回所制。这款存活动作格斗游戏玩的是三个抑制,玩的是三个眩晕。许多玩者早已兴高采烈想晓得故事情节是甚么了,因此这儿提早给诸位透漏下丛林之母的故事情节。丛林之母故事情节有三个:这款格斗游戏的故事情节分成三种,第二种是......
  • 支持多模型数据分析探索的存算分离湖仓一体架构解析(上)
    当企业需要建设独立的数据仓库系统来支撑BI和业务分析业务时,有了“数据湖+数据仓库”的混合架构。但混合架构带来了更高的建设成本、管理成本和业务开发成本。随着大数据技术的发展,通过在数据湖层增加分布式事务、元数据管理、极致的SQL性能、SQL和数据API接口能力,企业可以基于统......
  • jsoup 简介
    jsoup是一款Java的HTML解析器,可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API,可通过DOM,CSS以及类似于jQuery的操作方法来取出和操作数据。jsoup的主要功能如下:1.从一个URL,文件或字符串中解析HTML;     2.使用DOM或CSS选择器来查找、取出数据;......