首页 > 其他分享 >只懂黑盒测试也能学会的代码覆盖率及精准化测试

只懂黑盒测试也能学会的代码覆盖率及精准化测试

时间:2022-09-01 14:01:12浏览次数:91  
标签:黑盒 覆盖率 代码 jar -- 测试 jacoco 精准

⬇️ 点击“下方链接”,提升测试核心竞争力!

>>更多技术文章分享和免费资料领取
测试覆盖率是对测试完成程度的度量。它通常依据某种覆盖准则来对测试用例执行情况进行衡量,以判断测试执行得是否充分

——出自《
计算机科学技术名词 》第三版

今天文章中我们给大家介绍覆盖率统计及覆盖率分析。在10月13日20:00,资深测试开发架构师思寒将光临直播间手把手教大家如何搞定精准化测试!

温馨提示:你以为代码覆盖率与精准化测试知识与黑盒测试无缘?不,你只是没遇到思寒讲的这节课。

常见覆盖率统计工具

  • emma
  • cobertura
  • jacoco

emma 与 cobertura 是为单元测试而设计的覆盖率统计,jacoco 与 emma 同属于一家公司,但是是为了更广泛的覆盖率统计而设计的工具。

Jacoco

jacoco 的文档中有个 mission 章节,里面对 jacoco 的定位描述的很好。原文的大意是说其他的工具没有得到积极有效的维护,而且其他的工具都是为了单一任务而设计,他们不是为了 “集成” 而生。从这一点上我们就可以看出 jacoco 的设计理念。

得益于 jacoco 的设计理念,以及良好的 api 设计,它可以轻松的与已有的工具集成,甚至进行平台化。它也可以同时用于单元测试与集成测试,所以是一款非常优秀的覆盖率统计工具,很多公司的精准化测试,就是重度依赖了 jacoco。

覆盖率分析原理

要了解代码覆盖率的统计原理,我们就需要去深入了解 jvm 的机制。这方面的知识是 java 领域的高端进阶知识,限于篇幅,我们只讲解下大概的原理,完整内容请参考 VM 虚拟机系列的书籍,以及 newrelic 早年发布的若干代码插桩的资料。

简单说下原理,java 源代码会被 javac 编译为 class 文件,class 文件保存了 class 的基本信息与 jvm 的指令集。java 的底层 runtime,也就是 jvm 在解析 class 的时候,会把文件格式的 class 读取到内存并运行。android 也是借鉴了这一整套的设计理念,android 上的 runtime 其实是 dalvik 与 art。

当我们要统计代码覆盖率的时候,就需要在代码的执行路径上加入探针分析。通常是在读取类的时候,在关键的指令块的出口与入口增加标记。当指令块被执行后,就会命中探针并完成记录。

要修改最底层的 jvm 字节码往往是比较麻烦的,需要精通 jvm 的各种指令以及 java class 结构。这方面的处理目前已有有非常成熟的开源项目可以做大了,如下就是一些知名的字节码修改工具。

  • ASM
  • JavaAssist
  • ByteBuddy、BTrace、JVM-Sandbox
    其中 ASM 是所有字节码操作的底层基础,是最底层的字节码修改工具。其他工具是它之上的一些高级封装。借助于这些工具与 JVM 自身的一些调试特性,我们就可以对 jvm 代码或者进程进行便捷的操纵了。

插桩方式


插桩方式有很多种,常见的方式如下

  • 源代码插桩:offline 插桩,支持 android
  • 字节码插桩:offline 插桩,支持 android
  • javaagent 模式:脱离代码在运行时插桩,on the fly 模式
    jacoco 支持字节码插桩与 javaagent 这两种插桩方式。也就是就算没有源代码也可以统计到覆盖率数据,但是最后分析的时候,还是要结合源代码才能获得更多的覆盖率细节数据。毕竟覆盖率的统计,并不是只是简单的覆盖率数据本身的指标高低。

jacoco的工作方式

jacoco 支持四种工作模式

  • file:进程结束的时候在本地生成文件
  • tcpserver:开启端口等待客户端获取覆盖率
  • tcpclient:主动把覆盖率数据发送出去
  • none:不生成覆盖率
    很多人都会使用 file 模式,但是 tcp server 模式才是最易用的。因为不需要申请服务器的文件访问权限就可控制覆盖率数据。你可以根据自己公司的部署情况选择合适的工作模式。

on the fly 插桩模式是使用最多的。首先需要在你的被测 java 程序启动的时候,加入 jvm 的一些 javaagent 参数。

-javaagent:[yourpath/]jacocoagent.jar=[option1]=[value1],[option2]=[value2]
destfile
output:file、tcpserver、tcpclient、none
address
port

你可以自己设置适合的工作模式。
离线插桩模式,适合 android 的覆盖率统计,需要借助于 maven、gradle 等构建工具的 instrument 指令。

jacoco-cli 是 jacoco 的一个组件,可以在不依赖 maven、gradle 构建工具的情况下完成对代码的分析。主要用于 tcpserver 工作模式下。
用法如下

java -jar jacococli.jar dump [--address <address>] --destfile <path> [--help] \
[--port <port>] [--quiet] [--reset] [--retry <count>]

这是学院里的一个动手演练的小场景,统计 jmeter 工具的启动覆盖率

project_root=/Users/seveniruby/temp/java_2/jacoco/apache-jmeter-5.2.1
jacoco_cli_jar=org.jacoco.cli-0.8.6-20200329.124045-45-nodeps.jar

java -javaagent:org.jacoco.agent-0.8.6-20200329.124039-45-runtime.jar \
  -jar $project_root/bin/ApacheJMeter.jar

#退出jmeter

#生成覆盖率报告
java -jar $jacoco_cli_jar report jacoco.exec \
--classfiles "$project_root/bin/ApacheJMeter.jar" \
--classfiles $project_root/lib/ext/ApacheJMeter_http.jar \
--html jmeter_coverage/

#生成带有源代码的覆盖率报告
 java -jar $jacoco_cli_jar report  jacoco.exec  \
 --classfiles "$project_root/bin/ApacheJMeter.jar" \
 --classfiles $project_root/lib/ext/ApacheJMeter_http.jar \
 --html jmeter_coverage/ --sourcefiles ~/projects/jmeter/src/

#生成xml报告
java -jar $jacoco_cli_jar report jacoco_tcpserver2.exec  \
--classfiles "$project_root/bin/ApacheJMeter.jar" \
--classfiles $project_root/lib/ext/ApacheJMeter_http.jar \
--xml  jmeter_coverage_tcpserver2/jacoco.xml

完整代码请参考学员论坛中的课程帖中的源代码。

sonarqube 可以分析 jacoco 的 exec 文件与 xml 文件,并自动导入覆盖率。exec 文件的分析后续会放弃支持,主支持 xml 文件的分析。

 sonar-scanner   \
  -Dsonar.host.url=http://sonarqube.testing-studio.com:9000   \
  -Dsonar.login=$SONARQUBE_TOKEN   \
  -Dsonar.projectKey=jmeter   \
  -Dsonar.projectVersion=1.0  \
  -Dsonar.coverage.jacoco.xmlReportPaths=$PWD/jmeter_coverage_tcpserver2/jacoco.xml \
  -Dsonar.projectBaseDir=/Users/seveniruby/projects/jmeter/ \
  -Dsonar.java.binaries=/Users/seveniruby/projects/jmeter/

导入覆盖率


可以通过如下参数限定要分析代码的范围,通常是指明要覆盖的 package 范围

  • sonar.sources
  • sonar.inclusions

导入覆盖率

sonarqube 可以智能分析新老版本之间的新增代码的覆盖率,这点非常不错,以前一些分析代码 diff 的工作就节省了。他的代码分析也比较智能,简单的换行并不会干扰代码 diff 的分析范围。

通过覆盖率数据

sonarqube 支持两种通用的测试数据导入

  • 通用覆盖率数据:sonar.coverageReportPaths
  • 通用测试执行数据:sonar.testExecutionReportPaths
    这样方便与各种框架进行集成,也方便测试工程师二次定制。
    通用测试数据模板。

通用覆盖率数据模板


在 sonarqube 的 scanner 分析中,加入对应的配置参数即可导入通用测试数据。
通用测试数据导入的常见用途

  • 将各种测试工具的测试报告转换为 sonarqube 支持的格式从而导入平台
  • 将各种覆盖率工具的覆盖率报告转换为标准格式导入平台
  • 根据需求对差异 diff 覆盖率进行定制,比如除了对新增代码做覆盖,还要对使用了新增代码的依赖代码也做分析

代码的 diff 分析是一个比较大的话题,diff 只是对代码的最简单的一个分析策略,要想深入的理解代码,我们还需要更进一步的分析代码的调用链。我们先看最简单的代码 diff 分析工具。
代码 diff 分析工具

  • JGit:git 分析工具
  • JavaParser:语法分析
  • ASM:读取字节码
  • javap:jdk 自带字节码分析工具

精准化测试一直是 BAT 名企大厂必用技能。但黑盒测试苦于代码功底薄弱,无法消化理解并掌握。黑盒测试如何才能学会代码覆盖率及精准化测试知识呢?

10月13日晚20:00 - 21:00 资深测试架构师、开源项目作者亲授 BAT 大厂前沿技术,精准化测试之测试用例与代码关联。带你一站式 hold 住精准化测试。

⬇️ 点击“下方链接”,提升测试核心竞争力!

>>更多技术文章分享和免费资料领取

标签:黑盒,覆盖率,代码,jar,--,测试,jacoco,精准
From: https://www.cnblogs.com/Tester-muller/p/16646263.html

相关文章

  • 史上最全 Appium 自动化测试从入门到框架实战精华学习笔记(三)
    ⬇️点击“下方链接”,提升测试核心竞争力!>>更多技术文章分享和免费资料领取本系列文章汇总了从Appium自动化测试从基础到框架高级实战中,所涉及到的方方面面的知识点精华......
  • 如何在保护用户隐私的同时实现精准广告投放?
    用户在浏览App的页面时,如果经常跳出来不喜欢的弹窗广告不仅损害用户的浏览体验,也让用户对广告内容产生反感。作为App的营销人员,线上投放广告时如何精准捕捉用户需求,同时不......
  • pyest+appium实现APP自动化测试,思路全总结在这里
    每天进步一点点,关注我们哦,每天分享测试技术文章本文章出自【码同学软件测试】码同学公众号:自动化软件测试,领取资料可加:magetest码同学抖音号:小码哥聊软件测试01appium......
  • 【iOS自动化测试】第一章:方案调研
    背景目前Android端已完成了相应的框架搭建,并实际落地产出了,由于Android使用的是Unittest+HtmlTestRunner产出报告,需要增加新功能的话需要改动到底层框架,所以目前在负责的i......
  • Python实现XMind测试用例快速转Excel用例
    转载请注明出处❤️作者:测试蔡坨坨原文链接:caituotuo.top/c2d10f21.html你好,我是测试蔡坨坨。今天分享一个Python编写的小工具,实现XMind测试用例转Excel用例。前言XMi......
  • 利器 | AppCrawler 自动遍历测试实践(三):动手实操与常见问题汇总
    ⬇️点击“下方链接”,提升测试核心竞争力!>>更多技术文章分享和免费资料领取上两篇文章介绍了自动遍历的测试需求、工具选择和AppCrawler的环境安装、启动及配置文件字......
  • 移动测试学习
    移动测试一、兼容性测试1、WEBWEB:EDGE,Chrome,Firefox,苹果浏览器移动互联网:UC浏览器,QQ浏览器2、APP①、操作系统:需要考虑APP在主流平台上的页面展示和样式的加载,目前考......
  • 移动测试Ⅱ
    功能测试点用户使用习惯权限问题硬件问题比如双卡双待、摄像头、GPU等。操作习惯用户常用的有菜单键、Home键、返回键、Home键长按(显示当前进程列表)、调整音量、待机......
  • 移动测试
    移动APP测试首先搭建android-sdk环境1.搭建安卓环境,首先确保java环境ok。2.下载androidsdk文件后,解压androidsdk,进入到文件里面,可以看到如下的截图:   3.打......
  • 专项测试实战 | 如何测试 App 流畅度(基于 FPS 和丢帧率)?
    ⬇️点击“下方链接”,提升测试核心竞争力!>>更多技术文章分享和免费资料领取FPS和丢帧率可以在一定程度上作为APP流畅度的一项衡量标准,本文介绍利用adbshelldumpsys......