首页 > 其他分享 >DDS协议测试实践及问题分析

DDS协议测试实践及问题分析

时间:2024-04-11 11:26:01浏览次数:19  
标签:功能 QoS DDS 实践 接口 开源 测试

在上一篇文章中,我们对 DDS 协议测试的策略、方法和工具进行了详细的介绍。本文旨在进一步探讨如何利用这些方法和工具搭建实际的测试环境,并执行测试,进而揭示可能遇到的各类问题。

 

 

被测协议栈简介

 

 

在本次测试中,被测协议栈选择了一个在汽车行业内广泛使用的开源 DDS 产品。

 

近年来随着开源软件社区的不断发展和成熟,越来越多的整车厂在选择 DDS 协议栈实现时,开始青睐开源产品。相比商业化的 DDS 协议栈,开源产品具有显著的成本优势。此外,使用开源产品还可以让整车厂获得更大的自主可控性,以便根据自身需求对协议栈进行定制和优化。

 

然而天下没有免费的午餐,选择开源 DDS 协议栈也意味着使用者必须承担起产品质量的责任。与商业化产品不同,开源产品通常没有专门的团队负责质量保证。因此,开源 DDS 协议栈的使用者必须投入额外的精力和资源,甚至组建专门的软件团队,来全面评估、测试和维护所选择的开源产品,以确保其功能和性能满足汽车行业的严苛要求。

 

在本篇文章中我们试图准确地识别出可能存在的问题,希望为汽车行业用户在选择开源 DDS 协议栈时提供实用的参考。

 

 

 

测试环境搭建

 

 

被测的 DDS 协议栈部署在一台运行 Ubuntu 操作系统的 x 86 服务器上。这种部署方式能够为 DDS 协议栈提供一个简单、稳定,且一致的运行环境,避免资源或网络配置错误等原因导致的测试结果不可信。

 

同时,为了全面评估 DDS 协议栈的功能和性能,我们在 DDS 之上部署了两个专门设计的测试应用程序。这两个应用程序的主要目的是模拟真实场景下的应用程序对 DDS 接口的调用,以验证 DDS 能够正确地处理各种请求并返回预期的结果。通过这种方式, 可以全面检验 DDS 的接口是否符合 OMG DDS 标准,以及是否能够满足汽车行业的特定需求。

 

为了实现对测试过程的自动化控制和管理,我们在上位机中开发了一套专门的测试脚本。这些脚本负责向 DDS 测试应用程序发送各种测试指令,根据预定的逻辑对测试应用程序的行为进行编排和调度。测试过程全自动化,无需任何人工干预,能够确保测试过程的一致性和可重复性。

 

此外,为了方便工程师对测试用例进行管理和监控,上位机软件还提供了一个直观的图形化界面。通过这个界面,测试人员可以轻松地创建、编辑和组织测试用例,并实时监控测试的执行状态和结果。

 

  图1: DDS测试环境搭建  

需要强调的是,测试环境可以根据用户的具体需求进行灵活地配置。比如将 DDS 测试程序部署在一个或多个真实的 ECU 中,以帮助我们发现系统性的网络配置问题、兼容性问题或性能问题等,包括防火墙、IP 地址、端口号、TSN 约束、时间同步、网络拓扑结构问题,DDS 中间件与不同硬件和软件平台之间的兼容性问题,也包括吞吐量、延迟、资源占用等指标。从而全面评估 DDS 分布式系统在实际应用场景下的可靠性、兼容性和性能表现,为系统的开发和优化提供重要的依据。

 

 

测试用例介绍

 

 

测试用例覆盖了 OMG DDS 规范中定义的所有软件接口,共 406 条测试用例,内容如下:

  • 接口行为测试,包括正常调用时的行为测试,以及错误调用的故障行为测试,共计 353 条用例
  • QoS 测试,即 OMG DDS 中定义的各项 QoS 的功能测试,共计 53 条用例

关于性能测试,由于 DDS 的性能很大程度上取决于硬件平台的性能和资源情况,以及操作系统的调度和管理机制,故在测试服务器中得到的性能测试结果与实际系统的性能表现可能相差很大,故本次测试不包含性能测试。

 

测试结果分析

 

概览

 

本次测试共计执行 406 个测试用例,通过194个,失败 212 个,通过率为 47.78%。如下为各模块的通过情况。

 

  图2: 测试结果概览

 

问题示例

 

功能缺失

 

如下表格列出了部分当前版本 DDS 缺失的接口。这些缺失的接口对于 DDS 分布式系统的功能和性能具有直接或间接的影响。重要的是,开发者文档可能并未明确指出这些接口功能的缺失,这种情况可能会对系统的稳定性和可靠性带来潜在风险。因此,用户在使用 DDS 时需要对这些潜在的缺陷保持警觉,并采取相应的预防措施。此外,用户应当积极参与开源社区讨论,关注产品的更新日志,以便及时了解和补充这些关键接口的功能,从而降低系统运行中的不确定性和风险。

表 1: 功能缺失问题示例

 

涉及接口或功能

问题描述

get_discovered_participants
get_discovered_participant_data

这是两个与发现机制相关的接口,它们用于获取有关在 DDS 域中发现的 DomainParticipant 的信息,如 QoS 策略、名称等。这使得应用程序能够查询和了解其他 DomainParticipant 的配置和能力。被测 DDS 缺失此功能。

ignore_participant
ignore_publication
ignore_subscription

允许应用程序在 DDS 域中动态地忽略特定的DomainParticipant、Publication或Subscription,从而细化和优化数据分发的过程。这些操作的主要目的是为了提高效率和性能,通过减少不必要的数据交换来节省资源。被测 DDS 缺失此功能。

begin_coherent_changes
end_coherent_changes

允许Publisher以一种一致的方式进行一系列数据变更,确保这些变更作为一个整体被Subscriber接收和处理,从而维护数据的一致性和完整性。主要影响 Presentation QoS 的功能。被测 DDS 缺失此功能。

copy_from_topic_qos

该接口用于将一个对象的QoS设置复制到另一个对象。被测 DDS 缺失此功能。

create_datawriter 的 DATAWRITER_QOS_USE_TOPIC_QOS 特性

在创建 DataWriter 时直接使用主题 QoS。被测 DDS 缺失此功能。

...

...

 

 

图3: 功能缺失问题的测试报告示例

 

行为错误

 

当开发者根据官方文档调用特定 API 时,软件表现出的行为与文档描述不一致。这种不一致性可能表现为返回错误的结果、触发未预期的副作用或完全无响应。这种情况下,开发者不得不投入大量的时间去排查和定位问题。

 

表 2:API 行为错误示例

 

涉及接口或功能

问题描述

lookup_instance

这个接口返回一个特定数据实例的句柄(handle)。这个句柄唯一地标识了一个数据实例,此接口没有返回正确的句柄。

set_default_topic_qos
get_default_topic_qos

这两个接口用于设置或获取默认的 QoS 策略,当设置错误的 QoS 时,却能够返回成功,或获取的值与设置的值不一致

wait_for_acknowledgments

针对可靠传输的数据,这个接口用于等待至所有之前发送的数据被 DataReader 接收,而实际情况是,当数据未被接收时,此接口并未阻塞至超时就返回了。

get_liveliness_lost_status

get_liveliness_lost_status 允许 DataWriter 获取有关其活跃性丢失(liveliness lost)的状态信息。即当 DataWriter 没有在预定的时间间隔内向订阅者声明其活跃性时,这个接口提供活跃性丢失的次数。实际情况是该接口并没有返回正确的次数。

TimeBasedFilterQos

TimeBasedFilterQos 是一种 QoS 策略,用于控制 DataReader 接收数据样本的最小间隔时间。这个 QoS 策略旨在减少应用程序处理数据的负担,特别是在数据发布速率远高于应用程序处理能力时。实际情况是 DataReader 没有按照规则来过滤数据。

...

...

图4: 行为错误测试报告示例

 

异常终止

 

此类问题指的是当应用程序在某些场景下调用特定接口时,DDS 中间件出现异常终止。这类问题的严重性在于其难以被发现、排查和修复。问题的隐蔽性在于异常通常只在特定的条件下触发,这些条件可能包括特定的数据模式、并发级别或资源使用情况,使得在常规测试中难以触发和识别。同时,即使问题被成功识别,修复工作也同样困难重重,这需要精确修改复杂的代码逻辑,还需要确保不会对 DDS 的其他功能造成负面影响。

由于 DDS 中间件作为系统的基础软件,其稳定性对整个系统的运行至关重要。同时,基础软件的不稳定性会对上层应用和最终用户产生连锁反应,极大地影响整个系统的质量和用户体验。因此,解决 DDS 中间件的异常终止问题,不仅是提升软件质量的技术挑战,也是确保系统整体稳定性和可靠性的重要一环。

表 3: DDS 软件异常终止问题示例

涉及接口或功能

问题描述

find_topic

创建一个名为"TopicName"的主题。随后创建一个 DomainParticipant(DP),并启动线程。DP 调用 find_topic 搜索名为"TopicName"的主题,设置超时时间为 10 秒,等待至超时结束后删除所有创建的实体。在最后删除 DP 时 DDS 异常终止。

create_datareader
create_datawriter

调用 create_datawriter/create_datareader 时,参数使用空值,此时 DDS 异常终止。

get_datareaders

调用 get_datareaders 时,使用带 Key 的类型作为传入参数,此时 DDS 抛出内存不足异常。

notify_datareaders

配置 DPFQos 的 entity_factory. Autoenable_created_entities 属性为 false,确保创建的实体默认状态为未使能。接着,DPF 调用 set_qos 来设置 qos 参数,然后创建包括 DomainParticipant、Publisher、Subscriber、Topic、DataWriter、DataReader。之后调用 Sub 的 notify_datareaders 接口,此时 DDS 异常终止。

on_offered_deadline_missed

触发 Deadline Missed 场景,on_offered_deadline_missed 接口崩溃。

...

...

 

 

总结

 

 

经过本篇文章的介绍,相信读者已经对DDS的协议测试以及可能存在的问题有了大概的了解。

 

在敏捷开发模式下,软件需求不断增加,软件系统的规模和复杂度也在不断增长。然而,许多关键问题(尤其是性能问题)只有在软件达到一定规模和复杂度后才会暴露出来。一旦发现这些问题,修复的成本往往非常高昂,因为任何基础软件的改动可能会影响到整个系统,牵一发而动全身。

 

相比之下,如果在项目早期就能够模拟实际的应用场景,并对 DDS 进行全面的功能和性能测试,开发团队可以深入了解 DDS 的行为特点,甚至软件缺陷,识别性能瓶颈,从而及时调整设计,优化实现。这种“前置”的测试方法不仅能够显著降低后期的修复成本,能够提高整个系统的质量和可靠性,帮助系统应对未来的挑战。

 

本文介绍了南京臻融科技有限公司(以下简称“臻融科技”)开发的DDS协议测试工具。臻融科技在过去十年里,一直致力于DDS产品及其相关工具链的自主研发,并且在国内关键行业领域取得了最高的市场份额。这款DDS协议测试工具在DDS研发过程中已经历了近十年的不断迭代,证明了其产品的成熟性和可靠性。臻融科技与北汇信息的合作,旨在将这套工具引入汽车行业,以协助客户建立DDS测试能力,提供高品质的测试服务和相关培训,进而加快DDS在汽车行业的推广和应用。

 

翻译

搜索

复制

<iframe></iframe>

标签:功能,QoS,DDS,实践,接口,开源,测试
From: https://www.cnblogs.com/polelink/p/18128455

相关文章

  • 【微服务-应用性能监控】SkyWalking最佳实践
    上一篇我们掌握了基于Sleuth+Zipkin对微服务架构实施基于日志的链路追踪,通过Sleuth在微服务应用中附加链路数据,再通过Zipkin实现链路数据收集与可视化,从而保证开发与运维人员在生产环境了解微服务的执行过程与具体细节,为产品运维提供了有力的保障。本篇文章咱们还是......
  • openGauss与PostgreSQL对比测试SSL之自签名CA证书单向认证测试
    openGauss与PostgreSQL对比测试SSL之自签名CA证书单向认证测试本文测试自签名CA证书的单向认证:客户端只验证服务器证书的有效性,而服务器端不验证客户端证书的有效性。服务器加载证书信息并发送给客户端,客户端使用根证书来验证服务器端证书的有效性。服务端证书的客户......
  • 基于junit的单元测试类编写
    首先定义抽象类BaseTest12345678910111213141516171819202122232425package com.geostar.gfstack.operationcenter.common.util; import com.google.gson.Gson;import com.google.gson.GsonBuilder;import org.junit.runner.RunWith;......
  • zk实践操作
    1.入门基础应用场景ZooKeeper主要服务于分布式系统,可以用ZooKeeper来做:统一配置管理、统一命名服务、分布式锁、集群管理。使用分布式系统就无法避免对节点管理的问题(需要实时感知节点的状态、对节点进行统一管理等等),而由于这些问题处理起来可能相对麻烦和提高了系统的复杂......
  • DevExpress WinForms中文教程 - 如何通过UI测试自动化增强应用可靠性?(二)
    DevExpressWinForm拥有180+组件和UI库,能为WindowsForms平台创建具有影响力的业务解决方案。DevExpressWinForm能完美构建流畅、美观且易于使用的应用程序,无论是Office风格的界面,还是分析处理大批量的业务数据,它都能轻松胜任!UI自动化测试利用特定的工具/框架来模拟用户与界面的......
  • 肖sir__jmeter 之接口测试16.0)
    一、实战1、jmeterpost请求(1)添加线程组  (2)添加http请求  (3)编辑http请求  (4)在监听器中添加查看结果树:如下  (5)运行接口  (6)断言  (5)断言内容  2、jmeterget请求  二、依赖关系的接口案例:1、登录接口url:POSThttp://cms.duoceshi.cn......
  • 基于LEAP模型的能源环境发展、碳排放建模预测及不确定性分析实践应用
     在国家“3060”碳达峰碳中和的政策背景下,如何寻求经济-能源-环境的平衡有效发展是国家、省份、城市及园区等不同级别经济体的重要课题。根据国家政策、当地能源结构、能源技术发展水平以及相关碳排放指标制定合理有效的低碳能源发展规划需要以科学准确的能源环境发展预测模型......
  • 软件工作四则运算测试
    沈阳航空航天大学软件工程第二次作业院(系):计算机学院专业:计算机科学与技术班级:-学号:-姓名:-带队教师:-2024年4月7日作业信息 沈阳航空航天大学计算机学院2024软件工程作业课程目标 熟悉一个“高质量”软件的开发过程作业目标 单元测试练习请......
  • 【测试开发学习历程】python迭代、可迭代对象、迭代器、生成器
    1迭代Iteration迭代Iteration:所谓迭代就是重复运行一段代码语句块的能力,就好比在一个容器中进行一层一层遍历数据,在应用过程中for循环最为突出。迭代就是从某个容器对象中逐个地读取元素,直到容器中没有元素为止。迭代迭代,更新换代,在上一次基础上更新成新的东西。#使用for循......
  • 【测试开发学习历程】python高阶函数
    目录1map()函数2reduce()函数3filter()函数4sorted()函数1map()函数map()函数语法:map(function,iterable)参数:function:函数iterable:一个或多个序列返回值:迭代器对象作用:map()是Python内置的高阶函数,它接收一个函数function和一个iterable,并通过把......