首页 > 其他分享 >多模态学习之论文阅读:《Systematic comparison of deep-learning based fusion strategies for multi-modal ultrasoun

多模态学习之论文阅读:《Systematic comparison of deep-learning based fusion strategies for multi-modal ultrasoun

时间:2024-08-22 09:16:06浏览次数:13  
标签:模态 comparison based 样本 融合 learning CEUS 数据 超声

《Systematic comparison of deep-learning based fusion strategies for multi-modal ultrasound in diagnosis of liver cancer》 -2024.10  NEUROCOMPUTING 影响因子7.9

(一)多模态数据构成

研究设计了“病变配对”方法来构建数据集,包括B模式超声、剪切波弹性成像(SWE)和对比增强超声(CEUS)数据,以及临床数据。研究中收集了自2021年9月至2022年12月期间接受超声检查的患者。共纳入86名患者,包括57名肝细胞癌(HCC)患者和29名肝内胆管癌(ICC)患者,数据包括B模式、SWE和CEUS图像,以及与超声检查日期最接近的血液检测生物标志物和每个患者的临床数据,包括肝炎指数和肿瘤生物标志物。

 

(二)数据可获取性

数据将在请求后提供(中山大学第一附属医院的超声数据库)。

研究者设计了“病变配对”(Lesions Pairing)的方法来构建数据集,以解决多模态学习中样本量小的挑战。然后系统地比较了基于深度学习的多模态超声在肝癌诊断中的融合策略,并在比较了整合B超、SWE、CEUS超声数据和临床数据的多模态框架的结果基础上,提出了用于诊断肝细胞癌和肝内胆管癌的基于传统层级融合的混合融合策略。这些策略可以有效地提取模态内和模态间的信息。

(三)数据集规模

总样本量:共1147个样本,每个样本包括B超、剪切波超声、CEUS和临床文本模态。

训练集:包括852个多模态超声样本对(598个HCC配对样本和254个ICC配对样本)。

测试集:包括295个多模态超声样本对(201个HCC配对样本和94个ICC配对样本)。

(四)CEUS超声数据处理策略

动脉期采样

数据采集:从病变增强开始采集数据,以每秒3帧的速率连续采集10秒,共获得30帧。

时间范围:采集不一定延伸到动脉期的30秒标记。

门脉期采样

持续时间:门脉期从第30秒开始,持续到120秒。

数据采集:从30秒标记开始,继续以每秒1帧的速率采集15秒,共获得15帧,覆盖30至45秒的时间间隔。

延迟期采样

开始时间:延迟期从120秒后开始。

数据采集:以每秒1帧的速率采集15秒,获得15帧。

(五)实验步骤

特征提取:

l B超和SWE数据采用AlexNet、VGG16、ResNet-18、、ResNet-150、Inception-v3、DenseNet等网络提取特征

l CEUS序列数据采用3D-CNN、ConvLSTM网络提取特征

 

l 临床数据采用MLP多层感知机网络提取特征

多模态融合网络设计

输入层融合

 

早期融合

 

中期融合

 

晚期融合

 

早中晚4种集成策略下的融合

 

 

(六)实验结果

实验结果显示,混合融合策略在没有临床数据的情况下,早期-中期-晚期融合表现最佳;

 

而在有临床数据的情况下,早期-晚期融合表现最佳。关键数据显示,早期-晚期融合结合临床数据的AUC提高了13.8-25.88%,准确率提高了2.22%-9.79%。

 

标签:模态,comparison,based,样本,融合,learning,CEUS,数据,超声
From: https://www.cnblogs.com/wkang/p/18373021

相关文章

  • A 12nm 121-TOPS/W 41.6-TOPS/mm2 All Digital Full Precision SRAM-based Compute-in
    1b*4b的操作是通过4b或非门乘法器完成,然后再通过4b加法器两两相加。但是从真值表上来看,2个4b或非门乘法器加1个4b加法器完成的工作实际上可以通过一个由加法器和两比特IN控制的四选一Mux(或者说LUT)来完成。这样做的话可以直接节省掉21%的功耗。提出的这个并行多位输入结构下(即并......
  • A 4nm 6163-TOPS/W/b 4790-TOPS/mm2/b SRAM Based Digital-Computing-in-Memory Macro
    SRAMarray和Localadder耦合在一起形成一个块,两个块share一个semi-global-adder,四个块再去shareGlobaladder和移位累加器。这样的floorplan使得整体结构上不存在一大块独立的巨型多级加法树,使得布局变得更加的规整。这里讨论了mix-Vt设计的问题,即混用高Vt管子和低Vt管子,高Vt......
  • An 89TOPS/W and 16.3TOPS/mm2 All-Digital SRAM-Based Full-Precision Compute-In Me
    权重是4bit的CIM结构图:激活值是4bit的做法是:以MSB-first的方式串性送入,然后通过移位加计算不同数位的和累加器就是一个移位累加结构,其中具有对符号位的处理机制,这里是补码机制。如果符号位是0,直接原码做符号位拓展加进去,如果符号位是1,取反加1原码转成补码之后加进去。减少......
  • java.lang.IllegalArgumentException: Comparison method violates its general contr
    代码:publicstaticvoidwbsSort(List<SendMessageEntity>sendMessageEntityList){Collections.sort(sendMessageEntityList,(o1,o2)->{StringwbsCode1Temp=o1.getWbsCode();StringwbsCode2Temp=o2.getWbsCode();......
  • 【公式推导】Elucidating the Design Space of Diffusion-Based Generative Models 【
    ElucidatingtheDesignSpaceofDiffusion-BasedGenerativeModels论文精读关注B站可以观看更多实战教学视频:hallo128的个人空间【更新中】EDM论文精读论文链接(1)论文:ElucidatingtheDesignSpaceofDiffusion-BasedGenerativeModels(2)引用:KarrasT,Aittala......
  • ES(evolution strategy)进化策略、RL(reinforcement learning)强化学习
    进化策略进化策略可被视为这样一个过程:从个体构成的群体中采样并让其中成功的个体引导未来后代的分布。如图中,一个白色箭头是由黑点中的优胜个体引导。策略作用方式以交叉熵CEM(一种进化算法)为例:算法先随机初始化参数和确定根据参数生成解的规则,根据参数生成N组解并评价每组解......
  • 京粉智能推广助手-LLM based Agent在联盟广告中的应用与落地
    一、前言拥有一个帮你躺着赚钱的助手,听起来是不是有点心动?依托于京东联盟广告平台,借助AIGC大语言模型出色的理解、推理、规划能力,我们推出了京粉智能推广助手机器人,帮助合作伙伴拥有自己的智能助理,为京东联盟的推客提供更加智能的一站式经营服务。1、京东联盟是什么?《京东联盟......
  • SciTech-BigDataAIML-Machine Learning Tutorials
    MachineLearningTutorialsMachineLearningTutorialsThispagelistsallofthemachinelearningtutorialsavailableonStatology.IntroductiontoMachineLearningSupervisedvs.UnsupervisedLearningRegressionvs.ClassificationAlgorithmsTheBias-Var......
  • 论文笔记:GeoShapley: A Game Theory Approach toMeasuring Spatial Effects in Machin
    (GeoShapley:机器学习模型中测量空间效应的博弈论方法)话题点:geoshapley、XAI、空间效应、非线性一、引言机器学习和人工智能(AI)越来越多地用于模拟地理空间现象,在各个领域都有很好的表现。可解释人工智能(XAI)领域的最新进展为解释黑箱机器学习提供了一种解决方案。排列特征......
  • 吴恩达深度学习deeplearning.ai学习笔记(二)2.6 2.7 2.8 2.9 2.10
    2.6动量梯度下降法这种算法运行速度总是快于标准的梯度下降算法,基本思想是计算梯度的指数加权平均数并利用该梯度来更新你的权重;假设你要优化一个下图的成本函数,红点是最小值,假设从一点开始进行梯度下降法,如果进行梯度下降法的第一次迭代,无论是batch还是mini-batch,可能都会......