APP下载

改进U-Net3+与跨模态注意力块的医学图像融合

2022-12-21王丽芳米嘉秦品乐蔺素珍高媛刘阳

中国图象图形学报 2022年12期
关键词:特征提取模态特征

王丽芳,米嘉,秦品乐,蔺素珍,高媛,刘阳

中北大学大数据学院山西省生物医学成像与影像大数据重点实验室,太原 030051

0 引 言

随着现代医学成像技术的发展,出现了不同模态的成像方式,单一模态的医学图像对于细节的表征具有局限性。针对单模态图像的局限性,临床上将多种模态的医学图像进行融合,可以在保留原始图像特征的同时(Gai等,2019),弥补单模态医学图像的缺陷,展示丰富的细节信息(Veshki等,2021),利于医生对疾病准确地诊断和治疗。医学图像中含有大量能反映病灶情况(Nour等,2020)的深层特征和细节信息,然而这些深层特征却难以捕捉,而且从单模态图像提取特征后再融合,容易丢失融合图像信息完整性(蔺素珍和韩泽,2017),因此,利用当前模态和其他模态特征之间的关系来提取融合所需的深层特征(Mbilinyi和Schuldt,2020),对于多模态医学图像融合来说非常重要。

传统的图像融合方法很难表征融合图像中病变区域的深层特征。例如,基于空间域的融合方法会引起融合图像的光谱和空间失真(Maqsood和Javed,2020);基于变换域融合方法会使图像具有块效应(Yan等,2021)。深度学习在图像融合领域发展迅速,卷积神经网络(convolutional neural network,CNN)作为其重要分支,具有强大的提取特征能力(Jung等,2020;Zhang等,2020b;Nikolaev等,2021)。Liu等人(2017)利用卷积神经网络对聚焦区域进行分类后,生成多聚焦融合图像。但存在融合图像部分信息丢失的问题。Zhang等人(2020a)为避免信息丢失提出了全卷积神经网络的图像融合框架(image fusion based on convolutional ceural cetwork,IFCNN),引入了级联的边界感知卷积网络,但因其卷积核设置单一,导致了深层特征提取困难。……

登录APP查看全文

猜你喜欢

特征提取模态特征
如何表达“特征”
基于Gazebo仿真环境的ORB特征提取与比对的研究
不忠诚的四个特征
一种基于LBP 特征提取和稀疏表示的肝病识别算法
基于HHT和Prony算法的电力系统低频振荡模态识别
基于MED和循环域解调的多故障特征提取
由单个模态构造对称简支梁的抗弯刚度
线性代数的应用特征
Walsh变换在滚动轴承早期故障特征提取中的应用
多模态话语模态的协同及在外语教学中的体现