本研究提出了一个交互式多尺度注意力融合模型,结合稀疏特征卷积网络,以提升卫星图像变化的检测能力。该方法利用多尺度特征提取、选择性关注注意力和稀疏卷积,通过降低计算复杂度,有效检测和定位双时空卫星图像的变化。
Method Article
本研究提出了一个交互式多尺度注意力融合模型,结合稀疏特征卷积网络,以提升卫星图像变化的检测能力。该方法利用多尺度特征提取、选择性关注注意力和稀疏卷积,通过降低计算复杂度,有效检测和定位双时空卫星图像的变化。
利用双时空卫星影像进行变化检测是地球监测中的一个重要问题,旨在识别和定位时间采集之间的表面变化,并区分季节性周期、大气因素或人为发展带来的实际伪变化。当前深度学习方法通常存在单向偏差,限制了大规模空间关系的可用性,难以正确描述变化模式。尽管基于变换器的技术高度准确,但其计算需求也相当大,因此限制了它们在资源受限任务中的应用。针对这些局限,本文提出了基于幽灵模块的交互式多尺度注意力融合(IMAF)网络,采用稀疏特征卷积(SFC),以实现有效的多尺度特征提取。该网络采用先进的编码-解码架构,辅以不同尺度的交互式注意力模块。该网络采用互补的正向和后向注意力流:前者记录渐进的时间变化,后者通过反向时间分析验证变化的一致性。这种交互式方法能够有效表示双工模型的时间关系,同时不负担计算负担,大大提升了区分合法土地覆盖迁移与噪声无噪声变化的方法。测试了两个基准数据集:Onera卫星变化检测数据集(OSCD)和SZTAKI AirChange数据集。在OSCD数据集上的重大实验显示,所提方法仅有213万参数,19.6G的FLOPS,参数数为19.6倍,推理周转率为5.6倍,均有竞争力地达到F1效率58.14%(13通道)和50.68%(3通道),相比ChangeFormer。 在SZTAKI数据集的Szada/1和Tiszadob/3测试集样本中表现优异,F1得分分别为74.29%和92.86%,使得在最依赖计算能耗的边缘设备、实时分析和广泛地图系统中实现成为可能。
全球环境前所未有的城市化程度、环境资源流失以及气候导致的景观变化,直接促使人们必须建立一个精确、及时且自动化的监测系统,以识别和测量地球表面的变化。卫星遥感已成为大规模环境监测的基本组成部分,因为它们不仅能提供持续的时间和空间覆盖,还在全面分析变化中至关重要。双时空卫星影像变化检测是对同一地理区域两次连续采集之间表面变化的描述。不过,这一过程很复杂,因为涉及众多混杂变量,包括季节变化、天气状况、传感器属性、几何畸变以及可能遮蔽或接近真实土地覆盖的现象学变化。目前使用的卫星图像人工图像解读耗时且主观,且不适合应对当前卫星星座不断增长的地球观测信息量。这正是导致自动变更检测解决方案诞生的基本限制。传统的基于像素的1 和基于对象的变化检测2 的方法通常不适合在这些复杂性限制内运行,且其鲁棒性标准较低,难以适用于广泛的地理单位和时间尺度。深度学习架构,特别是卷积神经网络及其变体,能够提取代表低层次频谱细节和高层语义模式的层级特征,这些特征有助于区分变化。深度学习变化检测模型已被证明在捕捉遥感数据中潜在的时空变化,以及识别真实土地覆盖与由外部因素引入的伪变化方面具有极大前景。这些端到端学习方法利用了特征可以提取并一次性进行最佳分类的事实。尽管变更检测精度取得了显著进步,但大多数现有方法在实际作环境中仍然难以部署。基于变换器的方法3虽然在全球范围内高效,但参数数量高,计算复杂度平方,推理延迟高,能耗高。另一方面,基于暹罗CNN的架构效率更高,但感受野较小,且大部分缺乏全局上下文建模,从而显著降低性能。在大规模且资源有限的环境中,这些限制进一步加剧,可扩展性和运营成本是关键考量。在应急响应环境中,可扩展性、能效性和推断速度往往至关重要,因此需要创造平衡性能与可部署性的解决方案。因此,注重准确性的计算密集型模型与实际部署需求之间存在差距。
为克服这些问题,提出了一种带有稀疏特征卷积(SFC)网络的交互式多尺度注意力融合(IMAF),重点设计高效且可部署的变化检测框架,而非单纯的准确性优化。该方案主要聚焦于光学卫星图像对,通常是RGB或高分辨率多光谱图像(0.5-30米分辨率),由卫星(如Landsat、Sentinel-2或WorldView)获取。该技术假设双时序对的几何共配精确,因为配准误差也会对检测产生相当大的影响。它处理二元变更检测(与多类语义变更相对),无法区分各种变更类型。更重要的是,该方法利用放射性校正图像,减少季节性、大气和照明变化的影响,这些变化容易被误认为是土地覆盖变化。与传统的暹罗卷积神经网络4(通过简单连接分离双时空图像)不同,所提议的IMAF模块允许多尺度上下文融合全球和局部特征。近期基于变换器的方法,如BIT5和ChangeFormer3取得了非常好的效果,但它们的自关注机制复杂度为O(N2)。该框架通过双向关注捕捉细微变化,降低计算复杂度和推理延迟。此外,所提设计具备稀疏感知能力,优于密集多尺度聚变设计,如UNet++6、7和SNUNet8。与幽灵模的稀疏特征卷积可将FLOP减少约50%,保持表示质量。因此,所提框架在资源有限环境中的可靠部署倾向于在准确性与效率之间权衡。
本研究的主要贡献包括:(i)一种轻量级变化检测器,使用比基于变压器的19倍少参数,达到具有竞争力的F1分数。(ii) 一个交互式多尺度注意力融合模块,能够在没有传统自注意机制的二次计算成本的情况下获得全局上下文信息。(iii) 基于Ghosts模的特征稀疏度卷积方案,该方案在特征表示中无质量下降的情况下,浮点运算最小化了49.4%。(iv) 对大量基准数据集进行广泛的实验验证,效率与准确性在权衡上更优,且在实际应用中具有合理的可行性。
本手稿的其余部分包括以下部分:第二部分对二元变更检测方法的最新工作进行了广泛概述,特别关注深度学习解决方案及其在标准基准上的实施情况。第三部分介绍了所提出解决方案的理论背景和结构设计、时间融合机制及注意力元素的数学表示、实验装置特性、数据集、评估指标以及实现细节,以实现可重复性研究。第四节展示了详细的实验发现,包括消融、与最新的二元变化检测算法的比较,这些算法解释了OSCD和SZTAKI Airchange数据集中不同地理区域的容量。第5部分确定了研究结果、当前方法的局限性以及未来在变化检测研究中的可能。
遥感中变化检测算法的发展已从基于像素的方法向深度学习框架发生了巨大变化。早期的变化检测方法主要基于代数过程,如图像差分、图像分配和变化矢量分析,这些过程直接通过像素值检测时间变化 9,10。开发了涉及分类后比较的替代方法,即对每张时间图像进行独立分类,然后与交叉表11进行比较。基于对象的变化检测技术代表了空间上下文的引入以及像素级噪声的缓解,标志着重要的进步 2,12。
深度学习技术的出现彻底改变了遥感变化检测领域,并为克服传统技术中的诸多限制铺平了道路。近年来,卷积神经网络(CNN)已成为自动化特征提取和分类变更的标准架构13,14。暹罗巢状UNet用于变更检测14和暹罗Swin-Unet15因其密集连接的暹罗网络拓扑而成为一项重要创新,有助于有效保留网络层级中的定位信息。
高分辨率光学遥感中双时位变化检测的问题因多种混杂因素仍难以解决,基于注意力的多尺度变换器网络及其复杂特征融合策略已被提出。EGMT-CD框架提出了异构图像对的边缘引导多模变换器,由于云量覆盖,同源图像无法访问。像DASUNet这样的架构突破了全规模特征融合中的手动深度学习瓶颈,在CDD数据集上,使用改进梯度流18,F1指数提升比SNUNet-24高出0.85%。混合CNN-变换器模型通过在频率成分上增加额外成本来处理假阴性问题,以更高的成本解决19。然而,混合U型变压器网络20仍然难以实现局部-全球特征的整合和周期性区域变化,即使是在小规模上。多任务语义变化检测以及精确位置和类别识别的使用比二元任务更为复杂21,22。双时相关系可以通过交叉注意成功建模,而无需显著的结构性变化14,23。透视语言范式表达也是近期的前沿,基于CLIP的设计将文本解释结合进变化对应,24和半监督模式消除了对标记数据的依赖。Change Mamba提出了时空模型的状态空间模型,26,27。展示了专业注意力方法的不同应用:包括高光谱异常检测28、多区域目标分类29或有限标签分割30,并展示了遥感分析中注意力机制的灵活性。
| 作者 | 方法/架构 | 技术规格 | 关键创新与发现 / 数据集性能 |
| 辛格,A. [8] | 传统方法 | 基于像素的差分,简称CVA | 数字变更检测框架,多数据集,准确率:65-80% |
| 马斯,J.F. [10] | 排名后 | 独立时间分类 | 比较方法分析、热带影像、开放获取:72-85% |
| Lu 等人 [9] | 传统方法 | 代数运算,CVA,主主体 | 全面的技术比较,多来源,准确率:70-88% |
| 贝内德克 & 西拉尼 [23] | 混合马尔可夫模型 | 多层条件框架 | 概率变化建模,Sztaki AirChange,DA:92.1% |
| 布拉施克,T. [2] | 基于对象的 | 基于细分的分析 | 空间情境整合,各种HR影像,SA:85-92% |
| Chen 等人 [11] | 基于对象的 | 多尺度分割 | 层级对象分析、HR影像、OA:87.3% |
| Zhan 等人 [12] | 暹罗CNN | 5层CNN,核大小3×3 | 深暹罗建筑用于CD,航拍图像,F1:0.847,IoU:0.735 |
| Daudt 等人 [4] | 暹罗FCN | FC-EF,FC-Siam-diff,FC-Siam-conc | 早期/晚期融合策略,OSCD,F1:0.431,IoU:0.276 |
| 彭等人 [26] | UNet++ | 嵌套U-Net,密集跳跃连接 | 多尺度特征聚合,HR卫星,F1:0.753,IoU:0.604 |
| 陈与石 [25] | 时空注意力 | 注意力块,时间建模 | 时空特征学习,LEVIR-CD,F1:0.887,IoU:0.797 |
| 方等人 [7] | SNUNet-CD | 暹罗嵌套UNet,密集连接 | 信息传输优化,LEVIR:F1:0.897,WHU:F1:0.904 |
| Chen 等人 [5] | BIT-CD | ResNet18 + Transformer 编码器 | 二元时间特征学习,OSCD:F1:0.635,LEVIR:F1:0.919 |
| 班达拉与帕特尔 [3] | 变形者 | 分层变换器编码器 | 多尺度变压器注意,OSCD:F1:0.654,LEVIR:F1:0.905 |
| 宋等人 [27] | ACANet(全国联盟) | 轴向注意力 + CNN 主干网 | 高效注意力计算,LEVIR:F1:0.901,WHU:F1:0.913 |
| Shi 等人 [28] | 综述论文 | 综合人工智能方法调查 | 对人工智能方法的系统分析,分析了50+数据集 |
| Li 等人 [14] | AMST-Net | 多尺度变换器,金字塔注意力 | 自适应多尺度特征提取,HR光学图像,mIoU:0.823 |
| Xiang 等人 [15] | EGMT-CD | 边缘引导多模态架构 | 跨模态特征比对、异质对、F1:0.756 |
| 苗等人[16] | 达苏奈特 | 密集监督,全面融合 | 所有解码器级别的深度监督,CDD:F1 比 SNUNet 提升 0.85% |
| Tang 等人 [29] | 暹罗双联 | Swin 变换器 + Unet 融合 | 层级窗口注意,LEVIR:F1:0.923,WHU:F1:0.925 |
| Wu 等人 [18] | 混合U型变压器 | UNet++ 骨干网 + 变换器块 | 全局-局部特征积分,HR图像,IoU:0.851,F1:0.919 |
| Dong 等人 [20] | 变革剪辑 | 基于CLIP的视觉语言 | 多模态语义理解、RS对、语义准确率:94.1% |
| Li 等人 [21] | 半CD-VL | 半监督视觉语言 | 注释要求减少,标签有限,F1:0.889 |
| Chen 等人 [22] | 变革曼巴 | 状态空间模型(SSM) | 线性复杂度、时间建模、比例图像、效率:快3倍 |
表1: 遥感中变化检测方法总结 请点击此处下载此表格。
表 1中展示了以往研究的总结。传统方法有手工设计的特性,不适合复杂的时空变化31,而深度学习架构(UNet、FPN、PSPNet)则涉及计算量高的密集卷积。当前模型缺乏高效的多尺度整合和动态注意力系统。为填补这些空白,本研究提出了采用稀疏特征卷积网络的交互式多尺度注意力融合,旨在捕捉跨尺度的细微变化,同时在遥感中实现计算效率,特别是针对城市和人为结构变化。
Access restricted. Please log in or start a trial to view this content.
1. 伦理声明
2. 材料与设备
3. 数据集准备
4. 预处理
5. 模型构建
,D=C表示特征维度。
都是学习到的投影矩阵。


是其扁平版本;
是注意力增强的特性;A 是注意力矩阵;Dj 是解码器输出;φk,ψ j 是编码/解码块;[·;·]表示按信道连接;Wout 是输出层核。
图1:拟议方法论 请点击此处查看该图的放大版本。

图2:交叉注意力建筑 请点击此处查看该图的放大版本。

图3:交互式交叉注意力架构 请点击此处查看该图的放大版本。
6. 训练程序


7. 评估
Access restricted. Please log in or start a trial to view this content.
所提出的变化检测方法通过使用两个公开基准数据集,与既有基线方法进行评估,以评估其在不同光谱分辨率和环境条件下的表现。实验结果显示,在与假阳性对照的检测准确性平衡上取得了显著提升,特别是展示了该方法能够在相较传统方法下,在保持高回忆率的同时显著提升精度。
...| 数据 | 网络 | 精度(%) | 召回率(%) | F1(%) |
| OSCD-3 频道 | 暹罗。[11] | 21.57 | 79.4 | 33.85 |
| OSCD-3 频道 | EF [11] | 21.56 | 82.14 |
Access restricted. Please log in or start a trial to view this content.
本研究提出了一个互动式多尺度注意力融合变化检测网络,用于检测双时空卫星图像的变化。与单向方法不同,双向注意力机制的整合促进了完整的跨时空特征与特征交互,前向和后向注意力信号互补。前向注意力流的渐进时间变化由注意力差异(即旧到新的时间获取)捕捉,而变化一致性则由识别爆发特征的向后获取系统检查。这种双条状特征已被证明更有效地区分真实的土地覆盖变化和噪音,这被认为是运营变更检测系统中最持久的挑战之一。
对两个具有挑战性的基准数据集的实验测试证实了该方法论在多种地理环境和空间分辨率下的实用性和可行性。该方法在OSCD样本中实现了36.44%的精度,79.67%的召回率,以及50.68%的F1评分,这一成绩在需要全面变更检测的环境中尤为突出,因为遗漏真实的变更相较于误报会产生更高的运营成本。召回能力的提升表明网络在存在小变化时的灵敏度提升且精度相当高,这一特性在环境监测和灾害评估程序中尤为重要,因为必须检测每一次变化的排放。对SZTAKI AirChange数据集的评估进一步证明了该网络的多样性及其在不同复杂度层级和环境条...
Access restricted. Please log in or start a trial to view this content.
作者声明他们没有利益冲突。
该研究未获得任何公共、商业或非营利部门资助机构的具体资助。
Access restricted. Please log in or start a trial to view this content.
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
| CUDA 工具包 | 英伟达公司 | 版本 11.3 | 深度学习计算中的GPU加速 |
| cuDNN | 英伟达公司 | 版本 8.2 | 优化的GPU深度学习库 |
| 英特尔 处理器 | 英特尔公司 | Core i7 10870H | 用于训练和评估所提深度学习模型的计算平台 |
| 数字派 | 开源 | 版本 1.21.0 | 数值阵列处理 |
| NVIDIA GeForce | 英伟达公司 | GTX 1650 Ti(4GB 显存) | 用于加速模型训练的图形处理单元 |
| Onera 卫星变化检测(OSCD)数据集 | ONERA | 公开的光学RGB和多光谱图像数据集,用于训练和评估。 | https://rcdaudt.github.io/oscd/ |
| 蟒蛇 | Python 软件基础 | 3.8版本 | 用于算法实现的编程语言 |
| PyTorch | Meta AI(开源) | 版本 1.12.1 | 用于开发和训练所提模型的开源深度学习框架 |
| Scikit-learn | 开源 | 版本 1.0.2 | 绩效评估指标 |
| SZTAKI AirChange 基准数据集 | 斯塔基 | 公开可用的光学RGB航拍图像数据集,用于训练和评估。 | http://web.eee.sztaki.hu/remotesensing/airchange_benchmark.html |
| 火炬视野 | Meta AI(开源) | 版本 0.13.1 | 数据集加载与图像转换 |
| Windows 操作系统 | Microsoft | 11 | 操作系统 |
Access restricted. Please log in or start a trial to view this content.
Request permission to reuse the text or figures of this JoVE article
Request Permission