一种多模态图像匹配方法、系统、终端设备及存储介质

专利主权项内容

1.一种多模态图像匹配方法，其特征在于，包括：对光学图像和SAR图像进行自监督特征提取，得到所述光学图像和所述SAR图像之间的可重复特征点；根据所述可重复特征点将所述光学图像和所述SAR图像分割成第一图像块序列，并通过双分支网络对所述第一图像块序列进行特征提取，分别得到所述光学图像和所述SAR图像的特征描述向量；所述双分支网络包括用于提取全局特征的第一分支网络和用于提取局部特征的第二分支网络；根据所述特征描述向量对所述光学图像和所述SAR图像进行特征匹配，以得到所述光学图像和所述SAR图像之间的匹配点对；所述对光学图像和SAR图像进行自监督特征提取，得到所述光学图像和所述SAR图像之间的可重复特征点，包括：将光学图像和SAR图像组成SAR-光学图像对；对所述SAR-光学图像对进行自监督学习，获得关键点得分图；根据所述关键点得分图构建损失函数，并利用所述损失函数优化所述自监督学习，以学习到所述光学图像和所述SAR图像之间的可重复特征点；所述根据所述关键点得分图构建损失函数，包括：将所述关键点得分图划分为第二图像块序列；所述第二图像块序列包括SAR图像块序列和光学图像块序列；基于所述第二图像块序列构建损失函数；所述损失函数包括第一损失函数、第二损失函数和第三损失函数；所述第一损失函数采用如下公式表示：其中，I表示SAR图像，I表示光学图像，U表示仿射变换，Score(i)表示光学图像块序列的第i个图像块，ScoreU(i)表示SAR图像块序列的第i个图像块，m表示第二图像块序列的图像块数量；soos所述第二损失函数采用如下公式表示：其中，I表示SAR-光学图像对，Score(i)表示第二图像块序列的第i个图像块；所述第三损失函数采用如下公式表示：L＝1-[APScore+γ(1-Score)]3ijijij其中，AP表示SAR-光学图像对(i, j)位置像素对应的平均精度，Score表示SAR-光学图像对(i, j)位置像素对应的得分，γ表示超参数；所述平均精度表示SAR-光学图像对对应位置像素的特征描述向量之间的相似程度；ijij将所述第一损失函数、所述第二损失函数和所述第三损失函数进行加权求和，得到所述损失函数。