一种基于大数据框架的SADBO改进MIM-rwkv的气象预报方法

专利主权项内容

1.一种基于大数据框架的SADBO改进MIM-rwkv的气象预报方法，其特征在于，包括以下步骤：获取再分析气象数据、回顾性仿真模拟数据以及气象站点观测数据，使用插值法将站点观测数据插值到再分析数据和回顾性仿真数据的缺失值；对预处理后的再分析数据、回顾性仿真数据及站点观测数据进行标准化处理；部署MinIO对象存储服务框架、WebGIS框架及Kuzzle引擎对处理后的气象数据进行集中式的存储管理、数据处理和可视化操作；构建MIM-rwkv网络模型，使用SADBO群智能优化算法对MIM-rwkv网络模型的初始化参数进行全局寻优，所述MIM-rwkv网络模型的初始化参数包括全连接层深度、层级神经元数量及卷积层的卷积核参数，具体步骤如下：Step1：蜣螂算法将S个种群分为四种不同的代表，每个种群均包含N个代表，每个代表为全连接层深度、层级神经元数量和卷积层的卷积核参数的方案，具体为卷积核尺寸、步长及填充、全连接层深度以及层级神经元数量；Step2：使用模拟退火算法对蜣螂算法进行优化，蜣螂算法中种群各参数及种群各代表行为公式的参数作为模拟退火算法的解空间，步骤如下：Step2.1：设定迭代次数L、目标函数E(x)、收敛条件、初始温度T和初始解x，其中，目标函数为当前解生成的网络结构输出的神经网络RMSE损失函数值，收敛条件为RMSE损失函数值等于设定阈值，初始解为解空间中随机选择的一组解；00Step2.2：在当前温度T下，通过随机扰动的方式，生成一个新解x，计算当前解x和新解x之间的目标函数差值ΔE；**Step2.3：根据目标函数差值ΔE判断是否接受新解；如果ΔE≤0，则新解更优，接受新解，x为当前解；否则，新解劣于当前解，则根据Metropolis准则决定是否接受新解，接受概率为p＝e；*(-ΔE/T)Step2.4：判断是否达到迭代次数或满足收敛条件，如果满足，输出当前解为全局最优解；否则，使用温度调度策略更新获得新的当前温度，公式为T＝β*T，其中，T表示为第k次迭代后的温度，β为衰减系数，重新回到步骤Step2.2；k+1kk使用插值后的再分析数据、回顾性仿真数据及站点观测数据作为模型输入训练获得MIM-rwkv网络模型最佳参数权重，具体包括：对输入数据进行数据嵌入操作，全连接层将输入数据X转换为数据X，全连接层中每个神经元都和前一层的所有神经元均相连；u图拉普拉斯矩阵变换层通过计算归一化拉普拉斯矩阵L＝I-DBD，对L进行特征分解A＝XLX，选择特征分解后的前k个最大特征值和特征向量构建降维数据X；-1/2-1/2Tl其中，I为单位矩阵，B为邻接矩阵，D为度矩阵，A为对焦矩阵；位置编码层对输入数据X进行编码，获得具有位置信息的数据X：loc其中，k为数据的位置索引，d为输入数据的编码维度，P和P分别为在第k位置上的第2i和2i+1的编码；k，2ik，2i+1数据嵌入操作中的三个不同层的输出相加后所得到的数据X即为MIM-rwkv网络模型后续层的输入数据：X＝X+Xl+X；embembulocX输入到卷积及池化层，得到局部空间结构：X＝Conv&Pool(X)；embcp-embembX输入进MIM-rwkv门控单元阵列，MIM-rwkv门控单元阵列处理步骤如下：cp-emb首先归一化层对输入数据进行层归一化操作，输入数据表示为H，层归一化统计量定义为：t-1y＝(x-μ)/σii其中，x为输入数据的第i个特征值，y为归一化后的值，d为输入数据的特征维度；对经过归一化操作后的数据分别进行r、k、v、wkv的类注意力机制的矩阵计算，定义公式为：iir＝W·(μx+(1-μ)x)trrtrt-1k＝W·(μx+(1-μ)x)tkktkt-1v＝W·(μx+(1-μ)x)tvvtvt-1P＝W·(σ(r)⊙wkv)tPtt其中，t表示第t时刻，r、k、v、wkv分别表示接收单元、位置权重衰减单元、键单元和值单元，r、k、v、wkv分别表示r、k、v、wkv单元在t时刻的输出；x为H经过归一化操作后的数据；W、W、W、W分别为r、k、v、wkv单元的权重矩阵；μ表示token-shift，token-shift操作由输入数据x和前一个时序的输入数据x得到，μ、μ、μ分别表示r、k、v单元的token-shift操作的输出值；P为经过rwkv模块后的输出数据，W为输出单元的权重矩阵，σ为激活函数；tttttt-1rkvpostt-1rkvtPMIM-rwkv门控单元模块包括两组功能相同的候选记忆单元g、输入门i、遗忘门f、输出门o，分别表示为g、i、f、o和g′、i′、f′、o′，整体定义公式为：g＝tanh(W*P+W*C+b)tpgtcgt-1gi＝σ(W*P+W*C+b)tpitcit-1if＝σ(W*P+W*C+b)tpftcft-1fS＝f⊙S+i⊙gttt-1tto＝σ(W*P+W*C+W*S+b)tpotcot-1sotoC＝o⊙tanh(S)tttg＝tanh(W*P+W*M+b)t’hgtmgt-1g’i＝σ(W*P+W*M+b)t’hitmit-1i’f＝σ(W*P+W*M+b)t’hftmft-1f’M＝f⊙M+i⊙gtt’t-1t’t’o＝σ(W*M+W*C+b)t’motco’to’H＝o⊙tanh(C)tt’t其中，t表示第t时刻，g、i、f、o和g、i、f、o分别表示两组候选记忆单元、输入门、遗忘门、输出门在t时刻的输出，P为经过rwkv模块后的输出数据，C、C分别为t、t-1时刻记忆单元状态，S、S分别为状态单元在t、t-1时刻的输出，M、M分别为时空输入单元在t、t-1时刻的输出；W、W、W、W分别为候选记忆单元g、输入门i、遗忘门f、输出门o中P的权重，W、W、W、W分别为候选记忆单元g、输入门i、遗忘门f、输出门o中C的权重，W为输出门o中S的权重，W、W、W分别为候选记忆单元g′、输入门i′、遗忘门f′中P的权重，W、W、W分别为候选记忆单元g′、输入门i′、遗忘门f′中M的权重，W、W分别为输出门o′中M、C的权重；b、b、b、b分别为候选记忆单元g、输入门i、遗忘门f、输出门o的偏置，b、b、b、b分别为候选记忆单元g′、输入门i′、遗忘门f′、输出门o′的偏置；tanh、σ为激活函数，H为门控单元阵列输出的隐藏状态；*为卷积操作，⊙为哈达玛积；ttttt’t’t’t’ttt-1tt-1tt-1pgpipfpotcgcicfcot-1sothghihftmgmimft-1moco’ttgifog’i’f’o’门控单元阵列输出数据H经过全连接层、卷积层及像素重塑层后的输出即为风的东西向及南北向分量的预测结果；使用训练好的MIM-rwkv网络模型根据输入的再分析数据、回顾性仿真数据及站点观测数据，得到地面风的东西向及南北向分量气象要素预测结果的评估指标。 来自：马 克 团 队