融合多标签对比学习和KNN的层次文本分类方法

专利主权项内容

1.融合多标签对比学习和KNN的层次文本分类方法，其特征在于，包括：通过Graphormer编码标签层次结构，获得代表每个标签节点特征的标签表示，计算每个所述标签表示和每个文本词元嵌入之间的注意力权重，基于所述注意力权重构建正样本，将原始输入文本与所述正样本分别输入到BERT模型中，获得对应的文本表示；计算所述原始输入样本与所述正样本的文本表示的多标签对比损失，并将所述原始输入样本和所述正样本的文本表示输入到多标签分类器，分别计算分类损失；对所述多标签对比损失、原始输入样本和正样本的所述分类损失进行求和，得到总损失，基于所述总损失训练所述BERT模型；将测试样本输入到训练好的模型中，获得测试样本的文本表示，采用KNN检索与所述测试样本的文本表示相似度最高的k个训练样本作为最近邻居样本，并将所述邻居样本的标签作为KNN预测结果，并将所述测试样本的文本表示输入至所述多标签分类器，获取训练好的模型的预测结果；将所述KNN预测结果与所述训练好的模型的预测结果进行线性融合，获得最终的预测结果。