面向档案的可信大语言模型训练、推理方法和装置

专利主权项内容

1.一种面向档案的可信大语言模型训练方法，其特征在于，所述方法包括：将不同类型的档案数据进行预处理，得到多个文本形式的档案数据；将所述多个文本形式的档案数据转化为张量形式数据，以得到第一可信训练集；基于所述多个文本形式的档案数据，采用有效模型架构来构建预训练语言模型；使用所述第一可信训练集对所述预训练语言模型进行无监督学习，得到第一可信大语言模型；使用所述第一可信训练集对所述第一可信大语言模型进行有监督微调训练，得到第二可信大语言模型；根据相同用户查询内容与不同候选输出之间的用户偏好排序以及预设模板集合，得到第二可信训练集；使用所述第二可信训练集对所述第二可信大语言模型进行无监督学习，得到第三可信大语言模型；使用所述第二可信训练集对所述第三可信大语言模型进行有监督训练，得到可信奖励模型；基于所述可信奖励模型，将所述第二可信大语言模型在基于人工反馈的强化学习的训练下，得到可信大语言模型。