大语言模型训练方法、装置、电子设备和计算机可读介质

摘要文本

本公开的实施例公开了大语言模型训练方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：获取初始大语言模型和无标注文本信息集；对无标注文本信息集进行去重处理；对去重后文本信息集中的各个去重后文本信息进行质量过滤处理；对于过滤后文本信息集中的每个过滤后文本信息，执行如下处理步骤：对过滤后文本信息进行领域分类处理，以生成分类后文本信息；获取通用文本信息；将通用文本信息和分类后文本信息进行合并处理；根据所生成的各个训练文本信息，对初始大语言模型进行训练。该实施方式减少了对大语言模型训练的时间，避免了训练资源的浪费，提高了训练效率，并且提升了大语言模型在某一领域的表现效果。