一种基于码表聚类的深度学习模型压缩方法

专利主权项内容

1.一种基于码表聚类的深度学习模型压缩方法，其特征在于，包括如下步骤：步骤S1：提取深度学习模型中线性层和卷积层的权重，将这些权重按输入通道方向切分，从而获得一系列权重向量；切分得到的权重向量的长度定义为V；步骤S2：针对各个权重分别设置码表，码表尺寸为K*V，K为码表中码字的数量，使用码表聚类算法进行权重向量聚类，得到最终更新后的码表，权重向量聚类过程中每个权重向量分配得到索引，分配的索引为与该权重向量距离最短的码字在码表中的位置；步骤S3：保存聚类完成的码表和索引以及原始深度学习模型中其他没有被压缩的数据，作为压缩后的模型；当运行压缩后的模型时，针对各个权重，使用其权重向量对应的索引去检索对应的码字，利用这些码字重构出与原始的权重尺寸相同的压缩后权重。