#DARE_TIES_13B

项目通过DARE TIES方法合并预训练语言模型，使用yunconglong的Truthful DPO TomGrc FusionNet 7Bx2 MoE 13B作为基础，结合了13B DPO及13B MATH DPO模型。通过密度和权重配置，采用bfloat16和int8掩码，在计算效率和文本覆盖上均有显著提升。