热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#高质量语料库
TransNormerLLM: 更快更好的线性注意力大语言模型
2 个月前
TransNormerLLM是首个在准确性和效率上均超越传统Softmax注意力模型的线性注意力大语言模型,本文全面介绍了其创新架构、性能表现和应用前景。
TransNormerLLM
大语言模型
线性注意力机制
高质量语料库
模型权重
Github
开源项目
2 个月前
相关项目
TransnormerLLM
TransNormerLLM是一种高效的大规模语言模型,使用线性注意力机制,优于传统的软注意力模型。该模型训练于高质量语料库,包含1.4万亿个词元,支持中文、英语和多语言基准测试,在多领域表现出色。提供385M、1B和7B参数版本,开放给学术研究,商用需申请许可。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号