#StarCoder2
StarCoder2-7B-GGUF - 多种量化模型版本,提升代码生成性能与存储效率
Github开源项目StarCoder2代码生成量化模型模型LlamaEdgeHuggingface模型压缩
此项目提供多种量化模型版本,旨在优化代码生成任务中的性能与存储效率。可选范围包括小容量、质量损失较大的版本到大容量、质量损失低的版本,以满足各种需求。Q4_K_M与Q5_K_M模型在质量与容量间表现出良好的平衡。该项目使用llama.cpp进行量化,适合空间与性能有特定需求的开发者。
starcoder2-7b - 支持17种编程语言的开源代码生成模型
编程语言开源项目模型StarCoder2Github机器学习代码生成自然语言处理Huggingface
StarCoder2是一个基于7B参数训练的代码生成模型,支持17种主流编程语言的代码理解与生成。模型采用先进的注意力机制和大规模上下文窗口,在代码补全和程序生成等任务中表现出色,支持多种硬件环境部署。
starcoder2-15b - 基于15B参数训练的多语言代码生成模型
编程语言人工智能模型深度学习代码生成模型StarCoder2GithubHuggingface开源项目
starcoder2-15b是NVIDIA开发的代码生成模型,支持600+种编程语言,采用GQA和FIM技术训练。模型具有16K token上下文窗口,基于4万亿以上的代码数据集训练。支持多种精度和量化部署方案,遵循BigCode OpenRAIL-M许可协议,具备代码溯源功能。
starcoder2-7b-AWQ - AWQ量化的StarCoder2代码生成模型
机器学习模型程序开发StarCoder2深度学习代码生成Github模型开源项目Huggingface
StarCoder2-7B-AWQ是经AWQ量化的大规模代码生成模型。它支持17种编程语言,采用分组查询注意力机制,具有16,384个token的上下文窗口。该模型在多项基准测试中表现优异,能生成高质量代码。量化后显著降低内存占用,便于部署应用。