#CodeLlama

Llama2-Code-Interpreter - 多语言代码生成和执行的LLM工具
Llama2 Code InterpreterCodeLlama代码生成代码执行GPT-4Github开源项目
Llama2 Code Interpreter是一款能够生成、执行代码并进行调试的语言模型工具,支持多种编程语言和框架。该项目专注于数据开发和模型优化,并在HumanEval基准测试中表现优异。用户可以通过Gradio界面体验其功能,包括Python变量监控和代码生成。
CodeLlama-7B-GGUF - 采用GGUF格式的CodeLlama 7B模型提高编码效率与多平台兼容性
CodeLlama代码生成MetaHuggingfaceGithub开源项目模型LLM模型量化
该项目展示了Meta的CodeLlama 7B模型在GGUF格式中的优势,取代不再支持的GGML格式。GGUF提供了更好的标记和特别符号支持,并具有元数据和扩展性。适用于多种第三方客户端和库,如llama.cpp和text-generation-webui。量化模型可满足不同计算需求,实现CPU+GPU推理的最佳性能,适配多种平台,为高性能编码需求提供多样化解决方案。
CodeFuse-CodeLlama-34B-GGUF - 基于Llama2打造的高性能代码生成模型,多量化格式任您选择
大语言模型CodeLlama代码生成GGUF模型量化模型GithubHuggingface开源项目
CodeFuse-CodeLlama-34B是一款基于Llama2架构的代码生成模型,提供2位至8位多种GGUF量化格式。该模型支持CPU和GPU推理,具有优秀的代码理解与生成能力。开发者可根据硬件和性能需求选择合适的量化版本,实现高效部署。模型兼容llama.cpp、text-generation-webui等主流框架,便于快速集成使用。
Phind-CodeLlama-34B-v2-GGUF - 利用GGUF格式提升模型性能,兼容多平台GPU加速
Github开源项目文本生成CodeLlamaGPU加速格式转换Huggingface模型量化模型
Phind's CodeLlama 34B v2采用GGUF格式,由llama.cpp团队在2023年8月21日推出替代GGML。GGUF实现了更优的标记化及特殊标记支持,并且具有可扩展性。兼容多种第三方界面与库(如text-generation-webui和KoboldCpp),并支持GPU加速。量化模型在保持高质量的同时降低了资源占用,适用多种场景,建议使用Q4_K_M与Q5_K_M模型以实现最佳性能及质量平衡。
CodeLlama-7B-Python-GGUF - 适用于多平台的文本生成开源模型
Github模型量化开源项目CodeLlamaGGUFPythonHuggingface
CodeLlama 7B Python GGUF格式模型提供多平台下的文本生成功能。由llama.cpp团队推出的GGUF格式,替代GGML,增强了标记和元数据支持。兼容多种UI和库,如text-generation-webui和LM Studio,并提供多种量化选项,以适应不同硬件需求,支持与LangChain等Python项目的高级整合。
CodeLlama-7B-Instruct-GPTQ - 高性能代码编程助手 支持多种量化参数的GPU推理
CodeLlamaHuggingface指令调优Meta代码生成Github模型开源项目机器学习
CodeLlama-7B-Instruct模型的GPTQ量化版本由TheBloke优化,提供4-bit和8-bit多种量化参数组合。模型支持代码补全、填充和指令对话,可通过Python或text-generation-webui部署。经AutoGPTQ验证,兼容ExLlama和Hugging Face TGI等推理框架,适用于不同硬件环境和性能需求。