Logo
Project Icon

guidance

灵活高效的语言模型编程框架

Guidance语言模型AI编程代码生成多模态Github开源项目

Guidance是一个创新的语言模型编程框架,通过约束生成和控制流程来优化模型输出。它支持正则表达式、上下文无关文法等约束方式,并能灵活结合条件、循环等控制结构。Guidance可显著提升特定任务的输出质量,同时降低延迟和成本。该框架兼容多种后端,包括Transformers、llama.cpp和OpenAI等,具有广泛的适用性。

GithubGithub文档文档
介绍相关项目
awesome-efficient-aigc - AIGC效率优化技术与资源汇总
AIGCGithubLLM开源项目模型压缩量化高效推理
该项目汇集了提高AI生成内容(AIGC)效率的最新技术资源，包括大语言模型(LLMs)和扩散模型(DMs)的优化方法。收录内容涵盖前沿研究论文、代码实现和综述文章，重点关注量化、微调等效率提升技术。这一持续更新的资源库为AIGC领域的研究和开发提供了全面的参考，有助于推动相关技术的进步与落地应用。
llm-hub - 全面了解先进语言模型在各领域的应用
GPT-3GithubLarge Language ModelsOpenAInatural language processing开源项目
这个存储库展示了GPT-3等先进语言模型在文本生成、搜索和问答领域的应用，提供详尽的教程和资源，帮助开发者构建自己的应用。无论是语言爱好者、机器学习研究者还是AI爱好者，这里是探索自然语言处理的理想平台。
EasyContext - 优化语言模型上下文长度至百万级的开源项目
EasyContextGithub开源项目注意力机制训练技巧语言模型长上下文模型
EasyContext 是一个开源项目，致力于优化语言模型的上下文长度至 100 万个标记。项目结合序列并行、Deepspeed zero3 卸载和 Flash attention 等技术，实现了对 Llama2-7B 和 Llama2-13B 模型的全参数微调。通过最小化硬件需求，EasyContext 展示了长上下文扩展的可行性，并提供简洁的实现代码和评估结果，为自然语言处理研究和开发提供了有价值的资源。
generative_ai_with_langchain - 使用LangChain框架构建生成式AI应用的全面指南
ChatGPTGithubLangChainPython大型语言模型开源项目生成性AI
《Generative AI with LangChain》为开发者提供了一个如何使用LangChain框架构建生成式AI应用的全面指南。书中详细介绍了生成式AI的原理、能力以及限制，结合ChatGPT等LLMs，通过系列实用案例展现构建各类生产级LLM应用的流程，涵盖客户支持、软件开发辅助等场景。本书适合任何希望深度了解并应用生成式AI的开发者。
langchain - 简化和优化上下文推理应用开发框架
AI应用开发GithubLangChain代理大语言模型开源框架开源项目
LangChain是一个开发大型语言模型(LLM)应用的开源框架，提供从原型到生产的全生命周期支持。它包含开源库、生产化工具和部署方案，可用于构建问答系统、结构化数据提取和聊天机器人等应用。其特色在于模块化设计、丰富的第三方集成和预置链式结构，有效提升了LLM应用的开发效率和灵活性。
Learn_Prompting - 提示工程与生成式AI及大型语言模型（LLM）指南
GithubLLM指南Learn PromptingPrompt Engineering开发指南开源项目生成式AI
Learn Prompting 提供全面的提示工程、生成式 AI 和大型语言模型（LLM）指南。欢迎加入 Discord 社区，参与内容建议、翻译、内容和艺术作品贡献及错别字纠正。通过本地开发指南，用户可以轻松安装和运行网站，实时查看更改。感谢所有贡献者的支持。
chain-of-hindsight - 基于人类反馈优化语言模型的开源框架
Chain of HindsightGithub反馈对齐开源项目模型训练评估语言模型
Chain-of-Hindsight是一个开源项目，提供了基于Jax的语言模型训练框架。该方法通过人类反馈来优化模型性能，支持LLaMA和GPT-J等大型模型。项目包括数据准备、模型训练和评估的完整流程，其反馈处理机制有助于模型在对话和摘要等任务中提升表现。最新更新改进了大模型分片和数据并行处理，为自然语言处理研究提供了实用工具。
Codestral-22B-v0.1-GGUF - 针对80多种编程语言优化的开源代码助手模型
Codestral-22BGithubHuggingface人工智能代码生成开源项目机器学习模型量化模型
Codestral-22B-v0.1-GGUF是一个支持80多种编程语言的开源代码助手模型。它能够回答代码问题、生成代码，并提供Fill in the Middle功能。该模型已被量化为多个版本，以适应不同的硬件配置，让开发者能够在本地设备上高效运行这一代码辅助工具。模型支持Python、Java、C++等主流编程语言，可用于代码文档编写、解释和重构等任务。
deepseek-coder-6.7B-instruct-GGUF - Deepseek全新GGUF格式 高效代码智能助手专注计算机科学
Deepseek Coder 6.7B InstructGPU加速GithubHuggingface开源项目模型模型格式计算机科学量化
DeepSeek引入新型GGUF格式，提供高效代码助手，专注计算机科学问题。该模型经Massed Compute硬件进行量化优化，兼容llama.cpp、text-generation-webui及KoboldCpp等多种框架，并支持GPU加速。用户能接触到从小尺寸到高保真度的量化模型文件，多样化应用场景支持丰富。资源库还提供未量化的DeepSeek原始fp16模型及适用于GPU推理的AWQ和GPTQ模型。
safeguards-shield - 增强人工智能应用的安全防护开发工具
GithubLLMsSafeguards Shield保护层安全风险工具包开源项目
Safeguards Shield是一个旨在安全、可靠使用大型语言模型(LLMs)的开发者工具包。本工具包提供保护层功能，能够防御恶意输入并过滤模型输出，使AI应用从原型快速转向生产阶段。此外，包含超过20种即用型检测器，为生成式AI(GenAI)应用提供全面的安全保障，并助力缓解LLM的可靠性与安全隐患。工具包还支持监控事件、成本及关于AI的责任指标，支持应用的长期发展。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号