Project Icon

RAGFoundry

开源框架增强大语言模型检索能力

RAG Foundry是一个开源框架,通过RAG增强数据集微调模型来提升大语言模型的外部信息检索能力。该框架包含数据集创建、模型训练、推理和评估四个模块,支持快速原型设计和RAG实验。其模块化设计和可定制工作流程,有助于研究人员和开发者高效改进LLM的检索增强生成能力。

LLaMA-Factory - 提升语言模型微调效率的统一平台
GithubLLaMA Factory大语言模型开源项目快速微调性能优化模型量化热门
LLaMA-Factory是一个高效的语言模型微调工具,支持多种模型和算法。该平台专注于提高微调速度,支持连续预训练、监督微调和激励建模等策略。LLaMA-Factory利用LoRA技术实现高效训练,并提供详尽的数据监控和快速推理能力。此外,新版本还增加了PiSSA算法,且支持多种开发平台如Colab和DSW,适合高质量文本生成和智能应用开发。
Mistral-RAG - 意大利语问答强化模型 Mistral-RAG
GithubHuggingfaceMistral-RAG开源项目抽取模式模型生成模式自然语言处理问题回答
Mistral-RAG是以Mistral-Ita-7b为基础优化的模型,专注于问答任务。其生成模式可以整合多源信息,适用于教育和创意场合;提取模式则提供快速、精确的答案,适合科研和法律领域。可通过Python便捷调用,提升数据处理效果。
rigging - 轻量级框架为代码集成大语言模型提供便捷
GithubLLM框架PydanticRigging代码集成开源项目生成式AI
Rigging是一个轻量级LLM框架,基于Pydantic XML构建。该框架旨在简化生产代码中语言模型的应用。主要特点包括支持结构化Pydantic模型、使用LiteLLM作为默认生成器、通过Python函数定义提示、提供简单的工具调用功能、支持连接字符串配置和聊天模板等。Rigging兼容多种LLM,如OpenAI和Anthropic,并提供简洁API用于获取生成器、构建管道和运行模型。
sglang - 大语言模型和视觉语言模型高效服务框架
GithubSGLang前端语言后端运行时大语言模型开源项目服务框架
SGLang是一款为大语言模型和视觉语言模型设计的服务框架。该框架通过协同优化后端运行时和前端语言,提高了模型交互的速度和可控性。其后端运行时采用前缀缓存、约束解码和连续批处理等技术提升效率。前端语言支持链式生成调用、高级提示、控制流和多模态等功能,增强了灵活性。SGLang适用于各类LLM应用的快速开发和部署。
foundry - Rust编写的高性能以太坊开发工具包
FoundryGithubRust以太坊开发工具开源项目智能合约
Foundry是一个高性能的以太坊开发工具包,包含Forge测试框架、Cast智能合约交互工具、Anvil本地节点和Chisel Solidity REPL。它提供快速编译、Solidity测试、模糊测试和远程RPC分叉等功能,显著提升以太坊开发效率。该工具包由Rust编写,具有便携性和模块化特点。
FLASK - 细粒度语言模型评估框架
FLASKGithub对齐评估开源项目技能集细粒度分析语言模型评估
FLASK是一个开源的语言模型评估框架,采用细粒度的实例级技能集作为评估指标。该框架提供任务无关的评估协议,包含模型推理、GPT-4评估和结果分析功能。FLASK还具备自动元数据标注能力,可标注领域、技能集和难度级别。项目包含详细使用说明和在线演示,为语言模型评估提供全面解决方案。
GoMate - 高度可配置的模块化RAG框架,实现可靠输入与可信输出
GithubGoMateRAG框架可配置开源项目检索问答模块化
GoMate是一个开源的模块化RAG框架,支持多种文件格式解析和灵活的检索功能。其核心设计理念强调可配置性和模块化,使开发者能够根据具体需求定制RAG应用。该框架集成了文档解析、向量检索、重排序和大模型问答等功能,适用于各种检索问答场景。
PongoAI - 智能优化检索增强生成流程的工具
AI工具PongoAIRAG技术上下文检索性能监控语义过滤
PongoAI专注优化检索增强生成(RAG)流程。通过单行代码实现RAG监控和改进,提供实时结果重排序、性能分析和自动修复。该工具显著提高相关答案比例,减少错误生成,增加AI产品使用率。
cohere-toolkit - 用于构建和部署RAG应用的开源组件集合
APICohere ToolkitGithubRAG应用开源项目模型提供商自定义工具
Cohere Toolkit是一个开源项目,提供预构建组件集合用于RAG应用的快速开发和部署。该工具集包含可自定义的界面、后端API和多种模型提供商选项。它集成了默认Web UI、可定制检索工具和数据源,并提供详细部署指南。开发者可以利用Cohere的Command模型,通过Docker在本地环境中轻松部署和测试应用。
bagel - 综合数据源与多样化技术的大语言模型训练框架
BagelDPOGithub关键词选择开源项目微调数据集
Bagel是一个综合性大语言模型训练框架,融合多种数据源和先进技术。该项目利用多样化数据集进行监督微调(SFT)和直接偏好优化(DPO),包括指令、对话和纯文本数据。Bagel采用vicuna、llama-2、alpaca和chat-ml等多种提示格式,旨在提升模型泛化能力。通过SFT和DPO两阶段训练,Bagel致力于打造功能完善、性能优异的语言模型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作,特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用,帮助他们启动音乐创作,增添生活乐趣,同时发现和分享新音乐。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号