Project Icon

semantic-router

超高速语义决策引擎,优化LLM和代理性能

Semantic Router通过语义向量空间实现快速决策,提升LLM和AI代理的效率。兼容Cohere、OpenAI等多种编码器,并集成Pinecone和Qdrant等数据库,适用于多模态识别和本地运行。通过Route对象定义,Semantic Router实现精准语义路由,优化对话系统性能。

superagent - 开源AI助手框架与API,集成多种应用功能
AI助手框架GithubSuperagentY Combinator大语言模型开源开源项目
Superagent是完全开源的AI助手框架,利用大语言模型、检索增强生成和生成式AI技术,帮助开发者在应用中集成强大的AI助手。功能涵盖文档问答、聊天机器人、内容生成、数据聚合和工作流自动化。由Y Combinator支持,提供Python和Typescript SDK,并附有详细文档和教程。
Splade_PP_en_v1 - SPLADE++稀疏文档检索模型的工业级优化实现
GithubHuggingfaceSPLADE++关键词扩展开源项目文档检索检索效率模型稀疏表示
基于SPLADE++的文档检索模型优化实现,通过FLOPS和令牌预算的调整实现高效检索。模型以bert-base-uncased为基础,在47.27ms的检索延迟下达到37.22的MRR@10性能,适合工业级搜索应用部署。
semantic-release - 简化版本管理和发布流程的自动化工具
Githubsemantic-release开源项目持续集成插件系统版本管理自动化发布
semantic-release是一款自动化版本管理和发布工具,无需外部依赖即可跨平台运行。它通过分析提交信息自动确定语义化版本号,生成更新日志,简化发布流程。该工具支持插件扩展,适用于GitHub、GitLab等平台,并能维护多个主要版本。semantic-release遵循约定式提交规范,确保版本管理的一致性和可靠性,为开发团队提供高效的版本控制解决方案。
bosquet - 简化复杂的AI应用构建过程
AI应用BosquetGithubLLMPathomPrompt模板开源项目
Bosquet项目旨在简化复杂的AI应用构建过程。它提供了丰富的工具和服务管理功能,包括与Selmer库集成的提示模板、通过Pathom图处理机制实现的提示链构建、与外部API交互的智能体定义、LLM内存处理和调用响应缓存等。Bosquet旨在解决AI应用在提示模板管理、上下文窗口内存管理及外部交互等方面的挑战,让开发者能专注于核心功能开发。
awesome-language-agents - 构建和优化语言代理的认知架构和实践
CoALAGithub学习开源项目推理认知架构语言代理
该项目汇总了基于CoALA框架的语言代理,实现了动作空间、决策周期等功能。提供了相关核心论文、推特线程及300多篇文献,涵盖从推理到环境互动等多领域前沿研究,旨在优化语言代理的交互、检索和学习能力,有效管理短期和长期记忆。
LLMCompiler - 提升大语言模型性能的并行函数调用框架
GithubLLMCompiler优化编排并行函数调用开源项目效率提升模型兼容
LLMCompiler框架通过并行函数调用提升大语言模型的执行效率。它自动识别可并行任务,减少延迟和成本,同时提升准确性。用户只需提供工具和上下文示例,LLMCompiler就能优化函数调用编排。支持开源和闭源模型,包括LLaMA和OpenAI的GPT模型。LLMCompiler在不同任务中展示了显著的延迟加速、成本节省和准确性提升,是处理复杂问题的理想工具。
openssa - 融合HTP和OODAR技术的智能代理框架解决行业难题
GithubOpenSSA层级任务规划开源框架开源项目智能代理问题解决
OpenSSA是一款智能代理框架,旨在解决实际行业中的复杂问题。该框架集成了分层任务规划(HTP)和观察-定向-决策-行动推理(OODAR)技术,实现了超越大型语言模型(LLM)和检索增强生成(RAG)的二级智能。OpenSSA支持多种LLM后端,采用开放可扩展的架构,方便开发者进行行业定制。其小型高效的代理设计适合实际部署,能以较少的计算资源实现出色的问题解决能力。
spring-ai - Spring应用智能化开发框架
AI应用开发API抽象GithubRAGSpring AI开源项目模型交互
Spring AI是一个面向Spring开发者的AI开发框架,提供友好API和抽象层,简化AI应用开发流程。该项目集成了OpenAI、Azure OpenAI等多种主流AI模型,支持向量数据库、提示工程和文档处理等功能。开发者可借助Spring AI为应用添加聊天机器人、文本生成、知识问答等智能化特性。
ai00_server - 基于RWKV模型的高效且易用的推理API服务器
AI00 RWKV ServerChatGPT兼容GithubLLM推理Vulkan加速开源开源项目
AI00 RWKV Server是一款高效且易用的推理API服务器,基于RWKV模型,支持Vulkan兼容的所有GPU进行加速,包括AMD显卡和集成图形。无需依赖庞大的pytorch或CUDA环境,开箱即用,并兼容OpenAI的ChatGPT API接口。此服务器完全开源和商用友好,适用于文本生成、翻译、问答等多种任务,是开发大语言模型应用的理想选择。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号