semantic-router

超高速语义决策引擎，优化LLM和代理性能

Semantic Router LLM 决策层语义路由编码器 Github 开源项目

Semantic Router通过语义向量空间实现快速决策，提升LLM和AI代理的效率。兼容Cohere、OpenAI等多种编码器，并集成Pinecone和Qdrant等数据库，适用于多模态识别和本地运行。通过Route对象定义，Semantic Router实现精准语义路由，优化对话系统性能。

awesome-local-ai - 全面收录开源本地AI工具和解决方案

AI应用Github大语言模型开源工具开源项目推理引擎本地AI

awesome-local-ai收录了多种开源本地AI工具和解决方案,包括推理引擎、用户界面、完整平台、开发工具、用户工具和AI代理等。项目旨在为开发者和用户提供丰富的本地AI资源,便于探索和应用最新AI技术,同时确保数据隐私。此外,还涵盖了LLM排行榜和相关研究论文,为AI领域从业者和爱好者提供全面参考。

carbon-c-relay - 高性能 Graphite 指标处理与路由系统

GithubGraphitecarbon-c-relay开源项目指标路由负载均衡集群配置

carbon-c-relay 是一款高性能的 Graphite 指标处理系统。它可以接收、清理、匹配、重写、转发和聚合指标数据。通过配置灵活的路由规则和集群,carbon-c-relay 能够高效处理大规模指标数据并将其中继到其他服务器。该工具采用 C 语言编写,具有出色的性能,适用于构建可扩展的指标系统。

SenseVoice - 高效、多语种语音识别与情绪识别技术平台

GithubSenseVoice多语言语音识别开源项目情绪识别推理效率热门音频事件检测

SenseVoice是一款支持多语言的语音解析模型，整合了自动语音识别、语种识别、情绪识别及音频事件检测功能。该项目采用非自回归端到端框架，可在超过50种语言上提供精准的语音识别服务，大幅降低了推理延迟，提供方便的微调脚本和多语种细粒度情绪分析，支持多种客户端语言和服务部署，适用于多种商业场景。

skyvern - 自动化浏览器工作流，集成大语言模型与计算机视觉

GithubLLMSkyvern开源项目浏览器工作流自动化计算机视觉

Skyvern结合大语言模型（LLMs）和计算机视觉，提供简单的API端点，实现大量网站的工作流自动化，解决传统方法的不稳定性。无需定制代码即可操作新网站，对布局变化具有抗性，并能在多个网站上应用相同工作流。Skyvern云版本让用户无需管理基础设施即可运行多个实例，并提供反机器人检测、代理网络和验证码解决方案。

Quest - 长文本LLM推理的查询感知稀疏化框架

GithubKV缓存Quest开源项目注意力机制稀疏性长上下文LLM推理

Quest是一个创新的长文本LLM推理框架，通过在KV缓存中应用查询感知稀疏化技术，显著减少了注意力计算中的内存移动。该框架跟踪缓存页面的Key值范围，并利用Query向量评估页面重要性，仅加载最关键的KV缓存页面。实验表明，Quest可将自注意力计算速度提升至7.03倍，推理延迟降低2.23倍，同时在长依赖任务中保持高精度。

keras-llm-robot - 基于Langchain和Fastchat开源框架的Web应用，支持多模态、RAG和Agent等多功能

GithubKeras-llm-robotWeb UI多模态模型开源开源项目语言模型

keras-llm-robot是一套基于Langchain和Fastchat开源框架的Web应用，支持多模态、RAG和Agent等多功能。项目完全开源，适合在Hugging Face平台上测试和部署各类模型。用户可自定义模型组合以适应不同的部署和实验需求，同时提供语音和图像识别、代码执行、实时翻译等多元化功能。

search_with_ai - 构建基于对话的AI搜索系统，集成多种搜索引擎与语言模型

AI搜索Docker部署GithubNode.jsOpenAIVue3开源项目

search_with_ai是一个开源项目，基于Node.js和Vue3创建，支持OpenAI、Google等多个语言模型及Bing、Google等搜索引擎。该系统特色包括响应式设计、多语言选项以及夜间模式，可通过Docker快速部署，不需密钥便可使用默认设置运行。

graphbrain - AI领域的开源工具，用于自动语义提取与文本理解

GithubGraphbrainPython人工智能开放源代码开源项目语义超图

Graphbrain是一个AI开源软件库和科研工具，旨在实现自动语义提取和文本理解，探索和推理知识。此项目由欧盟研究委员会资助，作为socsemics项目的一部分，关注在线公共空间的碎片化。Graphbrain利用语义超图概念，结合符号AI与统计/连接主义机器学习方法，旨在提升研究的可理解性和可重复性，尤其适用于计算社会科学、认知科学和人文学科的研究。

orama - 全方位搜索引擎解决方案，支持多设备多接口使用

GeosearchGithubOrama向量搜索开源项目搜索引擎混合搜索

Orama提供全文本、向量和混合搜索功能，适用于浏览器、服务器、移动应用和边缘设备，并且体积小于2KB。主要功能包括向量搜索、混合搜索、筛选器、地理搜索、字段提升、容错和精确匹配。通过插件系统，用户可以扩展功能，支持30种语言的词干提取和标记。Orama易于安装和使用，文档详细并有社区支持，是理想的轻量级搜索解决方案。

Agent-Driver - 革命性智能驾驶系统融合人类智慧与AI技术

Agent-DriverGithub人工智能大型语言模型开源项目自动驾驶认知代理

Agent-Driver是一个创新型自动驾驶系统，通过大型语言模型作为认知代理，将人类智能整合到自动驾驶中。系统包括多功能工具库、认知记忆和推理引擎，实现类人的推理和决策能力。在nuScenes基准测试中，Agent-Driver性能显著超越现有方法，并展现出优秀的可解释性和少样本学习能力。这一项目为自动驾驶领域提供了新的研究方向，向实现人类级别驾驶迈进。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com