Project Icon

quarkus-langchain4j

将大型语言模型无缝整合进Quarkus应用的扩展框架

Quarkus LangChain4j是一套Quarkus扩展,实现了与LangChain4j的集成。它提供声明式AI服务、多种LLM集成、工具和嵌入支持,以及文档存储集成等功能。该项目支持原生编译和Quarkus可观察性堆栈集成,便于开发者在Quarkus应用中使用大型语言模型,有助于提高AI应用开发效率。

chat-langchainjs - 基于LangChain.js的本地托管智能问答系统
GithubLangChainNext.js向量存储开源项目文档问答聊天机器人
chat-langchainjs是一个开源项目,基于LangChain.js和Next.js构建,专注于LangChain文档的智能问答。项目实现了从文档摄取、向量存储到问答生成的完整流程,集成了RecursiveUrlLoader和SitemapLoader等工具。此外,项目提供了全面的技术文档,包括概念解释、修改指南、本地运行步骤、LangSmith集成、生产准备和部署说明,为开发者提供了强大的支持。
llm-books - LLM应用开发实战与最新技术更新
AI应用开发GithubLLMLangChainRAG专题国内模型厂商开源项目
该项目专注于大语言模型和人工智能应用开发,涵盖LangChain和LlamaIndex等技术。用户可通过本地阅读和构建GitBook镜像学习实战项目,内容包括LLM应用评估、RAG专题和国内模型厂商API解读,并开放交流群供学习者交流与协作。
Knowledge-QA-LLM - 开源本地知识库智能问答系统
GithubKnowledge QA LLM大语言模型开源项目本地知识库模块化设计问答系统
Knowledge-QA-LLM是一个开源的本地知识库智能问答系统,基于大语言模型构建。系统采用模块化设计,支持多种常见文档格式,易于部署和扩展。项目独立于lanchain库,组件可灵活替换,代码结构清晰。除大语言模型接口外,其他部分支持CPU运行,适用于各种规模的应用场景。
BentoChain - AI语音聊天机器人的开源部署框架
BentoChainBentoMLGithubLangChain开源项目语音聊天机器人部署
BentoChain是一个开源项目,展示了如何使用BentoML部署LangChain应用。该项目创建了一个语音聊天机器人,集成了OpenAI API、Transformers语音模型和Gradio界面。BentoChain实现了语音输入转文本、AI对话生成和文本转语音输出的完整流程。此外,它还提供了容器化部署、自动API生成和独立扩展等功能,为AI应用的高效部署提供了实用的参考。
langchain-supabase-website-chatbot - 使用LangChain和Supabase创建网站专用的AI聊天机器人
AI应用ChatGptGithubLangChainSupabase开源项目数据库
使用LangChain、Supabase、Typescript、OpenAI和Next.js创建一个ChatGPT聊天机器人。LangChain是一个简化构建可扩展AI/LLM应用程序的框架,Supabase是一个通过pg vector扩展存储嵌入的开源Postgres数据库。教程详细描述了从仓库克隆到数据爬取和向量存储的每一步开发过程。
chameleon-llm - 插件式组合推理框架增强LLMs功能
ChameleonGPT-4GithubLarge Language ModelsScienceQATabMWP开源项目
Chameleon框架集成了多种工具,如视觉模型、Web搜索引擎和Python函数,提升了大型语言模型(LLMs)的推理能力。基于GPT-4的自然语言规划,Chameleon能够精准推理工具的组合和执行顺序。在ScienceQA任务中,Chameleon的准确率为86.54%,领先当前模型11.37%;在TabMWP任务中,整体准确率达98.78%。其模块化设计和灵活工具调用机制使其适用于各种复杂任务。
chatgpt-java - ChatGPT Java API:轻松集成AI对话能力
APIChatGPTGithubJavaOpenAISDK开源项目
chatgpt-java是一个面向Java开发者的ChatGPT API集成库。该项目支持GPT 3.5和4.0模型,实现了流式对话、上下文管理和函数调用等功能。此外,它还提供多KEY轮询和代理设置,方便开发者构建AI对话应用。项目包含详细文档和示例代码,简化了ChatGPT API的集成过程。
camel-k - 云原生轻量级集成框架 支持多语言开发
Apache Camel KGithubKubernetes云原生开源项目微服务集成框架
Apache Camel K是基于Apache Camel的轻量级集成框架,专门针对云原生和无服务架构设计。它能在Kubernetes上直接运行Camel DSL编写的集成代码,支持多种编程语言,自动处理依赖关系。通过自定义traits,Camel K可优化Kubernetes资源配置。这一开源项目将Apache Camel的功能无缝引入云环境,为开发人员提供了高效灵活的集成方案。
rknn-llm - 瑞芯微芯片大语言模型部署软件栈
AI模型部署GithubRKLLMRockchip芯片大语言模型开源项目模型转换
rknn-llm是瑞芯微芯片专用的大语言模型部署软件栈,包含模型转换工具RKLLM-Toolkit、运行时库RKLLM Runtime和RKNPU内核驱动。支持RK3588和RK3576系列平台,兼容TinyLLAMA、Qwen、Phi、ChatGLM3等多种主流大语言模型。该项目注重性能优化和量化精度提升,持续增加新功能,为开发者提供高效的AI模型部署方案。
AutoAWQ - 面向大型语言模型的高效4位量化框架
AutoAWQGPU加速Github大语言模型开源项目推理量化
AutoAWQ是一个专门针对大型语言模型的4位量化框架,通过实现激活感知权重量化算法,可将模型速度提升3倍,同时减少3倍内存需求。该框架支持Mistral、LLaVa、Mixtral等多种模型,具备多GPU支持、CUDA和ROCm兼容性以及PEFT兼容训练等特性。AutoAWQ为提升大型语言模型的推理效率提供了有力工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号