Project Icon

langchain

支持AI服务和自托管模型的集成解决方案

Elixir LangChain是一个框架,使Elixir应用能够集成AI服务和自托管模型。支持的AI服务包括OpenAI ChatGPT、OpenAI DALL-e 2、Anthropic Claude、Google AI、Google Vertex AI等,以及Llama、Mistral和Zephyr等Bumblebee自托管模型。LangChain通过模块化组件和预构建链条,帮助开发者快速构建复杂应用,支持数据感知和环境交互功能,显著提高应用的灵活性和扩展性。

sglang - 大语言模型和视觉语言模型高效服务框架
GithubSGLang前端语言后端运行时大语言模型开源项目服务框架
SGLang是一款为大语言模型和视觉语言模型设计的服务框架。该框架通过协同优化后端运行时和前端语言,提高了模型交互的速度和可控性。其后端运行时采用前缀缓存、约束解码和连续批处理等技术提升效率。前端语言支持链式生成调用、高级提示、控制流和多模态等功能,增强了灵活性。SGLang适用于各类LLM应用的快速开发和部署。
LangChain-for-LLM-Application-Development - 使用LangChain框架进行语言模型开发的速成指南
GithubLangChain应用开发开源项目记忆体语言模型问题解答
通过LangChain框架掌握扩展语言模型在应用开发中的关键技能。本课程涵盖模型调用、提示生成、响应解析、会话记忆存储、操作序列创建和文档问答等内容。由LangChain创建者Harrison Chase和Andrew Ng授课,在一小时内探索语言模型作为推理代理的应用趋势。课程结束时,学员将获得一个扩展模型应用起点的基本模型,从而提升语言模型的应用能力。
open-text-embeddings - 使用多源模型的OpenAI API兼容文本向量生成工具
GithubLangChainOpenAI APIembeddingsopen-text-embeddingssentence-transformers开源项目
该项目创建了与OpenAI API兼容的文本向量生成端点,支持多种开源句子转换模型,包括BAAI/bge-large-en、intfloat/e5-large-v2、sentence-transformers等。提供详细的本地和云端部署指南,方便用户在多种环境下运行服务器,实现高效查询与存储。用户也可通过Colab在线测试,体验开源文本向量生成的便捷性。
LangChain-ChatGLM-Webui - 本地知识驱动的大模型Webui,支持多文本格式上传与处理
ChatGLMGithubHuggingFaceLangChainModelScopeWebui开源项目
LangChain-ChatGLM-Webui 是一个利用LangChain和ChatGLM-6B系列模型的Web界面,支持txt、docx、md、pdf等格式文件上传,适用于本地知识驱动的大模型应用。项目支持HuggingFace、OpenXLab等多个平台的在线体验,适合开发者快速部署多种大语言模型和嵌入模型。
quarkus-langchain4j - 将大型语言模型无缝整合进Quarkus应用的扩展框架
GithubLangChain4jQuarkus人工智能集成大语言模型开源项目扩展功能
Quarkus LangChain4j是一套Quarkus扩展,实现了与LangChain4j的集成。它提供声明式AI服务、多种LLM集成、工具和嵌入支持,以及文档存储集成等功能。该项目支持原生编译和Quarkus可观察性堆栈集成,便于开发者在Quarkus应用中使用大型语言模型,有助于提高AI应用开发效率。
embedchainjs - 帮助创建基于任意数据集的LLM聊天机器人的框架
ChatbotChromaGithubNaval RavikantOpenAIembedchainjs开源项目
EmbedchainJS框架让你能轻松创建基于任意数据集的LLM聊天机器人。框架涵盖数据嵌入、分块、存储等完整流程,支持多种数据格式。集成OpenAI嵌入模型和ChatGPT API,兼容OpenAI 3.X版本,并配备Chroma向量数据库,帮助开发者大幅缩短开发时间。
langforge - 简化环境设置和API管理的开源LangChain应用创建工具
GithubJupyter集成LangChain应用LangForgeREST接口开源工具开源项目
LangForge是一款开源工具包,可简化创建和部署LangChain应用的过程。其主要功能包括环境设置、API密钥管理、预定义笔记本、Jupyter实时聊天集成以及自动生成REST接口等。用户只需简单的安装命令,即可快速生成新应用,并通过模板在Jupyter中进行开发和互动。LangForge还提供便捷的REST接口生成功能,有助于应用的部署与共享,非常适合对LangChain开发感兴趣的用户。
notion-chat-langchain - 基于OpenAI和LangChain的Notion知识库智能聊天机器人
GithubLangChainNotionOpenaiPineconeTypescript开源项目
这个开源项目结合了OpenAI、Typescript、LangChain和Pinecone,创建了一个智能聊天机器人,用于回答Notion知识库中的问题。用户只需克隆仓库,安装必要的软件包,设置环境文件,导入Notion数据集并进行处理,即可在本地开发环境中运行此应用。项目还提供了云端部署的指导,确保便捷且高效的使用体验。
llm-api - 灵活易用的跨平台大语言模型API框架
API接口Docker容器GPU加速GithubLLM API大语言模型开源项目
LLM-API是一个灵活的大语言模型API框架,支持在多种硬件平台上运行各类LLM模型。通过简单的YAML配置,它能自动下载模型并提供统一的API接口。支持Docker容器和本地运行,兼容Llama、GPT等多种模型。项目还包含Python客户端和LangChain集成,大大简化了LLM的应用开发过程,使其强大功能更易于开发者使用。
langstream - LangStream开源项目:支持云端和本地开发的多功能工具及示例应用
CLIGithubKubernetesLangStream开发开源项目部署
LangStream开源项目提供多功能开发工具和示例应用,通过CLI或Kubernetes集群运行和部署。提供多种安装方式及详细文档和支持,适用于MacOS和Unix系统。项目集成OpenAI,用户能快速创建和管理应用。支持通过Helm图表进行生产级部署,并兼容EKS、AKS、GKE等主流云服务提供商的Kubernetes集群,同时提供minikube本地部署解决方案,用于快速测试和开发。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号