Logo
Project Icon

lanarky

基于FastAPI的LLM微服务开发框架

LanarkyLLM微服务FastAPI开源Github开源项目

Lanarky是基于FastAPI的Python Web框架,专为LLM微服务开发设计。它提供HTTP和WebSocket流式传输支持,适用于构建聊天机器人等实时LLM应用。Lanarky采用LLM优先设计,具有快速、现代化的特点,并且开源免费。该框架大幅简化了LLM微服务开发流程,让开发者能以少量代码高效构建功能强大的LLM应用,是构建智能对话系统的理想选择。

访问官网访问官网GithubGithub文档文档
介绍相关项目
slack-machine - 简单强大的ChatOps框架
GithubSlack Machine事件API开源项目异步插件系统聊天机器人框架
Slack Machine是一个功能丰富的Slack bot开发框架。它基于Slack Events API和Socket Mode，提供直观的插件系统，支持快速构建和代码模块化。框架具备多种交互功能，如响应正则表达式、处理斜杠命令和发送线程消息。此外，它还提供持久化存储和事件调度等高级特性，有助于将Slack工作区打造成高效的ChatOps平台。
phasellm - 探索和评估大型语言模型的框架
API集成GithubPhaseLLM大语言模型开源开源项目性能评估
PhaseLLM是一个创新的框架，旨在帮助用户管理和测试由大型语言模型（LLM）驱动的体验，如ChatGPT及其变种。该框架提供标准化API，兼容OpenAI、Cohere、Anthropic等多家服务提供商，构建评估体系，并新增自动化功能，使开发者和数据科学家能更容易地启动新的产品。适合各类品牌和产品经理，简化和加速大型语言模型的集成与评估过程。
AnythingLLM - 多功能AI应用，支持多种LLM
AnythingLLM 是一款多功能AI应用，可与任何LLM互动并提高生产力。它无需技术设置，支持在Windows、MacOS和Linux上私密运行最新的LLM。支持自定义模型，包括GPT-4、Llama和Mistral，并且内置多种工具以确保数据隐私。
langroid - 创新的多智能体编程框架，加速LLM应用开发和部署过程
GithubLLM应用开发LangroidOpenAIPython多代理框架开源项目
Langroid是一款由来自CMU和UW-Madison的前研究人员开发的Python框架，旨在实现直观、轻便和高度可扩展的LLM应用开发。借助该框架，开发者可以搭建智能体，加载组件，执行任务并通过消息交换进行协作，有效简化了开发流程。多家公司已在生产环境中采用Langroid，验证了其易用性和灵活性。
langchain-chatbot - 利用Langchain和Streamlit打造多样化聊天机器人
GithubLLMLangchainStreamlit应用开发开源项目聊天机器人
该开源项目展示了如何使用Langchain和Streamlit创建多功能聊天机器人。项目涵盖基础对话、上下文感知、互联网访问、文档查询、SQL数据库交互和网站内容交互等应用场景。提供完整代码实现和在线演示，支持本地运行及Docker部署。对于想要学习如何利用语言模型构建实用AI应用的开发者来说，这是一个很好的参考资源。
llm.ts - 调用支持30+语言模型的轻量级一体化API
AI模型APIGithubllm.tsnpmyarn开源项目
llm.ts通过单一API接口，支持同时发送多个提示至30多种语言模型，并在一个响应中获取结果。该项目零依赖、体积小于10kB，支持自带API密钥，适用于Node.js、Deno和浏览器环境。支持的模型包括OpenAI、Cohere和HuggingFace等，实现高效灵活的语言模型调用。
Llama Workspace - 自托管AI聊天平台为团队和企业提供安全解决方案
AI工具Llamaworkspace博客开源项目社交媒体联系方式
Llama Workspace为团队和企业提供自托管AI聊天平台，支持在用户自有基础设施上部署，保障数据隐私和安全。作为企业级AI解决方案，平台具备用户管理功能，提供多渠道技术支持。通过自定义部署，确保数据安全。平台通过博客分享AI技术资讯和使用指南，并在社交媒体保持活跃交流，为用户提供全面的AI应用体验。
web-llm-chat - 浏览器原生运行的隐私保护AI聊天工具
GithubWebLLM Chat开源框架开源项目浏览器原生AI离线访问隐私保护
WebLLM Chat是一个创新型AI聊天界面，结合了WebLLM技术和用户友好设计。该项目利用WebGPU在浏览器中原生运行大型语言模型，提供高度隐私保护和离线访问功能。其特点包括直观界面、自定义模型支持和开源可定制性。作为MLC.ai项目的一部分，WebLLM Chat旨在通过浏览器端AI技术推动人工智能的普及。
ChatLLM - 基于知识库的多模型集成与自动化对话解决方案
ChatLLMChatOCRChatPDFGithubLLMOpenaiEcosystem开源项目
ChatLLM通过知识库支持，实现对多种大模型和文档格式的智能对话。该开源项目提供API分发系统，兼容多个LLM，并支持Openai生态。项目还包括ChatOCR、ChatMind、ChatPDF等模块，便于部署与集成。
web-llm - 浏览器语言模型推理引擎，完全支持OpenAI API
GithubOpenAI API兼容性WebGPUWebLLM大语言模型开源项目浏览器内推理
WebLLM是一款借助WebGPU技术，实现硬件加速的浏览器内语言模型推理引擎，无需服务器即可直接在浏览器内运行。完全兼容OpenAI API，并具备流式输出和JSON模式生成功能，支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中，同时确保用户隐私安全，并享受高效的GPU加速体验。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号