llm-books学习资源汇总 - 利用LLM构建应用的实践指南

DemoGPT

DemoGPT 通过 GPT-3.5 Turbo 和 LangChain 自动生成代码，只需一个提示即可创建交互式 Streamlit 应用。该平台简化了应用开发流程，并计划集成 Gorilla 以支持外部 API 调用，进一步提升开发效率和用户体验。

Lumos

Lumos是一款基于本地LLM的Chrome扩展，无需远程服务器即可浏览和解析网页内容。支持总结长篇内容、解析技术文档等多功能应用，依赖于Ollama服务器的本地运行，适用于技术文档、社交媒体、新闻等场景。

LangChain-ChatGLM-Webui

LangChain-ChatGLM-Webui 是一个利用LangChain和ChatGLM-6B系列模型的Web界面，支持txt、docx、md、pdf等格式文件上传，适用于本地知识驱动的大模型应用。项目支持HuggingFace、OpenXLab等多个平台的在线体验，适合开发者快速部署多种大语言模型和嵌入模型。

GenerativeAIExamples

NVIDIA提供的生成式AI示例，使用CUDA-X软件栈和NVIDIA GPU，展示快速部署、测试和扩展AI模型的方法。包括最新的RAG管道构建技巧、实验性示例和企业应用，支持本地和远程推理，集成流行LLM编程框架，并附有详细开发文档。

kor

Kor是一款原型工具，通过定义数据结构和提供示例，帮助从文本中提取结构化数据。该工具生成提示并发送给指定的LLM进行解析。兼容pydantic v1和v2，支持解析、函数调用和JSON模式等多种抽取方式。适用于精确理解用户请求并与API进行自然语言交互的场景。

langcorn

LangCorn利用FastAPI实现高效的LangChain模型和管道部署与管理。主要功能包括便捷的身份验证、高性能请求处理、可扩展的语言处理及异步处理支持。通过pip安装并使用详尽的RESTful API文档，用户可以快速启动。适合高效、可靠的语言处理应用。

Llama-2-Open-Source-LLM-CPU-Inference

详细介绍如何在本地CPU上使用Llama 2、C Transformers、GGML和LangChain运行量化开源LLM进行文档问答的指南。内容涵盖工具配置、模型下载和依赖管理，帮助团队实现自我管理或私有部署，满足数据隐私和合规要求，并节省GPU实例的高额费用。

ArXivChatGuru

ArXiv ChatGuru使用LangChain和Redis技术，使ArXiv庞大的科学论文库变得更加互动。该系统通过主题检索相关论文并生成嵌入向量，帮助用户以问答形式探索学术内容，提高科研文献的易接触性和理解度。

ctransformers

CTransformers提供Python接口，通过GGML库高效加载和运行C/C++实现的Transformer模型。支持多种模型类型，如GPT-2、GPT-J、LLaMA等，并可与Hugging Face和LangChain集成。提供CUDA、ROCm和Metal兼容的GPU加速选项，适合高性能自然语言处理任务。

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。