Project Icon

ell

适用于终端环境下与LLMs进行交互轻量级命令行工具

ell是一个用Bash编写的轻量级命令行工具,适用于终端环境下与LLMs进行交互。其功能包含终端提问、支持管道操作、调用函数和使用模板等。ell安装简单,并支持扩展,需Bash 4.2及以上版本、jq、curl和(可选)perl。用户可通过配置文件灵活选择不同的LLM模型,如Google的gemini和OpenAI的gpt-4o系列。ell与其他工具兼容,适合各种开发和日常使用场景。

llms_tool - 多功能大语言模型训练测试工具包
GithubHuggingFaceRLHF分布式训练大语言模型开源项目预训练
llms_tool是一个基于HuggingFace的大语言模型工具包,支持多种模型的训练、测试和部署。它提供预训练、指令微调、奖励模型训练和RLHF等功能,支持全参数和低参数量训练。工具包集成WebUI和终端预测界面,以及DeepSpeed分布式训练。涵盖ChatGLM、LLaMA、Bloom等主流模型,提供多种训练方法和量化选项。
nextjs-ollama-llm-ui - 快速启动大语言模型的便捷方法
GithubLLMNextJSOllamaweb界面开源项目本地存储
该项目提供快速启动大语言模型的便捷方法,无需复杂设置。主要功能包括美观直观的UI、完全本地存储、响应式设计、代码高亮及一键复制、模型下载与管理、聊天记录保存,以及灯光和暗黑模式。支持快速部署到Vercel或Netlify,使用户能够随时随地轻松使用,体验类似ChatGPT的对话体验。
AnythingLLM - 多功能AI应用,支持多种LLM
AnythingLLM 是一款多功能AI应用,可与任何LLM互动并提高生产力。它无需技术设置,支持在Windows、MacOS和Linux上私密运行最新的LLM。支持自定义模型,包括GPT-4、Llama和Mistral,并且内置多种工具以确保数据隐私。
shell-ai - 命令行自然语言理解工具,简化Shell命令生成
GithubShell-AI命令建议命令行工具开源项目自然语言处理跨平台
Shell-AI是一款命令行工具,通过自然语言理解生成Shell命令建议。支持跨平台使用,兼容Azure OpenAI部署。用户输入自然语言描述后,Shell-AI会提供符合需求的单行命令建议。支持多种配置方式,安装简单,适用于Linux、macOS和Windows系统。
1filellm - 整合多来源数据的命令行工具
Data2LLMGithubLLM命令行工具开源项目数据聚合自动化
Data2LLM是一款命令行工具,能够高效地聚合和预处理数据,支持从本地文件、GitHub仓库、ArXiv论文、YouTube视频等多个来源提取和整合文本内容,生成适用于大型语言模型的高密度提示。工具自动检测源类型,进行文本预处理,并生成XML格式输出,复制到剪贴板,简化操作流程,提升工作效率。
modelz-llm - 开源大语言模型推理服务器,支持本地和云端部署并兼容OpenAI API
GithubModelz LLMOpenAI兼容 API云原生开源LLMs开源项目自托管
Modelz LLM 是一款推理服务器,支持在本地或云端环境中运行开源大语言模型(LLM),如FastChat、LLaMA和ChatGLM,并兼容OpenAI API。用户可以通过OpenAI Python SDK或LangChain与模型交互,支持将不同LLM的Docker镜像部署在Kubernetes等云原生环境,便于开发者快速上手和灵活部署各种AI应用。
chatgpt-shell - Emacs 集成 ChatGPT 和 DALL-E 的交互式 Shell 环境
APIEmacsGithubOpenAIchatgpt-shellshell-maker开源项目
chatgpt-shell 是一个 Emacs 插件,为 ChatGPT 和 DALL-E 提供交互式 Shell 环境,支持 Org Babel 集成。该项目包含 shell-maker 工具,可用于创建本地或云服务的 Shell。chatgpt-shell 支持流式响应、多会话管理和代码高亮,并提供多种自定义选项。这个插件适用于日常对话和代码相关任务,为用户提供 AI 辅助功能。
xllm - 便捷微调大语言模型,集成最新优化技术
GithubX—LLM大语言模型开源项目模型训练训练优化集成开发
X—LLM是一个便捷的微调大语言模型工具,集成了诸如QLoRA、DeepSpeed、GPTQ、Flash Attention 2和FSDP等最新优化方法,显著提升训练效率。用户可以专注于模型和数据的优化,而不需要繁琐的代码编写。该工具支持多种Transformer模型,并可无缝对接HuggingFace Hub,适用于生产环境和快速原型设计,有助于用户更好地掌控模型训练进度并降低开销。
gpt-cli - 命令行聊天工具,支持多平台与自定义配置
API使用跟踪Githubgpt-cli命令行界面多助手支持开源项目模型定制
gpt-cli 是一个在终端中与 OpenAI、Anthropic、Google Gemini 和 Cohere 等模型互动的命令行工具。具备自定义模型、参数与多个助理的功能,支持 API 使用追踪、快捷键、Markdown 格式及多行输入。通过 YAML 文件管理配置,适用于多种操作场景。
llm-api - 灵活易用的跨平台大语言模型API框架
API接口Docker容器GPU加速GithubLLM API大语言模型开源项目
LLM-API是一个灵活的大语言模型API框架,支持在多种硬件平台上运行各类LLM模型。通过简单的YAML配置,它能自动下载模型并提供统一的API接口。支持Docker容器和本地运行,兼容Llama、GPT等多种模型。项目还包含Python客户端和LangChain集成,大大简化了LLM的应用开发过程,使其强大功能更易于开发者使用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号