#开源LLMs
modelz-llm学习资料汇总-OpenAI兼容API服务器
2 个月前
Modelz LLM: 开源大语言模型的OpenAI兼容API服务
3 个月前
相关项目
Awesome-AITools
Awesome-AITools是一个收集了各类人工智能相关工具的综合资源平台,覆盖编程开发、图像创作、语音识别等多种应用。用户可以快速找到适应不同场景的AI工具,从开发和研究到日常使用,都能获得强大支持。特色包括开源共享、资源丰富、持续更新及社区支持。
modelz-llm
Modelz LLM 是一款推理服务器,支持在本地或云端环境中运行开源大语言模型(LLM),如FastChat、LLaMA和ChatGLM,并兼容OpenAI API。用户可以通过OpenAI Python SDK或LangChain与模型交互,支持将不同LLM的Docker镜像部署在Kubernetes等云原生环境,便于开发者快速上手和灵活部署各种AI应用。