lmstudio.js
lmstudio.js库在JavaScript和Node.js环境中实现本地大语言模型的加载和使用。支持CLI工具的快速安装,模型的预设配置与自定义,跨域资源共享和守护模式。提供详尽的API示例,涵盖模型加载、文本补全、对话和结构化输出功能,适合开发Web应用及定制LLM使用场景的开发者。