热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Super JSON Mode
super-json-mode - 以并行方式高效生成JSON结构化输出的Python框架
Super JSON Mode
OpenAI
Hugging Face Transformers
vLLM
并行生成
Github
开源项目
Super JSON Mode 是一个通过将目标结构分解为原子组件来并行生成JSON输出的Python框架。相比传统的JSON生成方法,该框架提高了生成速度达10倍,同时减少了解析问题。它支持包括OpenAI和Hugging Face Transformers在内的主流LLM, 以及开源LLM如vLLM。安装只需运行pip命令,详细的使用说明和示例代码请参见项目文档。
1
1
相关文章
Super JSON Mode: 加速结构化输出生成的革命性框架
3 个月前
Super-JSON-Mode入门指南 - 加速结构化输出生成的利器
3 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号