#Hugging Face Transformers
Super-JSON-Mode入门指南 - 加速结构化输出生成的利器
2024年09月10日
June - 本地语音聊天机器人学习资源汇总 - 基于Ollama、Hugging Face和Coqui TTS的隐私友好型AI助手
2024年09月10日
Super JSON Mode: 加速结构化输出生成的革命性框架
2024年08月31日
相关项目
june
June是一个由Ollama、Hugging Face Transformers和Coqui TTS Toolkit提供支持的本地语音聊天机器人。它结合了高级语言模型、语音识别和文本到语音合成功能，提供多种交互模式，包括文本输入/输出、语音输入/文本输出、文本输入/音频输出和语音输入/音频输出。无需上传数据到外部服务器，确保高度隐私。June还提供详细的安装和定制配置指南，兼容多种操作系统。
super-json-mode
Super JSON Mode 是一个通过将目标结构分解为原子组件来并行生成JSON输出的Python框架。相比传统的JSON生成方法，该框架提高了生成速度达10倍，同时减少了解析问题。它支持包括OpenAI和Hugging Face Transformers在内的主流LLM, 以及开源LLM如vLLM。安装只需运行pip命令，详细的使用说明和示例代码请参见项目文档。
Transformers4Rec
Transformers4Rec是一个结合Hugging Face Transformers框架的高效库，专注于自然语言处理和推荐系统的结合。通过支持多种输入特征和模块化设计，它提供了与PyTorch兼容的高灵活性架构。集成NVTabular和Triton Inference Server，实现了全GPU加速的管道，优化了序列和会话推荐效果。其在业内竞赛中的优异表现展示了其在会话推荐任务中的高准确性。
roberta-base
基于Habana Gaudi处理器的优化指南，旨在简化和加速Transformer与Diffusers模型的HPU加载、训练和推理过程。适合寻求利用HPU提升模型性能的研究人员和开发者。