#Hugging Face Transformers
june - 本地化、高隐私的语音聊天机器人
juneOllamaHugging Face TransformersCoqui TTS Toolkit本地语音聊天机器人Github开源项目
June是一个由Ollama、Hugging Face Transformers和Coqui TTS Toolkit提供支持的本地语音聊天机器人。它结合了高级语言模型、语音识别和文本到语音合成功能，提供多种交互模式，包括文本输入/输出、语音输入/文本输出、文本输入/音频输出和语音输入/音频输出。无需上传数据到外部服务器，确保高度隐私。June还提供详细的安装和定制配置指南，兼容多种操作系统。
super-json-mode - 以并行方式高效生成JSON结构化输出的Python框架
Super JSON ModeOpenAIHugging Face TransformersvLLM并行生成Github开源项目
Super JSON Mode 是一个通过将目标结构分解为原子组件来并行生成JSON输出的Python框架。相比传统的JSON生成方法，该框架提高了生成速度达10倍，同时减少了解析问题。它支持包括OpenAI和Hugging Face Transformers在内的主流LLM, 以及开源LLM如vLLM。安装只需运行pip命令，详细的使用说明和示例代码请参见项目文档。
Transformers4Rec - 灵活高效的PyTorch兼容序列与会话推荐库
Transformers4RecNLPRecSysPyTorchHugging Face TransformersGithub开源项目
Transformers4Rec是一个结合Hugging Face Transformers框架的高效库，专注于自然语言处理和推荐系统的结合。通过支持多种输入特征和模块化设计，它提供了与PyTorch兼容的高灵活性架构。集成NVTabular和Triton Inference Server，实现了全GPU加速的管道，优化了序列和会话推荐效果。其在业内竞赛中的优异表现展示了其在会话推荐任务中的高准确性。
roberta-base - 适用于HPU的模型优化与推理配置指南
模型训练Habana处理器Hugging Face Transformers模型Github开源项目问答系统Optimum HabanaHuggingface
基于Habana Gaudi处理器的优化指南，旨在简化和加速Transformer与Diffusers模型的HPU加载、训练和推理过程。适合寻求利用HPU提升模型性能的研究人员和开发者。
相关文章
