Logo

#PyPI

nm-vllm: 高性能和内存高效的LLM推理与服务引擎

2 个月前
Cover of nm-vllm: 高性能和内存高效的LLM推理与服务引擎

ONNX Simplifier: 简化您的ONNX模型

2 个月前
Cover of ONNX Simplifier: 简化您的ONNX模型

Audiomentations: 强大的Python音频数据增强库

2 个月前
Cover of Audiomentations: 强大的Python音频数据增强库

相关项目

Project Cover
onnx-simplifier
ONNX Simplifier通过推理整个计算图,将冗余操作替换为常量输出,从而简化ONNX模型。用户可通过Web版本无需安装地使用该工具,或通过pip命令安装Python版本进行本地使用。该工具适用于多种项目,如MXNet、MMDetection、YOLOv5等,显著提升模型效率和可读性。
Project Cover
wikipedia2vec
Wikipedia2Vec是一款由Studio Ousia开发和维护的工具,用于从维基百科中获取词语和实体的嵌入表示。通过简单命令和现成的维基百科数据,能够同步学习词语和实体嵌入,并将相似词语和实体映射到连续的向量空间中。该工具实现了传统的skip-gram模型,并扩展了实体嵌入功能,支持多语言的预训练嵌入下载,可应用于实体链接、命名实体识别、问题回答和文本分类等多种任务。详细信息及使用文档可在官方网站获取。
Project Cover
openplugin
OpenPlugin通过API集成OpenAI的ChatGPT插件,提供与ChatGPT API相同的功能。项目处于封闭测试阶段,包含四个主要包,可支持多种插件。用户无需OpenAI API密钥,只需使用早期访问令牌即可。尽管项目仍在开发,OpenPlugin已经支持多种插件,提供高效简便的集成解决方案。
Project Cover
audiomentations
Audiomentations是一个用于音频数据增强的Python库,专为提升深度学习模型性能而设计。该库支持单声道和多声道音频,能够集成到Tensorflow/Keras或Pytorch等训练管道中。它已在Kaggle竞赛中帮助用户取得了出色的成绩,并被多家开发下一代音频产品的公司采用。Audiomentations提供了丰富的音频变换功能,如加噪声、时间拉伸、音调变化和移位等,在CPU上运行,同时推荐使用torch-audiomentations以获得GPU支持。
Project Cover
nm-vllm
nm-vllm是Neural Magic维护的企业级大语言模型推理引擎,基于vLLM开发。支持PyPI安装和Docker部署,提供CUDA加速和稀疏化功能,可提高推理效率。项目在Hugging Face上提供多种优化模型,为大规模语言模型部署提供高效解决方案。
Project Cover
stdlib-list
stdlib-list是一个Python包,提供Python 2.6至3.12版本的标准库列表。开发者可通过它查询特定Python版本的标准库信息,便于项目开发和分析。通过简单的Python代码调用,即可获取指定版本的标准库列表。注意,Python 3.10及更高版本已内置类似功能。这个社区维护的项目易于安装使用,是Python开发中的实用工具。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号