#PyPI
onnx-simplifier
ONNX Simplifier通过推理整个计算图,将冗余操作替换为常量输出,从而简化ONNX模型。用户可通过Web版本无需安装地使用该工具,或通过pip命令安装Python版本进行本地使用。该工具适用于多种项目,如MXNet、MMDetection、YOLOv5等,显著提升模型效率和可读性。
nm-vllm
nm-vllm是Neural Magic维护的企业级大语言模型推理引擎,基于vLLM开发。支持PyPI安装和Docker部署,提供CUDA加速和稀疏化功能,可提高推理效率。项目在Hugging Face上提供多种优化模型,为大规模语言模型部署提供高效解决方案。
wikipedia2vec
Wikipedia2Vec是一款由Studio Ousia开发和维护的工具,用于从维基百科中获取词语和实体的嵌入表示。通过简单命令和现成的维基百科数据,能够同步学习词语和实体嵌入,并将相似词语和实体映射到连续的向量空间中。该工具实现了传统的skip-gram模型,并扩展了实体嵌入功能,支持多语言的预训练嵌入下载,可应用于实体链接、命名实体识别、问题回答和文本分类等多种任务。详细信息及使用文档可在官方网站获取。
stdlib-list
stdlib-list是一个Python包,提供Python 2.6至3.12版本的标准库列表。开发者可通过它查询特定Python版本的标准库信息,便于项目开发和分析。通过简单的Python代码调用,即可获取指定版本的标准库列表。注意,Python 3.10及更高版本已内置类似功能。这个社区维护的项目易于安装使用,是Python开发中的实用工具。