Project Icon

modelstore

允许对机器学习模型进行版本控制、导出和保存到文件系统或云存储提供商Python库

modelstore是一个Python库,可在本地文件系统或多种云存储(如AWS、GCP、Azure)中进行机器学习模型的版本管理、导出、保存和下载。无需跟踪服务器,支持模型域和状态管理、即时下载或内存加载,也可用作命令行工具。支持多个机器学习库,如TensorFlow、PyTorch、Scikit Learn等。详细信息请参考官方文档。

项目介绍:modelstore

modelstore 是一个专为机器学习模型构建的 Python 库,旨在帮助用户对模型进行版本管理、导出、存储并下载到您选择的存储平台。这个开源项目的设计宗旨是简化模型管理,并消除为存储和管理机器学习模型所需的样板代码。

主要特点

  • 无需追踪服务器: 用户可以选择将模型存储于本地文件系统或者云存储服务中,比如 AWS、GCP 和 Azure。
  • 模型上传与版本控制: 每次上传模型时,modelstore 都会自动进行版本控制,方便用户进行模型的更新和管理。
  • 基于领域和状态的模型管理: 用户可以按领域列出模型,并通过创建模型状态来管理模型的当前状态。
  • 下载与内存加载: 提供根据模型 ID 下载功能,并能直接从存储加载模型到内存。
  • 命令行工具: 支持从命令行下载模型,让用户更方便地操作模型存储。

安装方式

用户可以通过简单的命令在 Python 环境中安装 modelstore:

pip install modelstore

支持的存储类型

modelstore 支持多种存储选项,用户可以选择最适合自己的:

  • AWS S3 Bucket
  • Azure Blob Storage
  • Google Cloud Storage Bucket
  • 任何兼容 s3 协议的对象存储(如 MinIO)
  • 本地文件系统目录

支持的机器学习库

modelstore 可以与众多流行的机器学习库协同工作,包括但不限于:Annoy、Catboost、Fast.AI、Keras、LightGBM、PyTorch、Scikit Learn 以及 TensorFlow 等。如果您使用的机器学习库未被列出,modelstore 也提供了上传和保存原始文件的办法。

使用示例

以下是一个使用 Python 的简单示例,展示了如何利用 modelstore 进行模型的存储和加载:

from modelstore import ModelStore
from sklearn.ensemble import RandomForestClassifier
import json

# 训练您的模型
clf = RandomForestClassifier(n_estimators=10)
clf = clf.fit(X, Y)

# 创建一个使用 GCP 存储桶作为存储选项的模型存储对象
model_store = ModelStore.from_gcloud(
   project_name="my-project",
   bucket_name="my-bucket",
)

# 将模型上传到模型存储
domain = "example-model"
meta_data = model_store.upload(domain, model=clf)

# 打印关于模型的元数据
print(json.dumps(meta_data, indent=4))

# 重新加载模型
clf = model_store.load(domain=domain, model_id=meta_data["model"]["model_id"])

贡献与社区

modelstore 在一个开放的环境中进行构建,欢迎任何感兴趣的开发者参与进来。在 MLOps 社区的 Slack 频道 #oss-modelstore 中,大家可以讨论问题,分享经验。

选定合适的方法和工具来管理机器学习模型对于复杂的机器学习应用来说至关重要,而 modelstore 正是在这一需求背景下应运而生的,旨在提供一个简单且功能强大的解决方案。

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

问小白

问小白是一个基于 DeepSeek R1 模型的智能对话平台,专为用户提供高效、贴心的对话体验。实时在线,支持深度思考和联网搜索。免费不限次数,帮用户写作、创作、分析和规划,各种任务随时完成!

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

Trae

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号