Project Icon

determined

深度学习平台,支持分布式训练与超参数调优

Determined平台兼容PyTorch和TensorFlow,提供分布式训练、超参数调优和资源管理,降低云端GPU成本并支持实验追踪分析和可复现性。通过Python库、命令行界面和Web用户界面,用户能够轻松构建和管理模型,支持本地和云端部署,包括AWS和GCP。丰富的文档和示例帮助快速上手,通过用户指南、社区支持和贡献者指南,确保完整平台功能的利用。

项目介绍:Determined

Determined 是一个功能齐全的深度学习平台,兼容 PyTorch 和 TensorFlow。这个平台专注于以下几个关键方面:

  • 分布式训练:加快模型训练速度。
  • 超参数调优:帮助用户找到最佳模型参数。
  • 资源管理:有效管理资源,降低云 GPU 成本。
  • 实验跟踪:支持分析和结果的可重复性。

如何使用 Determined

Determined 由三个主要组件组成:Python 库、命令行接口(CLI)和 Web UI。

Python 库

通过使用 Determined 的 Python 库,用户可以使现有的 PyTorch 或 Tensorflow 代码与平台兼容。使用者只需将代码组织到基于类的 API 中,或是通过 Core API 只调用所需的功能。

例如,使用 PyTorch:

from determined.pytorch import PyTorchTrial

class YourExperiment(PyTorchTrial):
  def __init__(self, context):
    ...

此外,还可以使用 Core API:

import determined as det

with det.core.init() as core_context:
    ...

命令行接口(CLI)

CLI 提供了便捷的操作方式,用户可以:

  • 本地启动 Determined 集群:det deploy local cluster-up
  • 在云服务(如 AWS 或 GCP)上启动集群:det deploy aws up
  • 启动模型训练:det experiment create gpt.yaml .

通过 YAML 文件来自定义分布式训练和超参数调优等操作。 示例 YAML 配置:

resources:
  slots_per_trial: 8
  priority: 1
hyperparameters:
  learning_rate:
    type: double
    minval: .0001
    maxval: 1.0
searcher:
  name: adaptive_asha
  metric: validation_loss
  smaller_is_better: true

Web UI

Web UI 为用户提供了一个直观的界面,用于查看损失曲线、超参数图表、代码和配置快照、模型注册、集群利用情况、调试日志、性能分析报告等。

安装步骤

要安装 Determined 的 CLI,可以使用以下命令:

pip install determined

安装完毕后,通过 det deploy 启动本地或云服务上的 Determined 集群。

示例与文档

用户可以通过30多个示例来熟悉 Determined 的使用,这些示例可在 Determined 的代码示例库中找到。此外,还有详细的使用文档和教程,帮助用户快速上手和了解更多高级功能。

社区与支持

有需要帮助、报告问题或希望获得最新项目消息的用户可加入 Determined 社区:

  • 在 Slack 上向社区提问或获得支持。
  • 通过 YouTube 和 Twitter 关注 Determined 的最新动态。
  • 加入社区邮件列表获取项目交流和公告。
  • 在 GitHub 上提交 issue,报告项目或安全问题。

贡献与许可证

Determined 欢迎社区贡献,并提供了详细的贡献指南。该项目采用 Apache V2 协议授权,保障其开源社区的良性发展。

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号