ManiSkill 3(测试版)
使用光线追踪渲染的环境/机器人样本。场景数据集来自AI2THOR和ReplicaCAD
ManiSkill是一个由SAPIEN驱动的强大的统一机器人仿真和训练框架。整个框架尽可能开源,ManiSkill v3目前处于测试版发布阶段。其特点包括:
- GPU并行化的视觉数据收集系统。在高端硬件上,使用4090 GPU可以以20k FPS的速度收集RGBD + 分割数据,比大多数其他模拟器快10-100倍。
- 示例任务涵盖了广泛的不同机器人形态(四足机器人、移动操作机器人、单臂机器人)以及各种不同的任务(桌面操作、运动、灵巧操作)。
- GPU并行化任务,能够在仿真中进行极快的合成数据收集。
- GPU并行化任务支持模拟多样化场景,每个并行环境都有完全不同的场景/物体集。
- 灵活的任务构建API,抽象了许多复杂的GPU内存管理代码。
ManiSkill计划支持各种工作流程,包括但不限于基于2D/3D视觉的强化学习、模仿学习、感知-规划-行动等。ManiSkill还将支持更多资产/场景(例如AI2THOR),以及其他功能,如用于评估真实世界策略的数字孪生。有关在正式v3发布之前计划添加的功能,请参阅我们的路线图。
请参阅我们的文档,了解从构建任务到数据收集的教程等更多信息。
注意: 本项目目前处于测试版发布阶段,因此并非所有功能都已添加,可能存在一些错误。如果您发现任何错误或有任何功能请求,请在我们的GitHub issues上发布,或在GitHub discussions中讨论。我们还有一个Discord服务器,用于发布公告和讨论ManiSkill相关内容。
寻找原始ManiSkill2的用户可以在v0.5.3标签找到该代码库的提交。
安装
ManiSkill的安装非常简单,您只需运行几个pip安装命令即可
# 安装包
pip install --upgrade mani_skill
# 安装与您的系统兼容的torch版本
pip install torch torchvision torchaudio
最后,您还需要按照这里的说明设置Vulkan
有关安装的更多详细信息(例如,从源代码安装或进行故障排除),请参阅文档
入门
要开始使用,请查看快速入门文档:https://maniskill.readthedocs.io/en/latest/user_guide/getting_started/quickstart.html
我们还有一个快速入门Colab笔记本,让您无需自己的硬件即可尝试GPU并行化仿真。所有内容都可以在Colab免费版上运行。
有关可以运行的完整示例脚本列表,请参阅文档。
系统支持
我们目前最好地支持基于Linux的系统。Windows系统的支持有限,目前不支持MacOS。我们正在努力尝试在其他系统上支持更多功能,但这可能需要一些时间。大多数限制源于SAPIEN包能够支持的功能。
系统 / GPU | CPU仿真 | GPU仿真 | 渲染 |
---|---|---|---|
Linux / NVIDIA GPU | ✅ | ✅ | ✅ |
Windows / NVIDIA GPU | ✅ | ❌ | ✅ |
Windows / AMD GPU | ✅ | ❌ | ✅ |
WSL / 任何GPU | ✅ | ❌ | ❌ |
MacOS / 任何GPU | ❌ | ❌ | ❌ |
引用和核心团队
ManiSkill 3的技术论文即将发布。
目前的作者列表如下:Stone Tao*、Fanbo Xiang*、Arth Shukla、Chen Bao、Nan Xiao、Rui Chen、Tongzhou Mu、Tse-Kai Chan、Xander Hinrichsen、Xiaodi Yuan、Xinsong Lin、Xuanlin Li、Yuan Gao、Yuzhe Qin、Zhiao Huang、Hao Su
许可
ManiSkill中的所有刚体环境均在完全许可的许可证(例如Apache-2.0)下授权。
资产在CC BY-NC 4.0许可下授权。