Logo

CARLA Garage: 揭示端到端自动驾驶模型的隐藏偏差

CARLA Garage:探索端到端自动驾驶模型的隐藏偏差

CARLA garage

自动驾驶技术正在快速发展,但端到端驾驶模型中仍然存在一些隐藏的偏差和局限性。为了揭示和解决这些问题,来自图宾根大学自主视觉小组的研究人员开发了CARLA Garage项目。这个开源项目为自动驾驶研究提供了强大的工具和基准,帮助研究人员更好地理解和改进端到端驾驶模型。

项目概述

CARLA Garage项目源于研究人员Bernhard Jaeger、Kashyap Chitta和Andreas Geiger发表在ICCV 2023上的论文《Hidden Biases of End-to-End Driving Models》。该项目提供了清晰可配置的代码、详细的文档以及性能强大的预训练模型权重,可以作为基于CARLA模拟器进行端到端自动驾驶研究的良好起点。

CARLA Garage的主要目标包括:

  1. 揭示端到端驾驶模型中的隐藏偏差
  2. 提供可复现的基准和评估方法
  3. 开发新的训练和评估技术
  4. 促进自动驾驶研究社区的合作与交流

主要功能

CARLA Garage项目提供了一系列强大的功能:

  1. 预训练模型: 提供了在不同基准上训练的高性能预训练模型,可直接用于评估或进一步微调。

  2. 数据集生成: 包含用于生成大规模自动驾驶数据集的工具和脚本。

  3. 模型训练: 提供了灵活的训练框架,支持多GPU训练、继续训练等功能。

  4. 评估基准: 实现了多个具有挑战性的评估基准,如longest6和LAV。

  5. 可视化工具: 包含用于可视化模型预测和评估结果的工具。

  6. CARLA集成: 与CARLA模拟器深度集成,支持复杂场景的模拟。

安装与使用

要开始使用CARLA Garage,您需要按照以下步骤进行安装:

  1. 克隆项目仓库:
git clone https://github.com/autonomousvision/carla_garage.git
cd carla_garage
  1. 安装CARLA 0.9.10.1

  2. 创建并激活conda环境:

conda env create -f environment.yml
conda activate garage
  1. 设置必要的环境变量,如CARLA_ROOT、WORK_DIR等。

完成安装后,您可以使用提供的脚本进行数据生成、模型训练和评估等操作。项目文档中详细说明了各个功能的使用方法。

评估基准

CARLA Garage实现了多个具有挑战性的评估基准,其中最重要的是longest6基准。该基准包含108条长路线,能够全面评估模型的性能。评估过程支持并行化,可以显著提高效率。

评估流程如下:

  1. 启动CARLA服务器
  2. 运行评估脚本leaderboard_evaluator_local.py
  3. 使用result_parser.py解析结果

为了更高效地进行评估,项目还提供了用于SLURM集群的并行化评估脚本。

模型训练

CARLA Garage提供了灵活的模型训练框架。主要训练脚本为train.py,支持多种配置选项:

  • 实验ID
  • 批量大小
  • 数据集路径
  • 训练设置(如是否使用waypoint head)
  • CPU核心数
  • 数据重复次数

此外,还支持两阶段训练策略,可以先训练感知骨干网络,再训练控制头。

数据集

项目发布了用于训练最终模型的数据集,大小约350GB。数据集采用CC BY 4.0许可证发布,可以通过提供的脚本下载:

cd /path/to/carla_garage/tools
bash download_data.sh

提交到CARLA排行榜

CARLA Garage提供了将模型提交到官方CARLA排行榜的完整流程:

  1. 创建Docker镜像
  2. 本地测试Docker容器
  3. 使用alpha工具提交到排行榜

这使得研究人员可以方便地将自己的模型与其他最先进的方法进行比较。

其他文档

除了主要功能外,CARLA Garage还提供了一些额外的文档:

  • 坐标系统说明
  • TransFuser模型家族的历史
  • 工程设计理念
  • 额外功能说明

这些文档有助于更深入地理解项目的技术细节和设计思路。

总结

CARLA Garage为自动驾驶研究提供了一个强大而全面的开源平台。通过揭示端到端驾驶模型的隐藏偏差,该项目有望推动自动驾驶技术的进一步发展。无论是初学者还是经验丰富的研究人员,都可以从这个项目中受益,更好地理解和改进端到端自动驾驶模型。

随着自动驾驶技术的不断进步,像CARLA Garage这样的开源项目将在推动整个领域发展方面发挥越来越重要的作用。我们期待看到更多研究人员参与到这个项目中来,共同推动自动驾驶技术的创新与进步。

如果您对CARLA Garage项目感兴趣,欢迎访问其GitHub仓库,为项目点亮星标,并考虑在您的研究中引用相关论文。让我们携手努力,共同推动自动驾驶技术的发展,为未来的智能交通系统奠定坚实的基础。

相关项目

Project Cover
carla
CARLA是一款专为自动驾驶研究设计的开源模拟器,支持开发、训练和验证自动驾驶系统。提供丰富的开放数字资产,包括城市布局、建筑物和车辆,并支持灵活配置传感器套件和环境条件。CARLA支持在多平台上模拟和测试自动驾驶解决方案。
Project Cover
Autonomous-Driving-in-Carla-using-Deep-Reinforcement-Learning
该项目在CARLA仿真环境中,使用深度强化学习方法进行自动驾驶训练。通过结合PPO算法和变分自编码器(VAE),加速学习并提高驾驶决策能力。项目采用Python和PyTorch构建,重点在于自动驾驶和障碍物回避的持续学习。对于推动自动驾驶技术和决策效率研究具有显著意义。
Project Cover
InterFuser
该项目融合多模态多视角传感器信息,实现综合场景理解,生成可解释的中间特征,确保动作在安全范围内。该方法在CARLA AD排行榜上取得了最新成果,项目还提供了详细的数据生成、训练和评估步骤,以及实用工具脚本和预训练权重。
Project Cover
carla_garage
基于CARLA仿真器的端到端自动驾驶研究开源项目。提供可配置代码、文档和高性能预训练模型,揭示了端到端驾驶模型的隐藏偏差。在多个基准测试中表现优异,支持数据生成、模型训练和评估,有助于研究人员探索自动驾驶前沿问题。
Project Cover
End-to-end-Autonomous-Driving
该项目整合端到端自动驾驶研究资源,涵盖学习材料、研讨会、论文集、基准测试、数据集及竞赛信息。旨在为自动驾驶研究提供全面参考,推动技术发展。内容定期更新,欢迎社区参与贡献。
Project Cover
awesome-CARLA
CARLA是一款开源的自动驾驶系统模拟器,本文汇总了CARLA相关的优质资源,包括官方发布、教程、示例代码等。涵盖强化学习、模仿学习、多智能体、目标检测、图像分割等多个领域,为开发者提供全面的CARLA学习和应用参考。无论是入门还是进阶,都能在这里找到有价值的CARLA项目和工具。
Project Cover
transfuser
TransFuser项目采用Transformer架构实现多模态传感器数据融合,显著提高自动驾驶系统性能。该方法在CARLA自动驾驶基准测试中表现出色,为端到端自动驾驶提供了新思路。项目开源代码、数据集和预训练模型,便于研究者进行复现和深入研究。

最新项目

Project Cover
豆包MarsCode
豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。
Project Cover
AI写歌
Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。
Project Cover
商汤小浣熊
小浣熊家族Raccoon,您的AI智能助手,致力于通过先进的人工智能技术,为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答,小浣熊都能以快速、准确的响应满足您的需求,让您的生活更加智能便捷。
Project Cover
有言AI
有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。
Project Cover
Kimi
Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。
Project Cover
吐司
探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。
Project Cover
SubCat字幕猫
SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。
Project Cover
AIWritePaper论文写作
AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。
Project Cover
稿定AI
稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号