Project Icon

omnisafe

安全强化学习框架加速AI系统安全研究

OmniSafe是一个用于安全强化学习(SafeRL)研究的开源框架。它提供了全面的SafeRL算法基准测试和模块化工具包。该框架采用高度模块化设计,支持高性能并行计算,并提供开箱即用的工具。OmniSafe实现了多种类型的SafeRL算法,包括基于策略、无模型和基于模型等。通过丰富的教程和API,框架适合不同水平的研究人员使用。OmniSafe致力于推动SafeRL领域的发展,为AI系统安全性研究提供重要支持。

Safe-Policy-Optimization - 安全强化学习的全面算法基准平台
GithubPKU-AlignmentSafe-Policy-OptimizationSafety-Gymnasium安全强化学习开源项目算法基准
Safe-Policy-Optimization为安全强化学习(Safe RL)提供了全面的算法基准平台。该项目整合了多种算法和环境,支持单智能体和多智能体任务,具备正确性、可扩展性、日志记录和可视化等特性。通过统一的接口和详细文档,Safe-Policy-Optimization简化了安全RL算法的评估和比较流程,为研究人员提供了强大的实验工具。
safe-rlhf - 北京大学开发的AI安全增强框架
BeaverGithub人工智能安全RLHF开源项目数据集模型训练
Safe RLHF是一个由北京大学PKU-Alignment团队开发的开源框架,整合了SFT、RLHF及Safe RLHF训练方法。它支持多种预训练模型,提供大量人工标注数据,能够训练奖励与成本模型,并采用多层次的安全性校验指标。最新发布的版本提供详尽的复现代码和数据集,旨在增强AI模型的安全性和实用性。
Safe-Reinforcement-Learning-Baselines - 综合安全强化学习研究资源库
GithubSafe Reinforcement Learning基准测试安全强化学习开源项目环境算法
Safe-Reinforcement-Learning-Baselines项目汇集了安全强化学习领域的多种基线算法和基准环境,涵盖单智能体和多智能体场景。该资源库提供环境支持、算法实现、相关调查、学术论文和教程等全面内容,为研究人员提供系统性的安全强化学习工具和参考资料,促进该领域的持续发展和创新。
safety-gymnasium - 安全强化学习的可扩展定制化环境库
GithubMuJoCoSafety-Gymnasium可定制基准环境安全强化学习开源项目
Safety-Gymnasium为安全强化学习提供了可扩展的定制化环境。该库包含兼容约束信息的标准API和多种安全增强学习任务,如安全导航和速度控制。研究人员可通过其代码框架和环境设计探索新见解,促进SafeRL算法的基准测试和环境标准化。
safeguards-shield - 增强人工智能应用的安全防护开发工具
GithubLLMsSafeguards Shield保护层安全风险工具包开源项目
Safeguards Shield是一个旨在安全、可靠使用大型语言模型(LLMs)的开发者工具包。本工具包提供保护层功能,能够防御恶意输入并过滤模型输出,使AI应用从原型快速转向生产阶段。此外,包含超过20种即用型检测器,为生成式AI(GenAI)应用提供全面的安全保障,并助力缓解LLM的可靠性与安全隐患。工具包还支持监控事件、成本及关于AI的责任指标,支持应用的长期发展。
OmniXAI - 多功能AI决策解释Python库
GithubOmniXAI可解释人工智能开源项目数据分析机器学习模型解释
OmniXAI是一个开源Python库,专注于可解释人工智能(XAI)。它支持多种数据类型和机器学习模型,提供丰富的解释方法,如特征归因和反事实解释。通过统一接口和可视化仪表板,OmniXAI简化了AI决策解释过程,适用于机器学习流程的各个阶段,为数据科学家和ML从业者提供深入洞察。
AI-Optimizer - 涵盖从无模型到基于模型,从单智能体到多智能体的多种算法的多功能深度强化学习平台
AI-OptimizerGithub多智能体强化学习开源项目深度强化学习离线强化学习自监督学习
AI-Optimizer是一款多功能深度强化学习平台,涵盖从无模型到基于模型,从单智能体到多智能体的多种算法。其分布式训练框架高效便捷,支持多智能体强化学习、离线强化学习、迁移和多任务强化学习、自监督表示学习等,解决维度诅咒、非平稳性和探索-利用平衡等难题,广泛应用于无人机、围棋、扑克、机器人控制和自动驾驶等领域。
safe-control-gym - 安全控制与强化学习的物理仿真平台
Githubsafe-control-gym仿真环境安全约束开源项目强化学习机器人控制
'safe-control-gym'是一个开源的基于物理的仿真平台,为学习控制和强化学习研究提供CartPole和Quadrotor环境。该平台支持符号化先验动力学,实现多种扰动和约束条件,集成了多种控制器和安全过滤器。研究人员可利用此平台测试控制方法的鲁棒性和泛化能力,探索安全学习和控制领域的创新。
omnichain - AI语言模型的可视化编程工具
AI语言模型APIGithubLLMOmniChain可视化编程开源项目
OmniChain是一个为AI语言模型设计的可视化编程工具。它提供直观界面,便于构建和管理AI模型链。该工具支持多种LLM后端,提供API和示例,简化AI开发过程。OmniChain适用于开发从基础聊天机器人到复杂AI应用的各类项目。
tmrl - 实时机器人控制与自动驾驶AI的分布式强化学习框架
GithubGymnasium环境TMRLTrackMania 2020开源项目强化学习自动驾驶
TMRL是一个面向机器人学习的分布式强化学习框架,专注于实时应用中的深度强化学习AI训练。该框架以TrackMania 2020游戏为例,展示了基于原始截图的自动驾驶控制。TMRL具备安全远程训练、灵活定制和实时环境兼容性等特点,采用单服务器多客户端架构,可在多个节点收集样本并在高性能集群上进行训练。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号