Logo
Project Icon

reward-bench

用于评估使用如Starling、PairRM、OpenAssistant和DPO等算法的奖励模型的能力和安全性的基准工具

RewardBench评价标准数据集文献anymodelGithub开源项目

RewardBench是一款基准工具，用于评估使用如Starling、PairRM、OpenAssistant和DPO等算法的奖励模型的能力和安全性。该工具提供通用的推理代码、统一的数据集格式和测试，以确保公平评估，并拥有强大的分析与可视化功能。用户可以通过pip快速安装并运行评估脚本，测试各种奖励模型的性能和偏好集。

GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
Safety-Prompts - 中文大语言模型安全评估与优化
GithubSafety-PromptsSafetyBenchShieldLM大模型安全开源项目评测平台
Safety-Prompts项目提供用于评测和提升中文大语言模型安全性的prompts，确保模型输出与人类价值观一致。项目包含10万条安全场景prompts和ChatGPT回复，涵盖各类安全场景和指令攻击，并提供多选题评测平台，适用于训练和微调更安全的模型，帮助研究人员评估大模型安全性。
prometheus-7b-v2.0 - 用于语言模型评估的开源工具与反馈优化
GithubHuggingfacePrometheus 2开源项目权重合并模型相对评分绝对评分语言模型
Prometheus 2 是一款基于 Mistral-Instruct 的开源语言模型，通过细粒度评估替代 GPT-4 的某些功能。它通过反馈数据微调，支持直接和相对评价。权重合并提升性能，且通过人类反馈优化强化学习模型，适用于多领域评估任务。
rl-baselines-zoo - 一站式强化学习训练与优化集成环境
GithubRL Baselines ZooStable-Baselines3开源项目强化学习训练代理超参数调优
RL Baselines Zoo提供一个多元化的强化学习代理集合，支持用户通过简易界面进行代理训练和算法评测。项目含多个环境和算法，带有经过优化的默认超参数，适用于教育和研究用途。注意：此库已停止维护，建议使用更新的RL-Baselines3 Zoo版本。
fairness-indicators - Tensorflow 的公平性评估和可视化工具包
Fairness IndicatorsGithubTensorflow二分类和多分类分类器公平性指标开源项目模型评估
Fairness Indicators支持团队评估和改进模型的公平性，适用于二元和多分类模型。通过TensorFlow工具包，可以计算常见的公平性指标，并分析数据集分布及模型性能。该工具能处理大规模数据集，并提供信心区间和多阈值评估功能。Fairness Indicators与TensorFlow Data Validation、TensorFlow Model Analysis和What-If Tool紧密集成，助力优化模型。
Popular-RL-Algorithms - 流行强化学习算法的PyTorch实现与评估
GithubPyTorch开源代码开源项目强化学习性能对比算法实现
Popular-RL-Algorithms项目实现了SAC、DDPG、TD3、PPO等多种流行强化学习算法的PyTorch版本。项目提供了算法的多种实现以便比较,并包含奖励归一化、多进程训练等实用技巧。通过在OpenAI Gym环境中的性能展示,为强化学习研究和应用提供了参考。
Starling-LM-7B-alpha - 开源模型在 MT Bench 测试中接近 GPT-4 水平
GithubHuggingfaceStarling-LM-7B-alpha人工智能开源项目机器学习模型自然语言处理语言模型
Starling-LM-7B-alpha 是一个基于人工智能反馈强化学习(RLAIF)训练的开源大语言模型。该模型利用 GPT-4 标注的 Nectar 数据集和创新的奖励训练策略，在 MT Bench 测试中获得 8.09 分，性能仅次于 GPT-4 和 GPT-4 Turbo。研究团队已开源相关数据集、模型和在线演示。Starling-LM-7B-alpha 在多项基准测试中展现出优异性能，显示了其作为开源模型的巨大潜力。
MeaningBERT - 智能评估句子间语义保留的自动化指标
GithubHuggingfaceMeaningBERT开源项目机器学习模型模型自然语言处理评估指标语义保留
MeaningBERT是一种创新的自动化指标，用于评估句子间的语义保留程度。该工具基于先进的自然语言处理技术，其评估结果与人类判断高度相关。MeaningBERT不仅可用于评估任务，还支持进一步训练和微调。在相同句子和无关句子的测试中，MeaningBERT展现了卓越的表现，凸显了其在语义评估方面的可靠性和准确性。研究人员和开发者可通过HuggingFace平台便捷地使用MeaningBERT进行模型训练或评估工作。
AI-Optimizer - 涵盖从无模型到基于模型，从单智能体到多智能体的多种算法的多功能深度强化学习平台
AI-OptimizerGithub多智能体强化学习开源项目深度强化学习离线强化学习自监督学习
AI-Optimizer是一款多功能深度强化学习平台，涵盖从无模型到基于模型，从单智能体到多智能体的多种算法。其分布式训练框架高效便捷，支持多智能体强化学习、离线强化学习、迁移和多任务强化学习、自监督表示学习等，解决维度诅咒、非平稳性和探索-利用平衡等难题，广泛应用于无人机、围棋、扑克、机器人控制和自动驾驶等领域。
awesome-foundation-model-leaderboards - 基础模型评估榜单和工具的综合汇总
Github人工智能基础模型开源项目排行榜机器学习评估基准
本项目收录了多样化的基础模型评估榜单、开发工具和评估机构信息。涵盖文本、图像、代码、数学等领域的模型评估,同时包含解决方案和数据导向的评估。项目提供榜单搜索功能,便于快速查找。这一资源有助于研究人员和开发者比较和分析不同基础模型的性能。
awesome-model-based-RL - 模型化强化学习论文与资源汇总
DreamerGithubMCTS世界模型开源项目强化学习模型学习
本项目汇集了模型化强化学习(Model-Based RL)领域的精选研究论文，持续更新前沿进展。项目提供了将算法分为'学习模型'和'给定模型'两类的分类方法。收录内容包括经典论文、最新会议论文、教程和代码库，涵盖从基础理论到应用的多个主题。这一资源集合为研究人员提供了全面的参考材料，反映了模型化强化学习领域的发展动态。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号