Project Icon

direct-preference-optimization

DPO算法实现语言模型的偏好数据优化

DPO(Direct Preference Optimization)是一种语言模型训练算法,通过偏好数据优化模型。该项目提供DPO算法的参考实现,包含监督微调和基于偏好学习两个阶段。支持各种因果HuggingFace模型,可添加自定义数据集,并包括'conservative' DPO和IPO等变体。这为研究人员提供了灵活工具,用于从偏好数据训练语言模型。

exploring-AI-optimization - 人工智能模型优化技术的精选学习资源
AI优化Github剪枝开源项目深度学习编译器蒸馏量化
Exploring AI optimization项目是一个聚焦AI优化技术的资源库,收录了量化、剪枝等领域的高质量论文、教程和课程。该项目每周更新AI优化领域的重要研究见解,为研究人员和开发者提供学习参考,推动AI技术发展。资源库开放社区贡献,鼓励知识交流与分享。
trlx - 分布式微调大型语言模型的强化学习框架,支持奖励函数与高效并行
GithubHugging FaceILQLNVIDIA NeMoPPOtrlX开源项目
一个专注于强化学习微调大型语言模型的分布式训练框架。支持使用奖励函数或已标注数据集进行训练,兼容🤗Hugging Face和NVIDIA NeMo模型,可扩展到20B参数以上。实现了PPO和ILQL等多种RL算法,提供详细文档和丰富示例,支持分布式训练和超参数搜索。适用于各种应用场景,通过高效并行技术提升训练效率。
Prompt-Engineering-Guide - 优化和提升大语言模型应用的最新技术与资源
AI研究GithubLLMsPrompt Engineering开源项目算法优化问答系统
本指南详细介绍如何通过提示工程优化和提升大语言模型(LLMs)的应用,包括基础知识和高级技术,涵盖最新的研究论文、学习指南、讲座、参考资料及工具。适合开发者和研究人员理解与应用LLMs,支持13种语言,提供线上课程及多种服务。
alignment-handbook - 提升人工智能与人类偏好一致性的先进训练方法
AI偏好对齐Github偏好优化开源项目持续预训练热门监督微调语言模型
《Alignment Handbook》为ML社区提供了一系列全面的训练配方,专注于通过人工反馈强化学习(RLHF)等技术,继续训练和调整语言模型,以匹配人类和AI的偏好。该手册包括从数据收集、模型训练到绩效评估的完整流程,以及最新的训练代码和数据集,旨在帮助研究人员和开发人员构建更安全、更有效的AI系统。
LLM-Optimizers-Papers - 大语言模型作为优化器与自动提示词优化的前沿研究
GithubLLM优化器开源项目强化学习提示工程自动优化
该项目整理了大语言模型(LLM)作为优化器和LLM自动提示词优化领域的关键论文。内容涉及强化学习、进化算法等多种优化方法,呈现了LLM在自我优化和解决复杂任务方面的能力。这一资源库为人工智能、自然语言处理和优化算法研究者提供了重要参考。
Finetune_LLMs - 引用数据集微调大型语言模型 (LLM) 的代码
DeepSpeedFinetune LLMsGPTJGithubHuggingfaceNvidia-docker开源项目
Finetune_LLMs 项目提供代码支持DeepSpeed、Lora或QLora方法微调大型语言模型,涵盖从名言数据集学习及利用 Nvidia-docker 简化环境配置,适于需GPU支持的用户。
Safe-Policy-Optimization - 安全强化学习的全面算法基准平台
GithubPKU-AlignmentSafe-Policy-OptimizationSafety-Gymnasium安全强化学习开源项目算法基准
Safe-Policy-Optimization为安全强化学习(Safe RL)提供了全面的算法基准平台。该项目整合了多种算法和环境,支持单智能体和多智能体任务,具备正确性、可扩展性、日志记录和可视化等特性。通过统一的接口和详细文档,Safe-Policy-Optimization简化了安全RL算法的评估和比较流程,为研究人员提供了强大的实验工具。
Popular-RL-Algorithms - 流行强化学习算法的PyTorch实现与评估
GithubPyTorch开源代码开源项目强化学习性能对比算法实现
Popular-RL-Algorithms项目实现了SAC、DDPG、TD3、PPO等多种流行强化学习算法的PyTorch版本。项目提供了算法的多种实现以便比较,并包含奖励归一化、多进程训练等实用技巧。通过在OpenAI Gym环境中的性能展示,为强化学习研究和应用提供了参考。
dpm-solver - 扩散概率模型采样解算器
DPM-SolverDPM-Solver++Github开源项目深度学习稳定扩散采样算法
DPM-Solver及其改进版DPM-Solver++是高阶解算器,专为扩散ODE设计,无需额外训练,适用于离散和连续时间的扩散模型。实验表明,DPM-Solver在10到20次函数评估内生成高质量样本。该项目已广泛应用于Stable-Diffusion、DeepFloyd-IF等知名项目,支持多种采样与扩散模型,并集成于Diffusers等流行库。
model-optimization - TensorFlow 模型优化工具包, 支持量化和稀疏化
GithubKerasTensorFlow Model Optimization Toolkit剪枝开源项目机器学习模型量化
TensorFlow Model Optimization Toolkit 提供稳定的 Python API,帮助用户通过量化和稀疏化技术优化机器学习模型,包括针对 Keras 的专用 API。该工具包还提供详细的安装指南、教程和 API 文档,显著提升模型在部署和执行时的性能。该项目由 TensorFlow 团队维护,并遵循其行为准则,开发者可以通过 GitHub 提交问题和贡献代码。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号