Project Icon

vowpal_wabbit

高效在线学习系统 专注强化学习和上下文赌博机算法

Vowpal Wabbit是一款开源的在线学习系统,以其高效性和可扩展性著称。它支持多种先进的机器学习技术,尤其在强化学习和上下文赌博机算法方面表现出色。该系统具有灵活的输入格式和快速的学习能力,适用于处理大规模数据集,是推动机器学习研究和应用的重要工具。

wanda - 基于权重和激活的大型语言模型剪枝技术
GithubLLM剪枝Wanda开源项目权重激活模型压缩稀疏性
Wanda是一种针对大型语言模型(LLM)的剪枝技术,通过结合权重大小和输入激活范数来选择性移除权重。相比传统的仅基于权重大小的剪枝方法,Wanda展现出更高的效率。该技术支持LLaMA、LLaMA-2等多种模型,可实现非结构化和结构化稀疏。Wanda方法简单实用,在维持模型性能的同时有效降低参数量,为LLM的轻量化和优化开辟了新途径。
ChatGLM-Efficient-Tuning - 微调ChatGLM-6B模型,支持多种训练和量化方法
ChatGLMGithubRLHF开源项目数据集机器学习高效微调
ChatGLM-Efficient-Tuning项目提供高效微调ChatGLM-6B模型的工具和方法,支持LoRA、P-Tuning V2等多种微调方式,适用于单GPU和多GPU训练。项目还提供Web UI和CLI操作,支持4-bit和8-bit量化训练。通过丰富的数据集和功能,如强化学习和模型评估,满足不同场景的微调需求。详情请参见项目Wiki。
starwhale - 一体化机器学习运维平台 加速AI模型开发流程
GithubLLMOpsMLOpsStarwhale开源项目机器学习运营模型开发
Starwhale是一个开源的MLOps/LLMOps平台,致力于优化机器学习运维流程。平台提供模型、运行时和数据集的统一管理,支持模型评估、在线演示和大语言模型微调等功能。Starwhale支持独立版、服务器版和云端版部署,适应不同应用场景。其开放架构允许开发者自定义MLOps功能,为AI团队打造高效、标准化的开发环境。
openrl - 综合性强化学习平台,支持多任务训练
GithubOpenRLPyTorch多智能体开源项目强化学习自然语言处理
OpenRL 是一款基于 PyTorch 的开源强化学习研究框架,支持单代理、多代理、离线强化学习、自我对弈及自然语言处理任务。框架提供统一接口、训练加速方法和多种深度学习模型支持,兼容 Gymnasium、MuJoCo、StarCraft II 等多种环境。同时,OpenRL 还支持用户自定义训练模型、奖励模型和环境配置,并提供中英文文档。
huozi - 支持32K上下文的双语稀疏混合专家模型
GithubHIT-SCIR中文MT-Bench开源项目活字3.0活字通用大模型自然语言处理
活字3.0是一个支持32K上下文的稀疏混合专家模型,具备中英文知识、数学推理和代码生成能力,并在指令遵循和安全性上有所提升。项目开源了中文MT-Bench数据集,支持多种推理框架如Transformers、vLLM和llama.cpp,为自然语言处理研究和应用提供更多选择。
LAMBDA - LAMBDA:无代码多代理数据分析系统,集成大模型与自然语言技术
GithubLAMBDA多智能体系统开源项目数据分析机器学习
LAMBDA 是一个创新的开源无代码多代理数据分析系统,通过大模型解决复杂数据问题。主要功能包括通过自然语言指令进行数据分析、多代理模块(编程和检查代理)生成与调试代码、灵活的模型和算法集成、自动报告生成等。LAMBDA 提供易用的用户界面,允许直接干预操作过程,大幅提升数据科学实践和分析模式。
lbann - 多层次并行化的高性能深度学习框架
GithubLBANN并行计算开源项目深度学习框架神经网络训练高性能计算
LBANN是一个开源的高性能深度学习训练框架,专注于多层次并行优化。它结合模型并行、数据并行和集成训练方法,高效处理大规模神经网络和海量数据。LBANN充分利用先进硬件资源,支持多种训练算法,包括监督、无监督、自监督和对抗性训练。该框架适用于需要高度可扩展性的深度学习研究和应用。
perpetual - 自优化梯度提升机器学习算法
GithubPerpetualBooster开源项目梯度提升机自动机器学习过拟合预防预测性能
PerpetualBooster是一种创新的梯度提升机器算法,无需进行超参数优化。通过调整budget参数,该算法能够在单次运行中达到传统GBM算法100次迭代的精度。在多个数据集的测试中,PerpetualBooster展现出显著的性能优势,相较于LightGBM等算法,速度提升约100倍。该算法提供Python和Rust API接口,适用于回归和分类任务。这种高效的机器学习方法特别适用于需要快速建模和预测的场景,如金融分析、推荐系统和风险评估等领域。
OpenRLHF - 高性能强化学习框架助力大规模语言模型优化
GithubOpenRLHFRLHF框架分布式训练开源项目强化学习模型微调
OpenRLHF是一款基于Ray、DeepSpeed和Hugging Face Transformers构建的高性能强化学习框架。该框架简单易用,兼容Hugging Face模型和数据集,性能优于优化后的DeepSpeedChat。它支持分布式RLHF,能够在多GPU环境下进行70B+参数模型的全规模微调。OpenRLHF集成了多项PPO实现技巧以提升训练稳定性,同时支持vLLM生成加速和多奖励模型等先进特性,为大规模语言模型优化提供了强大支持。
exllama - 为现代GPU优化的快速内存高效Llama实现
AI模型CUDAExLlamaGPU加速Github开源项目深度学习
ExLlama是一个基于Python/C++/CUDA的独立实现,针对4位GPTQ权重进行了优化,旨在提高现代GPU上的运行速度和内存效率。该项目支持NVIDIA 30系列及更新的GPU,可处理Llama、Koala和WizardLM等多种大型语言模型。ExLlama具备基准测试、聊天机器人示例和Web界面等功能,同时支持Docker部署。尽管仍在开发中,项目已展现出卓越的性能和效率。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号