Project Icon

carbontracker

深度学习模型训练碳足迹追踪与预测工具

carbontracker是一款开源工具,用于监测深度学习模型训练过程中的能耗和碳排放。它能实时追踪GPU和CPU能耗,提供当前和预测的碳足迹数据,并转换为直观的等效值。该工具兼容NVIDIA GPU、Intel CPU以及Slurm和Google Colab等环境,帮助AI研究人员评估和降低模型训练对环境的影响。

vasttools - 面向GPU云平台的综合管理优化工具
AI计算GPU托管GithubVast.ai云服务开源工具开源项目
vasttools是针对Vast.ai等GPU云平台的综合工具集,提供服务器安装指南、性能测试、温度监控和超频管理等功能。它还包含分析仪表盘、自动价格更新等高级特性,全面优化GPU服务器性能和管理效率,为云主机提供商和用户提供多方位支持。
PowerInfer - 消费级GPU上大型语言模型高效推理引擎
GPU加速GithubPowerInfer大语言模型局部性设计开源项目混合CPU/GPU使用
PowerInfer是一款在个人电脑上针对消费级GPU设计的高效大型语言模型(LLM)推理引擎。它结合激活局部性原理和CPU/GPU混合技术,通过优化热/冷激活神经元的处理方式,显著提高推理速度并降低资源消耗。软件还融入了适应性预测器和神经元感知技术,优化了推理效率和精度,支持快速、低延迟的本地模型部署。
skypilot - 高效部署AI和批处理作业至全球云平台
GPUGithubLLMSkyPilot云计算开源项目成本节约热门
SkyPilot是一个为LLMs和AI提供的框架,支持在任意云平台运行,最大化GPU利用率和降低成本。该框架通过自动管理作业队列,简化了扩展操作,还提供了对象存储的简便接入。用户可以在全球任一区域的云中自动故障转移,使用管理型Spot实例以较低成本运行,同时自动选择成本最优的机型和区域。
transformer-debugger - 深入洞察小型语言模型行为的自动化调试工具
GithubTransformer Debugger开源项目神经元查看器稀疏自编码器自动可解释性语言模型
Transformer Debugger是一款由OpenAI超级对齐团队开发的工具,专门用于分析小型语言模型的特定行为。该工具结合了自动化解释技术和稀疏自编码器,无需编写代码即可快速探索模型行为。它能识别影响特定行为的关键组件,自动生成解释,并追踪组件间的连接,从而揭示神经元回路。通过支持对前向传播的干预和观察,Transformer Debugger为研究人员提供了深入分析语言模型内部机制的强大功能。
PoseTracker - 领先的实时人体姿态估计与动作分析API
AI工具PoseTracker人体姿态估计实时API跨平台开发运动分析
PoseTracker实时人体姿态估计和动作分析API为开发者提供便捷的集成方式。支持边缘计算,稳定运行于iOS、Android和网页应用。无需SDK,易于集成,包含预训练健身模型、动作计数和分析功能。兼容多种开发平台,适用于原生开发到无代码解决方案。
glake - 优化GPU内存与IO传输
AI训练GLakeGPU内存GithubIO传输优化开源项目
GLake优化了GPU内存管理和IO传输,解决了AI大模型训练和推理中的内存和传输瓶颈。通过GPU虚拟和物理内存管理及多GPU、多路径和多任务优化,提高了硬件资源利用率,最高可将训练吞吐量提高4倍,推理内存降低3倍,IO传输加速3至12倍。GLake易于集成,无需代码修改,且提供内存优化、多路径IO传输提升、和数据去重等功能,为AI训练与推理提供高效、安全的解决方案。
airunner - 本地运行的多模态AI界面:语言模型与图像生成集成
AI RunnerGithub人工智能图像生成开源项目本地运行语音交互
AI Runner整合了开源大型语言模型和AI图像生成技术,为用户提供本地运行的多模态AI体验。它支持语音交互、文本创作、图像生成等功能,具备快速处理能力和多模型并行运行特性。该项目注重离线使用和用户隐私保护,核心程序禁止网络连接,并采取严格的安全措施。
DeepLabCut - 无标记动物姿态估计工具箱
DeepLabCutGithub动物姿态估计开源工具箱开源项目神经科学应用行为追踪
DeepLabCut是一个无标记动物姿态估计工具箱。此工具适用于各类动物行为的分析,并通过TensorFlow和PyTorch加强模型训练功能。它整合了多种新技术,如MobileNetV2s与EfficientNets,有效提升了效率与准确性。项目提供多语种文档与在线课程,方便用户快速掌握实时多动物追踪及三维姿态估计技术。DeepLabCut已应用于多种场合并获得验证,通过社区持续的优化适用于从神经科学到生态研究的广泛领域。
xla - 提升深度学习模型训练与推理效率的开源工具
GithubGoogle CloudPyTorch/XLATPU分布式计算开源项目深度学习
PyTorch/XLA 是一个将 PyTorch 深度学习框架与 XLA 编译器及 Cloud TPUs 连接的 Python 包,提供高效的训练和推理解决方案。用户可以通过 Kaggle 免费试用,并安装支持 TPU 和 GPU 的插件包。项目提供详细的文档和教程,包括使用指南、性能调优方法和 Docker 镜像使用说明。鼓励用户通过 issue 提交反馈和建议,欢迎开源贡献。
kaggle - 环境日志统计与故障检测
GithubHuggingface开源项目故障日志模型环境监控统计
该项目通过记录和分析环境日志统计数据,识别可能出现问题的环境。这有助于及时发现潜在系统故障或异常,提高环境稳定性。该方法使开发者和管理员能更快速地定位和解决问题,从而优化系统性能。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号