Project Icon

BladeDISC

用于机器学习工作负载的动态形态编译器

BladeDISC是一款用于机器学习工作负载的动态形态编译器,支持TensorFlow和PyTorch在GPGPU和CPU上的性能优化。它的架构支持动态形态工作负载,并在静态和动态形态场景中表现出色。BladeDISC提供灵活的部署解决方案,包括插件模式和独立模式。该项目基于MLIR构建,并与mlir-hlo项目密切合作。访问官方网站获取更多信息和文档资料。

FedML - 跨平台生成式AI和大型语言模型的训练与部署方案
GithubTensorOperaTensorOpera AI分布式训练开源项目生成式AI联邦学习
TensorOpera AI简化了生成式AI和大型语言模型的训练与部署。通过集成的MLOps、调度器和高性能机器学习库,开发者可以在去中心化GPU、多云、边缘服务器和智能手机上经济高效地运行复杂的AI任务。TensorOpera Launch自动配对最经济的GPU资源,消除环境设置和管理难题,支持大规模训练和无服务器部署。TensorOpera Studio和Job Store帮助开发者微调和部署模型,实现高效的跨平台AI工作流。
tensorflow-directml-plugin - DirectML驱动的TensorFlow硬件加速插件
DirectMLGPU加速GithubTensorFlowWindows开源项目机器学习
TensorFlow-DirectML-Plugin是基于DirectML的TensorFlow插件,为Windows 10和WSL提供跨厂商硬件加速。该插件利用Pluggable Device API,支持在DirectX 12兼容硬件上训练和推理机器学习模型。目前处于早期开发阶段,兼容Python 3.8-3.11,支持AMD、Intel和NVIDIA主流GPU。该插件旨在为Windows平台的TensorFlow用户提供更多硬件加速选择。
deepflame-dev - 深度学习赋能的开源多相反应流CFD软件
CFDDeepFlameGithubOpenFOAM反应流开源项目深度学习
DeepFlame是一款开源的深度学习赋能计算流体动力学软件包,适用于单相或多相、层流或湍流、全速域反应流模拟。它整合了OpenFOAM、Cantera和PyTorch的功能,提供GPU加速、自适应网格细化、多种求解器和燃烧模型。该软件旨在支持下一代异构超级计算和AI加速基础设施,促进反应流仿真技术的进步。
PowerInfer - 消费级GPU上大型语言模型高效推理引擎
GPU加速GithubPowerInfer大语言模型局部性设计开源项目混合CPU/GPU使用
PowerInfer是一款在个人电脑上针对消费级GPU设计的高效大型语言模型(LLM)推理引擎。它结合激活局部性原理和CPU/GPU混合技术,通过优化热/冷激活神经元的处理方式,显著提高推理速度并降低资源消耗。软件还融入了适应性预测器和神经元感知技术,优化了推理效率和精度,支持快速、低延迟的本地模型部署。
blindai - 确保数据隐私的开源AI模型查询与部署工具
AI隐私BlindAIGithubMithril Security开源开源项目数据保密
BlindAI是一款开源AI隐私解决方案,允许用户查询流行AI模型或部署自有模型,确保数据在硬件强化的可信执行环境中始终保密。通过Python库,用户可轻松使用BlindAI API查询Mithril Security托管的AI模型,或利用BlindAI Core技术安全部署自有模型。虽现暂不积极维护,仍适用于非敏感数据处理。
AI-Horde - 企业和公共ML-Ops AI模型的分布式计算平台
AI HordeGithubML-Ops中文分析企业级解决方案公共版本开源项目
AI Horde是一个支持图像和文本生成的企业级ML-Ops众包、分布式推理平台,可无限扩展并实现计算资源的无缝接入与退出。公共版本允许无强GPU家庭用户或企业借助社区资源运用稳定扩散或大型语言模型。企业用户亦可在内部网络中私密部署与扩展,实现快速上线。
Flyte - 灵活高效的数据和机器学习工作流编排解决方案
AI工具Flyte可扩展性工作流编排数据科学机器学习
Flyte是一个高度可扩展和灵活的工作流编排平台,可无缝整合数据、机器学习和分析工具链。它支持数据科学家和工程师轻松构建和管理生产级工作流,实现从本地开发到大规模部署的流畅过渡。Flyte提供强大的扩展性、数据血缘追踪和缓存机制,能处理从简单ETL到复杂机器学习训练等多样化工作流。该平台致力于简化工作流开发,使用户能专注于核心业务逻辑。
warp-drive - GPU驱动的高效多智能体强化学习框架
GPU加速GithubWarpDrive多智能体并行计算开源项目深度强化学习
WarpDrive是一款开源的强化学习框架,专为GPU环境优化。它支持单GPU或多GPU上的端到端多智能体强化学习,通过充分利用GPU并行计算能力,显著提升训练速度。WarpDrive通过减少CPU和GPU间的数据传输,并在多智能体和多环境副本间并行运行模拟,大幅提高了计算效率。这使得同时运行海量并发模拟成为可能,实现了比传统CPU方案高出百倍的训练吞吐量。
circt - 硬件设计领域的开源编译器基础设施
CIRCTEDAGithubLLVMMLIR开源项目硬件设计
CIRCT项目旨在将MLIR和LLVM开发方法应用于硬件设计工具领域。它提供一致的、模块化的基础设施,支持多种中间表示,以解决现有EDA工具的局限性。CIRCT鼓励社区通过Discourse论坛、周会和代码贡献参与项目,共同推进开放硬件工具的发展。
MindSpore - 深度学习框架优化AI处理器性能
AI工具
MindSpore是一款开放的AI架构,为开发者提供高效的深度学习框架。它支持多种处理器,并针对特定AI处理器进行了优化。该框架适用于云、边缘和移动设备,支持大模型训练、AI+HPC编程和动静统一编程。MindSpore致力于推动AI生态系统发展,促进创新。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号