Project Icon

algebraic-nnhw

创新FFIP算法驱动的机器学习硬件加速器

项目开发的机器学习硬件加速器架构采用了创新的Free-pipeline Fast Inner Product (FFIP)算法。这种设计只需要传统方法一半的乘法器单元,就能实现相同的性能。该架构适用范围广泛,涵盖全连接、卷积、循环和注意力/transformer等多种机器学习模型层。它可以轻松集成到现有的定点系统阵列ML加速器中,显著提升吞吐量和计算效率。项目不仅提供了完整的RTL实现,还包括配套的编译器和测试环境,为机器学习硬件加速研究领域贡献了有价值的资源。

tvm - 适用于 CPU、GPU 和专用加速器的开放式深度学习编译器堆栈
Apache TVMApache-2.0Github开源项目深度学习硬件后端编译器
Apache TVM为深度学习提供高效编译支持,优化执行效率,适合用于学术与工业研究领域,填补了框架与后端之间的技术差距。
glow - 开源机器学习编译器和执行引擎
Github中间表示代码生成开源项目机器学习编译器硬件加速器神经网络图
Glow是一个开源的机器学习编译器和执行引擎,专为硬件加速器设计。它采用三级IR架构,支持神经网络图的高级优化和代码生成。Glow可作为多种机器学习框架的后端,具有降级功能,能够支持广泛的输入算子和硬件目标。该项目目前正在积极开发中。
Neuralhub - 一体化神经网络开发与协作环境
AI工具AI研究Neuralhub协作平台深度学习神经网络
Neuralhub是面向AI爱好者、研究人员和工程师的一站式深度学习平台。它提供简化的神经网络开发环境,集成了从头构建网络的工具、丰富的预设组件库和高质量预训练模型。作为人工智能创新中心,Neuralhub不仅支持实验和技术突破,还培育了活跃的知识共享与协作社区。通过整合先进工具、前沿研究成果和海量模型资源,Neuralhub致力于让AI研究、学习和开发更加便捷高效,推动深度学习技术的普及与进步。
unsloth - 提高模型速度,降低内存消耗
GithubLlama 3.1Unsloth.ai免费notebooks内存优化开源项目性能提升
Unsloth提供高效AI模型调优方案,能将处理速度提升2倍,内存消耗降低60%。支持多种NVIDIA GPU型号,并适用于Llama 3.1、Mistral及Gemma等多种模型,全程无需更换硬件。易于操作的免费笔记本特别适合AI初学者。探索我们的网站,体验这一领先技术。
rknn-cpp-Multithreading - RK3588/RK3588S多线程NPU推理加速框架
GithubNPURK3588RKNNYOLOv5多线程开源项目
rknn-cpp-Multithreading项目提供了一个针对RK3588/RK3588S的多线程NPU推理加速框架。通过线程池异步操作rknn模型,显著提高了NPU使用率和推理速度。项目优化了YOLOv5s模型,采用ReLU激活函数,进一步提升了性能。提供了详细的使用说明和不同线程数下的性能测试结果,便于用户参考和应用。
rtp-llm - 大型语言模型推理加速引擎
CUDAGithubrtp-llm多模态输入大语言模型开源项目量化
rtp-llm是阿里巴巴基础模型推理团队开发的大型语言模型推理加速引擎,广泛应用于支持淘宝问答、天猫、菜鸟网络等业务,并显著提升处理效率。该项目基于高性能CUDA技术,支持多种权重格式和多模态输入处理,跨多个硬件后端。新版本增强了GPU内存管理和设备后端,优化了动态批处理功能,提高了用户的使用和体验效率。
OpenRLHF - 高性能强化学习框架助力大规模语言模型优化
GithubOpenRLHFRLHF框架分布式训练开源项目强化学习模型微调
OpenRLHF是一款基于Ray、DeepSpeed和Hugging Face Transformers构建的高性能强化学习框架。该框架简单易用,兼容Hugging Face模型和数据集,性能优于优化后的DeepSpeedChat。它支持分布式RLHF,能够在多GPU环境下进行70B+参数模型的全规模微调。OpenRLHF集成了多项PPO实现技巧以提升训练稳定性,同时支持vLLM生成加速和多奖励模型等先进特性,为大规模语言模型优化提供了强大支持。
pytorch-onn - 基于PyTorch的光子神经网络仿真与优化框架
AI计算GPU加速GithubPyTorch光子集成电路开源项目神经网络
pytorch-onn是一个基于PyTorch的光子神经网络仿真框架。该框架支持GPU加速的相干和非相干光学神经网络训练与推理,可扩展至百万参数规模。它提供了高度优化的并行处理和多功能API,支持从器件到系统级的协同设计与优化。这一工具主要面向神经形态光子学、光学AI系统和光子集成电路优化等领域的研究人员。
BladeDISC - 用于机器学习工作负载的动态形态编译器
BladeDISCGithubMLIRPAI-BladePyTorchTensorFlow开源项目
BladeDISC是一款用于机器学习工作负载的动态形态编译器,支持TensorFlow和PyTorch在GPGPU和CPU上的性能优化。它的架构支持动态形态工作负载,并在静态和动态形态场景中表现出色。BladeDISC提供灵活的部署解决方案,包括插件模式和独立模式。该项目基于MLIR构建,并与mlir-hlo项目密切合作。访问官方网站获取更多信息和文档资料。
fastmlx - FastMLX为MLX模型提供高性能托管API 支持视觉和语言模型
APIFastMLXGithubMLX模型图像处理开源项目机器学习
FastMLX是一个高性能API,用于托管MLX模型,包括视觉语言模型和语言模型。它提供OpenAI兼容接口,支持动态模型加载、多种模型类型和图像处理。FastMLX具有高效的资源管理能力,易于集成和扩展。通过多工作进程并行处理,提高了系统吞吐量和响应速度。此外,FastMLX支持函数调用功能,进一步增强了其多功能性。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号