docs

Neural Magic深度学习模型CPU性能优化平台

Neural Magic 深度学习 CPU优化开源软件模型性能 Github 开源项目

Neural Magic开源平台提供了一系列工具，包括SparseML、Sparsify、SparseZoo和DeepSparse，用于优化CPU上的深度学习模型性能。这套软件组件支持选择、构建和运行高效率模型，使开发者能在标准CPU硬件上实现接近GPU级别的AI推理速度。

awesome-tensor-compilers - 编译深度学习与张量计算的开源项目与研究综述

GPU优化GithubTensor Computation开源项目机器学习编译器深度学习编译器自动调优

本页面汇集了关于张量计算与深度学习的优质开源编译器项目和研究论文，包括编译器与中间表示(IR)设计、自动调优与自动调度、CPU和GPU优化、NPU优化、图级优化、动态模型、图神经网络、分布式计算、量化方法、稀疏计算、程序改写以及验证与测试等领域的内容。页面还提供相关教程资源，帮助开发者和研究人员优化机器学习和深度学习的编译性能。

Phi-3-mini-4k-instruct-bnb-4bit - 通过Unsloth工具提升深度学习模型微调速度与内存效率

GithubGoogle ColabHuggingfaceUnslothtransformers开源项目机器学习模型模型微调

项目通过提供免费、易于使用的Google Colab笔记本，便于在微调Phi-3.5、Llama 3.1、Mistral等深度学习模型时实现更高效的速度与内存管理，内存使用减少达74%。用户只需添加数据集并执行所有代码，便可获得加速至最高3.9倍的微调模型，支持导出多种格式或上传至Hugging Face平台。Colab快捷方式有效简化模型微调过程，适用于文本生成和对话模板。

awesome-ml - 机器学习资源库涵盖语言模型图像视频和音频AI

Github图像模型大语言模型开源项目机器学习视频模型音频模型

该项目是一个综合性机器学习资源集合，包括大型语言模型、图像生成、视频处理和音频AI等领域的开源模型、工具、库和研究资料。适合开发者、研究人员和AI爱好者探索AI技术和应用。项目持续更新，欢迎贡献，为了解和实践机器学习最新进展提供参考。

dash-infer - 面向x86和ARMv9的高性能大语言模型推理引擎

CPU优化DashInferGithubLLM推理开源项目模型量化高性能计算

DashInfer是一款针对x86和ARMv9硬件架构优化的C++推理引擎，支持连续批处理和NUMA感知功能。该引擎可充分发挥现代服务器CPU性能，支持推理参数规模达14B的大语言模型。DashInfer采用轻量架构，提供高精度推理和标准LLM推理技术，兼容主流开源大语言模型，并集成了量化加速和优化计算内核等功能。

XNNPACK - 多平台优化的神经网络推理引擎支持移动和嵌入式系统

GithubXNNPACK开源项目深度学习框架神经网络推理移动平台优化算子支持

XNNPACK是一个用于加速高级机器学习框架的神经网络推理引擎。它支持ARM、x86、WebAssembly和RISC-V等多种平台，提供低级性能原语，优化TensorFlow Lite、PyTorch等框架的运行效率。XNNPACK实现了丰富的神经网络操作符，在移动设备和嵌入式系统上表现出色，能高效运行各代MobileNet模型。在Pixel 3a上，XNNPACK能在44毫秒内完成FP32 MobileNet v3 Large的单线程推理，展现了其卓越的性能。

Phi-3-mini-128k-instruct-onnx-tf - 多平台高性能运行的指令微调大语言模型优化版本

AI模型GithubHuggingfaceONNXONNXRuntimePhi-3开源项目模型模型优化

该项目提供Phi-3-mini-128k-instruct模型的ONNX优化版本,支持多种设备和平台高性能推理。模型适配CPU、GPU和移动设备,提供不同精度版本。经指令微调和安全优化,推理能力出色。项目配备ONNX Runtime Generate API,便于开发集成。与PyTorch相比,ONNX版本性能全面提升,FP16 CUDA版本最高提速5倍,INT4 CUDA版本最高提速9倍。

魔搭社区 - 机器学习模型探索与实践平台

AI助手AI对话AI工具AI平台ModelScope数据集文档模型热门

魔搭社区是一个专业平台，旨在汇聚各领域机器学习模型，提供模型探索、推理、训练、部署和应用等一站式服务。设计简约，操作便捷，确保用户可以快速找到所需功能。直观的导航和详尽的文档支持帮助用户快速上手，推动机器学习技术的广泛应用。

MiniCPM3-4B - 轻量高效的开源模型支持长文本处理和函数调用

GithubHuggingfaceMiniCPM3人工智能大语言模型开源模型开源项目机器学习模型

MiniCPM3-4B是一款开源语言模型，仅用4B参数就达到了接近GPT-3.5-Turbo的性能。它具备32k上下文窗口、函数调用和代码解释器等功能，在中英双语、数学和编程等多个基准测试中表现出色。通过创新的训练策略，MiniCPM3-4B实现了与7B-9B模型相当的能力，为资源受限的AI应用场景提供了高效选择。

mac-ml-speed-test - Apple Silicon Mac机器学习性能测试工具

GithubMacPyTorchTensorFlow开源项目性能测试机器学习

mac-ml-speed-test是一个专为Apple Silicon Mac设计的机器学习性能测试项目。通过简单脚本对比不同Mac设备上的机器学习模型速度,涵盖计算机视觉和自然语言处理等领域。项目使用PyTorch、TensorFlow等主流框架,并提供详细配置指南,便于用户进行性能评估。测试内容包括图像分类、文本分类和LLM文本生成等任务,使用CIFAR100、Food101和IMDB等数据集。此外,项目还包括与NVIDIA TITAN RTX和Google Colab免费版的性能对比,为用户提供更全面的参考数据。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com