Project Icon

libedgetpu

Coral设备边缘AI推理的高性能运行时库

libedgetpu是一个开源项目,为Coral设备提供用户空间运行时驱动。支持多平台构建和ARM架构交叉编译,优化Edge TPU性能实现高效边缘AI推理。提供Docker、Bazel和Makefile构建方式,适用于Linux、macOS和Windows等主流操作系统。使用USB加速器时需注意散热问题,建议在适宜温度下操作以确保安全。

AI-Playground - 英特尔GPU驱动的AI创作平台 提供图像生成和对话功能
AI PlaygroundGPUGithub图像生成开源项目聊天机器人英特尔
AI Playground是一个开源项目,为搭载英特尔Arc GPU或Core Ultra-H处理器的PC提供AI图像生成、风格化和对话功能。该项目支持PyTorch LLM、SD1.5和SDXL模型,整合了GitHub和Hugging Face的资源。用户可通过安装程序或源代码部署,并可自由添加模型。AI Playground为AI爱好者和开发者提供了一个实验平台,促进AI应用创新。
tensorlayer-chinese - 基于TensorFlow的高级深度学习与增强学习开发库
GithubTensorFlowTensorLayer增强学习开源项目深度学习神经网络
TensorLayer是一个基于TensorFlow的高级深度学习与增强学习开发库,提供丰富的神经网络组件和函数,以帮助研究人员及工程师应对复杂的AI挑战。项目包含详细的中文文档,并拥有活跃的中文和英文社群,提供广泛的讨论与支持平台。
tensorflow - TensorFlow与R语言的深度学习框架集成
APIGithubR语言TensorFlow开源项目数据流图机器学习
TensorFlow for R是一个将TensorFlow深度学习框架集成到R语言环境的开源项目。它支持在R中构建和执行TensorFlow计算图,兼容CPU和GPU运算。该项目提供完整的TensorFlow API访问,并包含安装指南和使用文档。适合需要在R中进行机器学习和大规模数值计算的研究人员和数据科学家使用。
awesome-tensor-compilers - 编译深度学习与张量计算的开源项目与研究综述
GPU优化GithubTensor Computation开源项目机器学习编译器深度学习编译器自动调优
本页面汇集了关于张量计算与深度学习的优质开源编译器项目和研究论文,包括编译器与中间表示(IR)设计、自动调优与自动调度、CPU和GPU优化、NPU优化、图级优化、动态模型、图神经网络、分布式计算、量化方法、稀疏计算、程序改写以及验证与测试等领域的内容。页面还提供相关教程资源,帮助开发者和研究人员优化机器学习和深度学习的编译性能。
armnn - 针对Arm架构优化的高性能机器学习推理引擎
AndroidArm NNGithubTensorFlow Lite开源项目推理引擎机器学习
Arm NN是为Android和Linux平台设计的机器学习推理引擎,针对Arm Cortex-A CPU和Mali GPU进行了优化。通过Arm架构特定优化和Arm Compute Library,Arm NN在性能上表现出色。该引擎支持TensorFlow Lite和ONNX格式模型,提供TF Lite Delegate和解析器,方便开发者将机器学习模型集成到应用中。Arm NN使用C++17编写,可在多种目标平台和主机环境下构建。
YOLOv8-TensorRT - 通过TensorRT加速YOLOv8模型,提供在CUDA环境下的快速部署和推理解决方案
CUDAGithubONNXPyTorchTensorRTYOLOv8开源项目
本项目通过TensorRT加速YOLOv8模型,提供在CUDA环境下的快速部署和高效推理解决方案。包括环境准备、模型导出、引擎构建和多种推理方法,支持Python和C++语言。特性涵盖ONNX模型导出、端到端引擎构建和模型推理,适用于图像和视频的不同输入源。支持Jetson设备,并附有详细的文档和脚本,便于操作,提升深度学习应用性能。
pyg-lib - 图形神经网络高性能计算库
CUDAGithubPyTorchPythonpyg-lib安装开源项目
pyg-lib是一款专为图形神经网络优化的高性能计算库。该项目为Linux、Windows和macOS等主流操作系统提供预构建的Python包,兼容多个PyTorch版本和CUDA组合,支持Python 3.8至3.12。pyg-lib通过提升图形神经网络的计算效率,为研究和开发提供了实用工具。研究人员和开发者可根据具体的系统环境,使用pip命令快速安装所需版本,轻松增强图形神经网络的性能。
FedML - 跨平台生成式AI和大型语言模型的训练与部署方案
GithubTensorOperaTensorOpera AI分布式训练开源项目生成式AI联邦学习
TensorOpera AI简化了生成式AI和大型语言模型的训练与部署。通过集成的MLOps、调度器和高性能机器学习库,开发者可以在去中心化GPU、多云、边缘服务器和智能手机上经济高效地运行复杂的AI任务。TensorOpera Launch自动配对最经济的GPU资源,消除环境设置和管理难题,支持大规模训练和无服务器部署。TensorOpera Studio和Job Store帮助开发者微调和部署模型,实现高效的跨平台AI工作流。
ONE - 跨平台设备内神经网络推理引擎
GithubONESamsung开源项目神经网络推理框架设备端AI
ONE (On-device Neural Engine) 是一个开源的高性能神经网络推理框架,专为设备端部署而设计。它能在CPU、GPU、DSP和NPU等多种处理器上执行神经网络模型推理。ONE基于Linux内核,兼容Ubuntu、Tizen和Android等操作系统,并提供统一的编译器工具链,支持TensorFlow、PyTorch等主流框架训练的模型。
XNNPACK - 多平台优化的神经网络推理引擎 支持移动和嵌入式系统
GithubXNNPACK开源项目深度学习框架神经网络推理移动平台优化算子支持
XNNPACK是一个用于加速高级机器学习框架的神经网络推理引擎。它支持ARM、x86、WebAssembly和RISC-V等多种平台,提供低级性能原语,优化TensorFlow Lite、PyTorch等框架的运行效率。XNNPACK实现了丰富的神经网络操作符,在移动设备和嵌入式系统上表现出色,能高效运行各代MobileNet模型。在Pixel 3a上,XNNPACK能在44毫秒内完成FP32 MobileNet v3 Large的单线程推理,展现了其卓越的性能。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号