kompute

通用GPU计算框架，支持AMD、Qualcomm和NVIDIA显卡

Kompute GPU加速机器学习 Linux基金会 Vulkan Github 开源项目

快速、移动友好且异步的通用GPU计算框架，专为高级GPU加速优化。支持Python和C++并兼容Vulkan，适用于机器学习、移动开发和游戏开发。由Linux基金会支持，社区活跃，示例丰富。

文档

GPUX - 专注AI推理的无服务器GPU平台

AI工具AI推理GPUXGPU服务云计算机器学习

GPUX是一个无服务器GPU平台，专注于AI推理任务。它支持StableDiffusion、SDXL和Whisper等多种AI模型的快速部署和运行。平台具有1秒冷启动、读写卷和P2P等特性，并允许用户在私有模型上为其他组织提供服务。GPUX针对机器学习工作负载进行了优化，为AI推理任务提供高效的运行环境。

taskflow - 现代C++并行和异构任务编程库Taskflow

GPU加速GithubTaskflow任务图并行编程开源项目异步编程

Taskflow是一个C++任务编程库，专注于并行和异构计算。它通过简洁的API支持静态和动态任务图构建、条件执行和GPU加速。Taskflow提供可视化和分析工具，有助于程序优化。该库在性能和可扩展性方面表现优异，适用于各类并行计算场景，已在学术和工业项目中得到应用。

donut - NVIDIA开发的实时渲染框架支持多种图形API和渲染技术

DonutGithubNVIDIA场景加载实时渲染框架开源项目渲染通道

Donut是NVIDIA开发的实时渲染框架，提供可重用的渲染pass集合和场景加载系统。支持Vulkan、DirectX 12和DirectX 11等图形API，包含前向渲染、延迟渲染、时域抗锯齿等技术。可导入glTF 2.0模型和JSON场景布局文件。Donut专注于高性能渲染，适用于原型渲染器和图形应用开发，但不是完整的游戏引擎。

GPU-Benchmarks-on-LLM-Inference - GPU和Apple芯片在LLaMA 3推理性能基准对比

GPUGithubLLaMA基准测试开源项目推理量化

项目对比测试了NVIDIA GPU和Apple芯片在LLaMA 3模型上的推理性能,涵盖从消费级到数据中心级的多种硬件。测试使用llama.cpp,展示了不同量化级别下8B和70B模型的推理速度。结果以表格形式呈现,包括生成速度和提示评估速度。此外,项目提供了编译指南、使用示例、VRAM需求估算和模型困惑度比较,为LLM硬件选型和部署提供全面参考。

FluidStack - 为AI工程师提供即时GPU资源和全托管云服务

AIAI工具FluidStackGPU云计算英伟达

FluidStack为AI工程师提供GPU超级计算平台，支持即时访问包括A100、H100在内的最新Nvidia GPU资源，可扩展至100多个GPU。平台提供全面托管的AI云服务，让用户专注于模型训练。与大型云服务商相比，FluidStack可节省70%费用，并为快速发展的AI实验室提供24/7专业支持和可靠计算能力。

rwkv.cpp - 多精度量化推理和CPU优化的大语言模型

GithubPythonRWKVcuBLASggmlhipBLAS开源项目

该项目将RWKV-LM移植到ggerganov的ggml，支持FP32、FP16及量化的INT4、INT5和INT8推理，主要针对CPU使用，同时兼容cuBLAS。项目提供C库和Python封装。RWKV是一种不同于Transformer的大语言模型架构，只需前一步状态计算logits，适合长上下文使用。支持RWKV v5和v6模型以及LoRA检查点加载，适用于高质量和高性能需求的场景。

ppl.cv - 跨平台图像处理库专为深度学习优化

GithubOpenCVppl.cv图像处理开源项目深度学习高性能

ppl.cv是一款轻量级可定制的图像处理框架，针对深度学习应用优化设计。支持x86、CUDA、aarch64、RISC-V和OpenCL等多个平台，实现了算术运算、色彩空间转换、直方图等常用图像算法的高性能版本。该项目追求极致性能，功能与OpenCV对齐，同时保持独立性，便于开发和部署。

julia - 科技计算领域的高性能动态编程语言

GithubJulia开源开源项目技术计算编程语言高性能

Julia语言为科技计算领域提供了高性能的动态编程环境。它支持并行和分布式计算，拥有活跃的社区和丰富的包生态系统。Julia在数值计算和数据分析方面表现优异，适用于机器学习、科学模拟和金融建模等领域。该语言融合了高性能与易用性，为科研和工程应用提供了强大的工具。

xla - 提升深度学习模型训练与推理效率的开源工具

GithubGoogle CloudPyTorch/XLATPU分布式计算开源项目深度学习

PyTorch/XLA 是一个将 PyTorch 深度学习框架与 XLA 编译器及 Cloud TPUs 连接的 Python 包，提供高效的训练和推理解决方案。用户可以通过 Kaggle 免费试用，并安装支持 TPU 和 GPU 的插件包。项目提供详细的文档和教程，包括使用指南、性能调优方法和 Docker 镜像使用说明。鼓励用户通过 issue 提交反馈和建议，欢迎开源贡献。

Komandi - 智能化的命令行界面管理助手

AIAI工具CLIKomandi代码片段终端命令管理器

Komandi是一款智能化的命令行界面管理工具，主要服务于开发者和系统管理员。这款工具集成了人工智能技术，能够帮助用户有效管理CLI命令，识别潜在风险指令，并支持通过自然语言生成命令。Komandi提供直观的操作界面，方便用户整理和使用命令行片段，从而提升工作效率。作为现代开发环境中的实用工具，Komandi为终端操作注入了智能化和便捷性。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com