Project Icon

tiny-gpu

简化GPU实现深入解析并行计算原理

tiny-gpu是一个精简的GPU实现项目,旨在帮助学习者理解GPU工作原理。该项目聚焦通用GPU和机器学习加速器的核心原理,包括架构设计、SIMD并行化和内存管理。通过Verilog实现、架构文档和矩阵运算示例,tiny-gpu简化了复杂概念,使学习者能从底层理解现代硬件加速器的关键要素。

DALI - 加速深度学习应用的GPU加速数据加载与预处理库
GPU加速GithubNVIDIA DALI多框架支持开源项目数据预处理深度学习
NVIDIA DALI是一个GPU加速的数据加载和预处理库,专为提高深度学习应用效率而设计。它提供了一套优化的工具,改善图像、视频和音频的处理,同时解决CPU瓶颈,支持跨多平台框架使用。此外,DALI利用GPUDirect Storage技术,从而实现从存储到GPU内存的直接数据传输,显著提升处理速度。
lc3-vm - 轻量级虚拟机实现教程 深入理解计算机架构
GithubLC-3开源项目教程源代码虚拟机计算机模拟
该项目提供LC-3计算机虚拟机的实现教程和源代码,深入探讨虚拟机工作原理,有助于理解计算机体系结构和指令集。开源项目适合对计算机底层感兴趣的开发者和学生,通过实践可获得系统级编程经验。教程采用文学编程方式,便于学习和贡献。
open-gpu-kernel-modules - NVIDIA驱动程序fork版实现RTX 4090 GPU间直接通信
GPUGithubLinux驱动NVIDIAP2P支持PCIe开源项目
这个项目是NVIDIA驱动程序的一个分支,为RTX 4090显卡添加了点对点(P2P)通信支持。通过直接利用PCIe总线进行GPU间数据传输,该方案绕过了传统的MAILBOXP2P接口。项目成功实现了P2P功能,并与NCCL兼容,可显著提高多GPU系统性能。这种创新方法遵循PCIe规范,有望被纳入上游驱动程序,为NVIDIA GPU用户提供更高效的计算能力。
TinyLLM - 在本地硬件上构建小型LLM,支持多种模型和ChatGPT界面
ChatGPTGithubOllamaTinyLLMllama.cppvLLM开源项目
该项目帮助用户在消费级硬件上构建小型本地LLM,并提供类似ChatGPT的网页界面。支持通过Ollama、llama-cpp-python和vLLM搭建兼容OpenAI API的服务,允许访问外部网站、矢量数据库等。具备详尽的硬件要求和模型下载链接,方便用户快速上手并使用自定义提示进行互动。
putting-the-you-in-cpu - 计算机程序运行原理全面解析
CPUGithub开源项目技术解释程序执行系统知识计算机原理
该项目全面探讨计算机从启动到程序执行的过程,涵盖程序运行、系统调用和多任务处理等核心概念。通过深入研究,项目提供了一份详尽的计算机系统工作原理指南,适合希望了解计算机底层机制的读者。项目内容包括计算机启动过程、程序执行机制、系统调用原理和多任务处理技术。通过系统性研究,为读者呈现了一个全面的计算机底层工作原理指南,填补了许多人在这一领域的知识空白。
Basic-UI-for-GPT-J-6B-with-low-vram - 低显存系统运行GPT-J-6B的实用方法
GPT-J-6BGithub低vram系统内存开源项目性能损耗模型下载
本项目介绍了一种使用RAM、VRAM和固定内存在低显存系统上运行GPT-J-6B的方法,包含详细的设置与运行指南以及性能测试数据,适合硬件资源有限的用户使用。
nanoGPT - 简洁高效的中型GPT模型训练框架
GPT训练GithubPyTorchnanoGPT开源项目深度学习语言模型
nanoGPT是一个针对中型GPT模型的训练框架,重写自minGPT项目并注重性能优化。其核心由约300行代码组成,包括训练循环和模型定义,能够轻松复现GPT-2(124M)。该框架支持从零开始训练新模型或微调预训练检查点,并提供了详细的入门指南,涵盖了从Shakespeare作品上的字符级模型训练到在OpenWebText数据集上复现GPT-2结果的完整流程。
libvpl - 开源GPU加速视频处理库
AI推理GPU加速GithubIntel VPL开源项目硬件加速视频处理
Intel VPL是开源的GPU加速视频处理库,提供硬件加速的视频解码、编码和处理功能。适用于AI视觉推理、媒体传输、云游戏等场景。包含API头文件、调度器和示例代码,支持多种GPU平台。可通过源码或包管理器安装,并支持CMake和pkg-config集成。使用时需安装至少一个实现库。
tiny-engine - 灵活定制的低代码平台开发工具
AI应用GithubTinyEngine低代码平台前端开发开源项目跨端组件
TinyEngine是一个开源的低代码平台开发工具,支持跨端跨框架前端组件。它允许在线实时构建、二次开发或集成低代码平台功能,可直接生成部署源代码。TinyEngine支持接入第三方组件和自定义扩展插件,实现高代码和低代码的混合开发。该工具还集成AI大模型能力,提高应用开发效率。
micrograd - 轻量级自动梯度引擎实现神经网络核心训练
Githubmicrograd反向传播开源项目机器学习神经网络自动梯度
micrograd是一个轻量级自动梯度引擎,实现反向传播算法,为神经网络训练提供核心功能。项目基于karpathy/micrograd,并针对LLM101n模块进行了优化。包含自动梯度引擎、简单神经网络和训练循环,致力于提供直观的神经网络训练可视化。后续将开发交互式Web演示,支持实时数据点调整和网络响应观察。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号