#WebGPU

web-llm

WebLLM是一款借助WebGPU技术，实现硬件加速的浏览器内语言模型推理引擎，无需服务器即可直接在浏览器内运行。完全兼容OpenAI API，并具备流式输出和JSON模式生成功能，支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中，同时确保用户隐私安全，并享受高效的GPU加速体验。

WebGPT

WebGPT项目是一款基于WebGPU的Transformer模型应用，使用纯JavaScript和HTML实现。该项目不仅用于技术演示，同时也作为教育资源，支持在主流浏览器中运行，并能管理最多500M参数的模型。主要优化在Chrome v113和Edge Canary等浏览器上，通过WebGPU技术提高运行效率，适合用于学习和研究深度学习模型。

react-llm

提供简单易用的无头 React Hooks，利用 WebGPU 在浏览器中运行大语言模型（LLM），确保数据不离开浏览器。支持 Vicuna 7B 模型，允许自定义提示词和角色名称，提供令牌限制等功能。支持数据持久化存储和模型缓存，提升加载速度和用户体验。

ChatLLM-Web

ChatLLM-Web是一款基于WebGPU的LLM聊天工具，完全在浏览器中运行，无需服务器支持，注重隐私和数据安全。支持多会话聊天，数据全部本地存储，具备响应式设计和PWA离线功能。用户界面简洁友好，支持Markdown和流式响应，易于部署并可免费使用。

chatty

Chatty利用WebGPU在浏览器中本地运行大型语言模型，保障数据隐私。其特点包括离线使用、聊天记录管理、支持多种开源模型、响应式设计和直观的用户界面。用户还可以加载本地文件、生成并保存聊天记录，并使用语音输入。此AI支持光明和暗模式，适用于所有支持WebGL的设备，极大地丰富了浏览器内的AI体验。

web-stable-diffusion

本项目实现了稳定扩散模型的全浏览器内运行，无需服务器支持。这项技术降低服务成本的同时增强了个性化和隐私保护。基于WebGPU和WebAssembly等技术，用户只需通过浏览器即可体验强大的AI功能。该项目利用开源生态系统，支持Python优先环境，便于开发和优化AI模型，能够广泛部署并提供可重复和可操作的工作流程。

gpu.cpp

gpu.cpp是一个轻量级C++库，专注于通用原生GPU计算。它利用WebGPU规范作为可移植的低级GPU接口，支持在多种硬件上运行GPU代码。该库提供高效API，实现快速编译和运行周期，并最小化依赖。适用于GPU算法开发、神经网络实现、物理模拟等需要便携GPU计算的项目。gpu.cpp简化了个人设备上的GPU编程，让开发者能专注于算法实现。

pixijs

PixiJS是一款高性能2D渲染库，支持WebGPU和WebGL技术，适用于各类设备。开发者可轻松创建交互式图形、跨平台应用和游戏，无需深入了解WebGL。该库提供简洁API、完整场景图、资源加载器和滤镜系统，并支持丰富的社区插件。PixiJS适合开发图形密集型网站、应用和HTML5游戏，具有优秀的跨平台兼容性和性能表现。

AgentLLM

AgentLLM展示了使用开源大型语言模型（LLM）在浏览器上运行自主代理的潜力，可有效处理复杂的目标导向任务。通过利用WebGPU，项目显著提升了性能，并在无工具简化版的AgentGPT环境中实现。该平台适合于希望快速验证LLM能力的用户，界面友好且功能丰富。