#WebGPU
AgentLLM - 用LLM打造自主代理,浏览器端高效运行
AgentLLM浏览器原生LLMChatGPTWizardLMWebGPUGithub开源项目
AgentLLM展示了使用开源大型语言模型(LLM)在浏览器上运行自主代理的潜力,可有效处理复杂的目标导向任务。通过利用WebGPU,项目显著提升了性能,并在无工具简化版的AgentGPT环境中实现。该平台适合于希望快速验证LLM能力的用户,界面友好且功能丰富。
web-llm - 浏览器语言模型推理引擎,完全支持OpenAI API
WebLLM大语言模型WebGPU浏览器内推理OpenAI API兼容性Github开源项目
WebLLM是一款借助WebGPU技术,实现硬件加速的浏览器内语言模型推理引擎,无需服务器即可直接在浏览器内运行。完全兼容OpenAI API,并具备流式输出和JSON模式生成功能,支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中,同时确保用户隐私安全,并享受高效的GPU加速体验。
WebGPT - 基于WebGPU的Transformer模型实现与性能分析
WebGPTWebGPUGPU模型JavaScriptGithub开源项目
WebGPT项目是一款基于WebGPU的Transformer模型应用,使用纯JavaScript和HTML实现。该项目不仅用于技术演示,同时也作为教育资源,支持在主流浏览器中运行,并能管理最多500M参数的模型。主要优化在Chrome v113和Edge Canary等浏览器上,通过WebGPU技术提高运行效率,适合用于学习和研究深度学习模型。
react-llm - 使用无头 React Hooks 在浏览器中运行 LLM,支持 WebGPU 加速
@react-llm/headlessLLMWebGPUReact HooksVicuna 7BGithub开源项目
提供简单易用的无头 React Hooks,利用 WebGPU 在浏览器中运行大语言模型(LLM),确保数据不离开浏览器。支持 Vicuna 7B 模型,允许自定义提示词和角色名称,提供令牌限制等功能。支持数据持久化存储和模型缓存,提升加载速度和用户体验。
ChatLLM-Web - 浏览器内运行、无需服务器的私密LLM聊天工具
ChatLLM WebWebGPUVercel多会话聊天隐私Github开源项目
ChatLLM-Web是一款基于WebGPU的LLM聊天工具,完全在浏览器中运行,无需服务器支持,注重隐私和数据安全。支持多会话聊天,数据全部本地存储,具备响应式设计和PWA离线功能。用户界面简洁友好,支持Markdown和流式响应,易于部署并可免费使用。
chatty - 利用WebGPU在浏览器中本地运行大型语言模型
ChattyAI模型WebGPU浏览器支持离线使用Github开源项目
Chatty利用WebGPU在浏览器中本地运行大型语言模型,保障数据隐私。其特点包括离线使用、聊天记录管理、支持多种开源模型、响应式设计和直观的用户界面。用户还可以加载本地文件、生成并保存聊天记录,并使用语音输入。此AI支持光明和暗模式,适用于所有支持WebGL的设备,极大地丰富了浏览器内的AI体验。
web-stable-diffusion - 浏览器内完全独立运行的稳定扩散模型
Web Stable DiffusionWebGPUTVM UnityML模型部署机器学习编译Github开源项目
本项目实现了稳定扩散模型的全浏览器内运行,无需服务器支持。这项技术降低服务成本的同时增强了个性化和隐私保护。基于WebGPU和WebAssembly等技术,用户只需通过浏览器即可体验强大的AI功能。该项目利用开源生态系统,支持Python优先环境,便于开发和优化AI模型,能够广泛部署并提供可重复和可操作的工作流程。
gpu.cpp - 简化跨平台GPU计算的轻量级库
WebGPUGPU计算C++库跨平台WGSLGithub开源项目
gpu.cpp是一个轻量级C++库,专注于通用原生GPU计算。它利用WebGPU规范作为可移植的低级GPU接口,支持在多种硬件上运行GPU代码。该库提供高效API,实现快速编译和运行周期,并最小化依赖。适用于GPU算法开发、神经网络实现、物理模拟等需要便携GPU计算的项目。gpu.cpp简化了个人设备上的GPU编程,让开发者能专注于算法实现。
pixijs - 快速轻量的2D渲染库 构建跨平台交互式图形应用
PixiJS2D渲染库WebGLWebGPUHTML5游戏Github开源项目
PixiJS是一款高性能2D渲染库,支持WebGPU和WebGL技术,适用于各类设备。开发者可轻松创建交互式图形、跨平台应用和游戏,无需深入了解WebGL。该库提供简洁API、完整场景图、资源加载器和滤镜系统,并支持丰富的社区插件。PixiJS适合开发图形密集型网站、应用和HTML5游戏,具有优秀的跨平台兼容性和性能表现。
inpaint-web - 浏览器端图像修复和超分辨率开源工具
Inpaint-web图片修复图片高清化WebGPUWASMGithub开源项目
Inpaint-web是一款基于WebGPU和WebAssembly技术的浏览器端图像处理工具,提供图像修复和超分辨率功能。该开源项目无需安装,支持图像修改历史记录,未来计划整合快速选择和图像替换等功能。Inpaint-web旨在提供便捷高效的在线图像处理解决方案。
secret-llama - 浏览器端运行的私密LLM聊天机器人 支持多种开源模型
Secret LlamaLLMWebGPU开源模型浏览器应用Github开源项目
Secret Llama是一款在浏览器中运行的私密LLM聊天机器人,支持Llama 3、Mistral等开源模型。对话数据完全保留在本地计算机,无需服务器或安装。界面易用性媲美ChatGPT,支持离线工作。运行需要支持WebGPU的现代浏览器,不同模型可能有特定内存要求。项目欢迎贡献者参与改进界面、扩展模型支持和优化加载性能。
whisper-web - 浏览器端实时语音识别技术
Whisper Web语音识别浏览器应用Transformers.jsWebGPUGithub开源项目
Whisper Web是一个基于机器学习的浏览器端语音识别项目。它利用 Transformers.js 技术,在客户端实现实时语音处理,无需服务器支持。该项目提供在线演示和本地部署选项,并正在开发 WebGPU 支持以提高性能。Whisper Web 展示了 Web 技术在语音识别领域的应用潜力,为开发者提供了一个便捷的语音识别解决方案。
orillusion - 高性能Web3D渲染引擎 助力浏览器复杂场景渲染
OrillusionWebGPUWeb3D渲染引擎前端开发3D渲染Github开源项目
Orillusion是基于WebGPU标准开发的Web3D渲染引擎,致力于在浏览器中实现桌面级的3D渲染效果。该引擎支持复杂场景渲染,提供NPM和CDN等多种安装方式。目前处于测试阶段,Orillusion正在建立WebGPU技术社区,旨在推动Web前端3D渲染技术的发展。
whisper-turbo - 基于WebGPU的浏览器端语音转文字引擎
Whisper Turbo跨平台语音识别WebGPU浏览器Github开源项目
Whisper Turbo是一个基于WebGPU技术的开源语音识别项目,专门为浏览器和Electron应用设计。这款跨平台工具能在客户端高效执行语音转文字任务,目前支持Windows和MacOS上的Chromium浏览器。项目提供在线演示和详细文档,其核心由Rust编写的Ratchet库提供支持,确保了卓越的性能表现。
taichi.js - JavaScript GPU加速框架 实现大规模并行计算
taichi.jsGPU计算Javascript框架WebGPU并行计算Github开源项目
taichi.js是一个为JavaScript开发的现代GPU计算框架。它将JavaScript函数转换为WebGPU计算着色器,实现大规模并行化。作为Python库Taichi的JavaScript版本,taichi.js具备交互式代码编辑器功能,支持代码的编写、编译和运行。该框架适用于分形图形生成等复杂计算任务,通过WebGPU技术提供高效的GPU计算能力。taichi.js为Web开发者提供了便捷的GPU加速计算解决方案。
diffusers.js - JavaScript扩散模型运行库支持GPU和WebGPU
diffusers.jsAI绘图GPU加速WebGPUONNXGithub开源项目
diffusers.js是一个JavaScript库,支持在GPU和WebGPU上运行扩散模型。它适用于浏览器和Node.js环境,具有简洁的API接口。该库经过性能优化,兼容多种模型,并提供实用示例。diffusers.js的开发过程中改进了onnx runtime、emscripten和WebAssembly,为AI图像生成领域贡献了重要工具。
four - 精简 3D 图形渲染库 支持 WebGL 和 WebGPU
WebGLWebGPU3D渲染图形编程three.jsGithub开源项目
Four 是一个精简的 3D 图形渲染库,提供简洁 API 支持 WebGL 和 WebGPU。包含核心 3D 对象、几何体、材质和渲染功能,注重性能和易用性。适用于快速构建各类 3D 图形应用,从基础场景到复杂可视化项目。
wgpu - 基于WebGPU标准的跨平台Rust图形API
wgpuWebGPU跨平台图形APIRustGithub开源项目
wgpu项目实现了WebGPU标准的Rust版本,提供跨平台图形编程接口。它支持Vulkan、Metal、D3D12、OpenGL等多种图形API,并可在WebAssembly环境中运行。wgpu兼容WGSL、SPIR-V、GLSL等着色器语言,具有自动转换功能。该项目包含多个核心库和工具,适用于游戏引擎、3D渲染、科学计算可视化等应用场景。
awesome-webgpu - WebGPU资源大全 从入门到精通的开发指南
WebGPUGPU计算Web标准3D图形着色器Github开源项目
本文汇集了WebGPU相关的全面资源,包括官方规范、浏览器支持、教程、文章、开发库、调试工具和演示案例等。涵盖从入门到高级应用的各个方面,为开发者提供学习和实践WebGPU这一新兴Web图形计算技术的完整指南。无论是新手还是专家,都能在此找到有价值的参考资料。
相关文章
WebLLM: 革新浏览器内的大语言模型推理
3 个月前
WebGPT: 在浏览器中运行GPT模型的革命性技术
3 个月前
ChatLLM-Web: 在浏览器中与大型语言模型对话的革命性工具
3 个月前
AgentLLM: 革命性的浏览器原生自主AI代理
3 个月前
Chatty: 在浏览器中运行的私密AI聊天工具
3 个月前
Whisper Turbo: 快速跨平台的语音识别解决方案
3 个月前
gpu.cpp: 轻量级跨平台GPU计算库
3 个月前
Whisper Turbo: 跨平台、GPU加速的语音识别利器
3 个月前
inpaint-web:基于WebGPU和WASM的免费开源图像修复与超分辨率工具
3 个月前