Logo

#WebGPU

Logo of AgentLLM
AgentLLM
AgentLLM展示了使用开源大型语言模型(LLM)在浏览器上运行自主代理的潜力,可有效处理复杂的目标导向任务。通过利用WebGPU,项目显著提升了性能,并在无工具简化版的AgentGPT环境中实现。该平台适合于希望快速验证LLM能力的用户,界面友好且功能丰富。
Logo of ChatLLM-Web
ChatLLM-Web
ChatLLM-Web是一款基于WebGPU的LLM聊天工具,完全在浏览器中运行,无需服务器支持,注重隐私和数据安全。支持多会话聊天,数据全部本地存储,具备响应式设计和PWA离线功能。用户界面简洁友好,支持Markdown和流式响应,易于部署并可免费使用。
Logo of pixijs
pixijs
PixiJS是一款高性能2D渲染库,支持WebGPU和WebGL技术,适用于各类设备。开发者可轻松创建交互式图形、跨平台应用和游戏,无需深入了解WebGL。该库提供简洁API、完整场景图、资源加载器和滤镜系统,并支持丰富的社区插件。PixiJS适合开发图形密集型网站、应用和HTML5游戏,具有优秀的跨平台兼容性和性能表现。
Logo of orillusion
orillusion
Orillusion是基于WebGPU标准开发的Web3D渲染引擎,致力于在浏览器中实现桌面级的3D渲染效果。该引擎支持复杂场景渲染,提供NPM和CDN等多种安装方式。目前处于测试阶段,Orillusion正在建立WebGPU技术社区,旨在推动Web前端3D渲染技术的发展。
Logo of awesome-webgpu
awesome-webgpu
本文汇集了WebGPU相关的全面资源,包括官方规范、浏览器支持、教程、文章、开发库、调试工具和演示案例等。涵盖从入门到高级应用的各个方面,为开发者提供学习和实践WebGPU这一新兴Web图形计算技术的完整指南。无论是新手还是专家,都能在此找到有价值的参考资料。
Logo of web-llm
web-llm
WebLLM是一款借助WebGPU技术,实现硬件加速的浏览器内语言模型推理引擎,无需服务器即可直接在浏览器内运行。完全兼容OpenAI API,并具备流式输出和JSON模式生成功能,支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中,同时确保用户隐私安全,并享受高效的GPU加速体验。
Logo of chatty
chatty
Chatty利用WebGPU在浏览器中本地运行大型语言模型,保障数据隐私。其特点包括离线使用、聊天记录管理、支持多种开源模型、响应式设计和直观的用户界面。用户还可以加载本地文件、生成并保存聊天记录,并使用语音输入。此AI支持光明和暗模式,适用于所有支持WebGL的设备,极大地丰富了浏览器内的AI体验。
Logo of inpaint-web
inpaint-web
Inpaint-web是一款基于WebGPU和WebAssembly技术的浏览器端图像处理工具,提供图像修复和超分辨率功能。该开源项目无需安装,支持图像修改历史记录,未来计划整合快速选择和图像替换等功能。Inpaint-web旨在提供便捷高效的在线图像处理解决方案。
Logo of whisper-turbo
whisper-turbo
Whisper Turbo是一个基于WebGPU技术的开源语音识别项目,专门为浏览器和Electron应用设计。这款跨平台工具能在客户端高效执行语音转文字任务,目前支持Windows和MacOS上的Chromium浏览器。项目提供在线演示和详细文档,其核心由Rust编写的Ratchet库提供支持,确保了卓越的性能表现。
Logo of WebGPT
WebGPT
WebGPT项目是一款基于WebGPU的Transformer模型应用,使用纯JavaScript和HTML实现。该项目不仅用于技术演示,同时也作为教育资源,支持在主流浏览器中运行,并能管理最多500M参数的模型。主要优化在Chrome v113和Edge Canary等浏览器上,通过WebGPU技术提高运行效率,适合用于学习和研究深度学习模型。
Logo of web-stable-diffusion
web-stable-diffusion
本项目实现了稳定扩散模型的全浏览器内运行,无需服务器支持。这项技术降低服务成本的同时增强了个性化和隐私保护。基于WebGPU和WebAssembly等技术,用户只需通过浏览器即可体验强大的AI功能。该项目利用开源生态系统,支持Python优先环境,便于开发和优化AI模型,能够广泛部署并提供可重复和可操作的工作流程。
Logo of secret-llama
secret-llama
Secret Llama是一款在浏览器中运行的私密LLM聊天机器人,支持Llama 3、Mistral等开源模型。对话数据完全保留在本地计算机,无需服务器或安装。界面易用性媲美ChatGPT,支持离线工作。运行需要支持WebGPU的现代浏览器,不同模型可能有特定内存要求。项目欢迎贡献者参与改进界面、扩展模型支持和优化加载性能。
Logo of taichi.js
taichi.js
taichi.js是一个为JavaScript开发的现代GPU计算框架。它将JavaScript函数转换为WebGPU计算着色器,实现大规模并行化。作为Python库Taichi的JavaScript版本,taichi.js具备交互式代码编辑器功能,支持代码的编写、编译和运行。该框架适用于分形图形生成等复杂计算任务,通过WebGPU技术提供高效的GPU计算能力。taichi.js为Web开发者提供了便捷的GPU加速计算解决方案。
Logo of react-llm
react-llm
提供简单易用的无头 React Hooks,利用 WebGPU 在浏览器中运行大语言模型(LLM),确保数据不离开浏览器。支持 Vicuna 7B 模型,允许自定义提示词和角色名称,提供令牌限制等功能。支持数据持久化存储和模型缓存,提升加载速度和用户体验。
Logo of gpu.cpp
gpu.cpp
gpu.cpp是一个轻量级C++库,专注于通用原生GPU计算。它利用WebGPU规范作为可移植的低级GPU接口,支持在多种硬件上运行GPU代码。该库提供高效API,实现快速编译和运行周期,并最小化依赖。适用于GPU算法开发、神经网络实现、物理模拟等需要便携GPU计算的项目。gpu.cpp简化了个人设备上的GPU编程,让开发者能专注于算法实现。
Logo of whisper-web
whisper-web
Whisper Web是一个基于机器学习的浏览器端语音识别项目。它利用 Transformers.js 技术,在客户端实现实时语音处理,无需服务器支持。该项目提供在线演示和本地部署选项,并正在开发 WebGPU 支持以提高性能。Whisper Web 展示了 Web 技术在语音识别领域的应用潜力,为开发者提供了一个便捷的语音识别解决方案。
Logo of diffusers.js
diffusers.js
diffusers.js是一个JavaScript库,支持在GPU和WebGPU上运行扩散模型。它适用于浏览器和Node.js环境,具有简洁的API接口。该库经过性能优化,兼容多种模型,并提供实用示例。diffusers.js的开发过程中改进了onnx runtime、emscripten和WebAssembly,为AI图像生成领域贡献了重要工具。