Logo

#WebGPU

react-llm学习资料汇总 - 在浏览器中运行LLM的React Hooks库

1 个月前
Cover of react-llm学习资料汇总 - 在浏览器中运行LLM的React Hooks库

diffusers.js:在浏览器和Node.js中运行扩散模型的强大库

2 个月前
Cover of diffusers.js:在浏览器和Node.js中运行扩散模型的强大库

Secret Llama: 浏览器中的私密大语言模型聊天机器人

2 个月前
Cover of Secret Llama: 浏览器中的私密大语言模型聊天机器人

Whisper Turbo: 跨平台、GPU加速的语音识别利器

2 个月前
Cover of Whisper Turbo: 跨平台、GPU加速的语音识别利器

Whisper Turbo: 快速跨平台的语音识别解决方案

2 个月前
Cover of Whisper Turbo: 快速跨平台的语音识别解决方案

WebGPT学习资料汇总 - 在浏览器上运行GPT模型的革命性项目

1 个月前
Cover of WebGPT学习资料汇总 - 在浏览器上运行GPT模型的革命性项目

taichi.js: 现代化的 JavaScript GPU 计算与渲染框架

2 个月前
Cover of taichi.js: 现代化的 JavaScript GPU 计算与渲染框架

inpaint-web:基于WebGPU和WASM的免费开源图像修复与超分辨率工具

2 个月前
Cover of inpaint-web:基于WebGPU和WASM的免费开源图像修复与超分辨率工具

gpu.cpp: 轻量级跨平台GPU计算库

2 个月前
Cover of gpu.cpp: 轻量级跨平台GPU计算库

Chatty: 在浏览器中运行的私密AI聊天工具

2 个月前
Cover of Chatty: 在浏览器中运行的私密AI聊天工具

相关项目

Project Cover
AgentLLM
AgentLLM展示了使用开源大型语言模型(LLM)在浏览器上运行自主代理的潜力,可有效处理复杂的目标导向任务。通过利用WebGPU,项目显著提升了性能,并在无工具简化版的AgentGPT环境中实现。该平台适合于希望快速验证LLM能力的用户,界面友好且功能丰富。
Project Cover
web-llm
WebLLM是一款借助WebGPU技术,实现硬件加速的浏览器内语言模型推理引擎,无需服务器即可直接在浏览器内运行。完全兼容OpenAI API,并具备流式输出和JSON模式生成功能,支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中,同时确保用户隐私安全,并享受高效的GPU加速体验。
Project Cover
WebGPT
WebGPT项目是一款基于WebGPU的Transformer模型应用,使用纯JavaScript和HTML实现。该项目不仅用于技术演示,同时也作为教育资源,支持在主流浏览器中运行,并能管理最多500M参数的模型。主要优化在Chrome v113和Edge Canary等浏览器上,通过WebGPU技术提高运行效率,适合用于学习和研究深度学习模型。
Project Cover
react-llm
提供简单易用的无头 React Hooks,利用 WebGPU 在浏览器中运行大语言模型(LLM),确保数据不离开浏览器。支持 Vicuna 7B 模型,允许自定义提示词和角色名称,提供令牌限制等功能。支持数据持久化存储和模型缓存,提升加载速度和用户体验。
Project Cover
ChatLLM-Web
ChatLLM-Web是一款基于WebGPU的LLM聊天工具,完全在浏览器中运行,无需服务器支持,注重隐私和数据安全。支持多会话聊天,数据全部本地存储,具备响应式设计和PWA离线功能。用户界面简洁友好,支持Markdown和流式响应,易于部署并可免费使用。
Project Cover
chatty
Chatty利用WebGPU在浏览器中本地运行大型语言模型,保障数据隐私。其特点包括离线使用、聊天记录管理、支持多种开源模型、响应式设计和直观的用户界面。用户还可以加载本地文件、生成并保存聊天记录,并使用语音输入。此AI支持光明和暗模式,适用于所有支持WebGL的设备,极大地丰富了浏览器内的AI体验。
Project Cover
web-stable-diffusion
本项目实现了稳定扩散模型的全浏览器内运行,无需服务器支持。这项技术降低服务成本的同时增强了个性化和隐私保护。基于WebGPU和WebAssembly等技术,用户只需通过浏览器即可体验强大的AI功能。该项目利用开源生态系统,支持Python优先环境,便于开发和优化AI模型,能够广泛部署并提供可重复和可操作的工作流程。
Project Cover
gpu.cpp
gpu.cpp是一个轻量级C++库,专注于通用原生GPU计算。它利用WebGPU规范作为可移植的低级GPU接口,支持在多种硬件上运行GPU代码。该库提供高效API,实现快速编译和运行周期,并最小化依赖。适用于GPU算法开发、神经网络实现、物理模拟等需要便携GPU计算的项目。gpu.cpp简化了个人设备上的GPU编程,让开发者能专注于算法实现。
Project Cover
pixijs
PixiJS是一款高性能2D渲染库,支持WebGPU和WebGL技术,适用于各类设备。开发者可轻松创建交互式图形、跨平台应用和游戏,无需深入了解WebGL。该库提供简洁API、完整场景图、资源加载器和滤镜系统,并支持丰富的社区插件。PixiJS适合开发图形密集型网站、应用和HTML5游戏,具有优秀的跨平台兼容性和性能表现。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号