llama-cpp-wasm
llama-cpp-wasm是一个为llama.cpp提供WebAssembly构建和绑定的开源项目。它支持在浏览器中运行大语言模型,提供单线程和多线程版本。该项目兼容多种模型,包括Qwen、StableLM和TinyLlama等,使开发者能够在Web环境中实现自然语言处理功能。项目易于集成,为浏览器端AI应用开发提供了便利。