node-llama-cpp
node-llama-cpp是一个可以在本地机器上运行文本生成AI模型的开源项目，支持Metal和CUDA。提供预构建二进制文件，并在需要时可从源代码构建。用户可以通过命令行界面与模型交互，无需编写代码。项目兼容最新版本的llama.cpp，并支持强制生成解析格式输出，如JSON。
