#MiniCPM
相关项目
mlc-MiniCPM
mlc-MiniCPM项目基于MLC-LLM技术,实现了MiniCPM和MiniCPM-V模型在Android设备上的运行。该项目开发了Android应用程序,支持用户与AI模型进行文本和图像交互。通过4位量化技术,项目将模型压缩以适应移动设备资源,在保持性能的同时提高运行效率。
MiniCPM
MiniCPM是一系列高效的端侧大语言模型,仅有2.4B非词嵌入参数。经过优化后,在多项评测中表现优异,甚至超越了一些参数量更大的模型。该项目支持多模态功能,可在移动设备上流畅运行。MiniCPM开源了多个版本,涵盖文本、多模态、量化和长文本等应用场景,适用于学术研究和特定商业用途。这一开源项目由面壁智能与清华大学自然语言处理实验室联合开发。