Logo

#移动设备

Logo of nanodet
nanodet
NanoDet-Plus 是一款超轻量级高精度的无锚目标检测模型,专为移动设备实时检测设计。其模型文件仅有980KB(INT8)或1.8MB(FP16),在ARM CPU上实现97fps检测速度,精度达34.3 mAP@0.5:0.95。NanoDet-Plus 训练友好,GPU内存占用低,支持ncnn、MNN、OpenVINO等多种后端,提供基于ncnn的安卓演示。此模型在COCO数据集上提升了7 mAP,支持多种分辨率和配置,满足不同场景需求。
Logo of mllm
mllm
mllm是一款针对移动和边缘设备优化的多模态大语言模型推理引擎。该引擎采用纯C/C++实现,无外部依赖,支持ARM NEON和x86 AVX2指令集,并提供4位和6位整数量化。开发者可利用mllm构建智能个人助理、基于文本的图像搜索、屏幕视觉问答等移动应用,实现本地推理而无需上传敏感数据。