#NPU
相关项目
neural-engine
本页面全面介绍了如何利用Apple Neural Engine提升机器学习模型的性能,并指出其局限性。探讨NPU的工作原理,解答常见问题,解析部分Core ML模型为何无法充分利用ANE。还提供了具体设备支持列表和编程指南,帮助开发者优化模型,实现iPhone和iPad上的最佳计算性能。
rknn-cpp-Multithreading
rknn-cpp-Multithreading项目提供了一个针对RK3588/RK3588S的多线程NPU推理加速框架。通过线程池异步操作rknn模型,显著提高了NPU使用率和推理速度。项目优化了YOLOv5s模型,采用ReLU激活函数,进一步提升了性能。提供了详细的使用说明和不同线程数下的性能测试结果,便于用户参考和应用。