#KuiperInfer

KuiperInfer

KuiperInfer是一个开源深度学习推理框架，支持Resnet、Yolov5和LLama2等主流模型。基于现代C++设计，该框架提供高效算子实现和优化技术，适用于图像分类、目标检测和自然语言处理任务。KuiperInfer不仅是实用的推理工具，还是学习深度学习框架设计和C++工程实践的优质资源。