#OnnxStream

OnnxStream

OnnxStream专为优化内存使用而设计，支持在低资源设备上高效运行大型模型如Stable Diffusion和TinyLlama。在仅有512MB RAM的Raspberry Pi Zero 2上，实现图像生成和语言模型推理，而无需额外交换空间或磁盘写入。通过解耦推理引擎与模型权重组件，OnnxStream显著降低内存消耗，提供轻量且高效的推理解决方案。其静态量化和注意力切片技术增强了多种应用中的适应性和性能。