q-diffusion
Q-Diffusion是一种针对扩散模型的后训练量化方法。它能将无条件扩散模型压缩至4位精度,同时保持接近原模型的性能。该方法通过时间步感知校准和分离捷径量化技术解决了扩散模型量化的主要难题。Q-Diffusion不仅适用于无条件图像生成,还可用于文本引导的图像生成,首次实现了4位权重下的高质量生成效果。这一技术为扩散模型的高效实现开辟了新途径。