七、Stable Diffusion体验:生图速度提升150%
2023年9月,NVIDIA推出了用于Stable Diffusion Web UI 的TensorRT 加速插件,能让具备Tensor单元的GeForce显卡在Stable Diffusion Web UI 中获得翻倍的性能。
本次我们将对比SDXL加速方法与PyTorch xFormers(常规加速方法)的性能差异。
我们生成10张太空大战图像,分辨率1024*1024,使用PyTorch xFormers加速时,耗时5分12.9秒。
使用SDXL加速之后,耗时仅为2分05秒,性能提升150%。
从终端中也可以看到,在TensorRT加持下,RTX 4090 Laptop的生图速度可达4.0 it/s,而使用默认加速器时,生图速度只有1.6it/s。