六、Stable Diffusion体验:TensorRT加持 速度提升358%
Stable Diffusion是一个基于图像的AI模型,只需要输入一句话、或者特定的关键词,就能生成一幅想要的图像,也是时下最火的AI生成画图工具。
NVIDIA也针对Stable Diffusion Web UI,推出了TensorRT加速插件,能让具备Tensor单元的GeForce显卡获得翻倍的性能。
本次我们将对比SDXL加速方法与PyTorch xFormers(常规加速方法)的性能差异。
以太空大战为关键字,分辨率为1024×1024、迭代步数50,使用PyTorch xFormers加速时,索泰RTX 4070 SUPER X-GAMING OC欧泊白显卡的生成速度最高1.72it/s,共耗时5分17秒。
启用SDXL后,索泰RTX 4070 SUPER X-GAMING OC欧泊白显卡的出图速度得到了显著的提升,最高可达6.1it/s,性能提升3.6倍,最低也有2.6倍,仅用时2分钟3秒就完成了。