五、AI扩展大模型测试:神经网络速度可达21.8it/s 只需4.8秒即可生成一张图像
近日UL Solutions为Procyon 基准测试套件新增了AI 图像生成测试,包含了2个不同版本的Stable Diffusion模型构建的测试,分别为SD1.5和SDXL,在兼容性上支持TensorRT、OpenVIVO、ONNX Runtime,也就是说支持主流的NVIDIA、Intel、AMD三大平台。
在运行测试时,对本地主机的显存有不同要求:SD1.5至少配有8GB容量的独显、或至少需要32GB RAM;SDXL至少配有10GB容量的独显、或至少16GB VRAM。
在跑分结束后,会给出非常详细、直观的信息,包含总分、总耗时、图片生成速度等数据、CPU和GPU型号以及跑分设置等信息。
此轮我们体验的是UL Procyon套件中的AI Image Generation Benchmark - Stable Diffusion 1.5 (FP16),在这个测试过程中会创建16幅512×512分辨率的图像,每批次4幅。
在TensorRT加持下,Stable Diffusion 1.5的输出结果还是非常稳定的,UNET(神经网络架构)速度达到了21.3it/s,只需要4.8秒就能生成一篇图像。