五、AI性能测试:115 TOPS算力 兼容更多模型
我们使用UL Procyon中的AI Image Generation Benchmark测试对联想YOGA Air 15 Aura AI元启版的AI性能。
使用OpenVINO引擎,模型精度int8,干预步骤50,最终总分2268,总体图像生成速度13.777 s/image,平均UNET速度3.683 it/s。
为了充分发挥NPU的性能,我们打开拆分UNET执行开关,然后重新运行AI Image Generation Benchmark测试。
我们可以看到测试中文本编码器设备已经切换为NPU,同时NPU也参与到UNET环节,只有VAE环节仍是Arc 140V GPU完成。
最终总分3261,总体图像生成速度9.580 s/image,平均UNET速度5.340 it/s。成绩大幅提高了43.7%。
之后我们用AI Computer Vision Benchmark项目,对AI推理性能进行测试。
同样使用OpenVINO引擎,精度Float16,对NPU进行测试,最终得分951分,高于单独使用CPU或GPU的成绩。
考虑到Ultra 7 258V的功耗表现,在AI项目上测试表现已经非常优秀。