五、AI测试:最快只需66秒即可生成一张图片
1、Stable Diffusion
我们也测试了当下最热门的AI制图工具——Stable Diffusion,它是一个基于图像的AI模型,只需要输入一句话,或者几组特定的关键词,就能生成一幅想要的图像。
Intel通过OpenVINO方案,对Stable Diffusion提供了支持,可以配合CPU或核显也能进行“炼丹”。
测试条件以太空大战为关键字,采样方法为Euler a,分辨率为512×512、迭代步数20。
默认模式下,没有开启OpenVINO,但得益于NPU的加持,约122秒就生成了一张图片。
在同样条件下,开启OpenVINO后,渲染设备更改为GPU,生成速度为1.69it/s,只需66秒就能生成一张图片,比默认要快1.8倍。
2、大语言模型
为了让本地也能够运行大语言模型,Intel构建了BigDL-LLM库,通过各种各样的大语言模型进行优化和支持,从而让搭载16GB内存的Intel酷睿处理器以上的笔记本上,也能运行参数量高达160亿的大语言模型。
我们使用的AI 应用是“英特尔大语言模型”Demo应用,模型为chatglm2-6b,最大长度、Temperature、Top P为默认,要求它生成云南五天的旅游行程。
这个过程中,First Latency为573.18ms(可理解为发出问题后,模型反应需要多久),After Latency为79.19 ms/token(可理解成模型的生成速度),生成速度跟得上普通人的阅读速度。
PS:功能不同,响应延迟和token算力需求也不同。
在AI玩法上,华硕无畏Pro15 2024提供包含娱乐软件及全新AI纪元模块,内置多款AI软件及工具,支持AI创作、本地端文本生成及AI抠图等功能,玩家也可以自行探索更多玩法。