随着普罗大众更广泛的认知到AIGC,各行各业都掀起了“AI革命”,仿佛一夜之间AI就成为了大家一直追求的主要发展方向。
尤其对于PC而言,如果不算十几年前那个鬼畜的“AI PC”电视广告,那么AI PC这一概念自去年下半年开始被广泛提出。
短短几个月的时间已有大批量搭载了酷睿Ultra处理器、AMD 8000系锐龙处理器的“AI PC”上市,但“名头”响亮的AI PC,所面临的问题也着实不少。
一、硬件先行,但无“杀手”应用
AIGC的爆火让上游硬件厂商也措手不及,谁都想赶在这波浪潮的初期迅速攻占市场,占据市场的话语权,遂在去年的下半年开始,英特尔与AMD纷纷公布了全新一代的移动端处理器。
并且无论是英特尔、AMD还是终端产品厂商,都表示搭载了这些处理器的“AI PC”是又一次的电脑革命,新品也如雨后春笋般冒出,仿佛个人电子设备迎来了一个前所未有的创新。
但至少到现在,AI PC这座外表已经包装到奢华的礼堂,其内部的装修虽不能说没有,可相比于那华丽的外表,依然非常简陋。
这其中最大的原因就是,目前的AI PC没有“杀手级”应用。
就像4G之于短视频与手游,通过4G更快的网络速度与更低的延迟,我们可以接收到比之前更多量级、更感兴趣的信息流,也可以玩到更有乐趣的手机游戏,加上越来越便宜的资费,4G得以快速普及。
而当下的AI PC恰恰就缺少着这类能够普惠给大众的应用,用户对于AI PC的感知大多是宣传的雷声大,实际体验却没有多少感知。
AMD董事会主席及首席执行官苏姿丰也表示:“我们都在寻找能推动PC更新换代、进入新周期的‘杀手级应用’,相信AI将成为引发PC市场增长的能力。”
硬件的支持是非常重要的一个方面,现在框架已经搭建好了,需要内容的填充,要想让用户主动拥抱“AI PC”,上游的芯片厂商以及终端产品厂商需要加速寻找到那个杀手级的AI本地应用,让内部的装潢匹配上外部的奢华,由内而外促进用户的换机与选购。
二、要先让“NPU”派上用场
对于AI PC来讲,与之前的笔记本电脑,处理器上面最大区别在于加入了“NPU”单元,不同于传统计算核心CPU与显示核心iGPU,NPU是专门用来进行AI计算的单元。那么,显然,要运行AI相关的功能与应用时,至少要让NPU介入工作把。
想要让NPU介入工作,并不是NPU“存在”即可,还需要系统与软件层面的调用与优化,可遗憾的是,目前为数不多的AI相关应用中,并不是所有应用都能够调用NPU,如果NPU并不能被调用来提高性能或能效比,那么对于消费者来讲,对于AI PC的换机欲望肯定不高了。
在AMD前不久召开的AI PC峰会上,AMD现场演示了四个AIGC方面DEMO,包括文生文、文生图、绘画生图、代码生成,只在代码生成时表示该应用运行在了NPU之上,官方展示时我们还注意到,甚至Windows系统中的任务管理器内都看不到NPU的工作状态。
硬件方面,先让NPU能够充分介入到AI应用中,也是接下来各硬件厂商协同软件厂商的头等大事。
三、能效比可能比“算力”更重要
英特尔在去年发布旗下首个配备了NPU的酷睿Ultra处理器时就表示过,NPU的用途并不仅仅是提高AI算力,还有提高AI计算时能效比的作用,例如在视频会议时,背景模糊、背景调换、人眼矫正等AI功能如果利用NPU进行运算,在效果不打折扣的前提下减少CPU封装功耗,以起到增强续航的效果。
视频会议及直播增强软件XSplit VCam就可以调用酷睿Ultra处理器中的NPU进行背景模糊与调换等功能,根据实际测试,相比于将负载放到GPU上,使用NPU时CPU封装功耗下降了2.5~3W左右。
而将负载放到NPU上时,可以看到NPU开始工作,此时电池的放电功耗为21.5W~22.5W左右。
对于AI应用来讲,我们可能并不能指望其拥有多高的算力,消费级的CPU性能不可能比得上服务器芯片,在用户端。
如果能够将一些常用且琐碎的AI功能负载到能效比更高的NPU之上,提升续航表现、降低机身发热和风扇噪音,也将是AI PC未来的发展方向。
四、“云端”不可或缺,AI PC对移动网络的支持刻不容缓
上一部分已经提到过了,以目前的科技水平来看,消费级的CPU在算力上是不可能与服务器芯片比拟的,文生文、文生图等应用中,本地AI具备更好的隐私防护。
但其参数数量会远不及云端,在结果生成的功能与质量上也比不上云端,所以本地与云端对于AI应用来讲都是不可或缺的存在。
在本地,主要处理一些对算力要求不高或对质量要求不高的应用,例如在多张照片中检索含有关键词的照片、提取文档的主要内容、图片的抠像等等。
而在需求高算力、高质量的文生图、图生图、视频生成等应用时,可借助模型运营商的云端运行,如果是对于隐私要求较高、企业内拥有专用大语言模型的企业用户,则可借助企业自身的云服务器进行运算与结果生成。
对于需要大模型又对隐私要求较高的自由职业者,在家中组建一个个人的服务器部署大模型,就像NAS一样,随时随地都可调用,并且无需担心隐私泄露。
所以在接下来,AI PC所需要的不仅仅是搭载算力更高的处理器和更大的内存,配备上稳定、速度更快的移动网络模块也是未来PC跨入AI的一个关键门槛,移动网络模块在主流笔记本中应该逐渐普及。
五、英特尔与AMD或将加速“统一内存”的开发
本地的大模型对于GPU的显存有着超乎寻常的需求,目前搭载了英特尔酷睿处理器和AMD锐龙处理器的无独显轻薄本在可运行的大模型参数量上远低于苹果的MacBook。
其中一个主要的原因在于苹果M系芯片具备“统一内存”技术,说简单点就是苹果M系芯片中的GPU可以根据需要直接调取内存来充当显存。
同时苹果又通过加高带宽、加大容量的方式,让内存的带宽达到了一个主流高端显卡的显存带宽的地步,从而让M系芯片可以运行参数更高的大模型。
M3 Max最高支持128GB的统一内存,而上一代的M2 Max为96GB
肯定也会有朋友说,搞的这么复杂,直接弄个独显不就好了吗?
独立显卡本身功耗较高,GDDR内存虽然速度快,但是对比DDR与LPDDR内存发热量也更高,笔记本内部承载不了大量的GDDR内存,对于需求便携能力与续航能力笔记本来讲,至少在AI方面,相比于“统一内存”的方案,独立显卡并不是一个优秀的“提升显存容量”的解决方案。
目前,英特尔酷睿Ultra处理器、AMD锐龙处理器核显规模与性能日益提升,在未来,随着更多次的迭代,如果能够加入“统一内存”技术,那么能够运行大模型的参数量上限便可大大提高。
个人预计,如果英特尔与AMD向市场投放带有统一内存技术的处理器产品,将会与常规型号区分开来,为一支独立产品线。
六、写在最后
AI的爆火,上游厂商的押注,下游厂商的积极跟进,尚属婴儿期的AIPC未来的路还很长,科技的发展也更是日新月异,AI PC能够衍生出何种的形态,AI PC的前景路线是怎样的,我们拭目以待。