快科技11月17日消息,据报道,新款笔记本普遍搭载NPU,厂商习惯用TOPS算力参数宣传产品。现阶段NPU核心优势是低功耗,对大部分普通用户来说实用场景偏少。
NPU是面向AI推理设计的运算单元,擅长矩阵运算,一般集成在处理器内部。CPU负责通用任务,GPU适合大规模并行计算,NPU牺牲通用性换取更低功耗。相同AI任务,NPU功耗大约2W,笔记本独立显卡功耗可能突破100W。
TOPS是衡量NPU算力的常用指标,代表每秒兆次运算。高通Snapdragon X Elite NPU为45TOPS,X2 Elite最高85TOPS。
英特尔Core Ultra 200V最高48TOPS,Core Ultra Series3可达50TOPS。AMD 锐龙AI 300系列50TOPS,锐龙AI 400系列最高60TOPS。苹果M4神经网络引擎为38TOPS。
TOPS大多是INT8精度下的理论峰值,不能直接等同于实际运行速度。部分厂商会把CPU、GPU、NPU算力合并标注,英特尔Core Ultra 200V平台总算力标注120TOPS,其中NPU本身仅48TOPS。
微软2024年推出Copilot+PC规范,要求NPU算力最低40TOPS,搭配16GB内存与256GB存储空间。该规范只统计NPU算力,RTX 4050张量核心算力再高也不计入。行业认为这项认证推动NPU普及,而非用户原生需求。
当前NPU适合后台低负载AI任务,包含视频会议背景模糊、降噪、实时字幕翻译、本地文件检索,以及Windows Studio Effects、Recall等功能。云端大模型服务在远端服务器运算,无法调用本地NPU。
软件适配缺口是限制NPU落地的关键瓶颈。实测使用OpenVINO运行Mistral 7B模型时NPU占用接近满负载,切换Ollama运行同模型,负载就大量转移到CPU。普通日常使用场景里,NPU经常处于零负载状态。
不同使用需求对应不同硬件选择。经常开视频会议、看重续航的用户适合Copilot+PC。想要本地跑大模型,优先升级内存容量和带宽。游戏、视频剪辑场景,依旧以GPU性能作为核心考量。


