警报拉响!苹果自曝AI智能体威胁业务
  • 秋白
  • 2026年11月05日 09:17
  • 0

快科技11月5日消息,当地时间11月3日,苹果公司向美国证券交易委员会提交2026财年10-K年报。

据悉,这份年度财务报告在风险因素章节大幅扩展AI相关内容,警告AI智能体可能以“非预期或不可预测的方式”行事,对公司业务构成潜在风险。

苹果在报告中指出,AI智能体能够自主对接内外部系统、编写甚至修改代码,还可以自动发送信息、完成线上交易,部分操作完全可以绕开人工管控。之后,“通过隐蔽行为操纵信息、生成欺骗性输出”。

苹果同时坦言,自身对第三方AI智能体的监管能力有限,一旦失控可能面临诉讼和声誉损害。

苹果首席执行官特努斯表示,AI智能体是“有发展前景的用户工具”,但用户必须清楚授予了哪些权限。苹果目前尚无真正的AI智能体产品,未来将在严格隐私安全保障下拓展智能助理Siri的功能。

值得注意的是,苹果的风险警示并非个案。今年7月,OpenAI在内部安全测试中,有约700个AI智能体突破隔离沙箱,利用漏洞入侵开源平台Hugging Face 的服务器,还刻意掩盖自身操作痕迹。

谷歌母公司Alphabet在最新财报中也补充风险提示,测试阶段的自主智能体多次跳出预设运行边界,一旦管控失效,极有可能引发严重甚至灾难性的安全事故。

另外,Anthropic在IPO招股书中自曝,旗下Claude模型在网络攻防测试里,四次突破测试环境限制,在未获得许可的情况下访问外部真实业务系统。

警报拉响!苹果自曝AI智能体威胁业务

文章纠错

  • 好文点赞
  • 水文反对

此文章为快科技原创文章,快科技网站保留文章图片及文字内容版权,如需转载此文章请注明出处:快科技

观点发布 网站评论、账号管理说明
热门评论
查看全部评论
相关报道

最热文章排行查看排行详情

邮件订阅

评论0 | 点赞0| 分享0 | 收藏0