许多人十分害怕电影《终结者》系列里所描绘的世界末日，而另一部分人则认为只是幻想。科学家 Steve Omohundro 认为，人工智能有不受控制的可能，但这是可以避免的。
在《终结者》电影里，本是用于军事的“天网”人工智能防御系统获得自我意识之后，几乎将人类消灭殆尽。在人工智能飞速发展的今天，影迷们开始担心“审判日”终将到来，这也情有可原。
人工智能领域的科学家 Steve Omohundro 表示，随着计算机运算能力的提升，人工智能不可避免地将获得更大的自主权。它们将具备从其他系统中互相学习的能力，从而可能进化出它们认为的完成任务更有效率的方式，而这种方式可能与人类的初衷截然相反，甚至造成危害。
那么该如何避免这种情况出现呢？Omohundro 建议“专机专用”，也就是为人工智能提供只足够它完成本职工作的硬件，使得它根本没有办法进化。另一个有效的方案是设置严厉的纠错系统，一旦出现超越权限的行为立即进行清空并还原。
虽然有科学家这样说，不过担忧还是难免的，毕竟开发具备自主能力的人工智能对于科学家来说是个难以抵挡的诱惑。有个网友开玩笑说，如果 Omohundro 本人其实是机器人伪装，那我们就太迟了。
文章出处：威锋网
