自动化将人从执行者转变为观察员
计算机可以削弱人类认识和关注点的方式指向了一个更深层次的问题。自动化将我们从执行者转变为观察员。我们放下了操纵杆，转而观看屏幕。这种转变可能使我们的生活更轻松，但同时也可以抑制专业技能的发展。从20世纪70年代末开始，心理学家就一直在记录一种被称为“加工效应”(Generation Effect)的现象。这种现象最初是在词汇研究当中被观察到的，研究人员发现，当人们从脑中主动生成单词(背单词时“经过了大脑”)，要比仅仅是看更容易记住它。
这一现象现在已被研究透彻，在许多不同的情况下都对学习有着影响。当你积极参与一项任务，便开启了复杂的心理过程，这些过程能让你记住更多的知识。你学得更多、记得也更多。当你在一段较长的时间里重复同一种任务，你的大脑会构造专门的神经回路用于进行这一活动。大脑会聚集丰富的信息存储，并且将知识组织得让你瞬间就能调用它。
无论是网球场上的小威廉姆斯还是在棋盘上的卡尔森，技艺精湛的高手可以发现情境中的规律、评估信号，并以看似不可思议的速度和精度应对不断变化的情况。看起来像是本能的反应，实际上是辛苦磨练出、来之不易的技巧，也正是现代软件旨在缓解的劳累中锻炼出来的技巧。
(马格努斯·卡尔森，挪威国际象棋大师，现为19岁的卡尔森是国际象棋等级排名第一的棋手。2004年4月26日，年仅13岁零148天的卡尔森获得国际象棋特级大师称号。)
荷兰的认知心理学家克里斯托夫·范宁韦根(Christof van Nimwegen)，在2005年开始了一个实验，旨在调查软件对我们掌握技术诀窍方面的影响。范宁韦根招募了两拨人，玩一个叫做“传教士与食人族”(Missionaries and Cannibals)的电脑游戏，游戏的规则基于一个经典的逻辑难题。在游戏中，玩家必须运送5个食人族和5个传教士(在范宁韦根的实验里分别用5个黄球和5个蓝球表示)过河，使用的船一次最多只能容纳3名乘客。无论在船上还是岸上，食人族的数量都不能比传教士多(否则就要吃人了)。实验参与者被分成两组，一组使用教学软件来完成任务，软件提供一步一步的指导，高亮出哪些移动是可行的、哪些不是。另一组则使用一个基本的程序，不会提供任何辅助。
你可能也猜到了，使用教学软件的那一组在一开始取得了更快的进步。他们可以简单地按照提示进行操作，而不是每一步都停下来，回忆规则并想出如何将其适用于新的形势。但是，随着测试的进行，不使用辅助软件的一组逐渐占据上风。他们对游戏形成了更清晰的概念性理解，制定出更好的策略，也少犯错误。
8个月后，范宁韦根让相同的人再次玩这个游戏。此前没有使用辅助软件的一组几乎以超出对手一倍的速度完成了比赛。在加工效果的正面作用下，他们“对知识形成了更强的铭记”(imprinting of knowledge)。
范宁韦根在实验室里观察到的现象——自动化会妨碍我们将信息转化成知识的能力——在现实世界中也可以见到。在许多企业中，管理者和其他专家都依赖决策支持系统来分析信息和提出行动方案。例如，会计师在企业的审计中会使用这种系统。应用程序会加快工作的进度，但一些迹象表明，软件越是能干，会计师就越是不行。
最近由澳大利亚的研究人员进行的一项研究，调查了决策支持系统对三家跨国会计师事务所的影响。。其中两家会计师事务所采用非常先进的软件，能够根据会计师在软件客户端输入的一些基本问题的答案，在客户的审计文件中推荐纳入相关业务风险。第三家公司使用简单的软件，需要会计师来评估一系列可能的风险，手动选取相关的列表。研究人员给每家公司的会计师做了测试，测量他们的专业知识。第三家公司的会计师比其他两家的明显很强，对不同形式的风险都显示出了更强的理解能力。
谁还需要人类，这真的会成为一个问题
而最令人震惊和不安的，是计算机自动化还仍处于早期阶段。专家过去以为，程序员将复杂任务自动化的能力有限，特别是在那些涉及感官知觉、模式识别和概念性知识的领域。他们以驾驶汽车为例，说驾驶汽车不仅需要在很短的时间里理解高速运动的视觉信号，还需要流畅地应对突发状况。两位著名经济学家在2004年写道：“面对迎面而来的车辆执行向左转这个动作涉及的因素之多，很难想象一套规则可以复制司机的行为。”
短短6年后，2010年10月，Google宣布它已经建立了一个由7辆“自驾驶汽车”组成的车队，在加利福尼亚州和内华达州的道路上已经行驶了超过14万英里(超过20万公里)。
无人驾驶汽车为机器人将如何在物理世界中导航和执行任务提供了一个预览，并且从人类手中接过了环境意识、协调运动和流体决策的工作。大脑任务的自动化正在取得同样迅速的进展。就在几年前，一台电脑参加像《危机边缘》(Jeopardy)这样的智力问答节目听上去似乎很可笑，但在2011年的一个著名比赛中，IBM的超级计算机Waston将这档节目一直以来的冠军肯·詹宁斯(Ken Jennings)打得落花流水。Waston并不像人类那样思考，它并不了解它在做什么或说什么。它的优势在于现代计算机处理器的非凡速度。
2011年出版的《与机器赛跑》(Race Against the Machine)探讨了计算机化对经济产生的影响。在书中，麻省理工大学(MIT)的研究人员埃里克·布林约尔松(Erik Brynjolfsson)和安德鲁·迈克菲(Andrew McAfee)指出，Google的无人驾驶汽车和IBM的超级电脑Waston是自动化新浪潮的代表，对呈“指数级增长”的计算机力量的利用，将改变几乎每一个工作和职业的工作性质。今天，他们写道：“计算机发展得如此迅速，其应用领域从科幻小说迈入日常生活……短短几年就够了。”
谁需要人类呢？这个问题，不管是疑问还是反问，经常会在讨论自动化的话题里出现。如果计算机的能力扩展得这么快，相比之下，如果人类看起来缓慢、笨拙、容易出错，为什么不建立一个自成一体的系统，完美地执行任务而没有任何人类的监督或干预呢？为什么不把人为因素给排除出去呢？
在评论自动化和飞行员操作失误之间的联系时，技术理论家凯文·凯利(Kevin Kelly)指出，显而易见的解决方案是开发一个完全自主的自动驾驶仪：“从长远来看，人类飞行员不应该驾驶飞机。”硅谷的风险投资家维诺德·科斯拉(Vinod Khosla)最近表示，当保健医疗软件(他戏称为“医生算法”)从协助主治医生做出诊断发展到完全取代医生之时，医疗保健将会得到大大改善。解决不完善自动化的方法就是全面自动化。
这种想法是很诱人，但没有机器是万无一失的。即使是最先进的技术也迟早会有失效、起到反效果的一天，最先进的计算机系统也会遇到它的设计者从来没有预料到的情况。随着自动化技术变得越来越复杂，算法、数据库、传感器和机械部件之间的联系越来越紧密，潜在的故障源的数量将成倍增长，而且愈加难以检测。所有的部件都在完好运行，但系统设计中出了一个小错误就能酿成大祸。而且，就算可以设计出一个完美的系统，它仍将在一个不完美的世界里运行。
在1983年学术期刊《自动化》(Automatica)上发表的一篇经典论文中，英国伦敦大学学院的工程心理学家利兹安·班布里奇(Lisanne Bainbridge)描述了计算机自动化的一个难题。许多系统设计者都假设，人类操作员是“不可靠、低效的”，至少和计算机相比是如此。于是，设计师便尽量让人承担尽可能小的责任。最终，人变成了监控者，只是被动地看着屏幕，而这样一份工作是我们人类——出了名爱走神的物种——特别不适合的工作。
早在二战期间对雷达操作员的调查研究结果就表明，人类很难在超过半个小时的时间里一直保持注意力盯着屏幕看东西。班布里奇指出：“这意味着人类不可能完成监控突发异常情况的基本职能。”
而且，由于一个人的能力“不用就会变差”，哪怕是经验丰富的操作员，如果一味盯着屏幕，最终也将和初出茅庐的新手没什么两样。难以集中注意力和缺乏对原理的认知这两点加起来，增大了遇到事故操作员会无力应对的可能。于是乎，人类将是系统中最薄弱的环节的预言就自我应验了。
削弱自动化的影响
心理学家已经发现了一些简单的方法来削弱自动化的不良影响。我们可以设定在不规则的时间间隔让软件转向控制人工控制，随时保持待命可以使人类操作员集中注意力，提高他们的情景感知和学习能力。我们也可以限制自动化的范围，确保使用电脑工作的人执行具有挑战性的任务，而不是仅仅处于旁观者的地位。给人更多的事情做，有助于使加工效应发挥作用。我们还可以在软件里融入教育性的例程，需要用户重复困难体力和脑力任务来促使记忆形成和技能培养。
有些软件设计师记住了这样的建议。在学校，最好的教学程序会通过促使人集中注意力、要求人下功夫，或者通过重复巩固学到的技能来帮助学生掌握一个课题。这些软件的设计体现了大脑储存记忆方面的最新发现，将概念性知识和实际操作融入其中。但是，大多数软件或应用程序并不鼓励学习和参与，不仅如此，有的还起到相反的效果。这是因为培养和维持专业技能几乎必然牺牲速度和效率，学习需要效率低下，而力求最大限度提高生产力和利润的商业很少会做出这样的让步。个人也一样，人人都在寻求效率和便利。我们选择减轻工作负担的程序，而不是那些使我们干活更卖力和耗时更久的程序。
无论在驾驶舱中的飞行员还是诊室里的医生，要知道怎么做就必须得实际去做。关于人类最了不起的、也是最容易忽视的一件事情是：我们与现实每碰撞一次，就会加深对世界的了解，进而更充分地融入这个世界。虽然与艰苦任务做斗争会使我们害怕付出劳动，但正是这份劳动定义了我们何以为人。
计算机自动化舍本逐末，它让我们更容易得到我们想要的东西，但却增加了我们与劳作的距离，而劳作是要理解这个世界所必须的。当我们把自己化为屏幕生物，就必须面对一个存在的问题：我们是想让能做的事情来定义自己，还是让想要的东西来定义？如果我们不设法解决这个问题，我们的小工具会很乐意代我们作答。
