2009年2月12日傍晚，美国大陆航空公司的一架客机在大风天气里开始了它从新泽西州纽瓦克市飞往纽约州布法罗市的航程。如今的商业航班，飞行员其实并没有很多事情要做，这趟航班也不例外。在预计一小时的飞行时间里，机长马尔文·雷斯诺(Marvin Renslow)在起飞的短暂过程中进行了简单的人工驾驶，将这架庞巴迪Q400型涡轮螺旋桨飞机升上了天空，之后便打开了自动驾驶仪，让软件来操纵飞行。接下来，客机在1.6万英尺的高空平稳地朝西北方前进，雷斯诺和他的副驾驶丽贝卡·肖(Rebecca Shaw)聊起了他们各自的家庭生活、工作情况以及空管人员的性格和脾气。
飞机顺利到达了法布法罗机场，但就在起落架和襟翼放下以后，驾驶员的油门操纵杆突然剧烈摇晃起来，这是飞机失去升力、或将陷入气动失速状态的信号。于是，自动驾驶仪关闭，机长接过手来开始人工驾驶飞机。雷斯诺的反应很快，但做的却偏偏是错误的事情：他猛地拉起操纵杆，提起了机头(这会使空速降低)，却没有同时向前推动油门操纵杆让飞机加速。
雷斯诺的操控不但没有化解危机，反而使飞机骤然减速。紧接着飞机就失去了控制，然后像砖头一样从空中掉了下来。“我们完了！”是机长在这架Q400客机撞上布法罗郊区的一所房子前说的最后一句话。
专业人士沦为电脑操作工？
这起导致机上全部49人以及地面上1人死亡的事故本来不应该发生。美国国家运输安全委员会调查后认为，事故原因是飞行员的操作失误。调查报告指出，机长面对失速警告的反应 “本应自动化，实际的飞行控制输入与所受训练并不相符”，显示出“惊慌和混乱”。
运营这条航线的地区性航空公司科尔根航空(Colgan Air)的一名高管也承认，机上的驾驶人员遇到紧急情况发生时缺乏情景意识(situational awareness)。
布法罗市的坠机不是一个孤立的事件。几个月后，又有一起极为类似的灾难发生，只是这次造成了更多的伤亡。
2012年5月31日晚上，一架法国航空公司的空客A330客机从巴西的里约热内卢起飞，前往巴黎。起飞后大约3小时，这架大型喷气式客机便在大西洋上空遭遇了风暴的袭击。飞机的空气速度传感器由于表面结冰，开始给出错误的读数，导致自动驾驶仪自动脱开。惶惑之下，操作飞机的驾驶员皮埃尔-塞德里克·博宁(Pierre-Cédric Bonin)猛地拉回操纵杆。飞机开始上升，失速警告也同时响起，但博宁仍然一意将操作杆往回拉。随着飞机大幅攀升，失去了速度，空速传感器再次开始工作，反馈给机组人员准确的数字。然而，博宁继续让飞机减速。最终整架客机停滞下来，开始下落。
如果博宁当时松开操纵杆，A330客机很可能会自我校正过来，但他没有这样做。3分钟后，飞机从3.5万英尺的高空掉下来，击中海平面，机上的乘客和机组人员共228人全部身亡。
人类历史上的第一个自动驾驶仪由两个陀螺仪组成，在1930年的一篇《大众科学》(Popular Science)文章里被戏称为“金属飞行员”。两个陀螺仪一个水平安装，另一个竖直安装，分别连接到飞机的控制器，由螺旋桨后面的一个风力驱动的发电机供电。水平陀螺仪保持机翼水平，而竖直的则负责转向。
现代的自动驾驶仪与当年那个简陋的设备几乎找不到相似之处。现代的自动驾驶仪由飞机上的计算机控制，运行极其复杂的软件，从电子传感器收集信息，每时每刻都在不断调整飞机的姿态、速度和轴承。如今的飞行员在他们所谓的“玻璃驾驶舱”里工作，以前的那些模拟表盘和读数器大多已经消失，取而代之的是数字化的显示框。
自动化已经变得如此之复杂，在通常的客运航班里，留给人类飞行员操控的拢共只有短短3分钟的时间。飞行员花很多时间在做的是监控屏幕和键入数据。不太夸张地说，他们已经成了电脑操作员。
而这——根据许多航空和自动化专家得出的结论——成了一个问题。过度使用自动化系统导致飞行员的专业知识退化，反应变得迟钝。英国布里斯托尔大学的人体工程学专家简·诺伊斯(Jan Noyes)将其称为“机组人员的去技术化”。
没有人会怀疑自动驾驶仪多年来在增强飞行安全这方面所做的贡献。自动驾驶仪减轻了飞行员的疲劳程度，提供故障的预先警报，当机组人员无力驾驶飞行时，可以保持飞机仍然有序驾驶，但整体飞行事故的稳步下降，掩盖了近来一系列“令人瞠目结舌的新型事故”，乔治梅森大学的心理学教授和自动化领域的权威拉贾·巴拉苏罗(Raja Parasuraman)这样评论。
当自动驾驶仪出现故障时，太多的飞行员面对突如其来、已经很少承担的重任，都犯下错误。2011年，在美联社的一次采访中，美国联合航空公司的资深飞行员、曾经担任航空公司飞行员协会(Air Line Pilots Association)最高安全官员的罗里·凯(Rory Kay)直截了当地说：“我们忘记了如何飞行。”
美国联邦航空管理局(Federal Aviation Administration)大是紧张，同年1月下发了“安全警报” ，敦促各航空公司让其所辖的飞行员进行更多的手动飞行。美国联邦航空管理局警告说，过度依赖于自动化可能将飞机和乘客都置于危险之中。
依赖自动化，失去的或许比得到的更多
航空公司的教训值得我们思考。这些事件揭示了自动化虽有一切好处，但却会损害依赖它的人的能力和表现。其影响的方面远远不止是安全，因为自动化会改变我们如何行动、如何学习和知道哪些东西，事情就牵涉到道德层面。我们作决定或做不出决定把哪些事情交给机器，会塑造我们的生活和我们自己在世界上的立足之地。
事情一直如此，但近年来，随着节省人力的技术的轨迹从机械转向软件，自动化已渗透到生活的方方面面，其运作也变得更加隐蔽。为了追求便利、速度和效率，我们忙不迭地将工作负荷抛给计算机，来不及反思这样做的代价是什么。
医生用计算机来做诊断、做手术；华尔街的银行家用计算机来组合和买卖金融工具；建筑师用计算机来设计建筑；律师用计算机来记录证据。被计算机化的并不只有专业工作领域。有了智能手机和其他体积更小、价格更便宜的电脑，我们依靠软件来进行日常生活的许多杂事。我们打开App帮我们购物、做饭、社交，甚至养育孩子。我们一个路口一个路口地遵循GPS的指示。我们征求推荐引擎的意见看什么电影、读什么书和听什么歌。我们有问题问Google，有事情交给Siri。在工作和生活中，我们越来越多地生活在玻璃驾驶舱里。
一百年前，英国数学家、哲学家怀海特(Alfred North Whitehead)写道：“文明的发展就是加大不用想便能完成的事情的数量。”很难想象还有什么表述比这句话更能显示对自动化的信心。怀海特的话里隐含着一种这样的信念——人类活动是从上到下有等级区分的：每当我们把一件任务或一种工具交给机器去负责，就把自己解放出来去追求等级更高的、需要更多灵活性、更多智能或更开阔视野的任务。每向上一步，我们都可能会失去些什么，但从长远看，我们的所得将远远大于所失。
历史提供了充足的证据来支持怀海特。自从人类发明了杠杆、方向盘和算盘以来，我们已经将数不清的体力活儿和脑力活儿交给了机器。但是，怀海特的见地不应该被当成普遍的真理。当他写下这句话时，自动化还往往局限于一些特定的、明确的、重复性的劳动领域——用蒸汽织机织布、用机械式计算器算数。
现在的自动化则不同。计算机可以被编程执行非常复杂的工作，其间要评估许多变量来完成一连串紧密协调的任务。许多软件程序还负责脑力工作，比如观察检测、分析判断，甚至作出决定等等直到最近都还被认为是人类所独有的职能。这可能会使得操作计算机的人落入扮演一个高科技零杂工的角色——他键入数据、监控输出、谨防事故。
与其说让我们腾出手来开辟思想和行动的新前沿，不如说各种各样的软件实际上让我们的目光变得短浅。我们用一条条的规则替换了更加精细和专业的才干。
大多数人都愿意相信，自动化能让我们把时间花在更高层次的追求上面，但不会改变我们行动或思考的方式。这是一种谬见——自动化学者称之为“替代神话”的说法。节省劳力的设备不只替代了工作或其他活动中的一些彼此孤立的组成部分，它还改变了整个任务，包括参与者的角色、态度和技能。
乔治梅森大学的心理学教授、自动化领域的权威拉贾·巴拉苏罗和他的一位同事在其2010年的一篇论文中指出：“自动化并不是简单地替代人类活动，它往往会以设计者预期之外和始料不及的方式改变这一活动。”
大多数人都愿意相信，自动化能让我们把时间花在更高层次的追求上面，但不会改变我们行动或思考的方式。这是一种谬见——自动化学者称之为“替代神话”的说法。图片来源：inopalesolutions.com
心理学家发现，当我们用电脑工作时，经常会陷入自满和偏见——两种会削弱我们表现和引发错误的认知缺陷当中。当一台计算机诱使我们进入一种虚假的安全感当中，自动化自满就出现了。相信计算机会准确无误地完成工作并且处理任何出现的问题，我们任注意力四散开去。我们与手头的工作脱离开来，对周围事情的注意力也在淡去。自动化偏见则是指我们过于相信显示器上面的信息的准确性。我们对软件的信任变得如此之强，以至于忽略或无视其他的信源，包括自己的眼睛和耳朵。当一台计算机提供了不正确或不完备的数据，我们视而不见。
在驾驶舱里、在战场上、在工厂的控制室中，高风险的情况下自满和偏见的例子已有据可查。然而，最近的研究表明，这种问题困扰着每一个用电脑工作的人。今天，许多放射科医生使用分析软件来高亮乳房X光片上可能有问题的地方。通常，这些亮点有助于疾病的发现，但是，它们也可以具有相反的效果。受软件建议的影响，放射科医生可能会不那么留意还没有被突出显示的区域，有时候就会忽视了早期肿瘤的影像。
我们大多数人在使用电脑时也会经历自动化自满。在使用邮件或文字处理软件时，因为知道了有拼写检查在工作，我们就不那么细心地校对语法错误了。
