玻璃笼子：自动化时代和我们的未来

有人称，尼古拉斯·卡尔是我们这个时代最清醒的思考者之一，当我们沉浸在技术带来的便利和高效的时候，卡尔看到的却是看似有百利无害的技术背后隐藏的“手术刀”，这把锋利的手术刀改变的正是人的大脑，从而影响人的认知和行为。卡尔的前一部著作，也是《纽约时报》的畅销书——《浅薄》出版时在美国引起了巨大的轰动，《玻璃笼子》延续了《浅薄》的思想谈到了自动化及我们的未来。这本书的内容引人入胜、发人深省，对于我们关注的诸多问题，如自动化是否使人变得越来越愚笨不堪？技术进步释放了什么？我们在越来越智能的时代应该警惕什么？给出了深入的解答。读完，也许会完全颠覆你对科技的看法。

尼古拉斯卡尔在《玻璃笼子》中指出，自动化在分担我们工作的同时，也弱化了我们的才能，偷走了我们的生活，限制了我们的视野，它甚至将我们暴露于监控之下，操控我们。当计算机和一切智能设备变成我们生活中的伴侣时，应更加留心它如何改变了我们的行为和身份。卡尔的作品无疑给我们这个时代注入了一剂清醒药。他独特的思考问题角度，犀利甚至略为偏激的观点再加上丰富的最前沿的科技案例会让人读起来畅快淋漓、有醍醐灌顶之感。我们每天都在使用智能设备，经常为一个又一个技术的进步而欢呼，读完本书，我们的看法将被彻底颠覆。

尼古拉斯·卡尔，美国知名作家兼思想家，技术、创新和战略研究专家，毕业于哈佛大学，曾担任《哈佛商业评论》执行主编。尼古拉斯·卡尔堪称我们这个互联网、新科技时代清醒的思想家，他的每一篇文章、每一本书几乎都会引起广泛关注。

尼古拉斯·卡尔轰动互联网、信息和科技界的三篇文章：《IT不再重要》（《哈佛商业评论》2003年第5期），《Google让我们变愚蠢？》（《大西洋月刊》2008年7/8月期），《自动化让我们变笨拙》（《华尔街日报》2014年11月21日）。尼古拉斯·卡尔撰写的三本书摘取了科技思想界的“王冠”：《大转换：重连世界，从爱迪生到Google》，《浅薄：你是互联网的奴隶还是主宰者》（《纽约时报》畅销书，获普利策奖最终提名），《玻璃笼子》《纽约时报》《华尔街日报》盛赞）。

在各大企业拼尽全力进行数字化转型、迈向更加智能的自动化生活的时候，卡尔却保持着清醒的思考。他是互联网浪潮中的逆行者，在书中，他对智能设备风靡的自动化时代提出了“挑衅”，这提醒着我们所有的人，包括企业、政府停下来思考和反思。

——周鸿祎 奇虎360董事长

《玻璃笼子》一书对自动化的反思发人深省，自动化程度继续提高的结果到底是人类在驾驭机器，还是机器主导甚至误导人？在工业4.0大潮兴起之时，更全面地考虑自动化带来的诸多影响，从而进行战略性的设计，是经济学和人类学都需要关注的重大问题。本书的观点是我们不可或缺的基石之一。

——何志毅 新华都商学院理事长、北京大学教授、《北大商业评论》执行主编

在这个互联网时代，卡尔屡次提出与众不同的观点。这本书的一个核心观点就是：自动化和智能化代替人脑的部分功能，是否会危害人类？卡尔提出的问题很有价值。人脑和机器智能的恰当分工在哪里？也许我们可以从这本书里找到答案。

——吕本富 中国科学院大学管理学院教授、博士生导师

在我们这个软件吞噬一切的世界里，尼古拉斯·卡尔希望唤起对软件主导人类工作和休闲可能带来的隐性代价的认识。工业机器人、无人驾驶车、可穿戴设备和数字医疗等尽管在当下顶着无尽的光环，但驱动它们的程序却正在剥夺人之所以为人的一些基本特质。麦克卢汉有句名言：“我们塑造工具，然后，工具塑造我们。”是重新思考我们每日使用的工具的时候了。

——胡泳 北京大学新闻学与传播学院教授，《北大商业评论》副主编

尽管和延伸人肢体的农业、工业革命相比，我们认为电脑、互联网、自动化的发展极大延伸了人的思维，但尼古拉斯·卡尔揭示了问题更加深刻的另一面——我们应更加重视深层次

思考，毕竟，最有价值的创意和创新永远来自我们的大脑深处，而不是搜索引擎。

——易宝支付联合创始人余晨

自动化、智能化曾经是人类不懈努力追求的目标，由于大数据的崛起，这个时代正在向人类逼近。但我们突然发现，它不如想象中的美好，甚至有很多问题。这本书带领我们系统地梳

理了这些问题，富有洞见。

——著名信息管理专家、阿里巴巴副总裁 涂子沛

虽然我不太同意卡尔的结论。但是历史反复证明：每一个大变局时代的保守主义者都将极有价值。他们是这架极速前进机器的稳定之锚。

——罗振宇 《罗辑思维》创始人

前 言

致驾驶员的警告

第一章

怀念手动挡汽车

谷歌的无人汽车

未来世界

充实工作的意义

被高估了的自动化

第二章

自动化大时代

无法阻止的机械化大潮

机器革命

当机器人取代你的位置

按键式控制

无孔不入的机器智能

第三章

自动驾驶来临

自己飞行的飞机

专业飞行员即计算机操作者

新型坠机事故

走出飞机驾驶舱的人们

第四章

重塑工作和工人

过度依赖的后果

钝化的思维

在行动中思考

跳舞的老鼠

第五章

白领的计算机

电子病历的副作用

惯性：剪切+ 粘贴

技术与工人

计算机的新技能

数据和算法的缺陷

第六章

当世界只剩下屏幕

真正的女神—GPS

迷失方向

越来越聪明的计算机

设计师的忧虑

肉体中的思维

第七章

自动化，为了人类

是否需要考虑人类因素？

给人类空间

以技术为中心还是以人为中心？

小心—如果技术优先

盗墓者的启示

第八章

内心的低语

伦理的挑战：杀缪机器

深层自动化

透过玻璃

意愿的松动

代码背后的商业动机

第九章

事实是，劳动让我们有存在感

使用工具的乐趣

主人和奴隶

一则寓言

破笼而出

致 谢

谷歌的无人汽车

我的驾龄达到35 年以后，2010 年10 月9 日的早晨，一位谷歌发明家、德国出生的机器人专家塞巴斯蒂安·特龙（Sebastian Thrun）在博客上发表了一份重大声明：谷歌已经成功研发了“无人驾驶汽车”。这并不是谷歌总部停车场上那些笨拙的、充当摆设的模型，而是些实实在在的、能在街上开的车，准确地说，是丰田“普锐斯”。特龙表示，谷歌汽车已经在加利福尼亚州和内华达州的道路和高速公路上行驶了10 万英里了。它们沿着好莱坞星光大道和太平洋海岸公路一路行驶，在金门大桥上穿梭，环绕了太浩湖。它们加入高速公路的车流，穿过繁忙的十字路口，缓慢地在高峰拥堵的车辆间挪动。它们还曾突然变向以避免撞车。这些全是谷歌汽车自动完成的，没有任何人为干预。“我们认为这开创了机器人学领域的先河。”特龙写道，带着一丝狡黠的谦逊。造一辆无人驾驶的汽车没什么了不起。从20 世纪80 年代开始，工程师和那些鼓捣小发明的人就一直在制造自动的或远程控制的汽车，但这些发明大多只是些粗糙、破旧的汽车。这些车仅能用于在封闭的轨道上进行驾驶试验，或参加在沙漠及其他偏远地区举行的赛车拉力赛，都是远离行人和警察的。特龙在声明中写得很清楚，谷歌汽车与上述汽车不同，它能成为交通史及汽车史上的重大突破，就在于它能在无人驾驶的情况下在喧闹、混乱、复杂的真实世界中行驶。谷歌汽车装载了激光测距仪、雷达和声呐发射机、运动检测器、视频摄像机及GPSa，能详尽准确地感知周围的事物。它能“看到”前方的道路。通过即时处理接收到的全部信息，车载计算机能“实时”地操控油门、方向盘及刹车，其操控速度和灵敏性均达到了上路要求，对于司机经常会遇到的突发情况，它也能轻松应对。谷歌的无人驾驶汽车车队现在已经成功行驶了超过100 万英里，仅引发了一次严重的交通事故，即2011 年5 辆车在硅谷谷歌总部附近发生追尾。其实，那次撞车并不作数，因为谷歌很快就宣布：“当时有人在手动驾驶汽车。”在载着我们去上班或送孩子们去参加比赛之前，无人驾驶汽车还有一段路要走。尽管谷歌表示，要在未来10 年内将谷歌汽车推向市场公开出售，但这可能有点儿痴心妄想。车辆的传感系统贵得离谱，单是车顶的激光装置就要8 万美元。还有许多亟须解决的技术难题，例如，如何在雪地或铺满落叶的道路上行驶，如何处理意外绕行，怎样识别交警和交管人员的手势。即使是性能最高的计算机也很难分辨无害的路面杂物（例如压扁的纸箱）和危险的障碍物（一块钉着钉子的胶合板）。

无人驾驶汽车在法律、文化及道德等方面将要面临的阻碍最让人望而生畏。例如，当无人驾驶汽车发生事故并造成人员伤亡时，应该怎样定罪及谁来承担责任？由车主承担，由安装自驾系统的汽车制造商承担，还是由编写软件的程序员承担？只有解决了这些棘手的问题，全自动汽车才能进入经销商的展厅。

不管怎样，技术都将快速向前发展。谷歌测试汽车所使用的硬件和软件，绝大部分都将用在未来的汽车和卡车上。自谷歌推出自动驾驶项目以来，世界上主要的汽车制造商都纷纷向世人展示他们在这方面的努力。目前来看，我们的目标不是发明一个完美的汽车机器人，而是要继续投资，完善自动化技术，提高汽车的安全性和便捷性，吸引人们购买新车。从我第一次把钥匙插到斯巴鲁的打火器里算起，自动化驾驶已经经历了很长一段时间。现在，汽车上搭载了很多电子设备。微芯片和传感器管理着汽车的导航控制、防抱死制动系统、牵引机制和稳定机制。一些高档汽车还装有变速设备、辅助停车系统、防碰撞系统、可调节顶灯以及仪表显示器等。软件在我们和道路之间架起了一个缓冲带。与其说我们是在控制汽车，不如说我们只是输入电子信号，传送给计算机，由计算机来控制汽车。

未来几年内，我们会发现，人在汽车驾驶中扮演的角色将越来越多地被软件取代。英菲尼迪、梅赛德斯及沃尔沃正在推出新的车型，这种汽车配有：雷达辅助的自适应巡航控制系统，即使是在龟速挪移的车流中，也能为汽车导航；计算机化的转向系统，能控制车轮，使车轮一直处于车道中央；紧急刹车系统，在遇到突发情况时它会自动启动。其他厂商也正忙着引进更先进的控制系统。电动汽车的先驱特斯拉汽车公司正在开发汽车自动驾驶仪，其首席执行官信心满满地表示，这种自动驾驶仪能“处理90%的行驶路段”。

谷歌无人驾驶汽车的问世颠覆了我们对驾驶的认知，但其影响不止于此。它迫使我们改变对计算机和机器人能力的认识。谷歌汽车的问世意义重大，在此之前，人们很自然地认为许多重要的技能是无法被自动化取代的。计算机能胜任很多事情，但它并不是无所不能。2004 年有一本颇具影响力的书——《新分工：计算机如何开创新一代职场》（The New Division of Labor： How Computers Are Creating the Next Job Market），在这本书中，经济学家弗兰克·利维和理查德·默南提出，毫无疑问，软件程序可以复制人类与生俱来的技能，但在实际操作中存在一定的局限性，特别是涉及同感官知觉、图像识别及概念性知识相关的技能时。他们特别提到了在开阔的道路上驾驶汽车这个例子，这项技能要求驾驶员能及时处理杂乱的视觉信号，能熟练地转向，并迅速对意外情况做出反应。事实上，我们都不知道自己是如何成功做到这些的。所以，软件通过一系列的指令、一行行的代码就能降低驾驶的复杂性和不确定性，减少意外事故，真是可笑的想法。“面对迎面而来的车流左转弯，”利维和默南写道，“完成这个动作需要考虑很多因素，很难想象仅靠一组程序就能模拟驾驶员的操作。”看起来确实是这样，对利维和默南，甚至几乎所有人来说，方向盘还是牢牢地掌握在驾驶员手里。长久以来，在评估计算机的能力方面，经济学家和心理学家一直在区分两种知识：隐性知识和显性知识。隐性知识，有时也称作程序性知识，是指我们不用思考就能完成的事情，包括骑自行车、抓住飞来的球、读书、开车等。这些技能不是与生俱来的，我们必须经过后天的学习，并且还存在是否擅长之分。但是，我们不能通过一两个窍门或是一连串准确定义的步骤来描述这些技能。神经学研究表明，当我们位于车水马龙的十字路口想要转弯时，大脑的许多区域都在努力工作，它们处理感官刺激，预测时间及距离，并协调胳膊和腿的动作。但是如果有人让你把转弯时所有想法和动作都记录下来，你却办不到，至少在不借助概括能力和抽象能力的情况下，你是无法记录的。这种能力深埋在你的神经系统里，在你的意识控制范围之外，因此你无法察觉正在进行的心理过程。我们对情势的估计和快速判断的能力都来自于隐性知识这个模糊的领域。我们大多数富有创造性与艺术感的技能也寄居于此。显性知识，也称为陈述性知识，是指你能够写下来的事情：如何换轮胎，如何折纸鹤，如何解二次方程等。这些行为能够被分解成可以准确描述的步骤。一个人可以通过书面或口头传授的方式向另一个人解释第一步做什么，第二步做什么，第三步做什么。

因为从本质上来说，软件程序就是一组精确描述的书面指令——第一步、第二步、第三步——我们可以认为，虽然计算机能模仿那些基于显性知识的技能，但在处理与隐性知识相关的技能时，计算机就不在行了。你怎么能把那些难以描述的东西转换成一行行的代码，转换成刻板的、一步接着一步的算法指令呢？显性知识和隐性知识的界限一直模糊不清，人类许多与生俱来的才能是这两种知识的融合。但是，这种模糊融合好像恰恰指出了自动化的局限性，并且反过来证明了人类的独特之处。利维和默南指出了计算机无法完成的复杂任务，除了驾驶，他们认为还有教学和医疗诊断，这些任务混合了精神和肉体的活动，它们都需要隐性知识。

谷歌汽车重新划分了人和计算机的界线。同之前人们在编程方面的突破相比，这次的划分更具有戏剧性、更决绝。这告诉我们，我们对自动化局限性的认识一直都有些不实际。我们并没有自己想象的那样特别。虽然在人类心理学领域，隐性知识和显性知识的区别存在一定价值，但它并不适用于自动化领域。

……

致驾驶员的警告

2013 年1 月4 日，新年的第一个星期五，新闻界风平浪静的一天。当天，美国联邦航空管理局（FAA）发布了一则仅有一页纸的通告。该通告没有标题，只是被归为“致驾驶员的安全警告”（SAFO），发布在美国联邦航空管理局网站上，并被发送给美国所有航空公司以及其他商用航空公司。通告简明扼要但隐意深远，指出“此安全警告鼓励驾驶员在适当的时候多采用手控飞行操作”。美国联邦航空管理局从失事飞机事故调查、意外事故报告及驾驶舱研究中搜集了一些证据，表明驾驶员曾经过度依赖自动飞行系统以及其他计算机系统。美国联邦航空管理局警告称，过度使用自动化飞行会“削弱飞行员快速处理飞机不良飞行状态的能力”。简言之，过度依赖自动化飞行会将飞机及机上乘客置于危险之中。最后，这份安全警告建议航空公司制定操作政策，要求飞行员减少自动化飞行的时间，更多地采用手控飞行。

本书是一本关于自动化的书，所谓自动化即借助计算机和软件完成过去需要人工手动完成的事情。我们不探讨自动化的技术问题或经济问题，也不讨论机器人、半机械人和机械部件的未来，虽然书中对这些都有提及。本书讲述的是 自动化给人类带来的影响。在自动化正逐渐吞没我们的浪潮中，飞行 员身先士卒。我们希望无论是在工作中还是在生活中，计算机都能替 我们分担更多的事务，指引我们度过每一天。现在，我们若要完成某 件事情，多半是坐在显示屏前，或打开笔记本电脑，或拿出智能手 机，或在前额或手腕上戴上联网设备。我们运行应用程序，向屏幕索 取答案，通过数字模拟声音获取建议，听从算法的智慧。

计算机自动化让生活更便捷，让我们少了些琐事的困扰。我们经 常能事半功倍，或是做些以前做不到的事。但除此之外，自动化还给 我们带来了许多更深层次的、更隐秘的影响。正如飞行员认识到的， 并不是所有的自动化都是有益的。自动化能分担我们的工作，也能弱 化我们的才能，偷走我们的生活。它会限制我们的视野，缩小我们的 选择范围，将我们暴露于监控之下，操控我们。当计算机成为我们的 日常伴侣，成为我们熟悉的、尽责的帮手时，我们还要留心它们在如何改变我们的行为和身份。