技术奇点

Alphgo与李世石的对决引发了新一轮人工智能热潮，在人机大战中，究竟谁才能笑到*后？如果人工智能终将超过人类，我们又该做些什么？

人工智能领域知名专家、奥斯卡获奖影片《机械姬》科学顾问默里·沙纳汉深入解读人工智能将如何颠覆经济与社会。创造性地解答了在奇点到来之时，人类将如何主宰自己的命运。

人工智能的发展不断重塑着世界，无论是企业还是政府都面临着巨大的挑战，只有把握这一发展趋势，积*掌握话语权，才能在下一轮科技大潮来临之前占据主导地位，实现跨越式发展。

当今社会，新技术给经济发展提供了前所未有的动力，科技改变着人们的生活方式，改变着人类社会经济发展和前进的速度。人工智能技术作为引爆下一场财富革命的决定性力量，重塑人类未来生活的关键性技术，在经济发展中起着举足轻重的作用。

这本《技术奇点》深入阐释人工智能的著作是默里·沙纳汉在这一领域深耕多年的思想精髓。他以明白晓畅的语言讲述了我们可以通过哪些方式实现人类水平人工智能，以及在实现人类水平人工智能之后，我们是否会迎来颠覆一切的技术奇点。针对人类对发展人工智能的盲目乐观，默里·沙纳汉尖锐地指出了许多曾被我们忽略的问题：人工智能会有感情吗？如果人类无休止地压榨人工智能，它们是否会奋起反抗？

默里·沙纳汉，伦敦帝国理工学院认知机器人学系教授，负责指导动力学组的研究。毕业于帝国理工学院、剑桥大学，2006起担任帝国理工学院教授至今。

默里·沙纳汉是奥斯卡获奖影片《机械姬》的科学顾问，作品横跨人工智能、机器人学、逻辑学、动力系统、计算神经科学和哲学思想等多领域，经常在媒体上就人工智能和机器人问题发表评论。

技术奇点的到来，将引发人类发展进程中的又一次巨变。这是科幻还是真实的未来？我们应该如何应对这场可能到来的颠覆生活与工作的智能大爆炸？沙纳汉教授以不可思议的想象力描绘了人类与人工智能和谐共处的未来，任何关心人工智能的读者都不应错过这本书。

——姬十三 果壳网、在行创始人

在对于人工智能的幼稚赞美和一厢情愿的憧憬之声不绝于耳时，冷静客观的分析显得更为难能可贵，当然也就更值得关注。下面四种危险，在本书作者心目中是同一级别的：核战争、生物技术滥用、纳米技术事故、敌意人工智能。本书讨论了发展人工智能将会面临的多种可能性，那些将会导向黑暗未来的可能性，尤其值得特别关注。

——江晓原 上海交通大学讲席教授、科学史与科学文化研究院院长

《技术奇点》让我们在这个被科技“奴役”的时代，停下追赶的脚步，用哲学的逻辑思考：人工智能无处不在，它会不会取代人类甚至超过人类？走向人工智能是否是人类的必然？在科技时代，人的定义又是什么？我们与机器的关系会变成什么样？

——知识分子 饶毅、鲁白、谢宇三位学者创办的科学新媒体平台

导言

第一章 人工智能，机器与人类的博弈

当机器开始学习

常识与创造力，让机器了解世界

实现人工智能，模仿还是创造

第二章 全脑仿真，让仿生人工智能成为可能

为大脑制造副本

全脑仿真的三个阶段

对小鼠进行全脑仿真

游戏厂商助力神经虚拟技术

关于全脑运算的大胆构想

为虚拟大脑配备合成身体

从虚拟人到虚拟社会

把人工智能的“精灵”从瓶子里放出来

第三章 无缝对接，人工智能走出实验室

Siri，揭开人工智能的神秘面纱

让机器了解真实世界

建立模型，学会处理不确定性

大数据带来人工智能

用最短的时间，去最多的城市

人工智能必须回答的三个问题

人类级人工智能，学会享受生活之美

第四章 超级智能，想象另一种可能

通往人工智能之路

不吃不睡不领工资的超级智能员工

回报最大的方法不一定最好

塑造超越人类的力量

是“使用者错觉”还是人格化

第五章 机器之心，天使还是魔鬼

仿生人工智能有感情吗

以温柔之心对待人工智能

人工设计的人工智能有感情吗

超级智能的自我意识

超级智能的理智与情感

第六章 人工智能，逐渐显现的影响

人类级人工智能，至关重要的一步

奇点何时到来

更稀缺，更富足

被技术改变了的生活

人工智能，不确定的未来

第七章 未来已来，人工智能的一万种可能

复制人带来的新问题

超越人性，应对人工智能的冲击

意识上传，对现有关系的全盘颠覆

未雨绸缪，规避人工智能的风险

开发安全的超级智能

将道德嵌入超级智能

我们的宇宙哲学观

结语

技术奇点的到来，将引发人类发展进程中的又一次巨变。这是科幻还是真实的未来？我们应该如何应对这场可能到来的颠覆生活与工作的智能大爆炸？沙纳汉教授以不可思议的想象力描绘了人类与人工智能和谐共处的未来，任何关心人工智能的读者都不应错过这本书。

——姬十三 果壳网、在行创始人

在对于人工智能的幼稚赞美和一厢情愿的憧憬之声不绝于耳时，冷静客观的分析显得更为难能可贵，当然也就更值得关注。下面四种危险，在本书作者心目中是同一级别的：核战争、生物技术滥用、纳米技术事故、敌意人工智能。本书讨论了发展人工智能将会面临的多种可能性，那些将会导向黑暗未来的可能性，尤其值得特别关注。

——江晓原 上海交通大学讲席教授、科学史与科学文化研究院院长

《技术奇点》让我们在这个被科技“奴役”的时代，停下追赶的脚步，用哲学的逻辑思考：人工智能无处不在，它会不会取代人类甚至超过人类？走向人工智能是否是人类的必然？在科技时代，人的定义又是什么？我们与机器的关系会变成什么样？

——知识分子 饶毅、鲁白、谢宇三位学者创办的科学新媒体平台

近年来，随着科学技术的迅猛发展，“奇点”这个概念 已经从科幻小说逐渐转移到了严肃的学术讨论中。人们认为 当前人类历史的发展阶段距离奇点已越来越近。物理学中 的奇点指的是在时间或空间的某一点上，出现了类似黑洞或 者宇宙大爆炸的情况，数学已经不再适用，人类也无法理 解。人类历史中出现的奇点指的是由于技术的迅速发展，人 类社会中的一切都出现了改变，生活在今天的我们将无法理解。今天被我们当作理所当然的一切（经济、政府、法律、 国家）会改变形态，人类最根本的价值观（生命的尊严、对 幸福的追求、选择的自由）也会被淘汰。我们对人类之所 以为人的理解（人性、生存、意识、社会秩序）提出疑问， 不是通过漫无边际的哲学思考，而是由真实存在的环境所推动。

什么样的技术进步会带来这种剧变？本书将要验证的 假说是：人工智能和神经技术这两个领域的技术进步会加速 奇点的到来。我们已经破解了生命的秘密，能够理解基因和 Dna的工作原理。生物技术带来的改变已经非常巨大，但是 和人工制造思维的能力相比，就差多了。

从某种重要的意义上来说，今天的智能是固定的，这影 响了技术进步的广度和速度。几千年来，人们掌握的知识已 经非常丰富，而且随着文字、印刷术和互联网的出现，传播知识的能力也增强了。但是，创造知识的器官（有智慧的人 的大脑）在过去的几千年中变化不大，认知能力的秘密还没 有被我们揭开。

如果人工智能和神经科学能充分发挥潜力，这种情况将 会改变。如果不仅是智能创造技术，技术反过来也可以创造 智能，那么就会产生一个循环。这个循环的结果是难以预料 的，可能带来爆炸性的改变。作为原来的创造者，如果智能 也可以被创造出来，那么它就可以提升自己。 根据奇点理 论，不久以后，这个循环中就不再需要人类了，人工智能 或进行过认知改造的生物智能将占据主导地位，人类已经跟不上了。

我们需要认真对待奇点理论的假说吗？又或者它只适合 出现在科幻小说里？雷 · 库兹韦尔认为我们应该认真对待这 一假说，并提出了“加速回报定律”（The law of accelerated return）。如果一项科技符合加速回报定律，那么这项科技越 先进，它进步的速度就越快，在一段时间以后就会实现指数 级进步。一个很好的例子就是“摩尔定律”（Moore’s law），一块芯片能容纳的晶体管数量每隔 18 个月左右就会翻番。 令人惊讶的是，半导体行业几十年来的发展趋势一直遵循 摩尔定律。 信息技术发展的其他指标，例如 cPu（中央处 理器）的时钟频率和网络带宽，也一直在以指数级速度增长。然而，信息技术不是唯一高速发展的领域。在医学领 域，Dna（脱氧核糖核酸）测序的成本快速下降，测序的 速度则呈指数级上升，大脑扫描的分辨率也在以指数级速度上升。

从历史的角度来看，出现重大技术进步的时间间隔在 缩短：从农业、印刷术、电力到电脑。除了技术的进步，进 化过程中出现里程碑式突破的间隔也在不断缩短：从真核生 物、脊椎动物、灵长类动物到智人。很多评论家认为人类发 展的轨迹是一条复杂的曲线，一直延伸到远古时代。但是， 我们只需要研究这条曲线中科技的部分，并推演科技曲线的 未来趋势。我们发现，未来会出现一个转折点，人类发明的 技术会让自己落伍。

由于物理规律的制约，指数级技术发展最终会遇到瓶 颈。指数级技术发展的停滞可能有各种经济、政治或者科学的原因。但是，我们先假设与人工智能以及神经技术最相关 的发展将会保持势头，加快破解大脑秘密的速度，并且最终 合成人工智能。我们不难相信，不管是人工智能还是人类智能，都会遵循加速回报定律，最终到达技术奇点。

有些作者预言，奇点的到来会在 21 世纪中叶。我们可 以不把奇点只作为预言来研究，预言毕竟是比较虚无缥缈 的。首先，奇点是一个很有意思的深刻的学术话题，无论 它最后是否真的会出现或不知什么时候出现。其次，奇点 出现的可能性虽然看起来很微小，但是却值得我们从务实 的角度，在理性的基础上讨论它。即使未来学的理论有瑕 疵，但只要未来学描述的场景存在可能性，就值得我们认 真关注。如果奇点真的出现，对人类来讲，其后果将是颠覆性的。

这些颠覆性的后果都有哪些？如果人类到达奇点，世界 会变成什么样子？我们对奇点的到来是应该恐惧，还是应该 欢迎？人类在今天或未来应该做些什么来保证最好的结果？ 本书旨在回答这一系列非常宏大的问题。奇点这个概念会引 发我们对一些更加原始的哲学问题的讨论：人性的本质是什么？人类最根本的价值观是什么？我们应该如何生存？人类 为了迎接奇点需要放弃什么？奇点在给人类的生存带来机遇的同时，也带来挑战。

奇点的到来可能会威胁到人类的生存。这听起来像是 大其词，但是今天的新兴技术已经超越了以往，是人类从来 没有见过的。可能会有人研制经过基因改造的病毒，提高其 传染性和抗药性——只有疯子才会做这种事，但是，人类有 可能意外地制造出带来灾难的病毒。高级人工智能也有可 带来生存威胁，其原因相似，但更微妙。我们会在后文中研 究这些问题。如果未来某个公司、政府、组织，甚至是个人有可能制造出能实现指数级自我提升、极度渴求资源的人工 智能，这一可能性足以让我们提高警惕。

从乐观的角度来看，技术奇点带来了生存的机会，也就 是哲学上的“存在”的意义。当我们有能力构建大脑时，就 可以突破生物的限制，延长人类的寿命。人类的最终极限 就是死亡，生物的身体是很脆弱的，会受到疾病、意外伤 害和衰老的限制。人类的意识依赖其生物大脑，但是，未来人类将有能力修复任何对大脑的损害，并最终在其他基质上构建大脑，这样就可以突破意识的寿命极限，将其无限延长。

延长生命是“超级人类主义”的一个分支，但是我们为 什么要满足于人类的大脑？如果我们能够重建大脑，为什么 不通过重新设计，提升大脑的能力呢（人类的身体也可以通 过重建提升，但是本书只讨论智能）？通过医药手段可以提 高记忆力、学习能力和注意力，这是比较传统的提升方法。 但是，既然人类能够从无到有重建大脑，就一定能对认知能 力进行重组和提升。当我们具备了这种提升能力，又该做什 么呢？有些人认为，这种能力至少能够应对超级智能带来的 存在风险，赶上人工智能的发展脚步，不过在这个过程中人 类的认知方式可能会发生根本改变。

技术奇点可能是一种生存机会，要理解这一概念，必须 放弃人类的视角，采取一种更具宇宙性的视角。“人类社会 和生活在人类社会中的人们的大脑已经到达了宇宙的极限” 是一种人类中心主义的想法。也许智能的复杂程度还有很大 的提升空间。可能未来还会出现比我们更高级的意识形式。

我们应该阻止还是迎接这一情况的到来？我们能理解这样的 未来会是什么样吗？不管奇点是否已经临近，这些问题都值得思考。因为在思考这些问题的同时我们对自身有了新的理解，也理解了我们在大千世界中的位置。