生命3.0

麻省理工学院物理系终身教授、未来生命研究所创始人迈克斯·泰格马克，重磅新作

从14岁起，作者就开始关注科技对人类未来的影响，人工智能的突飞猛进，更是加剧了他的担忧，所以在其45岁，创立了人工智能界鼎鼎大名的非营利性组织“未来生命研究所”，致力于用科技改善人类的未来。如今，他将带领我们参与这个时代*重要的对话。

与人工智能相伴，人类将迎来一个什么样的未来

迈克斯·泰格马克不仅以全景视角探讨了近未来人工智能对法律、战争、就业和社会带来的影响，还将目光投向了这场变革更为深远之处：在未来的1万年乃至10亿年及其以后，我们能否与人工智能实现共生与繁荣？宇宙生命发展的物理极限是什么？更为重要的是，我们如何在这场变革中迎来重生，同时又不会陷入危机，丧失生而为人的意义？《生命3.0》这本书将是你人工智能时代的思考利器。此书对未来生命的形式进行了大胆的想象：生命已经走过了1.0生物阶段和2.0文化阶段，接下来生命将进入能自我设计的3.0科技阶段。

引爆硅谷，令全球科技界大咖称赞叫绝的烧脑神作

史蒂芬·霍金、埃隆·马斯克、雷·库兹韦尔力荐；《未来简史》作者尤瓦尔·赫拉利叹为影响深远之作；长踞*图书畅销榜，《纽约时报》畅销书；《科学》《自然》两大著名期刊罕见推荐。万维钢、余晨专文作序推荐；王小川、吴甘沙、段永朝、杨静、罗振宇一致强荐。

兼具思想性和易读性，人人都可读懂的未来指南

作者迈克斯·泰格马克本人博学多识，他用一种生动易懂、新鲜有趣的方式为大众讲述了这个时代*重要问题的“内幕”，十分吸引人。此书英文版一经出版，便迅速在全球引起轰动，引发20多个国家的版权大战。不管你是科技圈的还是创投圈的，或是泛互联网圈的，也不管你是渴望洞见未来的高端读者还是科幻发烧友，或是大众读者，《生命3.0》是你参透未来、参与这个时代*重要的对话的深度指南。

湛庐文化出品。

在人工智能崛起的当下，你希望看到一个什么样的未来？当超过人类智慧的人工智能出现时，人类将何去何从？你是否希望我们创造出能自我设计的生命3.0，并把它散播到宇宙各处？人工智能时代，生而为人的意义究竟是什么？在《生命3.0》中，麻省理工学院物理系终身教授、未来生命研究所创始人迈克斯·泰格马克将带领我们参与这个时代*重要的对话。

《生命3.0》一书中，作者迈克斯·泰格马克对人类的最终未来进行了全方位的畅想，从我们能活到的近未来穿行至1万年乃至10 亿年及其以后，从可见的智能潜入不可见的意识，重新定义了“生命”“智能”“目标”“意识”，并澄清了常见的对人工智能的误解，将帮你构建起应对人工智能时代动态的全新思维框架，抓住人类与人工智能共生演化的焦点。

迈克斯·泰格马克

未来生命研究所（Future of Life Institute）创始人，致力于用科技来改善人类的未来。该组织自成立起汇聚了8000多位世界杰出人工智能专家，包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、雷·库兹韦尔、拉里·佩奇等，还获得许多著名组织的支持，包括*、谷歌、Facebook、微软、IBM，还有研究了AIphaGo的Deepmind公司。

麻省理工学院物理系终身教授，平行宇宙理论研究专家，首次提出“数学宇宙假说”。他还是参与过原子弹研究的著名物理学家约翰·惠勒的学生。被誉为“*接近理查德·费曼的科学家”。

著有畅销书《穿越平行宇宙》，发表了200余篇科技论文，“深度学习三巨头”之一的杨立昆是其合著者之一。

人类应该以更好的姿态拥抱人工智能技术，通过让技术适应人类，让个体变得更加强大，让地球文明变得更加美好。《生命3.0》这本书给我们提供了一个路线图：如果我们小心谨慎地改进技术，深谋远虑地避免陷阱，那生命就有可能在地球上，甚至地球以外繁荣昌盛长达数十亿年的时间，远超人类祖先的梦想。期待这一天的到来！

——王小川

搜狗公司CEO

如果人工智能有几本煌煌巨著，《生命3.0》就是其中的《天演论》。生命3.0挣脱了自然“进化”的束缚，进入自我“设计”的阶段，“她”成为自己命运的主人。而这本书正是我们作为生命2.0与生命3.0以及未来的对话，书中谓之“我们这个时代*重要的对话”并不为过。《生命3.0》这本书横跨社会与宇宙，从我们能活到的未来穿行10亿年，又从可见的智能潜入不可见的意识，其所呈现的世界观之宏大，令人荡气回肠。

——吴甘沙

驭势科技（北京）有限公司联合创始人兼CEO

将人工智能与人类未来进化放在一起，越来越成为理解“新物种”的独特视角。作为警觉的乐观主义者，泰格马克的《生命3.0》与其说是提供答案，不如说是促进对话和思考。在这一波强大而迅猛的人工智能浪潮面前，每个人都无法置身事外——如果你感到焦虑，或者在思考人工智能时厘不清头绪、抓不住要点，这本书会让你跟上时代的步伐，找回思考的自信，同时抓住人与机器共生演化的焦点。

——段永朝

财讯传媒集团首席战略官

苇草智酷创始合伙人

如果说《时间简史》讲透了宇宙物理，《未来简史》讲透了文明进化，《生命3.0》的作者则是从物理学家的角度对宇宙进化进行畅想。人类正推动着智能进化的史诗进程：以人工智能算力6年提升30万倍的超级摩尔定律发展，数字生命必然实现智能飞越，人机融合将孕育一个万物智能的新宇宙。

——杨静

新智元创始人

生于这个人工智能极大发展时代的人们，不自觉便会陷入一种焦虑——对智能机器进步的极大恐慌。与其说是焦虑，不如说是“短视”，因为从长远来看，让“生命”升级到可以自我设计的“生命3.0”的*后一块拼图，很可能就是人工智能。理性地认知人工智能，正确地做出选择，才能让生命走得更远。

——罗振宇

“得到”App创始人

无论你是科学家、企业家还是将军，所有人都应该扪心自问，现在可以做些什么，才能提升未来人工智能趋利避害的可能性。这是这个时代*重要的对话，而迈克斯·泰格马克发人深省的著作《生命3.0》能帮助我们参与到这场对话中来。

——史蒂芬·霍金

物理学家，宇宙学家

在探索地球上以及地球以外的生命、智能和意识的宏伟未来的旅程中，人类该如何应对随之而来的挑战与选择，《生命3.0》这本书提供了一份精彩的指南。

——埃隆·马斯克

美国太空探索技术公司（SpaceX）创始人兼CEO

特斯拉汽车公司创始人兼CEO

人工智能可能是21世纪非常重要的一股变革力量。迈克斯·泰格马克的《生命3.0》一书从政治与哲学的角度预测了人工智能革命的前景与风险，并清晰地阐明了一些基本概念和重要争议，澄清了一些常见的误解。比如，科幻作品使得许多人担心邪恶的机器人，而他则适当地强调，真正的问题乃是开发能力超强的人工智能会带来一些无法预见的后果。人工智能并不一定要变得邪恶或者装在机器人身上才会肆虐人间。迈克斯·泰格马克的写作风格通俗易懂，十分吸引人，适合大众阅读。

——尤瓦尔·赫拉利

世界知名历史学家

畅销书《人类简史》《未来简史》作者

迈克斯·泰格马克新作《生命3.0》是这个时代*重要的对话的深度指南。本书描述了当我们逐渐将生物学意义上的“思维”与我们自己创造出来的更伟大的智能相融合时，如何创造出一个友善、仁爱的未来文明。

——雷·库兹韦尔

发明家兼未来学家

畅销书《奇点临近》《人工智能的未来》作者

作为一个物种，我们希望创造出什么样的未来？关于这个问题，迈克斯·泰格马克希望促成一场更加广泛的对话。虽然他谈及的话题——人工智能、宇宙学、价值甚至意识经验的本质，都十分富有挑战性，但他采用了一种平易近人的方式，鼓励读者形成自己的观点。

——尼克·波斯特洛姆

牛津大学人类未来研究所创始人

畅销书《超级智能》作者

赞 誉

推荐序一 如何正确地关心人类命运

万维钢

科学作家，“得到”App《精英日课》专栏作者

推荐序二 重新定义生命

余 晨

易宝支付联合创始人，《看见未来》作者

中文版序 我们只看到了人工智能的冰山一角

引 言 欧米茄传奇

01 欢迎参与我们这个时代*重要的对话

02 物质孕育智能

03 不远的未来：科技大突破、故障、法律、武器和就业

04 智能爆炸?

05 劫后余波，未知的世界：接下来的1万年

06 挑战宇宙禀赋：接下来的10亿年以及以后

07 目标

08 意识

后 记 未来生命研究所团队风云传

注 释

致 谢

欧米茄传奇

欧米茄团队是这家公司的灵魂。虽然该公司其他部门通过开发各种狭义人工智能（narrow AI）的商业应用赚得盆满钵满，让公司得以按部就班地运转下去，但欧米茄团队却一直秉承并追寻着公司CEO 的梦想：建造通用人工智能（Artificial General Intelligence，简称AGI）。因此，其他部门的员工都亲切地称他们为“欧米茄”，并把他们视为一群不切实际的梦想家，因为他们似乎总是与自己的目标差着几十年的距离。但是，人们喜欢纵容这些人，因为欧米茄团队的前沿工作为公司带来了声望，他们为此感到高兴。同时，欧米茄团队偶尔会改进一些算法供其他部门使用，这让他们十分感激。

然而，其他部门的同事不知道的是，欧米茄团队之所以精心打造自己的形象，是为了隐藏一个秘密：他们马上就要启动人类历史上*勇敢无畏的计划了。那位极富个人魅力的CEO 亲自挑选了这些人，不只是为了培养杰出的研究人员，还为了实现他帮助全人类的雄心壮志和坚决承诺。他告诫欧米茄团队，这个计划非常危险，如果被不怀好意的人发现了，他们就会不择手段地甚至实施绑架来制止这个计划，或者盗走他们的代码。但是，这些人已经全身心投入其中了。他们的理由和当年众多世界顶尖物理学家加入“曼哈顿计划”开发核武器的原因差不多：因为他们都坚信，如果自己不率先做出来，就会有其他不那么高尚的人捷足先登。

欧米茄团队建造的人工智能昵称叫“普罗米修斯”（Prometheus），它一天比一天强大。诚然，它的认知能力在社交技能等许多方面还远远落后于人类，但欧米茄团队竭尽全力让它在一个任务上表现超凡，这个任务就是编写人工智能系统。他们之所以选择这个计划，是因为他们相信英国数学家欧文· 古德在1965 年提出的“智能爆炸”理论。古德说道：

让我们给“超级智能机器”（ultraintelligent machine）下一个定义，那就是：一台能超越任何人（无论这个人多么聪明）的所有智力活动的机器。由于设计机器也属于这些智力活动中的一种，因此，一台超级智能机器就能设计出更好的机器；那么，毫无疑问会出现一种“智能爆炸”，到那时，人类的智能会被远远甩在后面。于是，首台超级智能机器就会成为人类*后一个发明，只要它足够驯良，并告诉人类如何控制它就行。

欧米茄团队认为，只要他们能让这个不断迭代的“自我改善”过程持续下去，那么*终，这台机器就会变得非常聪明，足以自学其他有用的人类技能。

第1个100 万美元

一个星期五的早晨9 点钟整，欧米茄团队决定启动这个计划。在一间闲人免进的巨大空调房间内，层层叠叠的架子排成长列。普罗米修斯就在这一排排为它“量身定制”的计算机集群中嗡嗡鸣响。为了安全起见，它没有接入互联网。不过，它在本地存储着一份包含互联网大部分内容的副本作为训练数据，以便从中学习，这些数据来自各大知识汇集网站及社交平台数据库。欧米茄团队挑选这个时间点是为了可以不受打扰地工作：亲朋好友都以为他们参加公司的周末拓展活动去了。办公室的小厨房里塞满了微波食品和提神饮料。一切准备就绪。

启动伊始，普罗米修斯在编写人工智能系统上的表现还是比人类略逊一筹，但很快，这个缺点就被它极快的速度所弥补了。当欧米茄团队正猛灌红牛时，普罗米修斯也在以破竹之势解决着问题。如果换算成人类需要的时间，那得几千年之久。到早上10 点钟，普罗米修斯已经完成了对自身的第1次迭代。这个2.0 版本虽然比过去稍微好一点，但还是比不上人类。然而，到了下午2 点钟，当普罗米修斯迭代到5.0 版本时，欧米茄团队惊呆了：它已经大大超越了他们的预期，而且它进步的速度似有加快的迹象。夜幕降临时，他们决定用普罗米修斯10.0 版本来启动计划的第二阶段：赚钱。

欧米茄团队的第1个目标是*的MTurk。这是一个众包网络市场，于2005 年上线后，发展十分迅速，很快就聚集了成千上万来自全球各地的人。他们夜以继日地奏出了一支支“HIT”奏鸣曲—— HIT 指的是“人类智力任务”（Human Intelligence Tasks），范围十分广泛，从音频录制到图像分类和网页描述撰写，应有尽有，但它们都有一个共同点：只要你完成得足够好，没人在乎你是不是人工智能。对于其中大约一半的任务，普罗米修斯10.0 版本完成得都还算可以。欧米茄团队让普罗米修斯用狭义人工智能设计出了一个简洁的软件模块，专门用于处理这些任务，但除此之外，这个模块什么也干不了。接着，他们把这个模块上传到了*的网络服务器上，这是一个可以运行虚拟机的云计算平台。在这个云平台上，他们租了多少虚拟机，就可以运行多少虚拟机。欧米茄团队在*云计算服务上每花费一美元，都能从MTurk 上赚回超过两美元的价值。*一点儿也没发现，自己公司内部竟然存在着这样惊人的套利机会！

为了掩盖踪迹，在前几个月中，欧米茄团队小心谨慎地用假名创建了几千个MTurk 账户。现在，普罗米修斯建造的软件模块正冒名顶替着这些账户的身份。MTurk 的客户通常会在事后8 小时左右付款。一旦收款，欧米茄团队又将这些钱用来购买更多的云空间，供给普罗米修斯使用。在这个过程中，普罗米修斯不断升级，它的*新版本写出来的任务模块也变得越来越厉害。由于欧米茄团队的钱每8 小时就能翻一番，因此在MTurk 上的任务很快便达到了峰值。同时，他们发现，如果不想引起过多的注意，*好把日收入控制在100 万美元以下。不过，普罗米修斯已经为他们的下一步计划提供了足够多的钱，欧米茄团队已经无须向公司财务总监申请经费了。

危险游戏

启动普罗米修斯之后，除了在人工智能研究上取得突破之外，欧米茄团队*近还热衷于用它来赚钱：赚得越快越好。从本质上来说，整个数字经济的红利都是唾手可得的，但从哪里开始比较好呢？是开发计算机游戏，还是做音乐、电影或者软件？是写书、写文章，还是炒股，或者捣鼓和贩卖新发明？简单来说，这个问题归根结底是如何才能实现投资回报率的*大化，但一般的投资策略在欧米茄团队面前实属小巫见大巫：在通常情况下，如果年均回报率能达到9%，投资者就会很满意了；然而，欧米茄团队在MTurk 上的投资达到了每小时9% 的回报率，平均每天能赚到8 倍多的钱。那么，他们的下一个目标是什么呢？

欧米茄团队的第1个想法是去股票市场大捞一笔，毕竟，许多对冲基金都在这上面砸了重金，而欧米茄团队中的几乎每个人都曾在人生中的某一时刻，拒绝过为对冲基金开发人工智能系统的高薪工作。你可能还记得，这也正是电影《超验骇客》（Transcendence）中的人工智能赚得第1桶金的方法。但是，前些年的一场股市崩盘促使政府对金融衍生品出台了一些规范措施，限制了他们的选择范围。很快，欧米茄团队就意识到，即便他们能够获得远高于其他投资者的回报，但这点利润比起销售自家的产品来说还是相差甚远。毕竟，当全世界第1个超级智能都在为你工作时，你显然*好投资自家的产品，而不是寄希望于别人家的。当然，例外也是可能存在的，比如，你可以用普罗米修斯超人的黑客技能来获取内幕消息，然后购买那些即将上涨的股票的看涨期权。但欧米茄团队认为，这可能会引来不必要的注意，因此不值得这么做。

于是，欧米茄团队将重点转向了那些可以研发和销售的产品，其中，电子游戏看起来是个很不错的选择。普罗米修斯很快就具备了极为高超的技能，能够设计出引人入胜的游戏，还能轻易地应对程序、平面设计、光线追踪等成品所必需的任务。此外，它还分析了网络上关于人们偏好的所有数据，知晓了哪一类游戏是玩家的*爱，据此发展出了一种根据销售收入来优化游戏的超能力。尽管不愿意承认，但欧米茄团队的许多成员都曾夜以继日地泡在游戏《上古卷轴5： 天际》（The Elder Scrolls V: Skyrim ）中。2011 年，这款游戏在刚发布的第1星期，总销售额就超过了4 亿美元。因此，欧米茄团队相信，在100 万美元的云计算资源的支持下，普罗米修斯在24 小时内一定能开发出一款像《上古卷轴》一样令人上瘾的游戏。他们可以在线销售这款游戏，并让普罗米修斯在博客圈里假扮玩家来大聊特聊，引爆热度。如果能在第1个星期入账2.5 亿美元，他们就能在8 天内将投资翻8 倍，每小时的回报率高达3%，虽然比他们在MTurk 上的表现略显逊色，但更具可持续性：假如普罗米修斯能每天开发出一款游戏，不久之后，他们就能赚到100 亿美元，而不用担心游戏市场饱和。

但是，欧米茄团队中的一位网络安全专家坦率地表达了对这个游戏计划的不安。她指出，这个计划可能会带来一个可怕的风险：普罗米修斯可能会“逃脱”，并“抢夺自己命运的控制权”。过去，由于不清楚普罗米修斯的目标在自我提升的过程中会如何变化， 因此为了安全起见，欧米茄团队决定不遗余力地将普罗米修斯“关起来”，囿于“盒”中，让它无法“ 逃” 到互联网上。对运行在服务器机房中的普罗米修斯主机，他们采取了物理隔绝的手段：那里根本没有网络连接，普罗米修斯输出的所有数据都以信息和文件的形式传输给一台被欧米茄团队严格控制的计算机。

将普罗米修斯开发的复杂程序放到联网的计算机上运行，是一件风险很大的事情：欧米茄团队根本不清楚它会做什么，也完全不知道它会不会做某些事情，比如在互联网上像病毒一样扩散自己。在测试普罗米修斯为MTurk 上的任务写的软件时，为了谨慎地提防这种情况的发生，欧米茄团队只在虚拟机中运行这些软件。虚拟机是一个模拟计算机的程序，比如，苹果电脑的许多用户会购买虚拟机软件，通过“欺骗”苹果电脑这是一台Windows 电脑，来让它们运行Windows 程序。欧米茄团队建造了自己的虚拟机，其昵称叫“潘多拉魔盒”。它模拟的是一台超级简单的机器，去除了计算机通常拥有的所有附件，没有键盘，没有显示器，没有音箱，也没有网络连接，什么都没有。举个例子，对于MTurk 上的音频誊录任务，欧米茄团队对虚拟机进行了设置，只允许一个音频文件输入潘多拉魔盒，也只允许一个文本文件输出，即誊录好的文字。这些规则之于魔盒内部的软件，就好像物理定律之于身处宇宙中的人类一样：软件无法冲出魔盒的藩篱，就好比人类再聪明，也无法实现超越光速的星际旅行。除了上面所说的输入和输出单个文件之外，潘多拉魔盒内部的软件实际上就像被困在了一个拥有自己的计算规则的平行宇宙。欧米茄团队患有严重的“逃脱”恐惧症，因此，他们也在时间维度上加了枷锁，限制了不受信任代码的生存期限。比如，潘多拉魔盒中的誊录软件每完成一个音频文件的誊录，魔盒中的所有内存都会被自动抹去，程序会自动从零开始重新安装。这样，当它开始下一个誊录任务时，就不知道过去发生了什么，也就不能从过去中学习。

当欧米茄团队在MTurk 项目中使用*的云服务时，他们能将普罗米修斯编写的所有任务模块都装进云端的潘多拉魔盒，因为在MTurk上输入数据和输出数据都非常简单。但是，对严重依赖图像的计算机游戏来说，这是行不通的。他们无法将游戏装进潘多拉魔盒，因为它们需要彻底访问玩家计算机上的所有硬件。此外，他们不想冒险，因为一些懂计算机的用户可能会分析游戏代码，从而发现潘多拉魔盒，并调查其中的秘密。“逃脱”风险不仅置游戏市场于危险当中，还可能会牺牲其他软件市场，而后者是规模巨大并且有利可图的，遍地都是千亿美元的机会。