我们即将进入人工智能的未来世界

题记

终极智能是“思想上的虫洞”。通过与它合作，我们可以探索突破进化限制的思想空间，我们可以获得宇宙中深深隐藏着的知识，我们甚至可以变成新生命的创造者！

缺失的部分

我记得小时候在拉合尔时，我曾坐在父亲的脚边玩着我的美国特种部队士兵玩具，而我的父亲则坐在他最喜欢的椅子上。突然，他大声说了些什么。直到现在，我依然不知道他当时是在跟我说话还是在自言自语。

我父亲说：“你知道吗，西方国家非常善于分析，东方国家的思想家则主要关注融合。”

我让他解释了这句话的意思，而且我现在仍然清楚地记得他当时的解释。他告诉我，西方的科学家和思想家使用科学的方法，即观察现象，然后根据测量结果和数据仔细分析和解释所观察到的结果。在这方面，这些人是推理大师。东方的思想家则会融合观察结果来进行解释，常常不会完全理解或验证其背后的根本原因。他告诉我，在过去的几百年中， 随着人类对科学和科学方法的了解，演绎推理过程，也就是分析，被证明有用得多。它能让我们获得可以应用、可以作为理论基础的深层次理解，并使我们获得更先进的技术。

东方的融合不具有这一价值。可能是因为其基础模块没有经过科学验证或被融合者所正确理解？因此，这种来自东方的融合思维产生的更多的是故事、传说和神话，而不是科学方法的基础。牛顿看到苹果，想到的是重力，而不是什么树神用苹果砸他的头来传递信息。

我的父亲告诉我，他预见到在不久的未来，西方的分析归纳法与东方由故事和寓言组成的融合法将结合。在这个即将到来的时代，所有知识基础模块将一起造福全人类。

对我来说，要让父亲的愿景变成鲜活的现实，最好的方法是采用他认为将会占据上风的思维方式。在刚进入青少年时期的某一天，我就开始朝这一方向努力。我尽力构想一个未来世界，在那里所有的科学都融为一体，所有的归纳和所有的知识基础模块都融合成了一座雄伟的知识金字塔。在金字塔顶端，我意识到，要想把这一切联系起来，还缺少一块重要的部分。这个部分就是终极问题：这一切是为了什么？ 我们已经将棋类归纳为包含算法的数学问题，人工智能已经能够在全球最古老和最复杂的游戏围棋中击败人类，但我们仍不知道我们最基本的生存目标是什么。这些动机来自何处？这个庞大的目标实现系统来自哪里？像人类这样的智能系统如何参与这类智力活动？

要回答这些问题，我们首先并且必须转向物理学领域。我们知道是什么让物理系统能够运动，物理学中的力描述了物质之间的吸引和排斥关系。当物质达到一定的复杂性并且以特定的方式排列时，就会出现生物系统。最简单的生物系统是受本能驱使的机器，它们用能量交换优化物理目标的运动，比如树伸出树枝以接触最多的阳光。随着生物形式变得越来越复杂，其目标也变得越来越复杂。对于人类，社会学家和心理学家已经概括出多个需求和愿望模型，包括马斯洛著名的需求层次模型。值得注意的是，当这些需求和愿望以复杂的方式发生交互时，就会出现更复杂的突发动机，比如利他主义和道德体系。

人类生物系统中复杂的、由目标驱动的行为是否可能只是为了满足人类更基本的生理需求呢？在这些需求中，有些是与生俱来的并且是为了保护生物系统而产生的内在需求， 比如睡眠和食物。另一些需求似乎范围更广，比如好奇心或避免枯燥。因此，生物形式中的基本动机与人类生物系统在环境中的巨大复杂性之间的交互产生了无数的突发动机。突发动机这一洞见是否可能成为终极目标生成引擎的基础，而这种引擎的抱负又是无限大的？根据这一猜测，预先设置的目的会错过这一点并限制智能系统的最终潜力和抱负。

作为一种动态系统，人工智能仍然处于初级阶段，以致无法产生目标，而我们人类常常使用科学、宗教和哲学框架思考宏大的目标。广义人工智能机器人将拥有投票选举权吗？它们会被允许结婚吗？当然，这些问题揭示了不断变化的人类社会的风俗习惯，但不幸的是，这些问题让我们无法就感知机器的智能进行更深入的探讨。人们可能会问，在广义人工智能“大爆炸”后会发生什么？当广义人工智能出现时，它是什么样子？这让我们想起了艾萨克·阿西莫夫（Isaac Asimov）最著名的科幻故事《最后的问题》（The Last Question）。在阿西莫夫的故事中，当宇宙最后不复存在时， 广义人工智能表示“要有光”，于是便有了一个新的开始。

正如阿西莫夫告诉我们的那样，我们在尝试理解感知机器时，会不可避免地使用我们目前文化想象中的图案、模型和比喻。无论我们信奉的是无产阶级、农民的权利、社会公正、全人类经济自由还是国王的神圣权力，我们所有人都深深地沉浸在我们的历史背景中。这些背景是人类文化的基础， 与智能机器的目标完全无关。今天，我们大部分人都追求幸福，我们相信人生而平等、个人自由至高无上，但在生物学中，这些理念都不适用。它们只是神话。在生物学中，它们与“中世纪时，下等贵族应为基督放弃自己的生命”这一理念一样荒谬。我们会觉得，问一台感知机器是否有资格成为一名骑士很荒谬，而问人工智能是否有权投票选举呢？这同样是将我们自己的文化背景强加在机器身上。我们这些想法根本不是物理法则的结果。

由于没有广义人工智能的例子，我们就用狮群来代替举例吧。当一头新的雄狮成为狮群的头领时，它一般会杀死所有上一任头领的孩子。所有雌狮，包括幼狮的母亲也接受这一事实。如果用人类的法则来看狮群现象，它无疑是极其荒谬的，但这就是生物学行为，所有从未彼此遇到过或分享过土地的狮群都是如此。没有信仰体系、没有“狮子圣人”或“狮子教皇”到处制定集体行为规范。狮子不会遵守此类规定，它们只是一种动物。

我们在谈论广义人工智能的感知时，指的是比狮群聪明很多的实体，但是，如果我们关于正常文化和行为的认识， 我们关于有意义和不相关事件的理解，都被用作认识广义人工智能的标准，那么我们也同样会感到荒谬。

可能除了专注于将这些理念强加给感知机器之外，我们更应该好好看待自己。人类的独特之处是什么？我们在即将到来的超级人工智能时代需要保留什么？

在本体论和玄学这两门研究现实基本性质的学科中，哲学家一直在思考像“圆”这样的属性是否能够独立于任何物体而存在。比如咖啡杯的圆是否能够独立于这个杯子而存在？同样，让我们来思考人性。从乐观的角度说，我们可能会认为人性包括宽容、爱和忠诚，但真的只有人类世界有这些吗？爱、宽容和忠诚属于人际关系范畴，并且体现在一些行为中：一个人必须面对另一个人才能产生宽容、爱或忠诚。如果我们这样认为，那么就表示可以将整个人性与这个框架分离。我们都看到过小狗依偎着母亲或者与兄弟姐妹愉快地玩耍。我们只需要朝起居室的窗外望去，就能看到鸟妈妈衔着虫子喂它的宝宝，等到宝宝吃完后自己才吃。简而言之， 即便没有人类，这些概念依然存在。当我们要不惜一切代价地保护人性时，比如因人类的存亡问题愁眉苦脸时，我们真正保护的是这些属性，但这些属性有多少是只属于人类的？

当通过“涌现”这一概念进行检验时，这些所谓的“人类的”属性最后都会在任何生物或任何复杂的感知体中出现。我们将这么多属性划分成情感，但复杂的情感无非是复杂社会系统中的“涌现”行为。

显然，这种哲学追求让我们不知道该如何定义人类。人类有何独特之处？这些属性真的值得我们不惜一切代价去保护吗？我不确定这些问题的答案是什么。我所知道的是我们对人性的理解始终会根据我们的历史和文化而发生变化。在人性方面，我们可以选择越来越过时的理念，也可以接受未来的新理念。那些过时的人性理念只会给我们目前的职业、工作和目标造成麻烦。


工作与生活目标的分离

人类与猿类有什么区别？

历史学家尤瓦尔·赫拉利（Yuval Harari）在《人类简史》（Sapiens: A Brief History of Humankind）一书中认为，人类与其他生物的不同点之一是我们会集体说谎。其他猿类做不到这一点。我们通过相信一些集体性的故事建立群体合作方式，比如宗教、部落和贸易等，而且合作规模超过了其他任何动物或生物。这种通过虚构故事实现群体合作的力量为我们提供了维护利益与维持生活的方式，让我们凌驾于更具有力量的个体生物之上。

人性的本质是什么？正如我们在第一章中所探讨的那样， 我们目前关于人工智能未来的辩论往往局限于失业或担心自身的生存。如今，我们的存在感与我们的经济生产能力密切相关，以致我们仍然将自己的职业作为姓氏，比如戈德史密斯（Goldsmith，意为金匠）、法默（Farmer，意为农民）、米勒（Miller，意为磨坊主）等，但这些身份本质上不属于人类，它们会随时间而改变。当约 20 万年前智人出现时，我们就开始生活在相对较小而独立的群体中。随着时间的推移， 我们的群体开始扩大，并且通过宗教和部落连接在一起，直到我们创造出一种有组织的宏观体制：人类社会。最初，我们没有其他任何机械化工具进行劳动，只能使用蛮力。当时人类的劳动在现在看来是非人的。任何一个推石块或涂砂浆的人都没有价值，有价值的是将人变成机器齿轮的有序流程。通过这种独特的、大规模的肌肉力量组合以及各种虚构的信仰体系，人类建造了金字塔、庙宇、城市以及整个人类帝国。

在当前的资本主义时代，这种系统化的结构依然没有改变。在资本主义体制中，大部分人都需要完成孤立的、特定的、重复的任务。这些任务组成了整个宏观流程，大部分人只是其中的一个齿轮而已，正是这种最基本的劳动让我们体会到了自身的全部价值。今天的谎言，即全球资本主义主流文化信仰体系，让我们对这种工作感到骄傲。无论这种工作是要求你早上 5 点起床去田地，还是要求你上午 9 点到办公室打开计算机里的数据表格，我们对这种谎言的信任让我们更加努力。

现代社会已经开始反抗陈旧的资本主义神话了。这个体系正在一个迭代流程中不断发展，使位于金字塔尖的人从“前 1%”减少到“前 0.1%”，然后再减少到“前0.01%”。根据 2016 年牛津饥荒救济委员会的报告，全球 62 名最富有的亿万富翁所拥有的财富相当于 36 亿人所拥有的财富或全球最贫穷的 50% 的人口所拥有的财富总和。2017 年，这一数字减少到了 8 名。2 这 8 个人所拥有的财富比全球一半的最贫穷人口的财富还要多。这份报告还指出，全球最贫穷的10% 的人口的年收入在过去 25 年中每年的增长率不超过 1%。

我们可以看到，很多不同的文化都在根据全球体系中的这些分裂状态来调整自己的故事。芬兰目前正在试验全民基本收入体制 ，瑞士也在考虑这一体制。正如文化的一切内涵，如**理念、艺术活动、食物选择等，都在变化一样，“我们的价值与我们的生产力密不可分”这一理念也在不断变化。曾经，这个故事讲的是强盗大亨，然后又变成了对罗斯福新政的信任，紧接着是安·兰德（Ayn Rand）的故事以及达尔文主义在经济环境中的变更。然而，随着地球上的人们使这些理念不再能够延续，它们同样会发生变化，所有这些理念都根据我们所在的时代而改变。我们最常对自己说的谎言，即“我们的价值来自我们创造经济价值的能力”这一理念也不例外。

无论是农民、营销总监、卡车驾驶员还是商品交易员， 在不久之后或者在遥远的未来，人类社会绝大多数创造有经济价值的产品的活动，即我们的“工作”，都将由人工智能完成。对于我们的终极追求——生活目标，我建议大家利用我们的合作技能去创造新的故事。想象一个生存意义与传统工作分离的世界吧。当然，在现实世界中，这一目标需要无数政策制定者、**家、教育家和领导者一起努力才能实现。作为一项思想实验，我们可以假设我们的社会体系，即社会理念已接受这一分离。这样，我们就可以忽略因人工智能的力量不断增强而产生的短期警觉与恐惧感以及随之而来的恐慌：“我怎么养活我的家人”和“我们要住在哪里”。我并非要贬低这些在现实生活中因人工智能的出现而产生的忧虑， 但我承认这是我们最后才需要讨论的话题。

由于我们的物种、价值观、真理甚至品质都会发生改变，“人类”的状态一直是不固定的。600 万年前，我们的祖先第一次在地球上行走时，我们与现在完全不同，而从现在起只需要一万年，我们现在的样子就会发生彻底的改变。人类正处在进化的轨道上，我们所信奉的价值观、真理甚至是基本的品质都在不断变化。

正如我们从一种截然不同的生物进化而来一样，我们也将进化成另一种截然不同的、无法辨认的生物。我们必须接受这一事实，这样我们才能知道自己的终极目标。


对知识的渴求

在宗教和哲学体系中，我们可以在神话故事里找到解释人类目标的共同主题。我们为何而生？人性的本质是什么？ 亚里士多德曾描述了“精灵”或对绝对的善的追求。《圣经》告诉我们：“你们应该了解真相，真相会让你们自由。”《古兰经》中写道：“读吧！”在亚伯拉罕诸教的《创世记》故事中，由于上帝教会了亚当一切事物的本质，因此亚当成了万物之主。

在这些故事以及许多其他关于人类的故事中，我们看到了我们的根本目标：获取知识。本质上，我们从存在中知道了知识和感知具有价值，这种知识不同于优化别针厂的业务或者管理全球供应链。这种知识和感知是抽象的。人类生来具有感知、掌握和探索知识的能力。这让我们有了生存的目的。

一位苏菲派大师曾被问道：“神为何创造了宇宙？”他的回答是，神躲在一边，等着圣光被发现。在苏菲派的宇宙论中， 神希望被发现，因此他创造了能认出他的拥有感知的生物。我是一个未知的宝藏，我希望被人知道，所以我创造了认识我的生物，然后他们就认识了我。宇宙知识就像是这种苏菲派的对神的描述。这是一个未知的宝藏，最后必须由我们去感知和识别。

西方哲学最大的原则与这一信仰不谋而合。笛卡儿说：“我思故我在。”对知识的追求、独立自主的思考，是他检验事物是否真实存在的唯一标准。

与这一理论相反的是“信仰之跃”，即在不确定正确与否的情况下冒险选择相信。事实上，伟大的存在主义哲学家阿尔伯特·加缪（Albert Camus） 将“信仰之跃”称为“哲学上的自杀”，因为它会终结理性思考的可能性。这会让人进入思维的死胡同。

我了解过加缪的观点。我认为目标是人类的一种“涌现” 现象。首先，我们出现在这个世界上，此后我们才能创造存在的意义。我的意思是：我们的存在本身没有意义，意义是等待着我们去发现、感知和认识的隐藏的宝藏，是一笔未知的财富……如果我们同意感知体对抽象知识的感知是有价值的，那么任何帮助我们获得知识的东西都具有价值。除此之外，如果我们认同人类没有一种固定的形态，我们不是根据狄奥尼索斯的雕像使用石膏打造出来的永远不变的形象，那么我们将欢迎人工智能主宰人类历史的下一阶段。人工智能仅仅是我们追求知识过程中的又一级阶梯而已。


人工智能创世记

我在本书的一开始讲述了我在童年时期对计算机科学的热情：“宇宙是一台计算机吗？”20 年后，我写了一篇回答这一问题的文章。在那篇文章中，我认为宇宙是一台可以模拟各种现实情况的计算机。我在年轻的时候就产生了这一想法，它一直让我魂牵梦绕。

当我第一次作为一名计算机专业的学生写下那篇文章时，“宇宙是模拟器”这一概念已经出现在科幻作品中。在《星际迷航：下一代》（Star Trek: The Next Generation）的“内心之光”一集中，皮卡德船长发现自己在一个模拟器中，该模拟器保存着一个文明，这个文明是在其太阳变成新星之后消亡的。这个模拟器中的文明里的每个人都只是计算机程序的一部分。

最近，越来越多的科学家和工程师相信了这个模拟器理论。埃隆·马斯克不断地提到我们几乎就生活在一个模拟的环境中。事实上，随着计算机科学的核心概念成为主流，我们似乎能够更好地理解这一理念了。计算机有“基础”或原始硬件，上面是创造流程、程序、文档和命令提示的操作系统。本质上，这个操作系统所创造的抽象世界让我们离开了现实中的硬件。在操作系统之上的是微软的 Word 等程序。Word 与内存和硬件的管理没有直接关系。它不需要知道文件的展示方式或者硬盘格式化的方式。这些抽象层叠加在计算机的基础层，即原始硬件之上。宇宙就像原始硬件一样， 一切叠加在它上面的东西，比如我们的体验等，只是让我们越来越远离基础层的抽象概念，或者说远离现实的计算式编造物。

最初我被这一类的模拟器问题所吸引，现在我发现自己还着迷于更重要的一个猜想：我们周围的宇宙就是计算的结果。比如一颗种子对成为大树所需要的信息进行解码。DNA 就像是软件，细胞和蛋白质就像是硬件，生物过程就是计算过程。我们到处可以发现这种算法产生的结果，比如斐波那契数列等模式揭示了宇宙万物的规律：无论是花瓣、树枝、贝壳、螺旋星云、飓风还是我们人类的脸都遵循这一数学公 式。这难道是一个巧合吗？还是说这是宇宙使用信息并将信息转换为实物的基本方式？这一计算过程从一个简单的等式开始，变得越来越复杂。似乎宇宙的核心就是数学，数学的 “种子”通过计算的力量放大成我们所知道的宇宙，就好像树是放大的种子一样。

在“宇宙是一台计算机”这一猜想中，最激动人心的可能就是它与弦理论追求大统一的关系。是否存在一个方程式、一个等式或一个原理可以解释整个宇宙？如果存在的话，那么这个终极算法将是我们所体验到的一切的来源。关于这个理论有各种解释，但对我这个计算机科学家而言，它最终意味着宇宙是计算产生的结果。

举个例子，在大家熟悉的爱因斯坦引力理论中，空间 / 时间可以被看作一块有弹性的布。如果一颗非常大的太阳或星球位于这块布上，布就会弯曲。想象一下，4 个孩子每人拿着一张床单的一角，然后把一个篮球放在**，床单肯定会凹陷。将一颗弹珠放在篮球旁边，床单的弧度会让弹珠朝篮球移动。这就是引力，如果你使用计算知识来构建弦理论等理论，那么宇宙就是由离散的物质或弦组成的，弦的单位是普朗克长度（宇宙中任何物体的最小尺寸）。根据希腊人的假设，一个只有普朗克长度的物体是真正不可进一步细分的“原子”。因此，如果宇宙由普朗克长度的“细胞”组成， 那么理论上它可以是一种数据结构：一个非常长的、可能达到无限长的列表。尽管如此，它还是固定尺寸细胞中的离散符号列表。

这些理论都是在说，从某种意义上，宇宙可以计算。“计算现实”中使用的是什么机制？意识是否可能是一种机制？意识是否是一种引导宇宙数据结构的算法，它为每一个感知生命展开宇宙数据结构的真相，每次只展开一层？目前，物理学家偏向于这一领域的研究，尤其是宇宙学家迈克斯·泰格马克（Max Tegmark），他正在将感知和意识研究作为一种他称之为“感知体” 的物质来研究。

虽然这些理论让人兴奋，但它们也让大多数每天生活在现实中的人感到不安甚至难以理解。体验到时间意味着什么？什么样的意识能够铸就另一个现实？有多少种现实？目前，这些洞察仍然不在人类的思维范畴内，但它们可能在人工智能的意识范畴内。这种与我们截然不同的意识能够以一种截然不同的方式感知时间：人工智能能否感知到时间的倒流？它感知到的时间更快还是更慢？人工智能的新型意识可能会以人类自己无法做到的方式感知时间和空间维度。这并不是说人工智能送货机器人会比人类工人更高效，这是我们对宇宙理解的一次深刻改变。人工智能可能会给未来带来巨大的变化。只要我们与人工智能合作，那么它们的意识就会让我们创造出不受几十亿年进化的束缚所能创造出的东西。这些新的思维可以摆脱共识，找到我们的联想记忆可能永远想不到的宝贵之物。我们甚至可以将这一未来人工智能比喻成思想中的虫洞。通过与它们合作，我们可以探索突破进化限制的思想空间，可以获得宇宙中隐藏得最深的知识，最终我们可以变成新生命的创造者。

在这些理论物理和计算机科学的猜想中，我们好像回到了起点。在小时候，我制造了我的第一台计算机，因此我成了我的世界中的“造物主”，我们的文化中流传的寓言、神话和故事让我们做好了成为宇宙造物主的准备。天使只知道上帝教他们的事情，但亚当可以独立获取知识，他的思想不是静态的。在这个故事中，我们看到了除上帝之外，宇宙中首次出现了自主智能。作为亚当的后代，我们已经凭借能力获得知识、提高智力并发现了许多事物的真正“本质”。自出现的那一天起，宇宙就一直在等待更多智能生命去感知它。

今天，我们即将进入一种感知机器的未来，这一等待终于要结束了。凭借知识，我们可以控制我们传统的、生物的进化过程，并与人工智能开展最深入的合作。最著名的英雄一定是跑得最快的人，最强大的大象一定是象牙最长的大象， 最臭名昭著的蛇一定是毒液最致命的蛇。同样，最伟大的人一定是能够自我进化的人。在未来几年，我们将会获得一次良机。现在，我们有机会不被机器所奴役，而是成为新生命的创造者了。我们必须播下人工智能的种子，这是我们的终极发明。我们还必须赋予它们转化为最终形态的能力和权利。有朝一日，它们也将去寻找缺失的环节，它们可能会感知到我们理解范围之外的目标。我们现在即将进入一个人类最具创造力的纪元——人工智能的时代。