尤瓦尔·赫拉利在印度企鹅年度讲座
一、开场：从旧挑战到新挑战
各位好，很荣幸今天能来到这里。我想借此机会谈谈我们全人类在21世纪将面临的新挑战。但在探讨本世纪的新挑战之前，或许我们应该先回顾一下过去的挑战，以及智人（homo sapiens）在过去一个世纪取得的惊人成就，因为这或许能给我们带来克服新挑战的希望。
二、人类已征服的三大旧敌
（一）战胜饥荒
回顾过去几代人所处的上个世纪，人类最大的成就或许就是战胜了饥荒。因为在历史的大部分时间里，长达数千年间，饥荒一直是人类最大的敌人。大多数人始终处于饥饿的边缘。这是因为人类根本无法种植和分配足够的食物。因此，每隔几年就会发生自然灾害，如洪水或干旱，导致数百万人饿死。
相比之下，今天人类生产的粮食如此之多，运输如此快捷且廉价，以至于在大多数国家，甚至包括发展中国家，因过量饮食死亡的人数都超过了因饥饿不足死亡的人数，这确实是一项惊人的成就。我们确实可以说，自然饥荒已从世界上完全消失。自然饥荒是由洪水、干旱等自然力量造成的饥荒。世界上仅存的饥荒是政治饥荒。如果也门、南苏丹、叙利亚以及世界许多其他地方的人们仍在饿死，那不是因为人类已无力养活他们，而只是因为某些政府、某些政客或某种意识形态希望这些人饿死。
（二）战胜瘟疫与传染病
人类的第二大成就是战胜了瘟疫和传染病。今天，历史上首次因癌症等老年病死亡的人数超过了因传染病死亡的人数。一千年前，人们很少死于癌症。不是因为当时人们的生活多么健康、饮食多么健康，而仅仅是因为大多数人因饥饿或某种传染病在更年轻时就已死去，根本活不到得癌症的年纪。
（三）遏制战争与暴力
但过去几代人最令人惊讶的成就，或许是遏制并战胜了战争与暴力。过去，人类认为战争只是这个不完美世界的自然组成部分，或许只有上帝某天通过奇迹才能给地球带来和平。但在过去几代人中，人类发现我们实际上有能力靠自己带来世界和平。我们不需要等待任何奇迹，只需要做出正确的决策。过去几代人确实是人类历史上最和平的时期。当你阅读新闻时可能不这么认为，但即使在2018年的今天，我们仍生活在历史上最和平的时代。
世界某些地区仍有战争，我来自中东，对此再清楚不过。但许多国家已完全放弃了将战争作为实现政治目的的标准手段。事实上，当你查看统计数据时，会发现一个惊人的事实：今天以及过去几十年里，自杀人数超过了因暴力、犯罪、战争和恐怖主义死亡人数的总和。从统计学角度看，你现在是自己最大的敌人。你自杀的可能性远高于被士兵、罪犯或恐怖分子杀害的可能性。另一个有趣的统计数据，或许值得你在下次用餐时思考：如今糖对你生命的威胁远大于火药。
三、21世纪的三大新挑战
这些就是我们物种在过去几代人取得的惊人成就。那么21世纪的下一个挑战是什么？我们面前有三大主要挑战：战争回归、生态崩溃和技术颠覆。
（一）战争的回归
第一个威胁是战争将卷土重来。正如我刚才所说，过去几十年战争减少，不是因为自然法则有任何改变，也不是因为什么神圣的奇迹，而仅仅是因为人类做出了明智的决策。如果现在人类开始做出不明智的决策，战争将卷土重来，而且形式会比我们以前遇到的更加严重。我们绝不应低估人类的愚蠢。它是历史上最强大的力量之一。是的，人类的智慧非常伟大且重要，但纵观历史，人类的愚蠢在塑造我们物种的命运方面几乎与人类的智慧不相上下。特别是在战争问题上，智慧与愚蠢之间存在一种固有的不平衡：缔造和平需要许多明智的人，但有时只需一个蠢货就足以发动战争。
（二）生态崩溃
我们面临的第二个挑战是生态崩溃。全球战争的威胁只是一种未来的可能性，而气候变化则是当下的现实。它正在我们周围发生。如果我们不采取行动，我们此刻所在的地方50年后可能就在印度洋之下。
为防止灾难性的全球变暖和气候变化，我们需要做两件非常困难的事情。首先，我们需要在这方面进行全球合作，因为显而易见，没有任何一个国家能独自阻止气候变化。印度政府无法独自拯救孟买，除非它在这方面与中国、美国、欧洲等国家政府合作。其次，我们需要新的环保技术。因为我认为可悲的事实是，以当今的技术，阻止气候变化的唯一方法是停止经济增长。这是任何政府，或几乎所有政府都不会同意做的事情，因为当今世界上几乎所有政府和所有国家的首要价值观都是经济增长。他们可以随心所欲地称呼自己——社会主义者或资本主义者、民主或威权、印度教、穆斯林、犹太教或世俗——这都不重要，首要价值观是经济增长。因此，阻止气候变化的唯一现实希望是开发能够维持经济增长而不破坏生态平衡的新型环保技术。
（三）技术颠覆与"神人"时代
但对技术的依赖当然将我们引向了第三个也是最复杂的挑战，即技术颠覆的挑战。简单概括技术在21世纪正在做什么以及将要做什么，我们可以说，技术正在将人类升级为神。这是我们时代的大故事。我指的是最字面意义上的升级。
我们正在转变为神，因为人工智能（AI）和生物技术将很快赋予我们古代神话中神才拥有的能力，尤其是创造生命的能力。我们很快将学会如何设计和制造生命，如何设计和制造动物、植物、人类，甚至以前从未存在的全新生命形式。21世纪经济的主要产品将不再是纺织品、车辆、武器等等，主要产品将是身体、大脑和心灵。如果这真的发生，这将不仅是从7万年前历史开始以来最伟大的革命，实际上也将是从40亿年前生物学开始、生命开始以来最伟大的革命。
40亿年来，生命游戏的基本规则没有任何根本性改变。所有生命都受两套法则支配：自然选择法则和有机生物化学法则。所有生命，无论是恐龙还是变形虫，无论是番茄还是智人，都由有机化合物构成，并通过自然选择进化。但在未来一两个世纪内，科学将用智能设计取代自然选择，成为进化的主要引擎。这种智能设计不是来自云端的某个神，而是我们的智能设计将决定生命的未来。同时，科学可能使我们能够在40亿年有机进化之后开始创造第一批无机生命形式。
我们面临的大问题是，如何运用这些神圣的创造力量？如果我们犯错，这些错误将是宇宙规模的错误。我们将决定生命和进化的整个未来。我们应该接受这样一个事实：我们正在成为地球的神，但迄今为止我们是非常不负责任的神。也许我们主要的问题在于权力与智慧之间的差距，在于操纵系统的能力与真正深入理解这些系统所需的智慧之间的差距。不幸的是，操纵通常比理解容易得多。例如，在河流上建造大坝比理解这将对动物、植物、生态系统等产生的所有后果要容易得多。因此，纵观历史，人类通常是在理解其行为后果之前很久就开始操纵事物。
过去，人类学会了操纵外部世界。我们学会了如何控制河流、动物和森林，但由于我们不了解生态系统的复杂性，我们滥用了权力，破坏了系统平衡，如今我们面临生态崩溃。21世纪的重大变化将是，我们不仅将学会如何操纵外部世界，还将学会如何操纵内部世界。我们将学会如何重新设计我们的身体，如何操纵我们的情感、思想和感觉。但由于我们远未理解内部系统的复杂性，尤其是精神系统的复杂性，我们可能再次滥用权力，破坏内部系统的平衡。因此，我们不仅要应对外部生态危机，还要同时应对内部精神危机。
特别危险的是，政府、企业和军队可能会利用新技术来增强他们需要的人类技能，如智力和纪律，同时忽视他们不太重视的其他人类技能，如同情心或灵性。结果将是拥有高度智力和纪律性却缺乏同情心、缺乏精神深度、可能也缺乏心理平衡的人类。我们可能在尚未意识到自己拥有这些潜能的情况下，就失去了大部分人类潜能。如果发生这种情况，技术不会升级人类，反而会降级他们。
四、社会层面的冲击与"无用阶级"的出现
我们在社会层面可能面临更紧迫的问题。上一次我们经历重大技术革命是19世纪的工业革命，这场革命催生了一个庞大的新阶级——城市工人阶级，即无产阶级。19世纪和20世纪的大部分历史都围绕这个新工人阶级展开。21世纪的新革命——人工智能革命——也可能导致一个庞大新阶级的出现，即"无用阶级"。这些人从经济和政治体系的角度来看是无用的——并非从他们的母亲、兄弟姐妹或子女的角度来看，因为从亲人的角度看，没有人是无用的——但从经济和政治体系的角度来看，他们是无用的。
现在没有人能确切知道2050年的就业市场会是什么样子，只知道它将与今天大不相同。人工智能和机器人技术可能会改变几乎所有职业。今天人们从事的许多工作，如果不是大多数工作，到2025年可能会消失。当然，随着所有工作的消失，新工作也会出现，但我们不知道是否会创造出足够的新工作。而更大的问题将是，我们能否足够快地培训人们去填补新工作。
假设你是一名40岁的卡车司机，因自动驾驶汽车而失业。现在出现了一份新工作，可能是设计软件，也可能是教瑜伽——你教那些整天坐在办公室里的软件工程师瑜伽——但一名40岁的卡车司机如何将自己重塑为瑜伽老师或软件工程师？你需要学习大量新技能，在某些情况下，甚至需要改变你的性格。即使你付出努力，成功重塑和培训了自己，这也不会是长期的解决方案。
因为关于自动化革命最重要的一点是，人工智能的崛起不会是一个单一的分水岭事件，在此之后就业市场和经济将稳定到一个新的平衡。并不是说2025年我们将经历一场大的人工智能革命，大量工作消失，新工作出现，你经历几年的困难时期，最终一切再次稳定下来。不。自动化革命将是一系列 ever bigger 的 disruption，因为人工智能远未达到其全部潜力，它才刚刚开始。到2025年我们将经历一场重大革命，到2035年会有更大的革命，到2045年会有更大的革命。所有工作都会消失，新工作会出现，但很快新工作也会改变并消失。因此，为了留在游戏中，为了保持相关性，人们将不得不重新培训和自己，不是一次，而是许多许多次。
如果你 somehow 从卡车司机成功转型为瑜伽老师，10年后你需要再次这样做，因为到那时，配备生物识别传感器的计算机可能能够比大多数人类老师更好地教瑜伽。现在政府可能必须介入，在困难的过渡时期帮助人们，支付他们的失业金和培训课程费用。但即使这样也无法解决最大的问题，那很可能是心理上的。即使你在50岁、60岁和70岁时有必要的财务支持来重塑自己，大问题是你是否会有心理韧性。改变总是非常有压力，在一生中多次重塑自己，在40岁、50岁、60岁等等，对许多人来说可能在精神上太困难了。由于预期寿命的延长，退休年龄可能同时推迟到70岁、80岁甚至90岁。因此，即使到2050年会出现新工作，我们仍可能看到这个庞大新阶级——无用阶级——的形成。
20世纪人们必须与剥削作斗争，这是主要的冲突，人们为反对被剥削而斗争；21世纪许多人的最大斗争可能是与"无关紧要做斗争"。你不是被剥削，你只是无关紧要，这是一种远为糟糕的处境。
五、数字独裁与人类被破解的威胁
最后，在政治层面还存在一个巨大的危险，即数字独裁的兴起。新技术可能诱惑世界各国政府建立前所未有的极权主义政权，这些政权将全天候监控和控制所有人。我们在20世纪中期已经看到过一波极权主义政权，如希特勒、斯大林和毛泽东的政权，这些政权最终衰退了，大多数人得以生活在更加自由的社会中。但我们现在可能看到另一波极权主义政权，其恶劣程度将远超20世纪我们所见的任何政权。
因为新的极权主义政权将拥有希特勒、斯大林和毛泽东所没有的新技术。他们可能拥有破解人类的技术。如今人们谈论很多的是破解电子邮件、破解智能手机和银行账户等等，但真正重大的变化、真正的革命是破解人类的能力。
那么，要破解一个人需要什么呢？你需要三样东西：你需要对生物学，尤其是脑科学有深刻的理解；你需要大量数据，尤其是个人数据；你需要强大的计算能力。过去，在希特勒和斯大林的时代，没有人足够了解生物学，也没有人拥有足够的数据和计算能力来大规模破解人类。因此，即使克格勃或盖世太保24小时跟踪你，他们也无法知道你大脑内部实际发生了什么，无法理解你的感受，无法真正预测你的选择并有效操纵你的欲望。
但很快，企业和政府可能拥有足够的生物学知识、足够的数据和足够的计算能力来破解人类。破解人类意味着比你更了解你自己，从而能够理解你的感受，预测你的选择，操纵你的欲望。当然，这种破解人类的能力可以用于好的目的。它可以用于提供历史上最好的医疗保健。它可以用于建议人们如何在职业和个人生活中做出更好的决策。但它也可以用于坏的目的，用于可怕的目的。它可以被用来建立极端极权主义政权，其中所有权力都集中在政府或一小撮精英手中，他们可能不关心其他任何人，但没有人能反对他们。因为如果你甚至开始思考反对他们，他们就已经知道了，因为他们能看出你在想什么。
六、技术决定论的迷思与人类的选择权
当然，这不是不可避免的。这不是预言。我在这里谈论的有关未来的一切都不是预言，它们只是可能性。技术从来不是决定论的。你可以用同样的技术创造非常不同的社会和政治制度。我们在20世纪就看到了这一点，工业革命的技术——电力、火车、无线电等等——可以被用来建立共产主义或法西斯主义政权，也可以被用来建立自由民主制。火车不会告诉你该用它们来做什么。
21世纪也是如此，你甚至可以从太空看到不同社会之间的差异。就像这张从太空拍摄的著名东亚夜景照片：你看到右下角，韩国是一片光的海洋；你看到左上角，中国是另一片光的海洋；而在中间，你看到朝鲜是一块黑暗的补丁。那不是海洋，那是朝鲜。朝鲜和韩国之间的差异不是技术上的。他们拥有相同的技术。朝鲜人也了解电力，但他们选择用它来做与韩国人非常不同的事情。因此，技术给了我们选择，但最终决定权在人类手中。
21世纪，人工智能和生物技术肯定会改变世界，但我们可以用它们来创造非常不同的社会。我在这里的演讲主要聚焦于更危险的场景，主要是因为私营企业和研究人员往往聚焦于积极的场景。而且因为危险的可能性是我们应该最警惕的可能性。但存在不同的可能性，这取决于我们。
七、结语：全球合作的时代必要性
如果你害怕我在这次演讲中概述的某些可能性，你仍然可以为此做些事情。现在，为了有效，我们做的任何事情都必须在全球层面进行。我们需要在这些问题上进行全球合作。我提到的三大挑战——核战争、气候变化、技术颠覆——从本质上说是全球性挑战，任何单个政府或任何单个国家都无法解决。没有任何国家可以在其边境上建墙来抵御气候变化或核战争。也没有任何国家可以独自监管人工智能或生物技术，因为没有哪个政府能控制世界上所有的科学家和工程师。很少有国家愿意限制自己的技术发展，除非其他国家也这样做。
例如，印度可以说基因工程是一项非常危险的技术，我们禁止人类基因工程。但这无法阻止中国人、俄罗斯人或美国人使用这些技术，因为印度政府无法控制中国或美国的科学家。如果他们这样做，那么很快印度政府会说，我们不能落后，允许他们用这项技术控制世界，我们也必须这样做。因此，如果你害怕基因工程的后果，并认为它需要被监管，你应该非常清楚，这只能通过全球合作来实现。
因此，每当一位领导人说什么"我的国家第一"或"只有我的国家重要"时，我们应该问这位领导人，你的国家如何独自防止核战争、阻止气候变化、监管颠覆性技术？民族主义在21世纪仍然可以发挥重要且积极的作用。但如果民族主义意味着保护你国家人民的安全和繁荣，那么现在要成为一个好的民族主义者，要求你也必须成为一个全球主义者。两者之间没有矛盾。21世纪，民族主义者应该是全球主义者，因为确保一个国家人民安全和繁荣的唯一方式是与其他国家的人民合作。
因此，如果你从这次演讲中只带走一个教训，我认为最重要的教训是：我们的全球问题需要全球解决方案。
谢谢。