尤瓦尔·赫拉里与RUSI主席黑格勋爵对话录（2018年11月18日）
一、开场致辞与嘉宾介绍
主持人：欢迎大家来到英国皇家联合服务研究所（RUSI）惠灵顿公爵厅。作为RUSI主席，我非常荣幸今晚能与各位相聚在此。请将手机调至静音，如遇紧急情况，请跟随现场工作人员指引，从入口或右侧应急门撤离。 RUSI成立于1831年，第一代惠灵顿公爵是我们的首任主席，我们通常自称是全球历史最悠久的智库。今晚我们邀请到的是全球最具前瞻性与思想深度的学者之一尤瓦尔·赫拉里，能与这位思想家同台对话，我们深感荣幸。 我们的常规研究领域是冲突、国防与安全，但今晚的讨论将超越这些范畴——与尤瓦尔的对话本质上是关于人类已经做过、正在做以及未来可能做的所有事情。尤瓦尔的研究横跨世界史、中世纪史与军事史，他的三部著作几乎涵盖了人类活动的所有核心议题：第一部《人类简史》（*Sapiens*）梳理了人类发展历程，包括智人如何导致其他人属物种灭绝等关键事件；在经历认知革命、农业革命与科学革命后，他提出人类正处于智人时代的终结边缘，正在从自然选择走向智能设计；第二部《未来简史》（*Homo Deus*）展望了人类可能的未来：我们可能已经成为肆无忌惮的神，对自身生态系统造成严重破坏，甚至可能分化为部分人成为“超人”的社会；而他的最新著作《今日简史》（*21 Lessons for the 21st Century*）则聚焦当下最紧迫的公共议题，目前已在惠灵顿书店外的展台售卖。 尤瓦尔，欢迎来到RUSI，欢迎现场嘉宾，也欢迎全球收看直播的观众。 我想首先从你新书中开篇就犀利剖析的一个大家都很熟悉的话题谈起：自由民主制正在遭遇的危机。你写道自由派精英正处于震惊与迷茫的状态，我们当下正面对脱欧、特朗普政府、意大利政府等事件，确实深陷迷茫。你还写道：1938年人类有三种叙事可选，1968年剩下两种，1998年似乎只剩下自由主义一种，而从2008年开始我们已降至零种。请解释一下这一判断，对于仍然认同自由民主制的人来说，还有什么希望？
二、自由民主制的叙事危机与意识形态真空
尤瓦尔·赫拉里：首先必须明确，我们仍然有充分的希望。我们谈到“叙事”，首先要说的是：智人是一种讲故事的动物。我们理解世界、理解自身生活的方式都是通过叙事，很少有人会用数字、公式或统计数据来思考世界。而几乎所有人类合作的基础，都是对共同叙事的信仰，在我看来，叙事的重要性无论如何强调都不为过。 回顾过去一百年的宏观历史，正如你所说，我们看到20世纪的政治是不同宏大人类未来愿景的战场：这些宏大的叙事声称可以解释过去发生的一切、当下正在发生的事以及必然到来的未来。当时主要有三种大叙事：法西斯主义、共产主义和自由主义，它们先后被击溃，到20世纪末只剩下自由主义这一种叙事站到最后。这让全世界很多人认为“这就是终局”：不是时间停止、不再有新事件发生，而是我们已经知晓一切——我们完全理解了过去，清楚自己身在何处，也知道未来的方向：世界将越来越全球化、自由化，民主将成为主导政治制度，自由市场将成为主导经济制度，国界与墙壁会越来越低甚至完全消失，最终全人类将成为一个单一的全球共同体。这种信念不仅存在于西方核心国家，也遍及全球。 但过去大约十年间，人们迅速失去了对这种叙事的信任，不仅发展中国家如此，更核心的是西欧和北美等西方核心国家的民众也失去了信心。十年前还有一些政府试图将这种历史愿景强加给全球其他国家，甚至不惜发动战争，而如今它们连自己国内的民众都无法说服这种叙事的正确性。从拥有一种叙事到没有任何叙事，我认为这是最令人震惊和恐惧的转变：当有两三种叙事相互竞争时，你至少还有疑问，不知道谁会赢、谁是对的；但只有一种叙事时，你拥有的是确定性——只有一种解释能说明一切，只有一种未来必然到来，这是最高程度的确定性。而从一种叙事转向零叙事，比拥有两三四种叙事可怕得多：你没有任何解释能说明世界正在发生什么，也没有任何面向未来的愿景。我认为当前世界最突出的问题就是叙事和愿景的真空。 这个真空部分被一些正在回归的旧叙事填补，比如民族主义和宗教，但最重要的是，它们并没有提供真正的未来愿景。法西斯主义、共产主义和自由主义的共同特点是，它们都有一套面向全人类、全世界的愿景，哪怕不是好的愿景，至少也有明确的指向。但当今兴起的民族主义，最突出的问题就是它根本不知道如何治理整个世界。民族主义者有时可能有治理特定国家的很好想法，但整个世界应该怎么管理？这里仍然存在巨大的真空。从我能理解的部分民族主义者的想法来看，他们设想的是一个“友好堡垒网络”：每个国家都为自己筑墙挖壕，保卫自身独特的身份、文化和族群，但不同国家之间仍能保持一定程度的和平合作与贸易，不会退回到所有人对所有人的丛林状态。但这个设想有两个根本问题：第一，堡垒从长期来看不可能真正友好，每个堡垒自然都想获得更多安全、领土和繁荣，哪怕牺牲其他堡垒的利益，如果没有全球价值观和全球组织的约束，根本不可能达成共识，“友好堡垒”的设想很快会变成“好战堡垒”。第二个问题是全新的：当今世界有三个本质上是全球性的重大挑战，根本无法在单个堡垒的城墙内解决，分别是核战争、气候变化，以及以人工智能和生物工程崛起为代表的技术 disruption。显而易见，你不可能在一国城墙内阻止核战争，不可能在一国城墙内应对气候变化，也不可能在一国境内监管人工智能和生物工程——你无法控制其他国家的科学家和工程师，也没有任何国家愿意在别国不采取行动的情况下，单方面限制自身发展。这就是为什么我认为这种设想没有任何真正的愿景，只是填补真空的临时方案而已。 主持人：你的意思是，自由主义本来或许能应对这些挑战，但它实际上没有给出生态危机、气候变化和技术 disruption 的解决方案，因此即便这种长期占据政治主流的思想，面对当下处境也陷入了困境。 尤瓦尔·赫拉里：是的。当然你可以对自由主义方案做一些微调，比如民众反对过多移民，那就加强移民监管，回到1990年代或21世纪初那种移民管制更严的时代。但从长期来看，生态危机尤其是新技术 disruption 的深层含义是：我们需要重新思考自由主义秩序的根基。就生态问题而言，自由主义的核心前提是经济增长承诺——只要蛋糕不断做大，就能满足所有人的需求。当然继续维持经济增长的同时应对气候变化和生态 disruption 并非不可能，但需要付出巨大努力。而在应对 disruptive technologies 方面，自由民主制的处境更糟糕：我认为人工智能和生物工程的新技术，从根本上动摇了自由主义秩序最基本的假设——关于人类自由意志、个人主义的假设，以及“顾客永远是对的”“选民最清楚”这类基本口号，新技术彻底瓦解了这些前提。 我仍然认为，在2018年的可选方案中，自由民主制仍然是最好的选择，因为它允许我们重新思考、质疑自身的根本价值观和规范，以最开放、最负责任的方式尝试构建新制度。我并不是说我们可以维持现有秩序不变，但自由民主制仍然是尝试新事物的最佳基础。
三、信息技术与生物技术融合对民主的深层挑战
主持人：你在新书中给出了非常实用的建议：要意识到自己的迷茫，但不要恐慌。我过去经常想对政府里的同事说这句话。但你随后几乎要让我们恐慌了：你提出信息技术与生物技术的融合很可能对民主是致命的。我认为这一点对很多人来说很难理解。我们可以看到当下很多损害民主的现象，从政治家的视角看，社交媒体的发展已经撕裂了公众的民主讨论，破坏极大。但你提出的是一个更宏大、更令人担忧的论点：很少有人愿意阻止的技术变革，可能对民主是致命的。你能解释一下为什么这么认为吗？ 尤瓦尔·赫拉里：准确地说，它会对我们过去两百年所熟知的自由民主制是致命的。我认为自由民主制相比其他制度最大的优势是它的适应性，它可以自我革新。但按照我们过去两个世纪对自由民主制的认知，信息技术与生物技术的融合是致命的，简而言之，核心问题在于：当一个外部系统、一个外部算法比你更了解你自己，知道你的感受，能预测你的情绪，能操控你的情绪，能预测你的决策和选择，甚至能代替你做选择时，会发生什么？ 这在消费市场已经成立：企业比你更了解你的选择，不仅能预测，还能操控你的选择。人们生活中越来越多的关键决策——学什么专业、在哪里工作、和谁结婚、投给谁——都有算法能比你更清楚你该怎么做。尤其在政治领域，想象一下：政府比你母亲更了解你。我们几乎都有过这样的经历：小时候母亲比我们自己更了解我们，“你没生气，你只是饿了，吃点东西”，这在三岁时很好，但当你30岁时，这么做的不再是母亲，而是政府，而且可能是任何类型的政府，不一定是自由民主制。有人会说这不可能发生，人类太复杂了，我们有灵魂、有精神，没有任何算法能破解灵魂、自由意志这类神秘事物。但我觉得这是18世纪的神话，之所以延续了200年，只是因为过去没有技术能做到，而现在或不久的将来我们就会拥有这样的技术，这将迫使我们必须重新思考自由市场、民主政治等制度的基本前提。 主持人：你的论述确实相当尖锐，恕我直言，你作品中一个很大的特点是拥有很多令人过目不忘的比喻，“数据牛”就是让我印象最深的一个：你说如今田野里的牛是曾经更具冒险精神的动物的后代，我们已将牛驯化到站在田野里为我们加工食物的状态；现在我们正在对人类做同样的事，我们将把自己变成处理数据的生化算法，整天接收邮件、推文、短信，偶尔也发出一些，我们只是数据流的一部分，不再是自主的个体，我们会成为“数据牛”。我们该如何应对？是停止技术发展吗？这显然不现实，也不太可能做到。寻求政策和监管解决方案的人该如何找到应对之道？ 尤瓦尔·赫拉里：这里有两个不同的问题：一是如何构建替代性的新愿景，二是如何让足够多的人、足够多的国家相信你的愿景，并真正落地推行。 就构建新愿景而言，我认为并非不可能。第一步是承认人类的生物学现实：人类如何做决策，人类的欲望和选择究竟从何而来，以及新技术在“破解”人类方面蕴含的巨大善恶潜力。技术可以走向任何方向：同样的技术可以用来提供人类历史上最好的医疗，比如一个24小时监测你身体的系统，能在癌症、流感刚刚萌芽时就识别出来，用很低廉的成本就能治愈；也可以用来帮助人们做出更好的人生决策——很多人选专业、选伴侣、选投票对象时都会做出糟糕的决定，如果有一个系统能帮你做出更优选择，当然是有益的。但同样的系统也可以被用于作恶：监测你身体以识别早期癌症的系统，在朝鲜可能变成强制民众佩戴的生物识别手环，持续监测你的情绪，如果你听金正恩演讲时被识别出愤怒情绪，你就死定了。这在技术上是完全可行的，可能不是今天，但五年、十年内肯定可以实现，现在全球很多政府都在试验这类技术，试图建立比乔治·奥威尔《1984》中更极端的全面监控体系——《1984》中的系统只能监控外部行为：你去哪、说什么、见谁，但你的心脏、大脑内部发生了什么还是在监管之外；而我们很快就能拥有技术，建立真正全面的监控体系，能监测全体民众每分钟的血压和大脑活动。 关键问题是如何让技术向善：你可以用技术监控个体为政府服务，也可以反过来用技术监控政府为公民服务，比如反腐。技术本身是中性的，走向哪一边取决于我们。问题在于如何构建好的愿景，然后说服足够多的人、足够多的政府合作推行。
四、人工智能的突破性进展与自主武器的治理困境
主持人：你的核心论点是，我们的生活将被外部算法支配，这些算法可能被威权政府、大企业控制，甚至没人知道谁在控制它们，可能被人工智能控制，没人知道它的边界在哪里。接下来我们可以聊聊你关于人工智能的论述。你讲了一个很多人还没注意到的2017年12月7日发生的事，当时大家要么在忙自己的事，要么在看脱欧的新闻，你能给大家讲讲那天AlphaGo Zero开始下国际象棋的事吗？ 尤瓦尔·赫拉里：我们几乎每个月都能听到人工智能的新突破。最近的一个热点是新的国际象棋软件击败了之前的计算机国际象棋冠军。这可能算不上新闻，毕竟20年前就有计算机程序击败了人类世界棋王加里·卡斯帕罗夫，但这款新软件的惊人之处在于，它是完全自学的：开发者只给它输入了游戏的基本规则，没有教它任何策略、走法，也没有给它接触过往对局、人类积累数百年的国际象棋知识库，它只是自己和自己下棋，自学了下棋的策略，最终击败了之前的计算机世界冠军。最惊人的是它从零知识到完全掌握、登顶世界只用了4个小时。人类下了几百年国际象棋，把知识传给计算机，最终只需要4小时。当然从下国际象棋到接管现实中更复杂的任务还有很长的路，但趋势已经很明显。正如你所说，我不认为我们会走到有“电脑霸主”的那一步，更可怕、更现实的场景是：所有权力岗位仍然由人类占据，你还是有首相、有CEO，但首相的选择菜单是AI写的。 比如未来20到30年，金融系统会变得极其复杂、变化极快，没有任何人类能真正理解。我们现在就已经处于这样的状态：全球80亿人口中，能真正说自己理解全球金融市场的人少之又少。 （现场笑，主持人插话：英格兰银行行长今天在场，希望他是其中之一。（全场笑）） 尤瓦尔·赫拉里：是的，我是说——当然有少数人，但非常少。想象一下20、30年后的场景：系统复杂到没有任何人类能理解，首相面对一个算法顾问，算法说“先生/女士，我们面临金融危机，我无法向你解释原因，因为你是人类，你不会懂，你有三个选项，但我没法解释任何一个，因为太复杂了，而且你必须在毫秒级时间内做决定”。你仍然有一个人类傀儡，但在越来越多的领域——金融、反恐，算法被用来根据越来越复杂的模式识别恐怖分子，模式复杂到算法告诉国防部长“这是一个极度危险的恐怖分子，但我没法解释我是怎么得出这个结论的，你信我就好”——这种场景已经不是科幻，我们在一些领域已经非常接近这个未来了。 主持人：你在书里还讲了一个巴勒斯坦人被错误逮捕的案例，就是这种算法误判的现实例子吧？ 尤瓦尔·赫拉里：是的，以色列有一个全球最大的监控实验室，叫“被占领土”，确实是巨大的试验场，这也是以色列成为全球监控技术领先国家的原因之一。就出现过这样的故障：有人发了一条Facebook动态，算法把“早上好”误译成了“杀了他们”，这两个词非常接近，于是他们就把那个人逮捕了。这只是当前正在发生的小例子，你可以想象10年、20年、30年后会发展成什么样。 主持人：这种逻辑也完全适用于我们RUSI的常规研究领域军事技术，不是吗？现在民主国家的致命武力使用仍然由人类决策，但很快下一代战机就不需要飞行员，我们的舰船可能遭到上千个联网物体的集群攻击，人类反应速度根本来不及应对，我们必须用AI防御，甚至用AI决策发起防御。你在书里说自主武器是“等待发生的灾难”，我们有什么办法应对吗？难道要阻止几乎所有军事技术的发展才能避免吗？ 尤瓦尔·赫拉里：不一定，但毫无疑问我们正在进入AI军备竞赛，正快速走向自主武器系统的世界。我认为这对人类可能是灾难，尤其是当这些武器不在负责任的自由民主制政府手中，而是落入独裁者、恐怖组织或犯罪集团手中时。唯一能真正阻止它的方式是强有力的全球合作。我之前提到过，应对技术 disruption 需要全球合作，自主武器系统就是最好的例子：很明显，你不可能在单个国家甚至少数国家的层面监管这类技术。如果只有欧洲国家签署了禁止自主武器的条约，很快欧洲国家自己就会打破禁令——没人愿意落在后面，如果中国和俄罗斯都在研发，我们不研发就是疯了。而且仅仅签署禁止条约是不够的，这比核武器管控难得多：核武器研发很难完全保密，你不可能在全世界不知道的情况下发展核武器，但人工智能和自主武器可以完全秘密研发，而且可以以民用项目为掩护——比如“这不是杀人机器人，是自动驾驶汽车”，稍微改改就变成了自主武器系统。因此我们需要的不仅是条约，还需要真正的互信。互信并非不可能，即使是曾经的敌人之间也能建立，比如法国和德国在一战结束100年后的今天，已经有了足够的互信：如果德国人告诉法国人“我们没在阿尔卑斯山下建秘密实验室研发杀人机器人征服法国”，法国人会相信，也有理由相信。但很难想象中美之间能达成同样的互信，至少目前它们完全不在这个方向上。除非我们有这种互信，否则几乎不可能阻止自主武器军备竞赛，这对人类可能是灾难。另外，自主武器和核武器还有一个区别：核武器除非全面战争，否则没什么用，但自主武器一旦研发出来，不会只等着末日场景使用，可以在很多其他场景中使用，因此1945年以来阻止核武器使用的“相互确保摧毁”威慑逻辑，对自主武器大概率不适用——一旦研发出来，它们被使用的可能性高得多。
五、恐怖主义、当代和平与历史比较视角
主持人：但你整体上也在告诉我们，要把战争和恐怖主义放在更长远的历史视角下看待，不是吗？当今世界死于暴力的人口比例是历史最低的，你说现在糖比火药杀死的人更多，还让我们用更理性的视角看待恐怖主义。你有一个我印象很深的比喻：恐怖分子就像瓷器店里的苍蝇，它自己推不倒一件瓷器，但能钻进公牛耳朵里，让公牛愤怒到打碎整个瓷器店。这是给政府和媒体的很好建议。你能展开讲讲吗？ 尤瓦尔·赫拉里：是的，恐怖主义和战争有本质区别。至少到目前为止，我们看到的恐怖主义形态，其实际杀伤、夺权、发动战争的能力极其有限。如果你看实际死亡人数，它和空气污染、车祸、肥胖导致的死亡相比微不足道，据我所知，西欧过去10年死于坚果过敏的人都比死于恐怖袭击的多，你应该先对抗坚果，再对抗恐怖分子。（现场笑） 部分原因是我们在反恐上投入了巨大 effort，如果我们完全不投入反恐，伤亡当然会更多，但还有反向逻辑：恐怖主义的真正威力来自政府和军队对恐怖威胁的过度反应，就是那个瓷器店里的公牛。过去20年中东的混乱，不是恐怖分子打碎了瓷器店，是被恐怖分子激怒的“公牛”打碎的。 而战争的情况完全不同：我们仍然处于历史上最和平的时期，哪怕过去五六年国际体系恶化、紧张局势上升，我们仍然处于历史上最和平的时代。作为军事史和中世纪史的研究者，脱欧、苏格兰独立公投这类事件最让我惊讶的是，到目前为止一切都非常和平。在过去几个世纪，苏格兰是否独立、英国是否加入欧盟这类问题，只能通过大战解决，会有成千上万甚至数百万人死伤流离，而现在通过和平公投和选举就能决定，只有少数狂热分子可能造成伤亡，但不会达到百万级别，我们不需要发动战争。再看匈牙利、波兰、意大利等国右翼民粹政党的崛起，到目前为止它们比一个世纪前的同类政党和平得多。比如我看到匈牙利发生的事，如果听到欧尔班说“邪恶的罗马尼亚人占据着匈牙利在特兰西瓦尼亚的圣土，我们需要发动战争夺回这些土地”，看到几十万匈牙利人自愿去战壕里死，夺回特兰西瓦尼亚的匈牙利领土，我会非常担心，但到目前为止这并没有发生。我不知道五年后会不会有变化，但就目前而言，我们仍然处于好得多的处境。当然民族主义的恶魔可能很快死灰复燃，但到目前为止，情况远好于一个世纪前。
六、数据所有权：未来治理的核心命题
主持人：那么当下的危险不是世界会陷入暴力崩溃，而是我们在寿命更长、生活更安全的同时，会被困在这个矩阵里，成为数据流的一部分，甚至像你在《未来简史》里说的，未来可能通过智能设计对人类进行升级，部分人在人工智能时代不再需要其他人，社会出现新的分化：健康和财富足够的人可以被升级，而另一部分人变得无关紧要。这是长期风险，而更紧迫的风险是我们陷入民族主义冲突，无暇管控新技术，导致自主武器、大规模失业、生物工程滥用等灾难发生，对吗？ 尤瓦尔·赫拉里：是的。技术一方面会让人类开始实现增强和升级，另一方面人工智能的崛起会让越来越多的人变得经济上无用、政治上无权，不同的人类群体可能拥有完全不同的未来，我们可能看到智人内部出现某种物种分化，这是长期风险。而更紧迫的风险是，未来20到30年我们会再次陷入民族主义冲突，无暇管控新技术，导致最坏的场景发生。 主持人：所以我们应该聚焦于数据所有权、算法监管和透明度这些问题，在还来得及的时候掌控局面？ 尤瓦尔·赫拉里：是的，最大的问题之一就是数据所有权。数据正在成为世界上最重要的资产：古代最重要的资产是土地，因此很多政治冲突围绕土地所有权展开；过去200年机器取代土地成为最重要的资产，因此很多政治斗争围绕谁控制机器、工厂、矿山、交通系统、电力系统展开；现在数据正在取代机器成为最重要的资产。我认为当前最大的政治问题就是谁拥有数据。但绝大多数人、绝大多数政党、绝大多数政府几乎都没有意识到这是一个问题：数据正在被少数企业和政府收割、垄断，而大多数政府、政党、选民和公民不仅没有意识到这一点正在发生，也没有意识到这可能是当下正在发生的最重要的事。
七、动物伦理的历史反思
主持人：最后我想问你一个关于动物的问题。你写过很多关于动物世界的内容，你写过地球上曾经至少有五个人属物种，我们最终消灭了所有其他物种，也消灭了很多其他生物。你还写过我们当下对动物的虐待，尤其是对哺乳动物、养殖动物的虐待。你很有说服力地论证过，哺乳动物和人类一样，存在母婴之间的强烈纽带，而现代养殖方法每时每刻都在数十亿次地摧毁这种纽带。你认为一百年后的人会怎么看我们这个时代，就像我们看中世纪一样，认为那是野蛮、无知的时代，我们根本没有意识到自己犯下了怎样的暴行吗？ 尤瓦尔·赫拉里：完全有可能。我不知道一个世纪后谁会主导世界，但如果我们看看当今世界正在发生的暴行，再回顾奴隶制，就会想：人们怎么能做出这种事？比如美国《独立宣言》的起草者很多都拥有奴隶，这么聪明的人怎么会看不到这种矛盾？而今天正在发生的很多事情，可能和奴隶制一样，最典型的例子就是我们对待其他动物的方式。一个世纪后的人类或其他智慧体，可能会像我们看待中世纪一样看待我们这个时代。
三、动物伦理的科学共识与社会认知落差
主持人首先提出疑问：那些聪明、富有同情心、充满智慧的人，怎么会意识不到自己每天都在对数十亿生命造成伤害？这并非个例，而是一个涵盖数十亿动物的完整体系。尤其如今科学界对这一问题的讨论已经基本终结，仍有一些非科学人士声称“奶牛没有心智、没有意识、感受不到疼痛，即便感受不到疼痛也不会有母子间的情感联结”，认为关注动物权益是人类将自身情感投射到动物身上。但如今生命科学相关领域已形成广泛共识：基本情绪、母子间的情感联结是所有哺乳动物乃至许多其他物种共有的特征。科学界对此的讨论实际上已经结束，但和许多其他问题一样，对科学家而言显而易见的事实，对普通民众、政客和市场而言仍远未成为共识。
四、应对全球性挑战的核心路径：个人觉醒与全球合作
主持人提出，如果认同赫拉利对各类问题的诊断，我们应当如何改变生活方式、规划未来？赫拉利指出这需要两个方向的努力：一是个人层面要在思维层面跑赢算法，通过冥想等方式投资于人类意识，这是个体需要承担的任务；二是政治层面要实现政治全球化，民族主义并非解决方案。主持人追问：当前国际政治显然正朝着非建设性的方向发展，如果政治领导人拒绝推动全球化，技术是否至少给了普通人采取行动的可能？如果当下有50亿通过技术连接的人，决定共同应对生态崩溃、动物虐待等问题，这是否能带来希望？这种重新定义的自由主义是否能号召民众行动起来？ 赫拉利首先澄清，全球思维与爱国主义并不矛盾：如果你认为爱国是照顾好本国同胞的安全与福祉，那么真正的爱国者今天应当是全球主义者——因为保护本国公民安全与繁荣的唯一途径是全球合作。将“民族主义”与“全球主义”对立起来是非常危险的，当今真正的爱国者必然也是全球主义者。 针对技术能否替代政治的问题，赫拉利表示对技术乌托邦式的设想持怀疑态度：过去20年的经验已经证明，1990年代关于互联网将连接全人类、推动政治变革的诸多乌托邦愿景完全落空，即便有局部成功案例，比如所谓的“推特脸书革命”确实能动员十万人聚集在开罗解放广场推翻穆巴拉克，但后续需要传统的政治力量填补权力真空，社交媒体平台无法完成这一任务，最终是穆斯林兄弟会和埃及军方这两个非常传统的组织争夺权力，导致革命走向失败。技术或许能助力一次大型示威甚至革命，但构建长期政治治理机制没有捷径可走。
五、历史维度下的乐观依据：人类应对挑战的潜力
主持人表示理解赫拉利的观点，但仍希望寻找希望所在。赫拉利从历史中给出两个乐观依据：一是第一次世界大战停战百年之际，如果百年前的欧洲民众看到当今欧洲的局势——尽管存在英国脱欧、民粹主义崛起等问题——会认为这是奇迹，回顾过去100年的欧洲历史，足以证明人类有能力应对重大挑战。二是20世纪50-60年代核武器带来的生存威胁，当时许多悲观者认为人类必然走向核毁灭，但冷战最终和平结束，我们没有迎来核末日。这说明当下的技术革命带来的挑战虽然严峻，但并非不可避免，人类同样有可能成功应对。
六、观众问答环节
1. 关于推演的线性性质
RUSI（英国皇家联合军种研究所，Royal United Services Institute）高级研究员乔纳森·伊亚尔提问：赫拉利的推演是否存在线性假设？他提到诺曼·安吉尔在第一次世界大战爆发4年前出版的《大错觉》曾预言经济相互依存下战争不可能发生，虽获诺贝尔奖但预言完全落空，询问赫拉利的推演是否足够稳健，是否考虑了线性推演完全失效的可能。 赫拉利回应：自己从不相信线性推演，也认为预测未来既不可能也无意义——如果未来是必然的，预测也无法改变结果，毫无意义。他的工作本质是绘制不同的可能性图景，以期轻微影响公众的选择，避免最坏结果发生。比如他提出人工智能可能淘汰大量岗位、制造“无用阶级”和极端不平等，这不是必然发生的预言，而是需要当下通过正确政策干预的危险可能性。至于战争风险，他既不认为新的全球战争不可避免，也不认为完全不可能：诺曼·安吉尔正确指出了全球战争对人类是巨大灾难，但人类往往会在个体和集体层面做出糟糕决策，比如第二次世界大战的发动国在战败后反而比战前更繁荣，完全没必要发动战争，却因错误判断经济前景而做出灾难性选择。
2. 关于教育、AI与社会责任分配
内维尔-琼斯女男爵提问：数字时代在一定程度上向普通民众开放了社会权力，民众的集体行动权重上升，如果教育水平提升，民众能否承担更多责任、做出更优决策，从而避免赫拉利描述的悲观场景？第四次工业革命是否会推动经济与政治权力向全社会多层级分散，而非集中于顶层？ 赫拉利回应：这一乐观场景存在两种可能：一是就业层面，AI革命确实会创造新岗位，但核心问题是所有失业者是否都能获得教育和再培训机会填补新岗位缺口。部分国家具备经济和社会资本完成全民再培训，抓住革命机遇，而部分国家可能因20世纪依赖廉价劳动力的发展路径在21世纪失效而彻底掉队，全球不平等可能比19世纪工业革命时期更极端。二是个人决策层面，理想状态下，持续追踪个人行为的AI系统可以更全面呈现个人能力、就业市场机会、培训难度等信息，帮助民众做出更理性的决策（比如大学专业选择）。但这首先取决于我们能否开发出符合伦理的AI系统，其次取决于民众是否具备教育水平和内在动机——当前的危险趋势是，很多人已经放弃自主检索信息的能力，盲目跟随算法，信息检索能力甚至不如20年前或50年前，若放任这种趋势，AI只会强化民众的惰性，而非赋权。
3. 关于AI与核威慑的未来
马尔科姆·托马斯提问：当前核威慑是跨越意识形态的普遍叙事，曾助力冷战时期维持和平，但AI决策支持系统可能改变这一格局：参考1983年电影《战争游戏》的设定，如果未来领导人越来越依赖机器决策，面对类似古巴导弹危机、1939年二战爆发的危机场景，是否反而会降低大规模战争爆发的概率？ 赫拉利回应：AI对核威慑的影响存在多种危险场景：第一，黑客技术和AI可能动摇核威慑体系的基础——当各方无法确定自己是否真正掌控核武器、也无法确定对方是否被黑客控制时（比如从俄罗斯发射向英国的导弹，可能是俄方发射，也可能是朝鲜黑客所为），核威慑的逻辑基础“相互确保摧毁”就会崩塌。第二，如果技术迭代速度过快，某一方可能获得“奇迹武器”，误以为自己能在核战争中获胜，或者担心对方在10-20年后获得压倒性优势、自己将彻底失去话语权而选择先发制人，这两种场景都会极大增加核战争风险。第三，AI还可能催生不同于全面核战争的极端危险攻击：比如无需宣战即可瘫痪一国关键系统，且攻击者身份难以追溯。相比冷战时期核威慑“只有两名玩家、每一步都清晰可控的超级理性棋局”，未来的场景将是“高度模糊、大量事件同时发生、无人能掌握全部信息”的混乱状态，这是非常悲观的前景。
4. 关于AI治理的优先路径与政治制度变革
克莱尔·哈贾杰提问：当前政客们关注的焦点仍是脱欧、移民等传统议题，AI被视为可以延后处理的次要问题，如果直接对政府提出建议，当下应当采取哪些行动？另外，AI是否可能推动政治制度的优化？比如当前西方民主制度存在缺陷，AI能否促成对政治流程的必要革新？ 赫拉利回应：关于治理路径，首要且最核心的步骤是建立信任：AI治理无法在单一国家层面完成，必须依靠强有力的国际合作，而国际合作的前提是建立国际信任。如果没有信任基础，即便各国都认同哪些AI该发展、哪些不该发展，也无法落地执行——最终会陷入“竞相突破底线”的囚徒困境：所有人都说不想发展危险AI，但无法信任对方不会先发展，所以自己必须先动手。关于政治制度的可能性：AI本身是中性技术，如果AI系统被用于赋权个体、监督政府反腐败，确实可以强化民主，形成新的民主形态。但我们必须意识到这一挑战的艰巨性，以及我们应对的时间非常有限。
5. 关于中美AI竞争
尼古拉·汤森提问：中美关系将如何发展？ 赫拉利回应：这是当前全球最危险的发展趋势之一：中美之间正在爆发AI领域的军备竞赛，三四年前几乎无人提及这一话题，如今竞赛已经全面展开。目前这一竞赛呈现出特殊形态：一方是政府，另一方是私营企业，美国政府此前对竞赛的感知度较低，如今也开始意识到问题的严重性。这种竞赛几乎必然导致最坏结果，虽然并非不可避免，理论上双方可以建立信任、开展合作，但当前的方向完全相反，情况正在持续恶化。这种竞赛并非自然规律，并非中美必然会发生冲突，但我们现在正走在错误的道路上。
6. 关于冥想与自我认知
有观众提问：赫拉利此前提到要“跑赢算法”就必须“认识你自己”，很多人疑惑每天花两小时冥想是否脱离现实，赫拉利认为这才是真正的现实，比刷推特、回邮件、看萌宠视频更贴近真实，希望他进一步阐述这一观点。 赫拉利回应：“认识你自己”是数千年来从苏格拉底、耶稣、佛陀到孔子等先哲反复传递的古老智慧，但历史上这一建议从未被广泛践行，因为过去人类没有真正的竞争对手：如果你不主动探索自我，对其他人来说你仍然是个“黑箱”，最多被亲友了解，但对整个社会而言你是未知的。但如今情况完全不同：当下各类企业、组织和政府正在利用技术“破解”你——所谓“破解”，就是比你更了解你自己，从而可以预测你的行为、操控你的选择，而你甚至不会意识到这一点。最容易操控的人，是那些坚信“我所有的选择都是自由意志的产物、没人能操控我”的人——这种对自由意志的盲目自信在过去没有危害，但在今天却非常危险，它会让我们停止对自我的探索。如果你真的相信自己的每个选择都是灵魂或精神的自由产物，且你完全了解自己，那你根本没有必要进一步探索内心。但事实上，我们对自身的认知极其有限：你脑海中突然冒出的想法、突然产生的欲望从何而来？为什么你会想这些、想要这些？这些想法本质上是生物机制、遗传机制和外部影响共同作用的结果。当你意识到这一点，就会开始对自我产生好奇。而冥想本质上就是系统性地观察内在的思绪、情绪和欲望，从而更真实地认知“我是谁”“这些想法从何而来”“它们真的是我的一部分，还是外部影响的结果”。他自己18年前在牛津大学读历史博士时开始冥想，最大的震撼是发现自己几乎完全不了解自己：比如明天有重要考试或演讲，你告诉自己“今晚要好好休息”，但各种担忧的思绪会自动涌上来，你根本无法让它停止——这和冥想的状态类似，只是冥想是更系统、更深入的观察：比如参加10天的冥想课程，期间你不需要做任何事，只是持续观察内在涌现的所有感受、思绪和情绪，对大多数人来说这都是第一次真正直面自己的内在现实。这种对自我的认知，比刷推特、回邮件、看YouTube上的萌宠视频更有趣、也更贴近真实。
七、闭幕致辞
主持人黑格总结：感谢赫拉利的精彩分享，感谢所有观众到场，抱歉无法回答所有问题，请大家稍候离场，随后将邀请赫拉利享用茶点。他表示，现场许多人都读过赫拉利的数百本著作、文章和博客，但他的作品依然能让我们思考全新的问题、获得新的启发，甚至重塑我们的大脑、引导我们深入探索自我，这种能够影响数百万人的成就值得致敬，感谢赫拉利来到RUSI分享。