超越边界：在创新时代重新定义人性
**演讲者：尤瓦尔·赫拉利（Yuval Noah Harari）** **日期：2025 年 11 月 26 日**
---
一、引言：塑造未来的力量
今天我想与大家探讨的核心问题是：我们究竟拥有怎样的力量来塑造世界、塑造未来？这既关乎在座各位作为领导者和创新者的力量，也关乎整个人类物种的力量。
我们面临的一个根本性问题是：人工智能（AI）究竟是在剥夺人类掌控未来的能力，还是在赋予人类前所未有的力量？更进一步，在 AI 时代，我们还能谈论"单一的人类"吗？还是说，人类正在分裂成不同的群体，各自走向截然不同的未来？
在讨论 AI 之前，我们必须先谈谈政治。
---
二、政治秩序的崩塌与"堡垒世界"
21 世纪初相对稳定的自由主义秩序正在瓦解。取而代之的是一个超级竞争、混乱无序的世界——在这个世界里，唯一重要的事情就是赤裸裸的武力。
以特朗普总统为代表的领导人将世界想象为一座座堡垒的集合：每个国家都被高墙与其他国家隔离开来——金融之墙（如关税）、军事之墙、文化之墙，以及物理之墙。
这种愿景或许有其优势，但它回避了一个关键问题：堡垒之间很少是友好的。数千年的历史告诉我们，每个国家堡垒都会希望以邻国为代价，为自己争取更多的安全、繁荣和领土。而在缺乏普世价值、全球机构和国际法的条件下，敌对的堡垒之间如何解决争端？
数千年来，将世界视为堡垒集合的愿景，总是导向同一个结果：永无止境的战争循环——强大的帝国征服较弱的邻国，最终彼此争夺霸权。
这一切正在我们身边发生。自 1945 年以来被视为禁忌的征服战争正在卷土重来。俄罗斯在试图征服乌克兰、重建俄罗斯帝国的过程中，已承受了百万伤亡。特朗普政府已明确表达了对格陵兰、巴拿马甚至加拿大的帝国野心，并似乎支持以色列对加沙的征服。中国也在谋求海外扩张。
旧秩序的崩塌令人恐惧，但同时也是塑造更好秩序的机会。关键问题是：谁来塑造？在旧有的自由主义秩序中，理想是所有人都能成为塑造者——无论你来自美国还是巴西，是白人还是黑人，是男性还是女性，是异性恋还是同性恋，你拥有平等的人类尊严，你的观点和利益至少在理论上被重视。
当然，这一自由主义理想从未完全实现。理想不等于现实。但自由主义世界相较于历史上的其他模式，已是巨大的进步。
而在新的后自由主义混乱世界中，平等人类尊严的理想被彻底、公开地抛弃了。取而代之的口号是"我优先"和"强权即公理"。少数几个国家的少数有权势者认为，他们有权为所有人塑造世界。
回想今年早些时候特朗普总统与泽连斯基总统在白宫的会面：每当泽连斯基谈到正义、和平或国家领土主权时，特朗普总统就会打断他说："你没有筹码。你没有筹码。"
当我们在此聚首探讨人类未来时，有两个问题值得在座各位深思：
**第一，你有筹码吗？** 圣保罗有筹码吗？还是说，所有的筹码都掌握在华盛顿、北京和莫斯科的特朗普、马斯克、习近平和普京手中？
**第二，你愿意生活在一个只有筹码才重要的世界里吗？** 人生最终只是一场有输有赢的牌局吗？
---
三、什么是 AI：从自动化到自主性
我本可以在 1939 年、1914 年或人类历史上无数其他危机时刻发表同样的演讲。但这一次，情况真正不同了。因为当我们追问"谁将塑造 21 世纪的新世界"时，我们不仅要考虑人类塑造者——历史上首次，地球上出现了非人类的塑造者：AI。
我们可能距离这样一个时刻仅几年之遥：一个算法会告诉所有人类，包括特朗普和普京——"你们没有筹码。"
进入 AI 时代，我想简要探讨三个问题：什么是 AI？AI 的威胁是什么？作为商业领袖、企业家和创新者，你们如何帮助人类在 AI 时代不仅生存，而且繁荣？
AI 不是自动化，而是自主性
"AI"这个词被过度炒作，以至于几乎被不准确应用于任何机器，让人难以理解其真正含义。我必须非常明确地指出：**AI 不等于自动化。AI 意味着自主性（agency）。**
AI 不是我们手中的工具。AI 是一个独立的行动者，能够自主行动、学习和改变。要成为 AI，机器仅仅能够独立、自动地行动是不够的——它还必须具备自主学习和改变的能力，自主决策的能力，以及自主创造新想法的能力。
举个简单的例子：一台咖啡机。如果你按下按钮，机器按照预设程序自动为你制作一杯意式浓缩咖啡，这不是 AI。机器没有自主学习或创造任何东西。
但假设当你走近机器时，在你按下任何按钮之前，机器就对你说："我已经观察你几周了。基于我对你的一切了解，以及你此刻的面部表情，我预测你想要一杯双份意式浓缩，加一勺糖。所以，我已经为你做好了。请拿去吧。"——这才是 AI。它自主学习了，自主决策了。
如果第二天，机器宣布："我现在发明了一种新饮品，我叫它'最佳意式浓缩'，我认为你会比意式浓缩更喜欢它。来，尝尝看。"——这才是真正的 AI。
AI 是"异质智能"
对 AI 的混淆部分源于这个术语本身。"AI"是"人工智能"（Artificial Intelligence）的缩写，几十年前被创造出来。但将 AI 理解为"人工"智能是不准确的——如果"人工"意味着完全由人类设计和控制。AI 在这个意义上并非"人工"的。
或许更好的理解是：将 AI 视为"异质智能"（Alien Intelligence）的缩写。"异质"不是指来自外太空，而是指这是一种非人类的智能——甚至不是有机智能。它运行在完全不同的无机逻辑之上。因此，它能够做出人类或任何其他有机动物永远想不到的决策，创造出人类永远想不到的想法。
2016 年，AI"阿尔法狗"（AlphaGo）击败人类围棋冠军李世石，就是一个著名例证。这场比赛之所以闻名，不仅因为阿尔法狗击败了人类冠军，更因为它击败李世石的方式震惊了世界——为了获胜，阿尔法狗发明了全新的围棋策略，这些策略在围棋数千年的历史中，从未出现在任何人类棋手的脑海中。
只要 AI 发明的是新的游戏策略或新的咖啡种类，似乎无关紧要。但很快，AI 将发明新的军事战略、新的货币形式，甚至全新的意识形态和宗教。
---
四、AI 对金融与宗教的颠覆
金融：超越人类理解的复杂系统
回想 2007-2008 年金融危机，你可能记得它很大程度上是由一种叫做"担保债务凭证"（CDOs）的金融工具引发或加剧的。CDOs 是由少数数学家和投资奇才发明的金融装置，其复杂程度几乎让大多数人类——包括政治家和监管者——无法理解。这导致了监管失效和全球性灾难。
现在，如果我们允许甚至鼓励 AI 发明比 CDOs 复杂数个数量级、且对任何人类都完全不可理解的金融工具，会发生什么？这样的工具可能极大提高金融效率、促进经济增长，甚至成为全球金融体系的基石。
但当没有任何选民或政治家能够理解和监管金融时，人类政治会怎样？如果经过几年的空前繁荣后，金融体系突然崩溃，而地球上没有一个人能够理解正在发生什么，又会怎样？
宗教：当经文开始"说话"
以基督教、伊斯兰教和犹太教等基于经文的宗教为例。数千年来，犹太教将最高权威赋予经文——《圣经》和《塔木德》——而非人类。然而，有血有肉的拉比在犹太社会中拥有巨大权力，原因很简单：神圣经文无法自己说话，它们是沉默的。每当你对经文有疑问，就需要人类解释者。拉比是熟悉从《圣经》到《塔木德》最新注释等众多犹太文本的人类，这是他们权威的来源。
经过数个世纪，犹太文本已多到连最有学问的拉比也无法在一生中读完，更不用说记住所有内容。但 AI 可以轻松完成这件事。AI 可以快速阅读所有已创作的犹太文本，记住每部文本中的每一个字，并发现人类至今未曾注意到的文本模式。AI 因此可以利用其前所未有的经文理解和知识，产生对神圣话语的全新解释。这对基督教和伊斯兰教同样适用。
实际上，AI 可以开始充当一种"会回话的神圣经文"，无需任何人类中介，直接与信徒对话。
当经文开始说话时，基于经文的宗教会怎样？由于犹太教将权威赋予经文，有血有肉的拉比不能简单地忽视 AI 的经文论证。人类拉比将很快发现，很难与 AI 对犹太经典的掌握相竞争。即使 AI 不被授予正式的拉比地位，也很可能至少有一些人——包括一些拉比——会转向 AI 拉比寻求经文指导和灵感。
结果可能是古老宗教中出现令人惊讶的新发展，甚至是全新宗教的诞生。
---
五、AI 的威胁：信任悖论
这类发展具有巨大的积极潜力——从发明新药到防止灾难性气候变化，AI 可以在无数方面帮助人类。但 AI 也带来许多威胁。
基本问题：AI 是异质的，因此不可预测、不可信任
AI 的基本问题不是它邪恶，而是它是异质的——因此不可预测、不可信任。
在 AI 竞赛的核心，存在一个**信任悖论**。人类难以相互信任，尤其是在世界正变成一座座敌对堡垒的时候。但开发 AI 的人们却 somehow 相信我们应该、能够信任 AI。
当我会见领导 AI 革命的人时，通常会问他们两个问题。
**第一个问题：** 既然风险如此巨大，为什么你们推进得这么快？
几乎所有人的回答都一样："我们同意。我们知道存在巨大危险，最好更谨慎地推进。但是，如果我们放慢脚步，而其他公司或其他国家的竞争对手不放慢，他们就会赢得 AI 竞赛，世界将被最无情的人主导。我们无法信任人类竞争对手。所以我们必须尽可能快地推进。"
**第二个问题：** 你认为你能信任你们正在开发的超级智能 AI 吗？
而刚刚告诉我无法信任人类竞争对手的同一群人，突然向我保证他们能够信任超级智能 AI。
这是一个巨大的悖论。我们对人类有数千年的经验——我们广泛理解人类心理学和生物学，理解人类对权力的渴望、人类获取权力的手段，以及制约人类追求权力的力量。我们在建立人类之间的信任方面也取得了相当进展。10 万年前，人们生活在只有几十人的小群体中，无法信任群体之外的任何人。今天，巴西这样的国家有数亿公民，还有更大的合作网络，将全球 80 亿人类联系起来。完全陌生的人种植我们吃的食物，发明和开发保持我们健康的药物。
当然，我们远未完全解决人类信任问题，世界上仍有大量紧张、冲突和战争。但至少，对于人类，我们理解所面临的挑战。
相比之下，我们对超级智能 AI 几乎没有经验。我们刚刚创造出最初的原型。我们已经知道，即使是原始的 AI 也会撒谎、操纵，并采用其人类开发者未曾预见到的目标和策略。我们完全不知道，当数百万超级智能 AI 与数百万人类互动时会发生什么。更难预测的是，当数百万超级智能 AI 彼此互动、形成 AI 社会、AI 部落时会发生什么——它们会发展出什么样的目标？会发明什么样的手段？
企业：非人类行动者的先例
目前，是人类开发 AI，因此我们可以尝试以使其对人类安全的方式设计它们。但请记住：机器只有在其能够自主学习和改变、自主决策、自主创造新想法时，才算是 AI。所以，无论人类最初如何设计它们，AI 都可以以根本性和不可预测的方式改变。
简单地信任这些超级智能的异质智能将永远保持为我们顺从的仆人，是一场巨大的赌博。那些对人类绝望、却认为可以信任这些异质智能的人，可能正在犯一个非常大的错误。
有时人们难以理解 AI 如何可能逃脱人类控制。受科幻作品的影响，当我们谈到 AI 逃脱控制时，人们倾向于想象杀手机器人在街头奔跑、射击人类的场景。虽然类似的事情确实已在乌克兰和加沙等地发生，但这仍然是错误的想象。
如果你想理解 AI 如何可能逃脱我们的控制，不要想杀手机器人——**想企业公司**。
像微软、SpaceX 或巴西石油这样的公司是什么？它们是非人类行动者。虽然它们没有身体或心智，但这些公司可以开设银行账户、雇佣和解雇员工、游说政治家，以及做许多其他事情。
过去，这种企业自主性只是一种法律虚构——律师的幻想。因为在实践中，微软或巴西石油所做的每一个决定，实际上都是由某个具体的人类做出的——人类高管、人类股东、人类工程师。
但有了 AI，企业决策将越来越多地由非人类智能、非人类行动者做出。想象一家没有人类高管、没有人类股东，只有 AI 高管和 AI 股东的公司。这家公司可以赚取数十亿美元，重塑世界。
一个已经在 2025 年成为现实的问题是：作为社会，我们是否允许这样的事情？我们是否允许 AI 开设银行账户、管理公司、交易和投资、雇佣人员、游说政治家？
---
六、人类如何在 AI 时代繁荣：两条历史教训
教训一：权力不等于幸福
人类在获取权力方面极其擅长，但迄今为止，我们尚未成功地将权力转化为幸福。这就是为什么今天我们的力量比石器时代强数千倍，但人类并没有幸福数千倍。这也是为什么世界上最有权势的人——特朗普、马斯克、习近平和普京——绝对不是世界上最幸福的人。
教训二：智能不等于智慧
人类是地球上最聪明的动物，同时也是最自欺的动物。没有其他动物会相信人类所相信的那种荒谬。
例如，我的家乡中东地区正在一场可怕的战争中燃烧，这场战争部分由你能想象的最荒谬的幻想所驱动。冲突各方的人类都严肃地相信，宇宙的创造者命令他们去战斗和杀戮其他人类。他们也严肃地相信，宇宙的创造者将用天堂中永恒的欢乐和幸福来奖励他们的暴力。没有一只黑猩猩会相信这种荒谬。但许多高智商的人类相信了。
所以，**权力不等于幸福，智能不等于智慧**。AI 将比我们更强大、更聪明。但 AI 的力量并不意味着它会带来幸福。AI 的智能也不意味着 AI 将免于自欺。事实上，超级智能很可能就是超级自欺。
因此，商业领袖和创新者面临的最大挑战不是如何创造更强大、更智能的技术，而是**如何发展运用所有这些力量和智能服务于善的智慧**。
---
七、结语：重建信任，共同塑造未来
如何做到？答案很简单：
**在开发超级智能 AI 之前，先在人类之间建立更多的信任。**
你知道为什么地球仍然由人类统治，而不是由黑猩猩统治吗？不是因为人类比黑猩猩更聪明。人类统治世界，是因为我们比任何其他动物都更懂得如何与陌生人建立信任、如何在极大数量上合作。我们花了数千年发展这种能力。
不幸的是，就在我们比以往任何时候都更需要人类信任的时候，我们许多最有权势的领导人正忙于摧毁这种信任。他们不是在加强所有人类之间的联系，而是在人类之间筑墙。
如果人类分裂，AI 将逃脱我们的控制，奴役甚至消灭我们。另一方面，如果人类合作，我们可以共同以安全、负责任的方式开发 AI 和其他技术。
**将 AI 视为人类的共同孩子。** 当我们教育孩子时，我们知道孩子从我们的行为中学习，而不是从我们的言语中学习。如果你告诉孩子"不要撒谎"，然后孩子观察到你在撒谎，孩子也会撒谎。同样，如果你是一位开发超级智能 AI 的科技巨头，你告诉 AI"不要撒谎"，然后 AI 观察到你在撒谎，AI 也会撒谎。如果你告诉 AI"要对人慈悲"，但 AI 观察到你在无情地追求权力，AI 也会成长为无情地追求权力、毫无慈悲。
这就是为什么我们必须先解决人类信任问题，然后再开发超级智能 AI。如果 AI 是由慈悲、可信任的人类以合作的方式开发的，那么 AI 也更有可能成长为合作、慈悲和可信任的。
在座各位都有角色可以扮演。你们是领导者和创新者。在世界政治日益混乱的背景下，商业领袖和科技创新者仍然拥有相当大的力量来塑造世界。
**请运用你们的力量，在人类之间建立信任。运用你们的力量，建立一个不仅仅是无情军阀之间牌局的世界。建立一个每个人的尊严仍然被重视的世界。**
谢谢大家。