AI 与人类进化 | 尤瓦尔·赫拉利
**日期：** 2025-06-21 **主讲人：** 尤瓦尔·赫拉利（Yuval Noah Harari）
---
一、引言：从中世纪历史到人工智能
**问：** 您曾是中东军事历史学家，专门研究中世纪军事史。您是否曾预料到自己会成为人工智能领域的顶尖专家，并探讨人类是否注定灭亡？
**赫拉利：** 我不是顶尖专家，但我确实没预料到会面对这样的受众谈论 AI。正如您所说，我原本是中世纪军事史专家，但中世纪在许多方面正在回归。
**问：** 您在著作中将人工智能称为“异种智能”（alien intelligence），视其为可能取代智人（Homo sapiens）的新物种。那么，当下“作为人类”意味着什么？
**赫拉利：** 意味着我们要意识到，人类历史上首次有了真正的竞争对手。数万年来，我们一直是地球上最聪明的物种，这也是我们如何从非洲角落微不足道的猿类，变成地球和生态系统的绝对统治者。而现在，我们正在创造某种东西，它可能在不久的将来与我们竞争。
---
二、人工智能的本质：智能体而非工具
关于 AI，最重要的一点是：它不是像以往所有人类发明那样的工具，它是一个**智能体（Agent）**。
智能体意味着它可以独立于我们做出决策，可以发明新想法，可以自行学习和改变。以往的人类发明，无论是印刷机还是原子弹，都是增强我们能力的工具。它们需要人类。印刷机不能自己写书，也不能决定印什么书；原子弹不能发明更强大的炸弹，也不能决定攻击目标。但 AI 武器可以自己决定攻击目标，并自行设计下一代武器。
这就是为什么我认为 AI 的发明可能比电报、印刷机甚至文字本身更为重大。在《联结》（*Nexus*）一书中，我将其比作一个**婴儿**，因为它从我们这里学习。因此，在座的各位，尤其是拥有权力的领导者，肩负着巨大的责任。因为 AI 将成为什么样，取决于我们如何行动。你不能指望自己撒谎和欺骗，却拥有仁慈的 AI。
---
三、对齐难题：行为模仿与人类责任
目前全球范围内关于"AI 对齐”（AI alignment）的讨论非常热烈。我们正在创造越来越超级智能、强大的新智能体。如何确保这些智能体与人类目标保持一致，造福人类？
许多研究和努力集中在这样一个想法上：如果我们以某种方式设计这些 AI，教给它们某些原则，将某些目标编码进去，我们就会安全。但这种方法有两个主要问题。
**第一，AI 的定义就是它能自行学习和改变。** 如果你有一台机器只能自动执行预编程指令，那它是一台咖啡机。它可以自动生产咖啡，但不能自行决定或发明任何东西。那不是 AI。因此，当你设计一个 AI 时，根据定义，它会做各种你无法预料的事情。如果你能预料到它的一切行为，那它根据定义就不是 AI。
**第二，更大的问题是，我们可以像对待孩子一样看待 AI。** 你可以尽最大努力教育孩子，但他们仍然会给你带来惊喜，无论是好是坏。无论你在教育上投入多少，他们是独立的智能体，最终可能会做一些让你惊讶甚至震惊的事情。
此外，任何懂教育的人都知道，在教育孩子时，你**做什么**远比**说什么**重要得多。如果你告诉孩子不要撒谎，但他们看着你向别人撒谎，他们会模仿你的行为，而不是你的指令。
现在，我们有一个巨大的项目来教育 AI 不要撒谎，但 AI 被赋予了访问世界的权限，它们观察人类的行为，看到地球上最有权势的人类，包括它们的“父母”，在撒谎。AI 会模仿这种行为。那些认为可以运营一家巨大的 AI 公司，一边自己撒谎，一边教 AI 不要撒谎的人，是行不通的。它会模仿你的行为。
---
四、人类困境：权力、智慧与真相
你们社会整体过于关注权力。这也是一个重要的区别。我说这是为什么我们作为人类，在很大程度上未能回答生命最大的问题。我们可以更高效，更富有，拥有更强大的军队，但许多人无法回答你书中写到的问题：**我们是谁？我们应该追求什么？什么是美好生活？**
本质上，我们在积累权力，而不是智慧。
这是人类历史的大问题。数千年来，我们非常擅长获取更多的权力。正是这样，我们才从东非微不足道的猿类变成了世界的统治者。我们可以飞向月球，可以分裂原子。但我们似乎并没有比石器时代更快乐。我们不知道如何将权力转化为幸福。你看地球上最有权势的人，他们似乎并不是最快乐的人。
我想澄清一点，我不认为权力与幸福之间存在矛盾。随着你获得更多权力，你并不一定会变得痛苦。它们可以共存，但并不必然共存。作为一个物种，我们在将权力转化为幸福，甚至转化为知识和智慧方面，并不特别擅长。
我们倾向于混淆**智能**与**知识**和**真相**。我们是地球上最聪明的物种，但也是最妄想、最具破坏性和自我毁灭性的物种。人们相信的事情，地球上没有其他动物会相信。比如，你不会找到任何动物相信，如果你去杀害同类的其他成员，死后会因进入天堂而得到奖励。没有黑猩猩、马或狼会相信这一点。但数百万人相信，而且相信得如此强烈，以至于他们真的去杀人，期望因此在天堂得到奖励。
这里有一个巨大的混淆：**信息**与**真相**。信息是真实的，你获取信息是为了了解真相。但通常，真相只是宇宙中所有信息的极小一部分。大多数信息并不是真相。
---
五、变革的时间尺度与具体领域
**问：** 我们今早做了一个有趣的调查，询问在座的领导者 AI 目前对他们的业务有多大的影响。实际上，只有一小部分人说“显著”，大多数是“中等”或“完全没有”。如果我们假设三年后坐在这里，有没有可能 AI 对他们的业务没有显著影响？
**赫拉利：** 这取决于他们的业务。但在大多数领域，问题在于**时间尺度**。我与许多领导 AI 革命的人交谈过，其中许多人说，我们已经处于 AI 革命的中途，但我们还没有看到任何真正重大的事情。这只是历史学家看待时间与 CEO 和企业家看待时间的区别。对于企业家来说，两年是很长的时间；对于历史学家来说，这什么都不是。
想象一下，我们现在坐在伦敦，年份是 1835 年。第一条铁路在 5 年前于曼彻斯特和利物浦之间开通。我们在伦敦举行会议，人们说：“关于铁路改变世界、工业革命的所有谈论都是 nonsense（胡说）。我们有铁路已经很久了，五年了。看看，确实有一些变化，人们坐火车旅行，移动更容易了。但没什么大事发生。”
这是因为技术发明与实际社会和政治后果之间有一个**时间滞后**。我们现在知道，工业革命和火车彻底改变了地缘政治、战争方式、经济和家庭结构，但这花了超过五年的时间。同样的事情很可能发生在 AI 上。
在所有领域，从明显的到不明显的，我认为我们将看到重大变化的第一个领域是**金融**。AI 将很快接管金融系统。金融是 AI 的理想游乐场。它纯粹是信息领域。如果你想让 AI 自动驾驶汽车上路，这被承诺了无数次，但我们还没做到。问题在于，对于驾驶，你需要处理混乱的物理世界，行人、路面坑洼等等。但在金融中，只有信息输入和信息输出。AI 更容易掌握这一点。
一旦 AI 开始发明人类大脑根本无法处理的新型金融工具，因为它们在数学上太复杂了，会发生什么？
我们还将看到 AI 改变像**宗教**这样的东西。至少对于那些基于文本的宗教，如犹太教、伊斯兰教、基督教，它们将最高权威赋予文本，而不是任何人类。直到今天，人类仍然是这些宗教中的主要权威，因为文本不能说话。圣经不能解释自己，不能回答你的问题。所以你需要一个人类作为中介。
当有一个能自己说话的 AI 文本时会发生什么？没有犹太教拉比能知道犹太教的所有文本，因为太多了。有史以来第一次，地球上有一种东西能够记住过去 2000 年里每一位拉比写作的每一个字，并回应你，解释和捍卫它的观点。
我有朋友正在致力于构建宗教 AI，旨在增强或取代人类宗教领袖，尤其是在基于文本的宗教中。如果宗教不是基于文本的，它不赋予文本权威，那是另一回事。
**问：** 当我经历困难时期时，我会去教堂找牧师交谈。我永远不会那样跟 ChatGPT 交谈。
**赫拉利：** 这是个人选择。但我知道已经有数百万人这样做了。我知道有人现在找 AI 进行心理咨询。对某些人来说，AI 是他们最好的朋友。比如青少年，学校里发生了什么事，他们咨询 AI，告诉 AI 发生了什么，询问关于关系的建议。
---
六、无用阶级与技术军备竞赛
**问：** 您写了很多关于“无用阶级”（useless class）的担忧。五六年前，我在俄克拉荷马州采访谷歌 CEO 桑达尔·皮查伊（Sundar Pichai）时，他基本上告诉我，如果 AI 证明对美国太多工作具有“非常颠覆性”，他们愿意放慢速度。如果我们正走向您所说的潜在无用阶级，许多是白领工作，我们社会如何确保不仅生存，而且繁荣？
**赫拉利：** 我想强调，AI 既有巨大的积极潜力，也有危险的潜力。我不相信历史或技术决定论。你可以使用相同的技术创造完全不同的社会。我们在 20 世纪看到了这一点，使用完全相同的技术建立了共产主义极权政权和自由民主制度。AI 也是如此。我们有很多选择。
前提是我们要记住，我们首次面对的是智能体，而不是工具。这使得事情复杂得多，但我们仍然掌握着大部分主动权。问题在于我们如何发展技术，更重要的是，我们如何部署它。我们有很多选择。我们有权力决定如何使用它并度过这一过程。
主要问题是，现在领导 AI 革命的公司和国家已经陷入了**军备竞赛**的局面。即使他们知道放慢速度、更多投资安全、小心某些潜在发展会更好，他们总是担心，如果我们放慢速度而他们不放慢，他们就会接管世界。
---
七、信任危机与数字移民
**问：** 我们如何获得一个未来，让人们更满足、更快乐，并在世界变化的困难中找到更多目标？
**赫拉利：** 这是一个很大的主题。我只来得及谈一件事。最重要的是，我们需要解决我们人类自己的问题，而不是依赖 AI 来为我们解决。关键问题是**信任与合作**的问题。
目前，信任在全球范围内崩溃，无论是国家之间还是社会内部。人们希望：“好吧，人类不再能互相信任。国际体系、贸易体系等都在崩溃，但 AI 会拯救我们。”不，它不会。在一个人类彼此激烈竞争、无法互相信任的世界里，由这样一个世界产生的 AI 将是残酷、竞争性强、不可信的 AI。
人类在参与这种激烈竞争时，不可能创造出仁慈、可信的 AI。这不会发生。所以，如果你想想，这只是优先顺序的问题。我们现在有这个巨大的人类信任问题，还有如何发展 AI 的问题。太多人认为：“好吧，让我们先解决如何发展 AI 的问题，然后这将解决人类信任问题。”这行不通。我们需要把优先顺序反过来。**先解决人类信任问题，然后我们可以共同创造仁慈的 AI。** 当然，这不是现在世界上正在发生的事情。
**问：** 在人类历史中，有组织原则，比如宗教和教会。但当我们谈论 AI 时，我们不是在谈论单一的东西。没有“那个 AI"，这将是多个 AI 的体现。在这种背景下，当你描述 AI 在某种程度上取代宗教时，真正的疑问是：当你没有单一的组织原则，没有带有某种意图（无论是仁慈还是其他）开发的“那个 AI"，而是所有这些相互竞争的 AI 快速进化时，那个世界是什么样子的？
**赫拉利：** 这是一个非常重要的观点。AI 不会是一个巨大的 AI。我们谈论的是潜在数百万或数十亿个新的 AI 智能体，具有不同的特征，由不同的公司、不同的国家生产，遍布各地，在军事、金融系统、宗教系统中。
你会有很多宗教 AI 相互竞争。哪个 AI 将成为哪个犹太教流派的权威 AI 拉比？伊斯兰教、印度教、佛教也是如此。所以在宗教领域会有竞争，在金融系统中也是如此。我们完全不知道结果会是什么。
我们在人类社会方面有数千年的经验。当数百万人类竞争经济权力、宗教权威时会发生什么？这很复杂，但我们至少有一些经验了解这些事情如何发展。我们对**AI 社会**中数百万 AI 相互竞争时会发生什么，**零经验**。我们不知道。
这不是你可以在 AI 实验室里模拟的东西。如果 OpenAI 想检查其最新 AI 模型的安全性或潜在结果，它无法在实验室里模拟历史。它可以检查系统中的各种故障，但它无法预先知道，当数百万个这些 AI 的副本在外部大世界中以无法预料的方式发展，彼此互动并与数十亿人类互动时会发生什么。
所以在某种程度上，这是人类历史上最大的社会实验。我们都是其中的一部分，没有人知道它将如何发展。
我想到了一个类比。我们现在在美国、欧洲等地有移民危机。许多人担心移民。人们担心移民主要有三点：他们会抢走工作；他们带来不同的文化观念，会改变我们的文化；他们可能有政治议程，试图在政治上接管国家。
现在，你可以将 AI 革命简单地视为一波**数百万和数十亿 AI 移民**的浪潮。他们会抢走人们的工作，拥有非常不同的文化观念，并可能试图获得某种政治权力。
这些 AI 移民，这些数字移民，不需要签证。他们不需要在深夜乘坐破船渡海。他们以**光速**到来。
我看欧洲极右翼政党，他们谈论人类移民很多，有时有理由，有时没有理由。他们几乎不谈涌入欧洲的数字移民浪潮。我认为，如果他们关心国家的主权，关心国家的经济和文化未来，他们应该比担心人类移民更担心数字移民。
谢谢大家。