尤瓦尔·赫拉利谈人工智能、未来科技、社会与全球金融
**日期：** 2024 年 6 月 26 日 **嘉宾：** 尤瓦尔·赫拉利（Yuval Noah Harari）
---
一、金融系统的本质与 AI 带来的理解危机
**主持人：** 在本次峰会上，我们讨论了人工智能的发展方向，以及金融机构和中央银行计划如何利用 AI，同时也探讨了如何管理由此产生的风险。我希望我们能跳出 AI 和金融的狭义范畴，从更广阔的社会视角来思考机遇与威胁。
我听说您曾表示，目前全球金融系统的监管尝试，实际上并未达到让人类能够理解的水平。鉴于此，加上 AI 带来的复杂性，金融系统似乎不会变得更容易理解。如果我们认为事态会如此发展，您认为监管者和监督者应如何看待当前复杂金融行业中 AI 的角色？
**赫拉利：** 这是一个非常重要的问题。我们需要理解的是，目前真正理解金融系统运作方式的人口比例可能只有 1%。如果这个数字降至零——即没有任何人，无论是总统、总理还是央行官员，能再理解金融，因为 AI 使其变得过于复杂——这可能导致一种我们从未遭遇过的政治和社会危机。权力可能会从人类转移到算法，转移到其他形式的人工智能。
首先，我们需要明确金融是什么。农民种植食物，工人生产纺织品，那么金融系统做什么？它创造信任。金融系统最终的产品是信任。例如，货币是一种在数百万陌生人之间创造即时信任的机制。我走进一家商店，遇到一个从未见过的陌生人，我给他一张纸，他给我食物。债券、股票等金融工具，历史上人们发明了无数种金融装置，但它们的核心功能都是在数百万人之间建立信任，以便共享资源、知识和工作，朝着共同目标努力。
直到今天，唯一能理解货币、债券或股票等金融工具，并能发明新金融工具与人类互动的实体，只有人类。马不理解货币，我们曾用钱买卖马，但马无法理解，因此它们无法联合起来。然而，AI 是我们创造的第一个能比人类更好理解金融的工具。因为金融本质上是数据和信息，输入信息，输出信息。洗碗需要 AI 在物理世界行动，这很难，但理解金融只需处理信息。
危险在于，一方面，在恶意行为者手中，AI 可能破坏人与人之间的信任；另一方面，主要的信任可能将存在于不同的 AI 系统之间。想象一下，当世界上大部分金融活动由 AI 完成，人类失去了理解大部分金融系统的能力，因为这对我们的大脑来说太复杂了。此时若发生金融危机，没有任何政治家能理解发生了什么，我们必须依赖 AI 告诉我们危机是什么以及解决方案是什么。
其政治影响是危险的，最明显的是，这将把世界和政治中非常重要的一部分控制权，交给一种我们无法监管和监督的非人类智能。
**主持人：** 这是一个令人清醒的信息。我们可以说，也许只有 1% 的人理解金融系统，但大多数人愿意登上飞机，尽管对飞机如何运作只有模糊的了解，但我们信任那些彼此甚至不认识的人，相信他们会安全地将我们从 A 点带到 B 点。但从您的话中听来，如果这最后的 1% 降至零，我们就大祸临头了。
从您的观点中可以提炼出一个口号：“没有进一步的信任，就没有进一步的 AI"。我们或许处于一个幸运的局面，即我们正处于探索 AI 的早期阶段。您曾警告，如果不加小心，未来的决策者可能会沦为傀儡，真正的决策者只是算法。但如果未来并非注定如此，我们可以决定去向何方。您认为我们现在需要做什么，以确保我们不会陷入这种境地？
**赫拉利：** 我们需要防止 AI 变得完全不可理解。如果我们赋予它关于人类、关于人类社会的决策权，我们需要有能力理解它并监管它。这是至关重要的条件。1% 的人类理解某事与 0% 的人类理解某事，这是巨大的差别。
您关于飞机的例子很完美。是的，这就是为什么我们有专家。我们信任许多领域的专家，无论是飞机、医学还是金融。我们不需要每个人都理解一切，这实际上是不可能的。但回想一下 2007-2008 年的金融危机，它始于对新金融工具、新金融装置监管的失败。那些被称为 CDO（担保债务凭证）的工具，由一些非常聪明的人发明，但几乎没人理解，因此出现了监管漏洞。
想象一下，也许十年后，AI 创造了一种新的金融装置，其复杂程度比 CDO 高出几个数量级。你需要处理数万亿的数据点才能理解这个金融装置，我们做不到，但 AI 可以。起初几年，它运作完美，产生大量信任，带来经济增长和利润。然后出了问题，没人知道为什么。我们可以问 AI 发生了什么以及该怎么办，但这非常危险。即使它给出了好建议，也会引发一个问题：公众是否会继续信任政治系统？你投票选出政治家，指望他们做决策，但他们不再能理解发生了什么。
我们正处于公众对专家、政治家和民主机构失去信任的局面中。这可能会加剧普通公众与所谓专家和政治家之间的信任危机。
---
二、历史视角：技术转型期的危险实验
**主持人：** 回到您作为杰出历史学家的本职工作。我理解人工智能周围存在风险，这可能是世界面临的最大转型。但作为历史学家，您知道这不是我们见过的第一次大转型。工业革命、通用技术的出现、现代民主的诞生，都是颠覆性的变革，加上几次革命和战争，都是严重的震荡。我想问的是，我们能从过去学到什么，以避免陷入您所警告的那种境地？
**赫拉利：** 是的，我认为人类极具适应性。我们发明的任何东西都有负面和正面的潜力。你发明一把刀，可以用来杀人，也可以在手术中救人，或者切沙拉。总是同时存在这两种潜力。随着时间的推移，人类学会了危险，并理解如何以最佳方式运用新技术或新结构。
问题在于转型期，问题在于路径。即使最终我们做对了，但在通往那里的路上，我们往往必须经历危险和失败的实验。以工业革命为例，当机器在 18 世纪和 19 世纪开始改变经济和社会时，有很多关于机器将做什么的末日预言。从 2024 年回望，我们可以说，最终我们或多或少做对了。我们学会了如何使用蒸汽机、电力和火车，以建立比 18 世纪更繁荣、甚至更和平的社会。
但大问题在于途中的失败实验。例如，现代帝国主义是一个关于如何建立工业社会的巨大失败实验。19 世纪有很多人认为，建立有效工业社会的唯一方式是建立帝国。因为与以前大致自给自足的农业社会不同，工业社会需要大量的原材料和全球市场，而做到这一点的唯一方式是建立帝国。因此，帝国主义及其数百万受害者，实际上是关于如何建立工业社会的一个失败实验。
共产主义是另一个关于如何建立工业社会的失败实验。20 世纪 20 年代、30 年代甚至更晚，很多人认为建立工业社会的最佳方式是苏联所做的那样。花了数十年和数千万受害者，才意识到不，这不是使用电力、蒸汽机和火车的最佳方式。纳粹主义是建立工业社会的另一个失败实验。
如果我们需要经历帝国主义、极权主义和世界大战这样的失败实验，才能学会如何最好地使用电力、内燃机和火车，那么当我们在 21 世纪必须学习如何使用强大得多的技术时会发生什么？AI 再次潜在地比我们在工业革命中看到的任何东西都要强大几个数量级。因为 AI 是历史上第一个能自己做决策、能自己创造新想法的工具。蒸汽机不能决定如何使用自己，我们决定用它做什么。即使是原子弹也不能创造新想法，但 AI 可以自己做决策。这就是 AI 的定义：一种能学习我们不知道的东西、能独立做决策、能创造人类从未想过的全新想法的机器。
学会以好的方式使用这些工具，可能比学会使用蒸汽机更复杂。我们可以说最终会没事，我们会做对。但作为历史学家，我关心的是过程，而不是最终结果。如果我们必须经历另一轮基于 AI 的帝国、极权政权和世界大战，那将是坏消息。
**主持人：** 听起来像是，为了看到一线希望，我们会在做对之前尝试所有其他方法：帝国主义、共产主义、纳粹主义。也许更积极的看法是，我们和我们的子孙后代将拥有他们当时没有的知识。所以，让我们希望我们能快进通过那个时期，或者完全避免它。我认为做到这一点的方法之一是警惕风险。技术很棒，但用错了方式可能非常危险。
我认为观众中有些人可能不同意 AI 必然接管决策权的观点，但它肯定会影响决策。我们讨论过货币政策决策是否可以自动化，答案是肯定的。但作为人类，我们总是想要有人负责，或者有人可以责怪。这是我们人类深层的特征，最终我们希望彼此互动，而不是与机器互动。机器很有用，但我们仍然足够人性化，希望最终彼此互动。
鉴于您对 15 年前金融危机成因的看法，我想尝试问这个问题。国际清算银行的使命是通过国际合作支持中央银行，追求货币和金融稳定。我个人认为，中央银行的美妙之处在于，它们不像公共部门的许多其他部分那样依赖短期政治决策。如果中央银行运作良好且拥有有效的授权，它们实际上可以采取更长远的视角。您认为中央银行能否在推动国际合作方面发挥作用，确保 AI 被谨慎使用，让中央银行界展示良好实践？
**赫拉利：** 绝对可以。如果注定失败，就没有必要进行这场对话了，这让人欣慰。历史从来不是决定论的，我们总是有选择。同样的技术总是可以用不同的方式使用。回顾 20 世纪，你看工业技术，它被用来创造极权政权，也被用来创造自由民主。看看今天的朝鲜和韩国，它们拥有完全相同的技术，但使用方式截然不同。
如何确保我们明智地使用技术？我不会信任某个技术小玩意替我们做这件事。我们需要人类在环（humans in the loop）。但我也不会信任任何个人天才或魅力领袖。我们在历史中反复看到的解决方案是制度。我知道人们常觉得制度复杂且官僚，但这是人类设法想出的最好的东西。我们需要建立好的制度。这是唯一能真正保护我们免受 AI 及其他技术最危险潜在危害的东西。
对于银行在思考 AI 监管时，我认为有两点非常重要。首先，确保 AI 保持可问责和可理解。如果我们达到一个无法再理解它的点，那么在民主社会中，这实际上是民主的终结。如果民主公众无法再理解并对金融决策负责，这是政治中非常重要的一部分，关乎金融、关乎经济。当然，我们需要依赖技术来帮助我们理解 AI，但我们需要保持人类在环。为此，我们需要建立良好的人类制度。
另一点是保持对信任问题的关注。回到我们开始时说的，货币真的是信任。货币不是由黄金、白银或纸张制成的，货币是人与人之间的信任。这是金融系统的目标。因此，当监管金融系统时，关键问题是：我们如何让人与人之间更容易创造更多信任？如果我们实现了这一点，那么目标就达成了。
---
三、创造力之争：人类直觉与 AI 异类智能
**主持人：** 您说我们应该保持人类在环，我认为我们应该比这更有雄心。在我向观众开放提问之前，我想指出一点，我认为这是人类的一个强大特征：我们有梦想。我们做的有些事情并不完全理性，有些甚至有点疯狂，或者纯粹是意外。举个例子，把人送上月球的构想并不完全理性，可能无法通过今天的预算委员会，但在 60 年代它成功了，谢天谢地。青霉素的发现是意外，亚历山大·弗莱明是个很好的营销者，但无疑是一个鼓舞人心的例子。我个人认为 AI 无法复制这些不完全理性或偶然发生的事件。从我的角度来看，人类仍将在创造这些量子飞跃方面发挥重要作用。您认为 AI 也会接管这些吗？
**赫拉利：** 我认为很多人说 AI 永远不会具有创造力，但它已经非常有创造力了。看看围棋的例子，这是世界真正觉醒到 AI 时代的第一次。围棋是一种棋盘游戏，有点像国际象棋，但复杂得多。东亚人玩围棋已有 3000 年历史，数千年来一直被认为是最重要的形式之一，每个有文化的人都应该懂。关于如何下围棋有不同的思想流派和策略。然后 AlphaGo 出现了，在几周或几个月内彻底改变了游戏。它开始以人类在 3000 年里从未想过的方式下围棋。
变得清晰的是，因为我们是有机生物，通过进化演变，我们的想象力和思维方式局限于围棋景观中的某个特定区域。3000 年来，我们只探索了这个有限的景观、有限的区域。AI 不是有机的，它不像人类、黑猩猩或狗那样思考。它以完全不同的方式做决策，在很短的时间内，它开始探索这个围棋景观中全新的、异类的区域。
围棋的情况在科学、艺术等越来越多的领域也是如此。AI 现在正在作曲，人们说：“是的，但它只学习以前人类的交响乐、诗歌和歌曲。”这对现在的 AI 是真的，但对我们也是真的。人类作曲家也依赖以前的经验或以前的范例。但 AI 已经开始探索音乐景观中的新区域。
也许最重要的是要理解，AI 只是一个微小的婴儿。今天的 AI 就像，如果你用进化论术语思考，就像我们距离地球有机进化的开始只有 10 年。如果你回到 40 亿年前，去有机生命的开始，想想你距离第一种生命形式的出现只有 10 年，你能想象恐龙或人类吗？AI 才刚刚开始，但它的进化比有机进化快得多，快数百万倍。所以，如果今天的 AI 像变形虫，我们可能在一二十年內遇到 AI 霸王龙，我们不知道它将能做什么。
回想十年前，除了一个非常小的专家群体，没人谈论 AI。想想过去十年，试着想象我们在 10 年或 20 年后会处于什么位置。在创造力方面，毫无疑问，鉴于我们已经知道的，AI 有能力，也许是不同种类的创造力。正因为如此，它真的会在许多领域成为游戏改变者。人们认为 AI 代表“人工智能”（Artificial Intelligence），但正在发展的新形式 AI 没有任何人工成分，它们自己发展。最好将 AI 理解为“异类智能”（Alien Intelligence），因为它真的以异类的方式、与我们不同的方式思考和创造。
这在金融领域也是如此。我认为金融装置是一种艺术形式。第一个想出债券、货币或比特币想法的人，这是一种艺术，非常有创造力，非常有想象力。所以我认为我们会看到 AI 在这个领域的创造力，想出人类永远不会想象创造的新类型金融装置。
**主持人：** 我想说，您指出的那些金融产品出现是因为它们满足了某人的需求。我认为这在人类中非常重要，我们非常擅长弄清楚我们有什么需求，我们想满足什么需求。有时我们不知道我们有需求想要满足，就像史蒂夫·乔布斯和他的 iPhone 一样，他们探索了。但我比您更乐观，我会坚持那些制度，因为我认为我同意那是我们组织和协调负责任地发展 AI 的最佳方式。不是每个人都会加入这段旅程，但如果足够多的人加入，足够多的制度加入这段旅程，我认为我们仍然有很好的机会。我当然更喜欢做一个乐观主义者。
---
四、现场问答：气候、偏见与国家虚构
**观众提问 1（关于气候与能源）：** 我的问题是关于人类与 AI 的对比。人类是更智能、更有创造力的形式，对吧？我们是有机形式，我们知道如何维持，我们在过去几年中维持了气候危机。如果我们看未来，我们不能孤立地看待 AI，还有其他外部因素，特别是气候，可持续性方面。AI 依赖电力，电力依赖这些正在耗尽的自然资源。您如何看待 AI 克服人类面临的挑战，而人类仍然有能力经历另一轮挑战？能源消耗是否会阻碍 AI 发展？
**赫拉利：** 我想在这方面说一些更积极的话。我不反对 AI，我认为我们不能停止发展它，我认为它有很多积极的潜力。其中一个积极潜力是帮助我们应对气候危机和能源危机。我认为，鉴于当前全球政治和经济状况，通过停止所有经济增长来解决气候危机是不可能的，也是不受欢迎的，因为全球有数十亿人的生活条件需要显著改善。
如果印度、非洲、南美洲的每个人都享受与欧洲或美国平均人口相同的生活条件，以目前的技术，生态系统将崩溃。但另一方面，我们不能对印度或非洲的人说：“不，你们不能享受欧洲人拥有的东西。”所以我们需要开发更好的技术，更环保的技术，而且需要快速开发。这是 AI 在正确使用时可以肯定能帮助我们做的。
基本的理解是，宇宙中没有能源短缺，我们只是不知道如何开采它，如何以最佳方式、最环保的方式使用它。我认为这是 AI 可以极大帮助的一个领域。
**观众提问 2（关于偏见与审查）：** 谷歌的 Gemini 发生了一些事，这是几个月前。许多人认为，决定把手指放在天平上，以便个人在使用 Gemini 时看到的输出结果更加政治正确。例如，你输入“给我看美国创始人的图片”，你会看到一个非裔美国女性。我在硅谷时，跟不同的人谈论这件事，自由意志主义的观点是，最终个人会看到 AI 被训练成他们想看到的东西，这是人类偏见，这几乎像一个强化循环。那么，在美国，我们有东南部，那里可能有很多特定种族的人，其他地方则不同。这会导致什么？我试图将这个问题与您所说的信任制度联系起来，因为我很难看到这会如何以一种不是我们都害怕的方式展开，即人类互相攻击。
**赫拉利：** 我们知道，每当一种新的信息技术出现，就会有关于审查的大讨论。当印刷术发明时，早期现代欧洲的大畅销书不是科学书籍，几乎没人读伽利略或西塞罗。大畅销书是猎巫手册，如何识别和杀死女巫，非常流行。流行的还有极端宗教文献。印刷术在某种程度上导致了科学革命，但也导致了欧洲猎巫狂热，这是一种现代现象，而非中世纪现象，还导致了宗教战争。所以他们有一个大问题：允许印刷什么东西。我们也有一个大问题：允许 AI 说什么。
区别在于，AI 有能动性（agency），而印刷术没有。印刷术打印你告诉它打印的东西，AI 自己学习。任何试图预先决定这些 AI 将来会说什么的尝试，最终都会失败，因为它们在学习和发展。这对民主国家是一个巨大的问题，对独裁国家来说是一个更大的问题。人们经常忽略的一点是，独裁者比民主政府更害怕这些 AI。想想看，对独裁者来说最危险的是什么？对独裁者来说最危险的是一个比独裁者更强大的下属，而独裁者不知道如何控制。独裁者通常通过恐吓来控制他们的下属、他们的代理人，但你不能恐吓一个 AI。
想想俄罗斯的一个聊天机器人。一个人在俄罗斯害怕说某些话，因为他或她可能会受到惩罚，但你不能把一个聊天机器人送到古拉格。你如何确保聊天机器人不会开始说各种它不应该说的话？本质上，这是对所有类型人类政权的新挑战，因为这是历史上第一次，政权，无论是民主的还是独裁的，都需要弄清楚如何控制具有能动性、没有情感、无法被恐吓或惩罚的实体。这对全球所有政府来说都将是一个非常有趣的权利斗争。
**观众提问 3（关于国家与虚构）：** 我喜欢您提到的，货币是人与人之间的信任，目标是与更多人建立更多信任。您能详细阐述一下，达到这一目标的最佳下一步行动是什么？也许作为一个旁注，我认为在这个阶段我们需要克服国家的概念。
**观众提问 4（关于虚构与繁荣）：** 人类围棋玩家的操作空间受限于其进化生物学，而 AI 不受限制。我们作为人类能想出的虚构构建也受限于我们的进化生物学，但 AI 不受限制。是否可能有虚构故事，能导致人类繁荣，远超我们自己能想出的？因此，我们在道德上是否有义务向我们的机器人统治者屈服，允许他们决定我们应该追求什么虚构故事，以最大化人类繁荣？
**赫拉利：** 关于国家的终结和人类的终结，简短的回答是：不，非常危险，不要仅仅信任 AI。是的，它们可以创造完全新型的虚构故事，但虚构故事又可以是有帮助的，也可以是极其危险的。国家是一个好例子。是的，国家是我们想象创造的东西，它们只存在于我们的集体想象中。如果我们不知道如何使用它们，它们可能非常危险，导致战争和冲突。但它们到目前为止也是人类最好的发明之一，最好的创造之一，因为国家使我们能够超越我们亲自认识并关心的朋友和家庭的直接圈子，关心数百万我们从未见过的陌生人。
爱国主义在其最好的形式中意味着什么？意味着我纳税，以便国家另一边的陌生人能获得良好的医疗保健。这就是爱国主义。那些想象没有国家我们将生活在某种乌托邦中的人，不，目前我们只会分解成部落混乱，人们只关心他们直接的朋友和家庭。是的，我们需要找到国家之间合作的方式，但这才是关键，不是废除国家，我们在能力上还没到那一步。历史上，问题是如何让它们合作而不是互相争斗。
是的，我们需要在金融领域也有新的想象创造，这同样应该专注于建立信任。举一个著名的例子，当我以历史学家的身份看比特币时，我不喜欢它，因为这是建立在**不信任**之上的货币。比特币的基本理念基本上是电子黄金，我们不信任银行、政府，所以我们不想让它们拥有随意创造货币的能力，所以我们创造了比特币。这是一种基于不信任的货币。
我认为未来属于电子货币，但我们过去几个世纪看到的是，让银行和政府有能力创造越来越多的货币，实际上是一个好主意，以便在社会内部建立更多信任。我不确定 20 年或 30 年后货币会是什么样子，但我希望它将是一种基于更大信任的货币，而不是基于不信任的货币。
**主持人：** 听到制度和国家仍有未来，这也让人欣慰，这将是我今晚的美梦。我们希望在未来的某个时候再与您交谈，希望我们仍然以血肉之躯存在，而不是以算法形式存在。非常感谢您，赫拉利教授。我可以说，我面前有一个非常快乐的观众。