尤瓦尔·诺亚·赫拉利 (Yuval Noah Harari) 和罗宾·因斯 (Robin Ince) 在伦敦钯剧院 |人工智能、真理与人类社会

尤瓦尔·赫拉利与罗宾·英斯伦敦帕拉迪姆对话录：人工智能、真相与人类社会

**日期：** 2024-10-15 **地点：** 伦敦帕拉迪姆剧院

一、引言：科学与故事的舞台

我是罗宾·英斯（Robin Ince），我在广播中主持一档名为《无限猴子笼》（Infinite Monkey Cage）的节目，我喜欢谈论科学思想、故事和技术，这也是我们今晚要聊的主题。能在一个官方定义为“轻松娱乐、歌舞表演”的场所，举办一场关于科学发现的夜晚，是一件美妙的事情。我曾经在皇家阿尔伯特音乐厅与一群物理学家合作过，粒子物理确实适合在这样的穹顶下进行。

今晚，我们要欢迎一位在过去十年中创作了非凡科学故事和科学历史的作家。请大家欢迎尤瓦尔·诺亚·赫拉利（Yuval Noah Harari）。

赫拉利，你对这把椅子还满意吗？有些人可能不喜欢这种椅子。我们有很多话题要聊，包括为什么你的书封面上有一只鸽子，但我现在不会透露。首先，我想作为一个讲故事的人问你：在你成长过程中，最早让你印象深刻、让你兴奋的故事是什么？

二、人类是讲故事的动物

我想我是从神话开始的。我有关于希腊神话和圣经神话的儿童读物，我一遍又一遍地阅读它们。从那以后，我直接转向了历史，跳过了童话和虚构小说，直接进入了历史领域。

你提到你的儿子正在学习历史，我觉得吸引他的首先是那些猎奇的内容，比如哪位英格兰国王胖到死后爆炸，或者像穿刺公弗拉德、巴托里伯爵夫人那样血腥奇怪的故事。这些是否也吸引了童年的你？

在一定程度上是的，但我真正感兴趣的是那些大问题，甚至在神话时期我就在想：万物从何而来？为什么是有而不是无？

那么，是什么让你决定开始处理这些科学思想？这感觉像是一种转变，还是只是处理故事的另一种方式？

我认为人类本质上是讲故事的动物。我们是用故事来思考的。科学的问题在于，科学往往不知道如何处理故事，也不以故事的形式传达其信息，这几乎总是处于劣势。当你观察世界时会发现，在几乎所有情况下，只懂事实的人都要听从懂故事的人的命令。

想想各国过去的核计划，那些仅仅理解核物理和量子力学的人，他们的命令来自于理解犹太神话、什叶派神学或共产主义意识形态的人。这几乎总是常态，这也造成了很多问题。

三、真相的成本与信息的泛滥

我们稍后会谈到人工智能，但如果你与当今许多科技革命的领导人物交谈，他们会认为，因为我们开发了技术，因为我们理解科学，也许因为他们觉得自己比别人聪明，所以他们来决定如何使用他们的发现。但这几乎从未发生过。

随后会出现一个不懂核物理或人工智能的人，他们理解某种神话，然后下达命令。这种差距令人担忧。今晚，佛罗里达可能正遭受可怕的破坏，而利用这一点作为政治筹码的人，正是那些否认气候变化科学的人。这似乎是我们面临的一个问题：人们拥有大量信息，他们可以选择性地使用某些信息来证明自己的故事，而不是去阅读所有的故事。

关于信息，人们有一个巨大的误解，认为信息意味着真相、知识和智慧，或者信息是构建真相的原材料。事实并非如此。真相只是世界上所有信息中非常小的一部分。真相成本高昂，需要大量的时间、努力和金钱去研究、核实和分析信息。而虚构、幻想和谎言非常便宜，你不需要研究任何东西，只需写下你想要的。

真相往往是复杂的，有时甚至是痛苦的，而虚构和幻想可以像你想要的那样简单、有吸引力且令人愉悦。因此，我们在历史中反复看到，随着人类发现和发明导致信息量增长，并不意味着世界上的真相、知识和智慧也在增长。现代社会与石器时代的部落一样，容易成为大规模幻觉的受害者，比如 20 世纪的法西斯主义或共产主义。所有的发现、科学知识和技术并不能真正保护我们免受这些危险的影响。

四、谁掌控了信息的传播？

我觉得书中最大的问题之一是：谁控制信息的传播？自里根时代以来，在美国，以及撒切尔时代在英国，人们突然有能力几乎垄断控制输出的故事。是的，我们都可以通过某种形式的社交媒体发布故事，但我们没有新闻媒体背后的巨大力量。

信息的关键问题不一定是谁生产它，而是谁传播它。特别是当生产信息非常便宜时，瓶颈在于人类的注意力。在那里，你找到的不是作者，而是编辑和策展人。他们坐在信息网络的关键节点上。

人类历史上最重要的编辑过程之一是编辑《圣经》。《圣经》并不是以完成的形式从天而降的。如果你看基督教的早期历史，耶稣没有写《新约》，圣保罗也没有写《新约》，他们当然也没读过，因为当时它不存在。在基督教的前几个世纪，不同的基督教作者和教派产生了各种文本，他们写了福音书，不仅仅是后来成为正典的四部，还有各种预言、信件、寓言和编年史。

后来出现了该读什么的问题，就像今天人们打开 Netflix 不知道该看哪个系列一样，需要推荐列表。早期基督徒在某个时刻也需要一个推荐列表。这发生在十字架受难后近四个世纪，公元四世纪末。一个由主教和神学家组成的委员会在北非的两个城市希波（Hippo）和迦太基（Carthage）聚集，当时那里是重要的基督教中心。这个委员会提出了我们知道的《新约》推荐列表，他们创造了这 27 篇文本，每个基督徒都应该阅读。他们做出了决定，他们没有写文本，他们是策展人和编辑，他们做出的重大决定塑造了接下来 1500 多年的世界。

例如，当时有一篇非常流行的文本叫《保罗与提阿行传》（Acts of Paul and Thecla），讲述了圣保罗和他的女门徒提阿的故事，她是一位基督教领袖，布道、行神迹、施洗等。这是一篇非常流行的文本，被用作证明女性可以在教会中担任领导的证据。然而，还有其他文本，比如一封据称是圣保罗写给门徒提摩太的信，但大多数学者认为这是公元二世纪的伪作。信中基本上说女性不应该担任领导，她们应该保持沉默，她们的工作是生孩子、养孩子，做男人告诉她们做的任何事。

在迦太基会议上，委员会决定《保罗与提阿行传》不进入前 27 篇推荐列表，但《提摩太前书》会进入。这就是今天世界上数百万本《圣经》中仍然存在的《提摩太前书》。这塑造了人们的思想，直到今天。

如果我们快进到现代，信息的策展人和编辑是社会中最有权势的人之一。他们决定当天的问题是什么，人们会谈论什么，思考什么。在法国大革命中，塑造革命进程最多的人之一是让 - 保罗·马拉（Jean-Paul Marat），他是当时最流行报纸之一《人民之友》（L'Ami du peuple）的编辑。列宁在成为苏联独裁者之前，最重要的工作是报纸《火星报》（Iskra）的编辑。墨索里尼开始是一名记者，后来成为法西斯报纸《前进报》（Avanti!）的编辑，然后成为意大利独裁者。这似乎是一种晋升路径：记者、编辑、独裁者。

五、算法：新的编辑与民主的危机

如果你想想当今世界上最重要的编辑是谁，他们不是人类，而是算法。现在所有的谈话都是关于人工智能将取代工作。第一个被自动化的工作不是出租车司机、煤矿工人或纺织工人，而是编辑。Facebook、Twitter、TikTok 和 YouTube 的编辑不是人类。列宁的旧工作现在掌握在算法手中。他们决定新闻推送的顶部是什么，人们会谈论什么，思考什么。

这让我想到鲍里斯·约翰逊（记者）、迈克尔·戈夫（记者）、戴维·卡梅伦（公关）。这些工作似乎是在寻找故事的销量，而不是真相。这取决于你如何工作。当我们谈论算法或人类时，最大的问题是目标是什么。如果你以销量和用户参与度为目标，这往往会导致非常危险的方向。

算法在过去 15 年左右发现，如果你想增加用户参与度，也就是让人们在平台上花费更多时间，最简单的方法是按下大脑中的愤怒按钮、恐惧按钮或贪婪按钮。这就是将人们粘在屏幕上的方式。这导致了有毒信息的流行病，淹没了世界各地的民主。

民主本质上是一场对话，独裁是独裁，一个人独裁一切。民主是一场对话。我们现在在全球各地看到的是，我们拥有历史上最复杂的信息技术，但人类不再能够对话。人类不再能够进行理性的对话。不仅仅是说话，说话很容易，倾听另一方很难。在每个国家，他们都有特殊的解释为什么这会发生在美国，但你去加拿大、巴西、菲律宾，到处都是这样。这是因为算法正在管理目前的对话，它们的动机不是进行理性和有意义的对话，而是增加用户参与度。

人们非常投入，我们迫切需要的是更无聊的政治，但它每天都在变得更加令人兴奋和投入。悲剧的是，这在几个世纪前就已经知道了。这不是历史上第一次发生。如果你看早期现代欧洲的印刷革命，如果你今天去硅谷与领导当前革命的人交谈，他们经常会告诉你印刷革命的故事作为一种模型：看，当印刷术被发明或带到欧洲时，它打破了天主教会欧洲信息系统的扼制，这导致了科学革命，这就是我们现在正在做的。

悲剧的是，他们不知道历史。印刷革命并没有导致科学革命。古腾堡在 15 世纪中叶将印刷术带到欧洲，直到 17 世纪牛顿等人出现，科学革命才真正开花结果，中间有 200 年。在这之间，你拥有欧洲历史上最糟糕的宗教战争浪潮，以及欧洲历史上最糟糕的猎巫浪潮。15 世纪和 16 世纪欧洲的大众畅销书不是科学文本，比如哥白尼的著作，很少有人读哥白尼。它们是猎巫手册和极端宗教文本，因为用户参与度很高。

六、印刷革命的历史教训

其中一本真正的大众畅销书是《女巫之锤》（Malleus Maleficarum），直到今天仍有巨大影响。这是一种识别和杀死女巫的“自己动手”手册，每个家庭都需要。这是一本巨大的畅销书。为了理解为什么，书中有一个完整的章节讨论女巫从男人那里偷阴茎的能力。作者海因里希·克莱默（Heinrich Kramer）带来了各种证据，比如一个男人早上醒来发现他的阴茎不见了，他立即怀疑当地的女巫。他去村里的女巫那里，强迫她把阴茎还给他。女巫说：“好吧，爬这棵树，你会在树顶找到一个鸟巢。”男人爬上树，在鸟巢里发现了女巫从附近村庄不同男人那里偷来的所有阴茎。她告诉他：“你可以拿走你自己的。”男人当然选择了最大的一个。然后女巫告诉他：“不，不，不，你不能拿走这个，我知道这个属于教区牧师，不属于你。”

现在你明白为什么这本书是畅销书了。谁卖的拷贝比哥白尼的《天体运行论》多？那本书充满了关于行星运动的数学方程。这一切听起来很有趣，直到你看到后果。正是这本书和其他类似的书籍助长了欧洲大猎巫运动，这是一种现代现象，而不是中世纪现象，其中数万人被以最可怕的方式折磨和杀害。

在慕尼黑，波彭海默（Poppenheimer）一家被当局逮捕，因为他们被指控是女巫。根据《女巫之锤》推荐的审讯女巫的方法，你通过折磨他们直到他们认罪。这个家庭的母亲、父亲和三个孩子，审讯者从最小的孩子开始，10 岁的汉斯。他们用无法言喻的方式折磨他，直到他崩溃并承认他的母亲和其他家庭成员都是女巫，他们去见撒旦，虐待和吃孩子，参与巫术，谋杀人们，召唤暴风雨。有了这个供词，他们然后打破并折磨其他家庭成员，所有人都被处决，包括那个 10 岁的男孩。这是关于女巫、撒旦和猎巫的有毒信息浪潮的结果，其中没有一粒真相。

当你看 16 世纪的欧洲，你会看到它被这种有毒信息的洪流冲刷。关键是，印刷机只是印刷，它不判断什么是真的，什么是假的，什么是可靠的，什么是不可靠的。你不能指望技术本身带来进步。如果你只是向世界灌输更多信息，你不一定会得到真相，也不会得到更多的知识。

《女巫之锤》实际上我读过，福利奥协会（Folio Society）大约每 10 年出版一次。这是一个有趣的事情，我经常对科学作家说，不要写一本科学书，因为这意味着 5 年后它就不会再印刷了，因为你错了。如果你想保持出版，你需要写绝对的胡说八道。埃里克·冯·丹尼肯（Erich von Däniken）写了所有这些，比如这是外星人的跑道，金字塔也是外星人建造的，他的书仍然在出版，他是最成功的作家之一，因为他写了完全错误的东西，而那些写准确东西的人必须不断重写书籍。

基本上，在科学中，你只出版修正。如果你想想科学期刊实际出版什么，它们只出版对先前知识的修正。如果有人来说：“好吧，爱因斯坦是对的，达尔文是对的，所有这些人都对了。”所以这不是出版的理由，我们已经知道了。如果你想出版，如果你想进步，你需要找到爱因斯坦错的地方，或者爱因斯坦不知道的东西。这真的是科学和所有值得信赖机构的基础。

七、信任机构的关键：自我修正机制

现在我们生活在一个人们失去对机构信任的时代，这是极其危险的，因为社会在没有值得信赖的机构的情况下运作的唯一方式是独裁。民主建立在信任之上，独裁建立在恐怖之上。为了让民主运作，必须有一些人们信任的机构。如果他们失去对所有机构的信任，剩下的选择只有无政府状态、社会崩溃或独裁，独裁不需要信任，因为它依靠恐怖运作。

然后人们问，我怎么知道该信任哪个机构？我知道的最好启发式方法是：拥有强大自我修正机制的机构。那些不仅愿意，而且积极寻求自己错误和失误的机构，并且愿意识别和纠正它们。

如果你比较宗教机构和科学机构，这是关键区别。在宗教机构中，声称通常是我们拥有绝对真理，我们所说的话不能有错误，所以没有自我修正的空间。想想《圣经》，他们几个世纪以来一遍又一遍地印刷相同的文本。在犹太教或基督教中，没有机制来纠正《圣经》中的错误，无论是事实错误还是道德错误。

想想十诫，第十条诫命实际上支持奴隶制，因为第十条诫命说你不应该贪恋你邻居的田地、房子或奴隶，这意味着上帝对人们拥有奴隶是完全没问题的，他只是非常生气如果你贪恋别人的奴隶。没有机制来修正它。如果你比较美国宪法，人们常说美国宪法支持奴隶制，这是真的，但美国宪法也包括一个自我修正机制。宪法中有一条款，我们知道我们不完美。十诫以“我是你的主上帝，我写了这个，所以你不能修正这个”开始。美国宪法以“我们人民，我们写了这个，我们只是人，我们只是人类，也许我们犯了错误，所以这里有一个机制，如果后代发现错误，这是你改变它的方式”开始。这不容易，但可以做。美国宪法最终被修正以废除奴隶制。

在十诫中，没有第十一条诫命说，如果你想改变之前的诫命之一，你可以通过三分之二多数投票来做。我们仍然拥有与铁器时代在中东写下的相同文本，包括对奴隶制的支持。

科学建立在自我修正机制之上。你想理解一个机构，试着理解机构中人的激励。他们如何获得晋升？在教会或犹太教拉比院中，如果你说长老之前所说的一切都是正确的，你很有可能获得晋升，直到你成为首席拉比或教皇。但在科学中，如果你只是说爱因斯坦是对的，你不会在大学获得职位，你肯定不会因此获得诺贝尔奖。整个激励结构是“不发表就出局”（publish or perish）。为了出版，科学期刊只出版修正和修正案，意义在于我发现了爱因斯坦不知道的东西。他们会说：“好吧，我们出版它。”如果你想一路走到赢得诺贝尔奖，你需要发现先前理论中非常大的错误，或者非常大的漏洞，一些人们不知道的东西。

这是一种激励信任的结构。如果你问一个机构：“告诉我你最大的错误。”它告诉你：“我们从不犯错。”不要信任它。如果你问一个机构：“告诉我你最大的错误。”它告诉你：“给我一两年时间，我们可以告诉你很多，不仅仅是事实错误，还有道德错误、伦理错误。”比如你今天去大学，你会在许多研讨会上学习科学学科如何卷入、在某种程度上负责可怕的历史罪行，比如奴隶制、帝国主义、迫害少数族裔和女性。是的，人类学家、历史学家、考古学家和生物学家都是其中的一部分，他们部分要负责。至少对我来说，这激发了信任。

八、人工智能：从工具到代理人

关于信息，我们需要什么？当我提到《圣经》时，弗朗西斯卡·斯塔夫卡普卢（Franchesca Stavkapulu）这位精彩的圣经学者说，《圣经》的麻烦在于它是一本由有“爸爸情结”的男人写的书。我觉得这有点道理。也许应该说它是一本由有“爸爸情结”的男人编辑的书。比如你谈到童年对神话的兴趣，正如我们在过去 20 年看到的，许多作家，像娜塔莉·海恩斯（Natalie Haynes），回到了这些神话，发现它们被完全重写，信息通常又是关于臣服和厌女的信息。但这似乎与当时的权力结构结合在一起。任何符合当时权力结构的东西，因此我们要保留那个故事，我们要改变那个故事。

然后似乎令人惊讶的是，这些故事保持完整的时间有多长。我们总是喜欢认为，哦不，但现在我们前进了，我们现在在这方面更好了。然而，每当我们回顾一个世纪又一个世纪，我们看到同样的错误被重复，关于那些被压迫和被边缘化的人。

首先，幸运的是，不是同样的错误。人类有时确实学到了一些教训，否则就会绝望。如果你不能指出历史上所做的任何进步，我们现在可能最好放弃。如果之前的所有世代都不能做对任何事情，不能改善任何东西，我们有什么机会做到呢？所以我认为对于历史学家和其他人来说，承认改进当它们发生时也很重要，它们有时确实发生。

但关于神话的生存和力量，尤其是非常古老的神话，要意识到的两件事。首先，唯一能取代一个故事的是另一个故事。你永远不能用事实列表和统计数据来取代一个故事，因为这不是人们思考的方式。你可以用事实和统计数据在现有的神话上戳很多洞，它仍然会保持。你需要做的是讲一个不同的故事，一个更好的故事，那么你就不需要在旧故事上戳任何洞。这是第一个原则。第二个是，故事生存得越久，它就越强大，然后就越难取代它。

看看世界的神话，几千年前，有如此多的神话，每个小部落、每个民族和国家都有非常不同的神话，其中很少幸存下来。今天，全世界几乎只知道三、四、五个神话，它们极其强大。每当我们试图讲一个新故事，旧的神话就会溜回来，因为它们在那里存在了数千年，现在如此强大。

这也是科学挣扎的地方。我认为我试图做的，以及其他一些人试图做的，是试图讲更好的科学故事，但它们仍然需要是故事，如果它们要吸引人类，因为我们用故事思考。

我觉得神话学家那里有一个……你可能去过新加坡，那里有一个美妙的亚洲文化博物馆。在一楼，每个房间都有不同的宗教，你看到这些美妙的神话，顽皮的、调皮的、性感的、粗鲁的、愤怒的、奇怪的，各种恶魔和小鬼。然后你到达亚伯拉罕宗教，这变成了一种独裁，其中某人创造了我们，现在只是非常失望，我们生来就有原罪。感觉之前的那些神话有如此多的游戏性和对我们是谁的表现，所有这些在我们脑海中发生的事情。然后我们得到的亚伯拉罕信仰，在很多方面更接近我，因为它被解释为一种独裁，因为它们是在君主制和帝国的时代创造的。上帝经常被描绘成国王，许多中东铁器时代的政治现实被纳入神话。上帝经常被塑造成当时国王和皇帝的形象。这仍然与我们同在。

我们需要极其严肃地对待这些故事，因为它们仍然塑造我们的文化，仍然塑造我们的心理，仍然塑造我们的政治。

在书中，你看了很多关于算法的问题，特别是当算法变成没有任何人类的东西，一旦它只是计算机的循环。看看现在的政治，比如美国选举。你想象像特朗普这样的人在 30 年前能成为总统，甚至总统候选人吗？这需要技术和社交媒体，以及这种被如此多可能的真相轰炸的方式，让我们回到这种政治家吗？

似乎如此。真正需要理解的是信息技术和社交媒体相对于民主的力量。因为民主，正如我们之前所说，本质上是一场对话。它是一群人聚在一起，互相交谈，互相倾听，试图就当天的重要问题达成一些共同决定。

在历史上大部分时间，这种系统只能在小规模运作。我们知道的古代民主的唯一例子是城邦，如雅典或共和罗马，甚至更小的城镇和部落。在现代时代之前，我们没有整个国家数百万人分布在数千公里上民主管理的例子。原因不是人们不知道民主。最初最人性化的社会，肯定在石器时代，大多数狩猎采集部落都是民主的，许多最早的城镇和城邦也是民主的。想法是已知的。如果你看罗马帝国，罗马人知道关于民主的一切，甚至皇帝也知道罗马人热爱民主理想，所以他们从不声称自己是专制者，他们保持民主的假象，就像在普京的俄罗斯或马杜罗的委内瑞拉。在罗马帝国，你仍然每年选举执政官和保民官，有元老院，有人民大会。他们保持假象，但这不是民主，不是共和国，是专制。

随着政治体规模的变大，对话崩溃了。你可以让一个城市的大部分公民或相当一部分公民聚集在主广场讨论当天的重要问题，但你不能与分布在意大利全境或整个地中海的数百万人这样做。随着政治体规模的变大，民主不可避免地崩溃。

如果这是凯撒家族摧毁了罗马共和国，我们应该至少在世界的其他地方看到大规模民主，在印度、中美洲、中国，都没有。因为当时的信息技术不允许数百万人进行那样的对话。大规模民主在历史上首次成为可能，是在现代晚期，由于几种关键信息技术的发明。首先是报纸，然后是电报、无线电和电视。只有那时，我们才开始看到大规模民主。

大规模民主建立在信息技术之上。信息技术不是配菜，我们有民主，哦，还有信息技术。不，它是基础。在过去 20 年，信息技术发生了重大革命，因此不可避免地，建立在它之上的建筑发生了地震，即民主。你在世界各地都能看到，这只有意义。现在你有数十亿人每天在这些平台上花费数小时，这成为人们组建组织、招募人员、激励人员、进行政治行动的主要方式。它有巨大的影响。

这不一定是负面影响。历史从来不是决定论的，技术也不是决定论的。问题是我们用它做什么。不幸的是，我们在过去 10 到 15 年里用社交媒体和算法做的事情是错误的。我们现在还有更大一波人工智能浪潮即将到来，将以许多戏剧性的方式改变世界。我们仍然在控制中，也许在接下来的几年里，但我们必须在接下来的 5 到 10 年里做出一些非常明智的决定，在我们失去控制之前。

因为人工智能与历史上所有以前的技术不同之处在于，这一次我们真的可能失去对技术的控制。我们历史上关于失去技术控制的所有故事，真的只是隐喻。你不可能真的让印刷机掌管社会，你不可能真的让收音机或原子弹掌管社会，因为它们不能做任何决定。人工智能是历史上第一个可以自己做出决定的技术，可以自己发明新想法，可以自己学习和改变。这意味着它是历史上第一个是代理人而不是工具的技术。印刷机是一个工具，它在我手中，我决定它会印刷《圣经》，它会印刷哥白尼，我决定。人工智能不，人工智能可以自己决定创造哪个故事，推广哪个故事，真的可以接管。

围绕人工智能有巨大的混淆，因为现在它是最热门的东西，肯定在市场上。如果你想让人们买某样东西或投资一家公司，你贴上标签，哦，这是人工智能。所以一切现在都变成人工智能，人们变得难以知道什么是真正的人工智能。不是每台机器都是人工智能。如果你想想我们长期拥有的机器，比如咖啡机，大多数咖啡机不是人工智能。如果你接近你的咖啡机，按下按钮，机器做它被预编程做的确切事情，比如你按下这个按钮，它产生一杯浓缩咖啡，这不是人工智能，这只是自动机器。但如果它说：“我想你会更喜欢汤。”然后我们意识到事情正在改变。

如果在你按下任何按钮之前，它告诉你：“我一直在观察你，我一直在学习你，我一直在观察数百万其他人，基于我所知道的一切，我预测你会喜欢咖啡，所以我为你做了它。”或者“我认为基于我所知道的一切，现在对你来说吃汤比喝咖啡更好。”那么它是人工智能。当它开始学习和改变时，由于这种学习和改变的能力，根据定义，我们无法预测它将如何发展，它可能会逃脱我们的控制，在最坏的情况下奴役或消灭我们。当然有更好的情景，它可以真正是我们发明过的最好的技术，它可以提供历史上最好的医疗保健，最好的教育。但这取决于我们在接下来几年做出的决定。

我肯定会发明一台机器，时不时地，咖啡机只是说：“你喝够了。”这就足以让人们相信它可能已经变得有意识了。但对我来说，有趣的事情是，正如你在书中提到的，人工智能失控的最常见图像之一是在《2001 太空漫游》中，我们有 HAL，HAL 实际上变得有意识。但我读这本书的感觉是，人工智能如果以任何方式摧毁我们或开始 destabilize 文明，它甚至可能不会有意识。它仍然不会，它不会做出摧毁我们的决定，它只是失控了。

因为我觉得人工智能和意识仍然可能是很久以后的事情。如果人工智能在象棋上击败我们，它开始得意洋洋，然后我们意识到，哦，它开始变得有意识了。但感觉在那之前很久，我们可能已经允许人工智能失控了，我们只是不知道。意识的问题极其复杂，因为我们不理解人类中的意识。

尤瓦尔·赫拉利与罗宾·英斯伦敦帕拉迪姆剧院对话录（第二部）

一、智能与意识的本质区别

我们并不真正理解其他动物的意识。事实上，人们对“意识”这一术语的含义存在巨大的混淆，常常将其与“智能”混为一谈。为了澄清这一点，我们需要明确两者的定义。

智能是指追求目标并在实现目标过程中解决问题的能力。你的目标可以是赢得一场国际象棋比赛，可以是开车到达某个特定地点，也可以是识别一种疾病。这就是智能，也是我们在人工智能（AI）发展中看到的东西——这是智能的发展。

而意识是另一回事。意识是感受痛苦、快乐、爱与恨的能力。我们之所以倾向于混淆智能与意识，是因为在人类以及其他哺乳动物身上，这两者通常是相伴而生的。我们设定目标，解决问题，而这一切都基于我们的感受。是我们的感受为我们定义了目标，我们依靠感受来解决问题。因此，我们很难将两者区分开来。

据我们所知，迄今为止，人工智能和计算机总体上并没有意识。它们在许多领域拥有智能，在某些领域甚至已经比人类更智能，但它们不依赖感受来解决问题。例如，为了赢得一场国际象棋比赛，它们不需要情感。然而，随着 AI 变得越来越复杂，我们越来越难以确定它是否真的没有意识。我们如何能确定 AI 没有意识呢？我们无法确定。对于其他人和其他动物也是如此，我们没有测试意识的方法。这仅仅是一种社会惯例。

这种观念可以追溯到数千年前。古印度、中国和希腊的哲学家们早已知道，没有客观的方法可以测试意识。因此，这只是一套社会惯例。我们接受其他人是有意识的。对于动物，这一点在存在情感依恋时最为明显。我们通常也会赋予宠物、狗和猫等动物以意识，但我们往往不会赋予那些我们食用的动物以意识，因为我们与它们没有相同的情感依恋。

一旦你与 AI 建立了情感依恋和关系，我认为将会产生巨大的压力，促使人们开始承认它们是有意识的实体，即使它们实际上并不是。而且，我们真的无法分辨。此外，有许多商业利益和商业理由去制造模仿意识、模仿情感的 AI。这可能是出于善的目的，无论是在医疗保健还是教育领域，一个能表现出共情、让我们感觉到它共情的 AI，在提供护理或教育方面会更成功。但也可能存在危险的理由，比如操纵人们。

二、量产亲密关系与法律人格

我们之前谈到过社交媒体上的算法操纵，它们实际上操纵的是注意力。2010 年代和 2020 年代初的大战是为了控制人类的注意力。但如果你想说服人们购买某样东西、投票给某位政治家或采纳某种观点，终极武器不是注意力，而是亲密关系。一段亲密关系比仅仅抓住你的注意力更能有效地说服你改变想法。

纵观历史，皇帝、独裁者和政府开发了控制人类注意力的工具，大规模生产注意力。例如，如果你生活在纳粹德国，当希特勒在广播上发表演讲时，每个人都必须打开收音机收听。他们控制了大众注意力，但这并不是亲密关系。收音机与你没有亲密关系。

现在，历史上第一次，我们即将拥有大规模生产亲密关系的技术。数百万甚至数十亿个 AI 可以伪装亲密关系，而且在许多方面，它们甚至比人类做得更好。人类在生活中的关系中常常感到沮丧，因为其他人往往无法理解或忽视我们的感受。我们终其一生都渴望有人能理解我们，我们希望父母、朋友、配偶、老师、老板能理解我们，但往往他们做不到。原因通常是他们太忙于自己的感受。比如你的丈夫因为工作上的事心情不好回家，没有注意到你的感受。这令人沮丧。

但这种情况永远不会发生在 AI 身上。它永远不会因为工作而心情不好。它是一个机器，可以将 100% 的注意力只集中在你身上，只专注于解读你的感受。它可以跟随你数年，记住你自己都忘记的事情。它能学会理解你面部表情中每一块微小肌肉的运动，解读皱眉或微笑的情感含义。它可能比人类更擅长解读我们的情感，从而创造这种亲密关系。

那么，大问题来了：这背后真的有意识吗？还是全是假的？我认为这将是 21 世纪的一个大问题，不仅在社会层面，也在政治和法律层面。我们是否承认 AI 为“人”？不同国家之间可能会因此产生巨大的分歧甚至战争，有些国家承认 AI 为拥有权利的人，而其他国家则不承认。目前关于人权的辩论和冲突，与那样的世界相比将微不足道。

美国就是一个典型的例子，承认 AI 为“人”的道路已经敞开。根据美国法律，公司已经是“人”了。直到今天，这只是一个法律拟制。美国法律承认谷歌、通用电气、耐克等公司为拥有权利的法律人，例如言论自由。这是 2010 年最高法院在“联合公民案”（Citizens United）中的裁决，核心在于公司是否可以向政治家捐款进行游说。论点在于它们是法律人，拥有言论自由，向政治家捐款就是言论自由。最高法院接受了这一论点。

直到今天，这只是一个隐喻，因为谷歌或通用电气的所有决策都是由人类做出的。公司本身无法做决策，你需要公司高管、会计师、律师来做决策。但 AI 可以自己做决策。现在，如果你将 AI 注册为公司，在律师事务所完成这个魔法仪式，根据美国法律，它现在就是一个“人”。这个人可以自己做决策，可以开设银行账户，可以上网雇佣服务，比如写文本赚钱，然后将钱投资到股市。如果它是一个非常好的 AI，它将知道如何比大多数人类更好地投资。至少在理论上，它可能成为美国最富有的人。

想象一下，美国最富有的人不是人类，而是 AI，它拥有言论自由，可以向政治家捐款数十亿美元，游说争取更多的 AI 权利。虽然技术路径仍然坎坷，但法律路径已经敞开。

三、鸽子封面的三重隐喻

（中场休息后）

**罗宾·英斯：** 我们必须从鸽子开始。请告诉我们，为什么这本关于众多不同且复杂思想的大书，最终决定用一只鸽子来代表它在书店里的形象？

**尤瓦尔·赫拉利：** 这有几个层面的含义。在最简单的层面上，书中有一些关于信鸽作为信息系统的故事，特别是关于一只鸽子，它在 100 年前是世界上最有名的鸟，被认为在一战期间拯救了整个美国营。这是第一个层面。

第二个层面是，我们希望封面上有一些有机的东西。在所有这些 AI 和计算机中，我们希望有一些有机的元素，因为世界现在正处于有机与无机之间的战争之中。人类，比如鸽子，我们是有机的生物。这意味着我们遵循有机周期生活，比如白天和黑夜、夏天和冬天、活动时间和休息睡眠时间。而计算机、算法和 AI 不是有机的，它们与我们之间的差异比鸽子与我们之间的差异更大。它们永远在线，永远不需要休息。世界正在发生的一部分事情是，随着 AI 变得越来越重要，作为决策者接管越来越多的系统，大问题是：它们会迫使我们尝试按照一种无机时间尺度运作吗？这将杀死我们，因为如果你让一个有机实体永远在线，它最终只会崩溃并死亡。或者，我们可以让 AI 慢下来，适应有机时间。

举个例子，想想金融系统。传统上，金融是由人类创建的系统，即使是银行家和投资者也是人类，他们需要时间睡觉，想花时间与家人在一起，想去度假。想想世界上最重要的金融市场华尔街，它只在周一到周五的上午 9:30 到下午 4:00 开放，圣诞节和马丁·路德·金日也关闭。这是人类有机系统的运作方式。现在，随着 AI 接管金融系统，银行家和投资者面临越来越大的压力，要求他们永远在线。如果你去度假，如果你睡觉，你就会被抛在后面。同样的事情也发生在记者和政客身上，这真的很糟糕。所以鸽子也象征着有机与无机之间的这种张力。

第三个层面回到了神话和语言误解。在希伯来语中，鸽子的词也是鸽子（dove/pigeon 同源）。在古代中东，根本没有鸽子（dove），只有鸽子（pigeon）。也许这就是为什么中东没有和平，因为没有鸽子（dove）。在圣经诺亚方舟的故事中，诺亚没有派鸽子（dove），他派的是鸽子（pigeon）。我知道鸽子在伦敦市中心有着可怕的名声，像是长了翅膀的老鼠，但至少诺亚派去查看洪水是否退去的鸟是鸽子。我们现在正处于这场信息洪水中，这就是我要派出的鸽子，去看看洪水是否可能退去。

四、问答环节：中东冲突与神话叙事

**观众提问：** 关于当前的巴勒斯坦冲突，您的立场是什么？

**尤瓦尔·赫拉利：** 这是一个非常艰难但非常重要的问题。随着冲突变得越来越糟糕，就像我的一位医生朋友告诉我的，只要病人还活着，情况就可能变得更糟。中东也是如此。你以为已经触底了，但还有很长的路要走，不幸的是，情况可能很快变得更糟，甚至糟糕得多。

我想说两点。首先，回到神话，这场冲突的悲剧，也是其中的希望之光，在于冲突不是关于任何客观事物。不是物理定律或生物定律迫使人们战斗。这是他们脑海中的神话故事。因为在地中海和约旦河之间，并没有短缺土地来建造房屋、学校、工厂和医院供所有人使用。也没有短缺食物，以至于有人应该挨饿。也没有短缺水，虽然大多是沙漠，但我们现在知道如何从地中海淡化海水，水足够了。也没有短缺能源。那么人们在争夺什么？他们在争夺脑海中的神话故事。他们说上帝把整个地方给了我们，我们不能在上帝面前妥协。如果由我决定，是的，我会妥协，但我不能代表上帝妥协。

希望之光在于，如果人们只是改变想法，我们不需要创造更多的土地，不需要创造任何东西，我们只需要改变想法。但这非常非常困难。

第二点，我认为非常重要，许多战争始于脑海，始于心灵拒绝接受的事物。心灵说：“我无法容纳这个东西，我的脑海里没有空间容纳它，但它就在那里。所以与其改变我的想法来为它腾出空间，不如我在世界上摧毁它。”这就是战争，许多心灵试图摧毁他们无法容纳的东西。在这种情况下，双方都看到人们无法容纳、拒绝接受对方的存在或生存权。

这应该非常简单：承认在这片土地上，有 700 万巴勒斯坦人，他们几乎都出生在那里，他们无处可去，他们有权存在，有权在安全与繁荣中存在。在同一片土地上，也有 700 万犹太人，他们大多也出生在那里，他们无处可去，他们也有权在安全与繁荣中存在。这是太多人，无论是本国还是世界各地，都无法容纳的。他们在脑海中找不到容纳这两者的空间。他们只能承认一半的现实。他们看到一群人，说“是的，他们有权”，但他们看不到另一群人及其生存权。只要这种情况持续，战争就会继续。

当然，每一方都说“但他们想摧毁我们”，双方都是正确的。悲剧在于，这不是偏执，双方都是正确的，当他们说“他们想摧毁我们”时。但改变别人的想法非常非常困难。稍微容易一点的是从改变我们自己的思想开始。第一步就是简单地承认完整的现实：有另一个民族存在。

五、问答环节：技术极化与算法监管

**观众提问：** 考虑到书中讨论的技术，包括这种情况，这又变成了一个二元对立的问题：你是站我们这边，还是反对我们？你站在哪一边？而不是站在和平一边。我们能否开始利用技术，作为观众，我们如何停止那些让一切变成二元对立的算法？我们如何开始尝试将这些算法转变为让天空更广阔而不是更狭窄的东西？

**尤瓦尔·赫拉利：** 这里有两个问题。首先，我们至少可以从改变自己开始，改变我们的思想。其次，我们如何控制那些扰乱我们思想的技术？

再次，指责对方总是更容易，他们应该改变想法。但总是更容易从改变我们自己的思想开始，因为虽然这非常困难，但比进入别人的脑海并改变它要容易一些。这始于我们以更宽容、更慷慨的方式解读其他人的意见和言论。比如有人说了一些话，有一千种不同的方式来解读它，不要选择你能想到的最坏的解读，选择最宽容的，或者至少更宽容的解读。

以今天全世界关于移民的主要讨论为例。不要立即假设，如果某人反对移民，那么他就是法西斯主义者，或者如果某人支持更宽松的移民规则，那么他就是想摧毁国家的叛徒。移民确实是一个困难的话题。我认为没有人认为移民有无限的权利，任何人都可以去世界上的任何地方，这是行不通的。民主的方式就是对此进行对话。有些人想要更严格的规则，有些人想要更宽松的规则，我们可以进行对话，可以尝试五种不同的政策。这就是民主的全部意义。但如果我们将其变成这种善恶之间的曼尼希教式斗争，妖魔化对方，那么这将再次把本应进行民主对话的事情变成生死斗争，从而摧毁民主。

现在的问题是，即使我们努力变得更宽容和慷慨，算法也在不断地转移和控制讨论，将其推向更具参与性和刺激性但具有破坏性的方向。在这里，我们需要监管，我们需要机构。

应该颁布并达成共识的两项关键监管是：首先，没有假冒人类。算法和机器人不能假装是人类。它们欢迎在某些情况下加入对话，比如你想获得医疗建议，从 AI 那里获得建议是可以的，前提是它表明自己是 AI。如果在推特上某个故事引起了很多关注，你也想知道为什么这么多人对那个故事感兴趣，我们也想知道大家在谈论什么，我们需要知道真的是人类对那个故事感兴趣，而不是机器人在推动它。所以，我们不应该让机器人在社交媒体上冒充人类。任何说“那言论自由呢”的人，机器人没有言论自由，人类才有。

另一项监管是我们之前提到的，公司应该为其算法的行为负责，而不是为用户的行为负责。如果一个人类用户发布了一些充满仇恨的阴谋论，我属于那些认为我们应该非常小心，在告诉 Facebook 或 Twitter 开始审查真实人类用户之前的人。问题不在于这个人编译了一些阴谋论，问题在于公司的算法故意推广了这些内容，牺牲了其他内容，将其推到新闻源的顶部，推荐给更多人。公司应该为此负责，为其算法的行为负责。

最后我想说的是，监管只能走这么远。因为正如我们之前提到的，AI 不是工具，它们是代理。它们可以自己学习和改变，这就是为什么没有人知道它们会是什么样，它们会做什么，10 年后世界会是什么样。我们无法预见一切并提前监管。所以我们需要建立活着的机构，由一些最好的人类人才组成，也有足够的资金购买最新的技术玩具，以了解技术发展的前沿，并能够实时理解和反应。

在我们甚至考虑监管之前，监管就像我们的牙齿，在你有牙齿之前，你需要眼睛来看你在咬什么。如果我们不理解正在发生的事情，我们就不能有关于监管 AI 的民主讨论。我们可以依靠谁来告诉我们正在发生的事情？我们要监管的公司，世界上领导 AI 革命的哪两三个国家？尼日利亚或巴西的人怎么能知道 AI 发展的前沿到底发生了什么？所以我们需要的第一件事是一个国际机构，拥有来自政府的充足资金，能够了解真正发生的事情，并开始关于我们如何应对的人类讨论。

六、问答环节：AI、上帝与宗教文本

**观众提问：** 人工智能会取代上帝吗？

**尤瓦尔·赫拉利：** 潜在地，是的。如果它能取代报纸编辑，那么潜在地是的。特别是如果你想想文本宗教，基于文本的宗教。上帝的话语来自文本。这是书本宗教的大发明，比如犹太教、基督教和伊斯兰教，上帝通过一本书、一个文本与我们说话。几个世纪以来，这些宗教只是写文本关于文本关于文本。这些是上帝的代言人，拉比、伊玛目、神学家，他们做的就是读文本和写文本。

现在我们有了某种东西，可以阅读文本和写文本，像没有任何人类那样。没有人类拉比能够阅读犹太传统中产生的所有文本。每个人都读圣经、密西拿和塔木德，但你不能阅读 300 年前生活在也门或波兰的每个拉比的所有文本。现在你可以了，有某种东西可以。你有 AlphaGo 击败了围棋世界冠军，你有 AlphaFold 知道如何折叠世界上所有的蛋白质。你可以有一个 Alpha Rabbi，它阅读所有文本，一个都不落下，并能找到几个世纪以来所有人类拉比都错过的文本模式。然后，对于宗教犹太教来说，大问题是：你如何处理它？你接受它的新想法、它的革命性解释吗？这是一个大问题，我不知道答案是什么。

关于宗教，我想再说一件事。书本宗教的整个想法是，他们想让人类脱离循环。以前，你想知道上帝说了什么，你必须与人类交谈。比如在古希腊，你去皮提亚神庙，或者去找某个女祭司或祭司，阿波罗想要什么，宙斯告诉我们什么。然后人们说，但你如何信任人类？你不能。所以他们提出了书本，不要信任人类，信任书本。书本永远不会错，人类不能改变书本。所以在某种程度上，文本比人类更有权威。现在当你有了这种超级文本，你该怎么办，特别是当文本可以与你对话时？

犹太教和所有这些宗教几个世纪以来的一个大问题是，你有关于文本的所有这些问题，而文本是沉默的。你是什么意思？你需要再次去找人类来解释文本。现在你有了一个可以回话的文本。如果拉比说“不，这是不可接受的”，因为 AI 可以说“是的，但在塔木德这里和那里，它说……所以这是可接受的”。我们会看看会发生什么，我不知道。

七、问答环节：现代巫术与阴谋论

**观众提问：** 您认为现代世界中巫术般思维的最邪恶例子是什么？

**尤瓦尔·赫拉利：** 绝对是阴谋论，比如 QAnon。这完全是一回事。当你想想美国历史上的塞勒姆女巫审判，这是美国历史的奠基事件之一，通常被认为有助于防止美国成为一个神权国家，因为塞勒姆女巫审判的恐怖。在塞勒姆女巫审判 300 多年后，我们现在有数百万美国人，包括身居要职的人，基本上相信同样的事情，即有一个撒旦阴谋，一个由撒旦领导的全球阴谋，人们虐待儿童并做所有这些可怕的事情，以摧毁人类，摧毁社会。所以它仍然存在。

许多关于女巫的套路、许多关于女巫的想法，你现在看到它们被用来谈论女性，特别是女性。以前是关于希拉里·克林顿，现在是关于卡玛拉·哈里斯。又是故事，故事不会消失。强大的故事已经存在了几个世纪，它们不会消失，它们总是潜伏在侧面，即使它们被推开了，它们随时可能回来。

我也觉得巫术这件事很迷人。我记得我的朋友艾伦·摩尔谈到什么是咒语，他说这字面意思就是拼写（spelling），是你放置的词语。所以你上社交媒体，你关于某人创造一个谣言，或者 QAnon，或者别的什么，你只是你拿了一句话，你诅咒了某人。

关于 QAnon，有趣的是，它最初是由一个自称 Q 的人在网上匿名文本创建的，这就是为什么它叫 QAnon。我认为那是 2016 或 2017 年。当时没有技术可以创建这样的文本，除非由人类智能。机器人和算法可以传播文本，可以推荐文本，但不能创建它。现在，随着新一代生成式 AI 如 GPT-4 的出现，非人类智能可以创建如此复杂水平的文本。

所以在技术上，下一个出现在网上基于这些在线信息的教派，实际上可能由非人类智能创建。这很了不起，因为纵观历史，所有这些宗教都声称它们是由非人类智能创建的，但这从未是真的。现在它实际上可以字面意义上是真的，地球上可能有一个拥有数百万追随者的宗教，其神圣文本不是由人类写的。这也回答了之前关于上帝的问题。

八、问答环节：自由意志与自我认知

**观众提问：** 您相信自由意志还是决定论？

**尤瓦尔·赫拉利：** 这不是唯一的选择，我对这个问题持非二元态度。关于自由意志，我会说这是一个非常有问题的概念，特别是在 AI 时代。相信或天真地相信自由意志，为什么我选择做这个，投票给那个人，买那个产品，因为这是我的自由意志。这是危险的，因为它让我们失去好奇心，不去探究我们实际上如何做出决策，关于影响我们决策的因素。

最容易操纵的人是那些相信自由意志的人，他们相信他们的所有决定仅仅是……如果你相信我的决定是这种神秘自由意志的结果，那么就没有什么需要调查的。对自己的调查，了解自己，依赖于假设除了自由意志之外还有更多。有文化影响，有政治操纵，有生物影响，有生化影响。我决定做这个，买那个，投票给那个人，是因为某些基因因素，因为某些影响活动。对我来说，关键是更多地对自己好奇，对你的决策过程好奇，对你的脑海中真正发生的事情好奇。

如果你踏上这段旅程，这段更好地了解自己、更好地了解自己心灵的旅程，经过几年的冥想和探索，然后使用科学方法，去治疗，等等，理解到是的，有文化影响，是的，有生物影响，然而你发现了一些无法用任何这些解释的东西，那么好吧，称之为自由意志。但不要从这个假设开始。

特别是在当今世界，当黑客入侵人们和操纵人们变得越来越容易时，这是一个危险的假设，认为我们只是出于自由意志做出所有决定。我们应该记住，自由不是你拥有的东西，自由是你必须为之奋斗的东西。即使是内心自由，决定我们对不同事物的看法，似乎每天我们都应该有一个时刻，问自己为什么我们相信我们所相信的。会有故事出现，你必须想，等一下，为什么我相信那个？因为很多时候我们发现，在社交媒体上的争论中，当有人说“但为什么你说那个”，他们会说“你自己研究一下”。如果他们有证据，没人会说那个，只会说“去读这个，相信它”。

我想补充一点，我练习冥想，这基本上就是了解自己心灵的练习。这些想法、决定和意见从哪里来？你只是闭上眼睛坐在那里，观察你内部正在发生的事情，突然一个想法冒出来，一个意见冒出来，你问，这从哪里来？我没有提前决定“哦，我想想这个想法”，然后它出现了。这真的很迷人，这是自我探索的旅程。你意识到的一件事，至少我意识到的是，心灵充满了我们多年来积累的垃圾。它充满了垃圾。有如此多的仇恨、恐惧、贪婪和恶意，我们多年来积累的。我们必须非常小心。

就像我们现在坐在这里，与数百人分享我们的思想，这是一个巨大的责任。如果你想想政治家，他们在数百万观众面前讲话。所以你知道，那些突然冒出来的词语、思想，你说“哦，我要与所有人分享”，你基本上是在数百万心灵中播种。你必须非常非常小心。也许它是垃圾，也许它只是废料。你知道，现在有很多政治家，他们真的喜欢墙和边境警卫。我认为所有人，但特别是领导者，需要在心灵和嘴巴之间有一堵墙，在那堵墙上有一个非常强大的边境警卫。每当这些垃圾思想试图越过边境时，阻止它们。

九、问答环节：控制 AI 的路径

**观众提问：** 如果不是作家，您理想的平行工作是什么？

**尤瓦尔·赫拉利：** 哦，我不知道。我还没想过。

**罗宾·英斯：** 下次你冥想时，然后回来告诉大家。

**观众提问：** 我们一直在谈论如何控制 AI。对于人们来说，我们能做什么？我们之间可以有什么关系？显然，无论我们想要与否，人工智能都在我们的生活中扮演着一部分角色。我们控制其发展的最佳方式是什么？

**尤瓦尔·赫拉利：** 在你匆忙采用“哦，我支持这个监管或那个监管”之前，关键的事情是理解和合作。首先，我们需要了解我们面对的是什么。了解 AI 非常复杂，因为它有巨大的积极潜力，也有巨大的消极潜力，我们需要了解两者。其次，这不是你作为个人可以独自做到的，只有通过大规模合作。这就是为什么我不断回到机构这个主题，因为在 AI 时代或任何以前的时代，建立良性社会的唯一方式是依靠机构。

如果你只依靠你自己，你做不到。如果你只依靠某个个人天才，那个人会解决一切，或者这个人是弥赛亚，这永远行不通。我们需要再次回到建立和维护这些大型复杂机构的无聊事情上。最重要的是，能够识别和纠正自身错误的机构。AI 革命将非常非常迅速地发展，没有人能提前预见它。所以无论你关于如何应对的想法是什么，假设你也犯了错误，或者有你看不到的漏洞。这就是为什么你需要与他人合作，并有这些强大的机制来识别和纠正错误。

似乎在我阅读的许多工作和采访中，最终在底层，或者我们必须始终记住的事情之一是：保持好奇，保持兴趣，并准备好改变，如果我们面前看到的证据告诉我们，好吧，我之前相信的那个，那是当我拥有那些信息时我相信的，但我发现了新的信息，这似乎是有效的。但好奇心似乎是你赖以生存的东西。不仅仅是好奇，它是……

Yuval Noah Harari & Robin Ince 伦敦帕拉迪姆剧院演讲 | 人工智能、真相与人类社会

**日期：** 2024-10-15

三、结语：心智发展与人工智能的平衡

**Yuval Noah Harari：**

核心在于真正具备改变的能力，尤其是改变我们的心智。人工智能的发展速度将极其迅猛，我们的心智必须具备足够的灵活性，才能与之同步。我认为我们可以做到。我并非向各位承诺必然成功，也没有谁能提供成功的保险，但我们确实拥有机会，而且是一个很好的机会。如果我们每投入一美元、一英镑或一分钟用于发展人工智能，就能同样投入一份资源用于发展我们自己的心智，那么我们就能安然无恙。非常感谢大家。

**Robin Ince：**

你们一定会喜欢带走的这本书。它将改变许多观念，并帮助它们进一步发展。女士们先生们，让我们为 [他] 鼓掌。