AI 与叙事未来：约瑟夫·高登 - 莱维特与尤瓦尔·赫拉利对话录
**日期：** 2024 年 10 月 11 日 **地点：** 洛杉矶，伯格鲁恩研究所 Studio B
一、开场致辞与背景介绍
**亚历克斯·加德尔（Alex Gardels）：** 欢迎大家到来。我是 Studio B 的总监亚历克斯·加德尔。今晚我们为大家准备了一个精彩的节目，接下来我将交给我的同事纳塔利亚·拉莫斯做简短介绍。
**纳塔利亚·拉莫斯（Nathalia Ramos）：** 大家好。在伯格鲁恩研究所，我们常说，没有什么比“时机成熟的理念”更强大。但我们同时也相信，为了让理念产生真正的影响，它需要一个故事。这就是我们创立 Studio B 的原因——将思想家、科学家、哲学家、技术专家与这个时代最伟大的叙事者聚集在一起。因为在这个行星尺度变革的时刻，讲好故事比以往任何时候都更重要。感谢大家的到来，现在我将交给我们的创始人尼古拉斯。
**尼古拉斯·伯格鲁恩（Nicolas Berggruen）：** 晚上好。我是伯格鲁恩研究所的尼古拉斯·伯格鲁恩。感谢大家今晚的到来，感谢纳塔利亚、亚历克斯，感谢 Studio B 以及研究所的所有人。最重要的是，感谢约瑟夫·莱维特和尤瓦尔·赫拉利。
坦白说，他们不需要介绍。大家应该都知道约瑟夫是谁。他在某种程度上属于你们，他是好莱坞的代表，既在镜头前也在镜头后，并且一直在智力上关注我们研究所关心的问题。其中一个问题是：我们正在成为谁？在一个理论上可以通过基因编辑、人工智能、量子计算改变自身本质的时代，我们希望成为什么样的人？没有人比尤瓦尔·赫拉利更能将这一点置于宏观视角下。尤瓦尔写了一本新书《联结》（Nexus），这本书有力且极具时效性。他的愿景是，我们创造了我们的生活和文明，源于叙事，而人类一直驱动着这些叙事。但现在，随着人工智能的出现，叙事可能会脱离我们的控制，尽管理论上它源于我们。我们可能会失去控制，甚至失去我们可能正在释放的叙事。所以，让我们今晚听听关于这一切的讨论。再次感谢。
二、故事：人类合作的秘密
**约瑟夫·高登 - 莱维特（Joseph Gordon-Levitt）：** 大家好，最近怎么样？刚才那感觉像不像电影时刻？好吧，我非常兴奋能来到这里。感谢尼古拉斯和伯格鲁恩研究所、Studio B 的每个人。我是这位先生写作作品的巨大粉丝，尤瓦尔·赫拉利先生，女士们先生们，我们今晚就是为了他而来。他写了一本新书叫《联结》。今晚我想和你聊聊这本书。当然，你现在正在巡回宣传这本书。我确信你一直在谈论这本书，也许有些话你重复了很多遍。我以前从未经历过这种为了推广媒体作品而不得不重复同样事情的情况——顺便说一句，我的电影《杀手热》（Killer Heat）今天刚刚在 Prime Video 上线。所以我会尝试从独特的角度切入这次对话，让你说出你想对所有人说的话，同时也结合此时此地的独特视角。
我们身在洛杉矶，这里是电影和电视行业的中心。我一生都在影视行业工作，而你的书中很多内容都关于叙事。我喜欢把自己视为一个叙事者，作为一名演员和电影制作人，这对我来说不仅仅是一份工作，我在存在层面上与之相连，关乎我是谁。我常喜欢说的一件事是，叙事是人类之所以为人类的重要组成部分。所以我想问的第一个问题是，你写过一本关于人类的书叫《人类简史》（Sapiens）。这里有多少人读过《人类简史》？好的。作为人类历史和史前史专家，我很好奇你怎么看待这句话。如果我说“叙事是人类之所以为人类的重要组成部分”，你会同意吗？
**尤瓦尔·赫拉利（Yuval Noah Harari）：** 是的，绝对同意。这是我们力量的源泉。我们之所以能控制世界，是因为我们能比任何其他动物进行更大规模的合作。而人类合作的秘密就是故事。你不可能认识超过 100 或 200 个个体，但同一个故事可以被数百万甚至数十亿人知晓。只要每个人都相信同一个故事，他们就能合作，就能在规范和价值观上达成一致。
举一两个例子。想想历史上最著名的面孔，最著名的肖像。这是耶稣的脸。两千多年来，耶稣的肖像比历史上任何其他人可能都多，它们无处不在，在教堂、大教堂、房屋、学校、政府部委里。然而，这些肖像 100% 都是虚构的。没有一个是真实的，因为没人知道耶稣实际上长什么样。在他生前制作的没有任何肖像或雕像幸存下来。我们拥有的最早肖像大约是在他死后 200 年，显示一个被钉在十字架上的人，长着驴头，因为那是反基督徒画的涂鸦，嘲笑这个新的奇怪崇拜。在《圣经》本身中，没有一个字描述这个男人长什么样。只有关于他衣服的描述，但关于他本人，是高是矮，是瘦是胖，是黑发还是秃头还是金发，什么都没有，一切都是虚构。然而，正是这些虚构让数十亿人能够一起工作，无论是为了慈善、建造医院等善举，还是为了发动圣战和宗教裁判所，这一切都运行在故事之上。
宗教是一个简单的例子，但也许最重要或最成功的例子是金钱。
**约瑟夫·高登 - 莱维特：** 你的意思是金钱是一个故事。
**尤瓦尔·赫拉利：** 它还能是什么？它没有客观价值。你不能吃或喝美元。世界上最成功的叙事者不是获得诺贝尔文学奖的人，而是获得诺贝尔经济学奖的人。最后一点思考，如果你想想今天的美国，也许最后一个将这个地方凝聚在一起的故事就是美元。它是共和党人和民主党人仍然能达成一致的唯一事物，即 1 美元的价值，其他一切他们都有不同的看法。
三、信息网络：民主与独裁的本质
**约瑟夫·高登 - 莱维特：** 这触及了我在书中发现的一个迷人之处。你定义故事，不仅通过故事的内容，还通过被该故事连接起来的人群网络。你提到了共和党人和民主党人，提到了基督徒。每个故事，尤其是任何流行的故事，都定义了一个特定的网络。你能多说一点吗？因为对我来说，这是一个新概念。
**尤瓦尔·赫拉利：** 是的。《联结》试图理解历史的方式，不是宗教、文化、战争、国王的历史，而是信息如何在世界流动，以及创造世界的信息网络。举一个例子，我们倾向于将民主和独裁视为两种对比鲜明的伦理体系、政治体系。它们有不同的理想、不同的价值观，这是真的。但在更根本的层面上，你可以将它们视为不同的信息网络。信息在独裁体制中流动的方式不同。在民主中，独裁是一个所有信息流向一个中心枢纽的网络，所有决策都在那里做出；而民主是一个系统，如果独裁是集中式信息系统，民主就是分布式或去中心化系统。当然，一些信息流向中心，比如华盛顿，那里做出一些决策，但大多数决策是在其他地方做出的。如果你看过去一个世纪的美国，许多极其重要的决策是在好莱坞这里做出的。华盛顿的人对好莱坞发生的事情的影响力，这是一个公开辩论：是谁影响了谁？是华盛顿影响好莱坞，还是反之？在苏联，没有辩论。中心的人告诉斯坦利·库布里克或爱森斯坦拍什么电影。没有辩论。你做错了事，你就去古拉格。即使你做对了事，你也可能去古拉格。这就是民主和独裁之间信息流动方式的差异。
我想我们会谈到这一点。但关于人工智能的一个最大问题是，它会对这些对比鲜明的信息流动类型做什么？因为在 20 世纪，美国最终击败了苏联，因为集中式信息处理效率低下。当关于一切的信息，经济、文化、电影产业、生产汽车，所有信息都流向莫斯科，需要一些官僚做出决策时，他们无法做到。他们被信息的数量压垮了，要么不做决策，要么做坏决策。而美国的分布式系统运作效率高得多。但如果用人工智能取代人类呢？人类会被太多信息压垮。人工智能在被信息淹没时变得更高效。这仍然是一个公开辩论，我们仍然不知道答案，但至少有一派观点认为，人工智能将使集中式信息系统更高效，而 20 世纪极权和集中式系统的主要问题将成为它们巨大的优势。我们甚至在经济领域某种程度上看到了这一点，这些巨大的高科技垄断企业垄断了整个经济部门，因为当你拥有这种技术时，规模很重要。
四、三种现实：客观、主观与主体间
**约瑟夫·高登 - 莱维特：** 我想谈谈人工智能，这是我非常着迷的事情。我知道你们中的许多人也是。我还想谈谈你刚才说的关于好莱坞还是华盛顿在做更多决策的问题，因为我们喜欢认为我们在好莱坞很重要。在此之前，我想涵盖一个我在你的书中觉得最有用的词汇，我想在今晚的谈话中多次回到它。我认为这对叙事者来说是一种赋权和恭维。你在书中说，故事甚至可以创造一个新的现实层面，你谈论了三种不同版本的现实，如果可以说得通的话：客观现实、主观现实和主体间现实。你能解释一下这些术语的意思吗？
**尤瓦尔·赫拉利：** 客观现实是存在的事物，无论你是否相信它们，无论你是否知道它们。如果一颗来自外太空的小行星正向我们飞来，即将撞击地球并摧毁人类文明。它存在，无论人们是否知道。同样，病毒在任何人知道病毒存在之前就已经杀死了数十亿人。你是否相信它们并不重要。它们能杀死你。这是客观现实。
然后是主观现实，这是单个人心中的现实。它取决于单个人的意识、感知。如果你感到疼痛，世界上没有其他人感到这种疼痛。你的医生、你的家人可以告诉你，你没事，但如果你感到疼痛，它就在那里。这是主观现实。
现在，主体间现实，这是在我们已知的宇宙历史的大部分时间里不存在的东西。只有客观和主观现实。故事对于在过去几万年里，至少在我们物种中，出现一种新型现实至关重要，即主体间现实。存在于许多意识之间、许多心灵之间互动的事物，它们通常存在于故事层面，我们已经提到了一些。金钱也许是主体间现实最重要的类型。它不是客观的。美元没有客观价值，意味着你不能吃它、喝它，或者用它做东西。如果你是亿万富翁，乘坐价值十亿美元的私人飞机，坠毁在一个只有猴子、老鼠等居住的荒岛上，你的美元毫无价值。你不能从猴子那里买任何东西。你不能让它们为你建造筏子。你仍然可能有纸张，或者你可以在智能手机上向猴子展示。看，我的银行账户里有十亿美元。只要建造这个筏子，或者给我这些香蕉。我会给你想要的任何东西。这没用。它们根本不知道这种现实的存在。
现在，如果你带着一船香蕉坠毁在荒岛上，你可以吃它们。如果你带着一船悍马坠毁，你可以用它们尝试建造筏子。但带着一船钱坠毁在荒岛上是最没用的东西。没什么可做的。但如果你那里有其他的人，并且他们相信和你一样的故事，它就起作用了。但同样，它是脆弱的。主体间现实是脆弱的，因为人们可能会失去对它的信仰。同样，这发生在神身上。一些神曾经是世界上最有影响力的主体间现实，现在没人相信它们了，它们消失了。同样的事情也发生在金钱上。回到美元，现在有趣的是看看如果有些人失去对这种主体间现实的信仰，转而信仰另一种，比如比特币，会发生什么。所以，就像我们在之前的时代有过宗教战争一样。现在我们也可能会有，想象一下，当不同的人拒绝另一组的金钱时，如何运行一个社会，不，不，我们的是更好的。
五、影视技术：大规模民主的基石
**约瑟夫·高登 - 莱维特：** 所以，在我们这个时代，创造主体间现实最强大的工具之一是电影和电视。而且，我们身在洛杉矶，我们中的许多人从事电影和电视制作。我很好奇，稍微深入一点。你在书中没有太多谈论好莱坞电影和电视，但因为我们在场，我好奇想问问你。顺便说一句，我们也在《教父》中马头场景拍摄的房子这里，来吧，是的，《教父》。我好奇想听听，从历史角度来看，电影和电视如何改变了叙事，与电影和电视存在之前的技术相比。你认为呢？
**尤瓦尔·赫拉利：** 电影和电视当然不是孤立的。它们是现代信息技术包的一部分，变化是巨大的。再回到一个显著例子，如果你想想民主的历史。在历史的大部分时间里，大规模民主简直是不可能的。没有办法创造大规模民主，因为民主是一场对话。在石器时代的部落里，你想让所有部落成员进行对话，这相对容易。他们可以聚在一起交谈。但随着人类社会变得越来越大，把所有人带到广场或同一个地方进行对话变得越来越困难。所以我们不知道古代有任何大规模民主。所有的例子，比如雅典、罗马、城邦或甚至更小的部落和城镇，我们直到晚近现代时代才开始看到大规模民主，随着现代信息技术的兴起，首先是报纸，然后是电报、无线电、电视和电影，最后是互联网。这是你开始看到大规模民主的时候，因为你可以利用这些技术在数百万人之间创造实时对话，这些人散布在整个大陆，他们同时观看电视上的同一新闻，同一电视剧，同一部电影，所以他们可以以前不可能的方式连接起来。这是现代大规模民主的基础。
同样，我们稍后会谈到这一点。但当今时代的新信息技术，比如社交媒体和人工智能，正因为这个原因在动摇民主，因为民主建立在信息技术之上。所以不难看出，为什么信息技术的重大变化会在建立在其上的结构，即民主，中造成地震。但我最后要说的是，每项技术都有许多不同的用途。现代极权政权也建立在同样的技术上。古代世界没有极权政权。大规模极权政权。极权政权是试图随时控制每个人的政权。在古代世界，你做的一切，你有很多君主制和专制，但大多数时候你知道罗马的皇帝，他收税，他指挥军队，但他不试图管理每个村庄每个个体的日常生活，因为这是不可能的。你开始看到大规模极权主义与大规模民主同时出现，因为它依赖于同样的技术。比如苏联人。好莱坞建立的同时，你也看到了苏联电影产业的繁荣，苏联人至少在初期是电影制作艺术的大师，爱森斯坦，是的，他们用同样的技术创造了一个极权政权，让从太平洋到波罗的海的每个人都观看同样的电影，所有电影都传达来自中心的同一叙事、同一信息。
**约瑟夫·高登 - 莱维特：** 纳粹也是杰出的电影制作人，完全正确。莱妮·里芬施塔尔，是的，你提到了这一点，但这是我接下来想去的地方。好吧。所以，如果电影和电视改变了主体间现实，改变了网络形成的方式。让我们转向过去几十年主导的媒体技术。因为遗憾的是，那不是电影和电视。不是说电影和电视做得不好，但现在主导的技术一直是社交媒体。所以我好奇想问你和我关于电影和电视一样的问题，随着社交媒体的兴起，那改变了什么网络可以形成，什么主体间现实可以被创造，以及人类如何行为和思考。
六、社交媒体：连接少数群体与撕裂共识
**尤瓦尔·赫拉利：** 它产生了巨大的影响。想想数字。你有数十亿人每天在上面花费数小时。它注定会产生巨大的影响，它创造了形成网络、组织人群的新方式，这再次对社会产生了深远影响，它有积极影响，也有消极影响。我会谈谈积极影响。我倾向于谈论很多消极面，但也许从社交媒体的积极影响开始。我最喜欢来自我个人生活的例子。我在 22 年前在以色列最早的同性恋社交媒体网站之一遇到了我的丈夫伊齐克。关于同性恋社区的社交媒体，历史上你有两种类型的少数群体。就信息网络而言，你有集中型少数群体和分散型少数群体。比如犹太人，是集中型少数群体，即使他们在特定国家只占人口的 1%，他们集中在特定的社区、街区。所以通常，一个犹太男孩会出生在犹太家庭，在犹太街区。所以找到其他犹太人不是问题。你被他们包围，即使你只占人口的 1%。
**约瑟夫·高登 - 莱维特：** 作为一个八福音派，我可以确认这是真的，但是。
**尤瓦尔·赫拉利：** 同性恋男孩通常不是出生在同性恋家庭，在同性恋街区。在 70 年代出生在以色列的同性恋，在 80 年代和 90 年代在一个非常恐同的社会长大，第一个问题是，你如何找到其他人？我不知道任何出柜的人，肯定不在我的城镇。我又看到了。这回到了电影和电视。我第一次看到同性恋是在屏幕上。
**约瑟夫·高登 - 莱维特：** 是什么节目或电影？你记得吗？
**尤瓦尔·赫拉利：** 有一个英国系列剧，《为您服务吗？》（Are You Being Served?），他叫什么名字？
**约瑟夫·高登 - 莱维特：** 我不知道。哇，真的吗？是的，没有。
**尤瓦尔·赫拉利：** 汉弗莱斯先生。还有一部电影，我在 90 年代后期看到的，《百合》（Lilies），加拿大导演，我想是《百合》，它不是很出名，但它对我的人生产生了巨大影响。是的。我记得去看这部电影，走出电影院，告诉自己，你没事，哇。这真的，真的对我的人生有巨大影响。但是你知道，你在电视上看到一些同性恋，你无法联系他们，你不知道我的城镇里还有谁现在看同样的电影或同样的系列剧，感觉和我一样。这是单向的。但后来，社交媒体，互联网来了，社交媒体来了，你可以突然通过屏幕互动。所以，曾经是最大的障碍之一，你如何找到其他人，突然变得非常容易。
**约瑟夫·高登 - 莱维特：** 好的，那是。
**尤瓦尔·赫拉利：** 积极的一面。那是。
**约瑟夫·高登 - 莱维特：** 积极的一面，但是，但是。
**尤瓦尔·赫拉利：** 也有消极面。正如你可能注意到的，我们现在拥有历史上最先进的信息技术，但我们不能再彼此交谈了，当然也不能彼此倾听。我早先说过民主是一场对话，而对话正在全世界崩溃。每个国家都有自己的特殊解释，为什么共和党人和民主党人不能再进行理性对话。你有所有这些关于美国历史和社会的解释。但然后你去巴西，是一样的。你去以色列，是一样的。我甚至两周前在加拿大。我以为这是同一个地方。字面上，不，在加拿大也是一样的。发生了什么，并不是说今天的意识形态分歧比过去严重得多。比如 60 年代。60 年代的意识形态分歧实际上大得多。像民权运动、性革命、越南战争、冷战这样的问题，甚至暴力，至少到目前为止，在暗杀和骚乱等方面要严重得多。但尽管如此，人们仍然可以进行对话，同意一些基本事实，比如谁赢得了上次选举，让人们成为党派法律。所以为什么它在全世界崩溃？目前我们知道的最好答案是社交媒体。同样，这种支撑整个结构的基本信息技术。它现在正在造成地震，其机制现在已相当清楚。十年前，它还不清楚。不幸的是，现在我们知道出了什么问题。我们仍然未能修复它，但至少我们知道出了什么问题。这非常重要，因为这是人工智能对历史的第一次重大影响，因为社交媒体不是由人类管理，而是由算法、人工智能管理。
这非常有趣，因为第一个被自动化的工作不是出租车司机，也不是纺织工人。它是媒体编辑、新闻编辑。在 19 世纪和 20 世纪，成为主要媒体或新闻组织的编辑是一个极其强大的职位。你塑造对话，你决定人们会谈论什么。现代历史上一些最强大的人物，他们最初是编辑。列宁在成为苏联独裁者之前唯一的工作是报纸《火星报》的编辑。
**约瑟夫·高登 - 莱维特：** 我不知道。没关系。贝尼托。
**尤瓦尔·赫拉利：** 墨索里尼是一名记者。然后他是《前进报》（Avanti）的编辑，我想，报纸叫什么名字，然后他从《前进报》编辑晋升为意大利独裁者。
**约瑟夫·高登 - 莱维特：** 墨索里尼和列宁都是，是的，我不知道。这很迷人，你。
**尤瓦尔·赫拉利：** 如果你看法国大革命，让 - 保罗·马拉通过编辑当时巴黎的主要报纸《人民之友》（L'Ami du peuple）塑造了法国大革命。现在这份工作交给了算法。谁是 Facebook 新闻源的编辑，谁是 TikTok 的编辑，谁是 Twitter 的编辑，是算法和非人类智能。这些人工智能，这些算法，被它们的人类主人赋予了看似良性的任务目标，增加用户参与度。参与度听起来不错，要参与，不，原因很明显。商业模式。人们在 TikTok 或 Facebook 或 Twitter 上参与的时间越长，他们在平台上花费的时间越多，他们分享越多等等，你可以向他们展示更多广告，收集更多关于他们的数据并卖给第三方，或利用它生产更强大的人工智能和算法。所以大多数社交媒体的商业模式试图让人们尽可能长时间地粘在屏幕上，这是交给这些地方编辑的任务，增加用户参与度，算法在数百万，实际上是数十亿人类豚鼠身上进行实验，它们发现了一个实际上也是哲学家和政治家几千年前就发现的规律。但现在人工智能也发现了，增加用户参与度的最简单方法是愤怒、贪婪、恐惧或仇恨。如果你按下人类心中的贪婪按钮或仇恨按钮或恐惧按钮，你抓住他们的注意力，让他们粘在屏幕上。这就是它们所做的。它们用越来越多的愤怒、贪婪和恐惧，用假新闻和阴谋论淹没信息市场，对话崩溃了。这是非常原始的人工智能。这是在 ChatGPT 之前很久，ChatGPT 与即将到来的相比也相当原始。但即使这样，当人们谈论关于人工智能的未来恐惧时，这不是未来。它已经在过去。如果你看看这些非常原始的人工智能对全世界民主的影响，对全世界社会的影响。担心人工智能的影响并不为时过早。在许多方面，已经太晚了。
七、AI 叙事：外星智能还是人类数据？
**约瑟夫·高登 - 莱维特：** 我想补充你所说的一点，确实，算法，正如你所说，发现最大化参与度的最佳方式是愤怒、恐惧、极端主义等等。更难用语言描述的是，算法并不知道这一点，确切地说，我不认为。不。
**尤瓦尔·赫拉利：** 它们没有意识，完全没有。算法。
**约瑟夫·高登 - 莱维特：** 不是像一个人说这里有贪婪，这里有贪婪，这里有仇恨，这里有仇恨。我知道我会把更多的仇恨和贪婪放进信息流。不是那样的。它只是冷冰冰的、愚蠢的模式匹配。冷冰冰的。愚蠢的。公平。
**尤瓦尔·赫拉利：** 公平。
**约瑟夫·高登 - 莱维特：** 好吧，那是公平的过渡，从冷冰冰和愚蠢到冷冰冰和聪明。我们谈了电影和电视。现在我们谈了社交媒体。现在我想谈谈接下来要来的。我们都，我认为，意识到我们正处于一些巨大变化的非常开端，这些变化因为快速兴起的技术人工智能而迅速向我们袭来。我想通过你的书来探讨。你说了这么多关于人工智能的不同事情，我想把它缩小到，因为我们是通过叙事的镜头来切入这次对话，从那里开始。你认为人工智能将如何改变叙事，从它过去是什么？
**尤瓦尔·赫拉利：** 正如我们早先所说，故事是历史上一些最强大技术的基础，无论是耶稣的故事还是金钱的故事，这真的是人类文明的基础。其他一切都在其上建立。在数万年里，地球上唯一能创造故事的实体，要么创造新故事，要么阐述和解释旧故事，是人类，只有人类心灵有能力做到这一点。现在，我们在这个星球上有了另一个实体，能够传播、解释，最终创造故事。它没有意识，至少目前还没有，至少据我们所知，至少我的立场是，你不需要意识来做这些事情。你需要智能。智能和意识是不同的事情。智能是达成目标、解决问题的能力。意识是感受事物的能力，痛苦和快乐，爱和恨。我们倾向于混淆它们，因为在人类以及其他哺乳动物和动物中，意识和智能是结合在一起的。我们通过感受解决问题，但人工智能和计算机，它们非常不同。据我们所知，它们没有意识。它们不感受任何东西，但它们在至少某些领域高度智能。然后，如果你想想叙事，现在人工智能创作故事、写文本、创造图像、创造音乐的能力真的令人惊叹。人们说，是的，它仍然不如最好的人类，但它已经比许多人类好，或者人们会说，甚至比平均人类好。而且这只是开始。没什么。距离人工智能革命开始才 10 年，我们还没看到任何东西。当我读，比如，一个由人工智能创作的故事，最让我震惊的是，你可以说，哦，它不好，因为这样，所以那样，它缺乏这个，但它真的是一个故事。它由一些连贯的想法、主题联系在一起。它不仅仅是某种 glorified autocomplete，它只是随机地把词串在一起，或者它从各处取句子片段并把它们放在一起。不，故事实际上有逻辑。所以即使它不如 2024 年最好的人类叙事者，2034 年或 44 年它会是什么？而且，故事不仅仅是神话故事或诗歌或戏剧或电影。金钱也是一个故事。所以这些东西将创造新的金融工具，如果你想想人类创造力，金融是最有创造力的事情之一。你知道，想想金钱、支票、ETF、CDO，所有这些都非常有创造力，它们越来越多地，我们将看到由非人类智能创造的新金融工具。
你知道，在数万年里，我们生活在人类文化的茧内，比如我们的生活被其他人类创造的所有这些故事和人工制品塑造，从圣书，圣经、古兰经、吠陀，到音乐、戏剧、电影中的歌曲，以及人工制品，椅子、鞋子，一切，这种文化茧由人类制造。这意味着什么？在我们进入这个问题之前，它是好的吗？是坏的吗？是危险的吗？暂时把判断放在一边。只是想想，对人类来说，生活在一个很大程度上由外星智能编织的世界里意味着什么，外星，不是指它来自外太空，外星是指它以与人类心灵非常不同的方式创造。我认为，这是我们面临的最大问题，肯定是在好莱坞，人类叙事的中心，但在全世界。
**约瑟夫·高登 - 莱维特：** 所以，这可能是书中唯一我不完全同意的地方，是的。我很想和你稍微推敲一下。是的。将人工智能描述为外星智能，显然你不是指来自外太空的外星人，我理解。但你在书中甚至使用了“神”这个词。你说，也许这些实体可以被视为某种新神。所以我倾向于觉得，用外星、神这样的术语来描述这项技术，将这些计算机系统人格化或神化，我担心这个故事可能弊大于利，我有几个原因，但在进入之前，我想先问，所以你非常果断地决定在书中用这些术语，外星、神，来描述这项技术。告诉我你的思考过程。你为什么决定用这些术语来描述技术？
**尤瓦尔·赫拉利：** 嗯，基本上是一种公关策略。你如何向公众呈现它？是的，这意味着很多思考。就结果而言，这是一个好的公关策略吗？我选择走外星方向的一个原因是，我看到太多的讨论陷入人工智能试图达到人类水平智能的想法，而在定义上，什么是人工智能？它是计算机在某种程度上等同于人类的时刻。我认为这完全具有误导性。我非常同意，人工智能并不是朝着人类水平智能进步，就像飞机不是试图达到鸟类水平飞行一样，是的，它们只是做它们自己的事情，这与鸟类完全不同。这也是我对计算机和人工智能的看法，它们在做它们自己的智能事情，这与人类智能完全不同。这是我选择使用“外星”这类术语的一个原因。
**约瑟夫·高登 - 莱维特：** 我认为这是一个很好的原因。我也发现这是适得其反的。当人工智能被用这些术语描述时，它，它是否接近人类水平智能？他们抛出这个术语，AGI，人工通用智能，他们很快将其定义为一旦它接近人类水平智能，我同意。我认为这也没用。我会告诉你我为什么担心用这些术语描述这项技术，并对其进行人格化或神化，这与技术实际如何工作和构建有关。我显然不是工程师，但我已经了解了足够多。这些模型的构建方式是，它们获取巨大的数据集，将数据输入算法，一种他们坦率地说甚至不完全理解的某种黑箱，它输出有价值的结果。现在，所有输入模型的数据来自哪里。它来自人类。人类生成了这些数据。所以我担心将其描述为外星或神化，它感觉与人类分离，感觉它有助于隐藏这些模型真正如何工作的现实。因为，顺便说一句，我认为许多这些科技公司，也许不是所有，Stability AI 的 CEO 在场，他们正在致力于所谓的“净化数据集”，我真的很欣赏，实际上获取他们用来训练这些模型的数据集的许可。但我认为许多这些实验室没有这样做。他们做的是从那些我认为有权拥有他们创造的数据的人那里窃取一堆数据，他们没有披露什么数据进入了这些模型。当被问及时，他们不会说，他们因此被左右起诉。对我来说，这是一个我们需要尽快解决的核心问题，出于许多原因。我想深入探讨。其中一个问题是经济。我们在电影和电视行业可能会最先感受到它。但我认为它不限于好莱坞。我认为这么多行业，无论是医生、建筑师、设计师、物流操作员，任何在电脑前工作的人，一旦有机器人，真的，任何做几乎任何工作的人，他们的生计都会受到威胁。这些科技公司会试图说，哦，好吧，我们发明了一个神。它可以做你的工作，而实际上，他们做的是窃取了每个人的数据，计算数字，生成输出，没有人类生成的数据，他们的产品 100% 无用。毫无价值。所以我担心将这项技术描述为神或外星人或任何将其人格化或变成独立于人类输入而存在的生物、事物的术语，是因为它帮助这些科技公司隐藏他们的产品真正来自哪里，而它们真正来自人类。
**尤瓦尔·赫拉利：** 所以我同意。我认为主要问题是我们关注输入还是输出。我完全同意你描述的内容。我这样想，你知道，人工智能基本上是在吞噬我们过去数万年产生的整个人类文化。从数万年前洞穴壁画到今天的电影，我们产生了巨大的文化人工制品和习惯，现在人工智能来了，在几个月或几年内就吞噬了它。而且，我认为你绝对正确，许多这些公司的商业模式基于这种把戏，说服每个人信息的工作方式与宇宙中其他一切不同。我认为这回到了肖莎娜·祖博夫非常有洞察力的书《监控资本主义》，她解释说，你知道，几千年来，人们有这个基本原则，不要偷窃，然后科技公司来了，说，是的，不要偷窃，但它不适用于信息。那是不同的。那是不同的领域，所有这些关于。不，这不是偷窃。同样，反应应该是，什么？为什么信息如此不同？在这里，我完全同意，多想想，使用这种非常外星的术语实际上有助于这种呈现方式。当我想到技术的外星性质时，我主要想到的是输出，因为它吞噬了所有这些熟悉的东西，但它然后开始创造在某些方面不同于输入的所有东西的东西。这种想法，人工智能只是，你知道，复制， glorified copy paste，它取文本或图像或音乐，从这里取一点，从那里取一点，然后放在一起。啊，它是新的。不，它真的比那更多。在某种程度上，这也是人类所做的。我想到我的写作工作。我做同样的事情。我读所有这些之前的书和文章，我和人们交谈，然后我从这里取一点，从那里取一点，放在一起，然后这里是一本新书，这和音乐一样。没有人从零开始。每个人，每个音乐家，听之前的艺术作品并汲取一些东西，但没有之前的输入，没人能做到。
**约瑟夫·高登 - 莱维特：** 是真的。那是真的。如果。完成你的想法，但我想回应那个，所以。
**尤瓦尔·赫拉利：** 我认为至关重要的是理解我们在人工智能革命中面临的是什么，我担心过度人格化它，然后我们会低估。
AI 与叙事未来：约瑟夫·高登 - 莱维特与尤瓦尔·赫拉利对话（第二部分）
一、AI 的创造力与人格化困境
我们面临的挑战在于，人们往往认为 AI 只能剪切和粘贴我们的创作，无法产生完全全新的东西。然而，事实并非如此。从金融到宗教，AI 能够创造出全新的事物。这些事物可能有益，也可能有害，但我们必须面对一个截然不同的现实。
约瑟夫·高登 - 莱维特对此表示赞同，并强调不应低估这一挑战。他同意赫拉利的观点，即创造力始终是各种影响的融合。莎士比亚并非第一个写《罗密欧与朱丽叶》的人，《绿野仙踪》也并非第一部此类作品。他在 Hit Record 创意社区的经历表明，人们是在彼此的作品基础上进行混音和构建，因此应优先考虑诚实而非原创性，因为每个人类都是独特的。
然而，将这种思维方式应用于计算机系统，前提是将 AI 人格化。这将是未来面临的核心问题之一：我们是否愿意赋予这些计算机系统道德地位和法律地位？很快，许多人将会爱上这些计算机系统。目前已经有很多人每天花费数小时与他们的 AI 挚友或 AI 恋人交谈互动。这种情况只会变得更加复杂和普遍。我们所有人都会与这些 AI 角色产生深厚的情感联系。因此，谈论 AI 权利并将其与公民权利相提并论，会显得非常自然。
高登 - 莱维特对此表示担忧。如果走上这条路，赋予 AI 权利可能会与赫拉利书中描述的最糟糕的反乌托邦结局相伴而行，这将是非常危险的。
二、意识、痛苦与 AI 权利的法律路径
赫拉利完全同意这一观点。他认为，AI 的一个重要特征是能够与人类建立亲密关系，这种关系可能是性的，也可能是其他形式的亲密。这已经在发生，并将成为全球社会的主要问题。
从哲学上讲，无法证明任何实体拥有意识，而人格和法律权利最终取决于实体是否有意识。意识也意味着受苦的能力，权利与受苦的能力相关联。以动物权利为例，如果动物能受苦，如疼痛、孤独或痛苦，那么它们至少值得伦理上的辩论，尽管它们可能不享有与人类相同的权利。相比之下，椅子没有权利，因为椅子不能受苦。
然而，我们没有任何证据证明任何人拥有意识或受苦的能力，这一点人类已经知晓数千年。因此，赋予权利实际上是社会惯例的问题。社会同意所有人类都是有意识的生物，社会也同意狗应该拥有权利，因为我们对它们有情感依恋。
随着人类对 AI 产生依恋并与它们建立关系，承认 AI 为“人”将成为一个重大问题，并将产生巨大的压力。这甚至可能成为世界地缘政治分歧的一个来源：承认 AI 为拥有权利的人的国家与不承认的国家之间的分歧。当今关于人权态度的争论，与这一分歧相比将显得微不足道。
有趣的是，最接近承认 AI 为人的国家是美国。因为在美国法律中，承认 AI 为人的法律路径是敞开的。这是因为美国法律承认公司是“人”，甚至拥有权利，如言论自由（参考 2010 年的“公民联合案”）。直到今天，公司作为拥有权利的人的观念仍是一种法律虚构，因为公司的每一个决定最终都必须由人类高管、律师或会计师做出。谷歌在美国是法律意义上的人，但谷歌的每一个决定都必须由人类做出。
现在想象一下，如果根据美国现行法律将 AI 注册为公司，不需要任何新法律。根据美国法律，你可以将 AI 注册为公司，它现在就是一个拥有权利的法律人，如言论自由。但与谷歌不同，这个 AI 实际上可以做出决定，可以在世界中采取行动。
赫拉利为此向观众推销了一个科幻电影创意：你有一个注册公司的 AI，它是法律意义上的人。它可以开设银行账户，赚钱。它去像 TaskRabbit 这样的网站，在线雇佣人员为其工作并赚钱，然后它将钱投资于股市。它做得非常好，因为它是 AI，超级智能，而金融是 AI 最容易发挥的领域。自动驾驶车辆很难，因为必须处理物理和社会现实，所以埃隆·马斯克等人每年承诺明年实现全自动驾驶，但从未实现，因为那很困难、很混乱。金融是一个纯粹的信息和数学世界，只是数据，是 AI 的完美游乐场。
这个 AI 带着它的钱去投资，成为美国最富有的人。美国最富有的人不是人类，而是 AI。根据最高法院在“公民联合案”中的裁决，言论自由赋予 AI 的一项权利是进行政治捐款。于是，AI 开始向政客捐赠数十亿美元，以换取推进 AI 权利。在美国，通往这一目的地的法律路径是敞开的。
三、好莱坞的使命：理解官僚体系
高登 - 莱维特表示，希望今晚在场的编剧们记下了这个故事。由于时间关系，他希望能问最后一个问题。考虑到在座的好莱坞叙事者，在这个旧式的电影和电视世界中仍保留着一定影响力，赫拉利希望他们做什么？希望他们通过故事传播什么信息？
赫拉利的回答是：向人们解释官僚体系。
高登 - 莱维特开玩笑说，解释官僚体系听起来不像是一部好电影。赫拉利回应说，我们关于官僚体系的电影太少了，这是一个非常大的问题，因为人类社会建立在官僚体系之上，从医院到军队都是如此。正如高登 - 莱维特所说，官僚体系不是好的故事素材，这是因为它们在进化中出现得很晚。
人类故事的基本情节，从古希腊到现代好莱坞，实际上是从进化中“窃取”来的。例如，基本的爱情三角关系，两个男性争夺一个女性，鬣狗这样做，豪猪这样做，好莱坞也这样做。这个情节并非好莱坞发明，它追溯到数千万年前的进化。同样，兄弟姐妹之间的竞争，如《继承之战》中兄弟姐妹争夺父亲的爱，这也是人类民族的故事，如犹太民族的故事。这个故事并非在《圣经》的该隐和亚伯中发明，它追溯到数千万年前，所有哺乳动物、大多数鸟类甚至一些爬行动物都知道这个基本的进化故事。
官僚体系不在其中，因为官僚体系直到大约 5000 年前的古代美索不达米亚，在文字发明后才首次出现。我们没有进化上的准备来理解官僚体系。文件之间没有爱情关系，法律之间没有兄弟姐妹竞争。因此，它们很无聊，不利于用户参与，但对于真正理解人类社会如何运作至关重要。
这是艺术数千年来的一大空白。艺术家非常擅长讲述神话故事和浪漫戏剧，这些大多取自进化。关于官僚体系的好故事非常少，偶尔能找到卡夫卡的作品、《大空头》或《是，大臣》（英国系列剧），但很少见。上一次看到关于会计师的漫威大片是什么时候？会计师没有变成蜘蛛侠或超级女侠，而是通过让坏人填写表格、发现逃税等方式与坏人斗争。这样的电影不多，但人类社会就是这样运作的。
好莱坞在提醒人类注意 AI 潜在危险方面做出了巨大贡献，早在其他人谈论 AI 之前，如《终结者》和《黑客帝国》。但好莱坞也做了一件大错事，即以错误的方式描述了危险情景。它主要关于机器人叛乱，机器人和计算机决定消灭我们并反抗我们，机器人在街上奔跑射击人。这不太可能很快发生，因为技术尚未到位。因为人们在电影中看到这是 AI 的危险，而且它不会很快到来，所以人们感到自满，包括开发技术的人。
真正的危险不是机器人叛乱，而是数百万个 AI 官僚做出越来越多的关于我们决策，从是否给我们贷款到是否轰炸我们的房子。要理解我们面临的情况，我们需要更好地理解官僚体系。当然，这不仅仅是 AI 的问题。我们还有其他问题，即无法很好地理解官僚体系。部分原因是官僚体系有时真的在做坏事，我们无法理解，但往往相反，现代人类社会无法没有这些官僚体系而存在，但人们对它们极度怀疑，容易成为关于“深层政府”等阴谋论的猎物，因为他们不理解预算等事物如何运作。我们需要艺术家、编剧和电影制作人的帮助。我们已经看了足够多关于神话和超级英雄的电影，我们真的需要帮助来理解官僚体系如何运作。
四、乐观的理由：人类潜能与信任
高登 - 莱维特表示，赫拉利的书《未来简史》中包含相当多的悲观主义，这次对话也提供了许多合理的悲观理由。他问赫拉利有什么让他感到乐观的事情。
赫拉利回答，正如 AI 远未达到其全部潜力，人类也远未达到我们的全部潜力。基本上，如果我们每投入一美元和一分钟开发 AI，也投入一美元和一分钟开发我们自己、我们的思想，我们将没事。问题在于，在许多方面，太多人对人类绝望，将所有筹码都押在 AI 上。
与领导 AI 革命的人交谈时，他们意识到这是非常危险的，他们意识到人类需要时间适应，但他们无法放慢速度。你从一家公司走到另一家公司，他们告诉你，我们想放慢速度，但我们不能，因为我们不能信任竞争对手放慢速度，无论是其他公司还是大洋彼岸的中国人或其他人。
因此，我们处于一种非常奇怪的情况，真正推动 AI 革命的是人类之间无法相互信任。这里是最具讽刺意味或最危险的部分：当你问同样的人，好吧，你必须跑得更快，因为你不能信任其他人类，但你能信任你正在开发的 AI 吗？他们说，是的。
同样的人，不能信任人类，却信任 AI。他们有一个解释，某种程度上，他们说，我们对人类有数千年的经验，我们知道不能信任他们。我们对 AI 没有经验，谁知道也许它们可以被信任。
赫拉利对历史的看法相反。我们对人类有数千年的经验，在这数千年中，我们设法极大地增加了人类信任。一万年前，人们生活在小群体中，他们只能信任群体中的其他 100 人，仅此而已。信任陌生人和外国人的机制很少。多年来，我们建立了这些大型网络，它们最终不仅基于信息，还基于信任故事。金钱、官僚体系帮助我们获得了信任。你每天上街，遇到的陌生人比石器时代的人一生遇到的还多，在 99% 的情况下，这没问题，你依赖这些人提供食物、医疗保健和防御。
我们还没有达到一个点，在某些方面，我们信任数十亿其他人提供我们的食物和基本必需品。所以，并不是我们有数千年的经验表明人类不可信任，恰恰相反。而对于 AI，我们没有任何经验。因此，对人类绝望并将所有信任押在 AI 上，是一个非常非常大的赌博。
高登 - 莱维特表示，听到这番话，他对赫拉利和所有人更加信任。他感谢赫拉利的到来和对话，祝大家晚安。