人工智能如何塑造我们的信念：尤瓦尔·诺亚·哈拉里 (Yuval Noah Harari) 和拉里·威尔莫尔 (Larry Wilmore) 对话
人工智能如何塑造我们的信念：尤瓦尔·赫拉利与拉里·威尔莫对话录
一、信息的定义：连接而非真理
拉里·威尔莫：很高兴见到你。我在后台一直是个粉丝，因为我是你的超级粉丝。我告诉你，我是《人类简史》的早期推广者之一，我买了好几本那本书，分发给别人。你总是令人兴奋，你谈论那些我们习以为常的事情时非常细致入微。在这本新书《联结：从石器时代到人工智能的信息简史》中，谈论信息非常迷人。我想从这个问题开始，我知道这是个难题，你甚至在书中承认这一点：信息究竟是什么？我们如何定义它？
尤瓦尔·赫拉利：许多人错误地认为信息就是真理，或者信息是真理的原材料。你觉得收集大量信息，分析它，就能得到真理。事实并非如此。大部分信息是垃圾，大部分信息不是真理。真正定义信息的是“连接”。这就是为什么这本书叫《联结》（Nexus），因为信息真正做的是将许多个体、许多分离的人类实体连接成一个网络。它是一种胶水。有时你可以用真理将事物连接在一起，但在许多情况下，你也可以用虚构、幻想、谎言和幻觉将许多人连接在一起，形成一个国家、一支军队、一家公司、一种宗教等等。
举一个例子，想想视觉信息，比如肖像、图像、绘画。如果你想想世界上最著名的肖像、历史上最常见的面孔是什么，那是耶稣的脸。过去 2000 年里，全球有数十亿张耶稣的图像和肖像，它们无处不在，在教堂、大教堂、私人住宅、学校、政府办公室。但没有一张是真实的。它们 100% 是虚构的。
威尔莫：瑞典耶稣。
赫拉利：没错。我们都知道耶稣是黑人……
威尔莫：是的，他来自……
赫拉利：他来自斯堪的纳维亚。事实是，我们没有任何他生前的肖像。如果当时有人费心画的话，他只是一个罗马帝国小省份里的乡村教师，帮助人们，治愈病人，复活死人，把水变成酒，所有的魔术把戏。我们不知道是否有人费心画过他的肖像，即使画了，也没有留存下来。《圣经》中没有一个字描述这个男人实际长什么样。有一句描述他穿什么衣服，但没有任何关于他高矮、胖瘦、黑发金发还是秃头的描述。我们拥有的一切都是艺术家想象出来的，这些艺术家生活在他死后几个世纪，甚至几千年。比如耶稣最著名的图像之一，那个“斯堪的纳维亚耶稣”，是由一位美国艺术家在 1940 年创作的，旨在献给二战中的士兵等。根据一些统计数据，这可能是 20 世纪最成功的绘画，就复制数量而言。所以耶稣基本上就是平·克劳斯贝（Bing Crosby）。
威尔莫：基本上就是那个形象。
赫拉利：是的，那就是那个形象。我的意思是，如果你比较真实的人、关于这个人的故事、关于这个人的图像（大部分是虚构的，在他死后很久才创造出来），图像远比真实的人更有力量。这当然不一定是坏事。你可以用它给人们希望，鼓励人们行善，互相帮助。我不是说虚构一定是坏的。毕竟我们在洛杉矶，这是世界虚构之都。我们不应该贬低虚构，但在这里我们也可以贬低它。我刚从纽约来，那是另一个世界虚构之都，因为金钱也是虚构的。世界上最大的讲故事者最终不在好莱坞，而在华尔街。他们讲述真正强大的虚构故事，而且奏效了。
二、主观、客观与主体间性
威尔莫：所以信息有价值是因为它连接了人们，但它并不作为客观真理存在。那么动物能获取信息吗？或者它们获取的是客观真理？
赫拉利：动物当然也交流，它们彼此传递信息。但世界上有几种类型的信息。你有客观真理，关于世界的事实。比如，如果一颗小行星从外太空飞来撞击地球或恐龙，即使没人知道，没人相信，它仍然是真实的。那是客观的。
然后你有主观存在领域，即只存在于单个个体心中的事物。比如我疼痛，我感觉到疼痛，对我来说这是真的，宇宙中没人能感觉到。即使我告诉你，你信不信都没关系，你感觉不到，只有我感觉到疼痛。或者你认为有人在吃狗和猫，那是第三种信息，即主体间性（intersubjective）。
威尔莫：什么是主体间性领域？
赫拉利：这是存在于人与人之间的通信网络中的事物。在这里你找到耶稣的形象，在这里你找到美元，在这里你找到吃狗和猫的人。它不是客观真实的，但它也不只是单个个体的幻想或只有我感受到的感觉。它存在于我们所有人或部分人之间的通信信息网络中。如果足够多人相信它，如果足够多人谈论它，它就能连接人们。即使我们继续谈论狗和猫，你知道，你刚刚进行了世界上最重要的对话之一，旨在帮助美国公民决定谁将控制能毁灭世界的核武器。但大多数人从这场一小时辩论中记住的唯一事情是狗和猫。
威尔莫：欢迎回到美国，那就是唯一重要的事情，老实说。
赫拉利：但这在公关方面，即使特朗普没有提前想过，也是一个非常聪明的举动。因为在政治和生活的许多方面，关键问题是人们在谈论什么，对话的主题是什么。人们说什么、想什么，不如决定对话的主题重要。如果美国人谈论堕胎，这将是主要对话主题，这对哈里斯有利。如果人们谈论移民，不管他们说什么，如果这是对话主题，那就非常有利于特朗普。你可以想象典型的后续对话，有人说“他说他们在吃狗和猫”，另一个人回复“但这不是真的，这只是虚构”，然后特朗普的支持者说“是的，这可能夸张了，但移民确实有真正严重的问题”，然后他们开始谈论移民。所以他传达的信息是“有问题”，真正传达的信息是“移民有问题”。所以也许不是狗和猫，但这仍然是人们谈论的主题。控制对话是如何进行的，这是世界上最重要的事情之一。
三、对话的控制权：从编辑到算法
当你查看谁控制对话的历史时，有趣的是，在当下我们生活的时刻，历史上第一次是非人类在控制对话。我不是指猫和狗，我是指算法、人工智能。是它控制吗？因为它告诉我们应该对什么感兴趣，还是它只是给我们那些我们应该感兴趣的东西？
不管你怎么定义，想想今天，谁决定《纽约时报》的头版是什么？是人类决定。谁决定福克斯电视新闻或 CNN 新闻的主要新闻？是人类，是人类新闻编辑。但谁决定 Facebook 新闻源顶部是什么，谁决定你在 TikTok 上看到的下一个视频？不是人类，是算法决定人们的注意力将集中在哪里。这是关于人工智能取代人类不同工作、自动化工作的大量讨论之一。人们认为他们会取代出租车司机，取代纺织工人。但他们取代的第一个工作之一是新闻编辑。这很惊人，因为世界上一些最重要、最有权势的人曾经是新闻编辑。比如列宁在成为苏联独裁者之前，他的一个工作基本上是报纸《火星报》的编辑。贝尼托·墨索里尼在成为意大利独裁者之前，他是报纸《人民》的编辑。这就像是晋升阶梯：记者、报纸编辑、国家独裁者。
威尔莫：我看到一个可怕的模式正在形成。
赫拉利：而他不是记者，他是画家，最初是个画家，不是很成功的那种。现在画家也被取代了，所以这是一个令人担忧的模式。人工智能本应给我们自由时间，让我们有时间去绘画，现在它却在绘画，做艺术 stuff，而我们得做所有的工作。这完全颠倒了。
四、书籍与印刷术：民主化还是混乱？
你在书中也谈论了很多技术，有趣的是技术并不一定让事情变得更好。这不是直线式的，不像你以为的那样我们会得到更好的信息。比如书籍的发明，谈谈书籍的发明如何改变信息的综合方式，或者如何改变事物。
书籍历史上有两个重要节点：书籍的实际发明，以及几千年后印刷术的发明。首先看书籍，有人需要发明书籍。写作是在古代美索不达米亚（今天的伊拉克）发明的，大约 5000 年前。但在此后的几千年里，人们写了很多文件，但不是书籍。书是一种非常特殊的文件，它是非常长的文件，有很多章节，或者如果是食谱，有很多食谱，或者很多故事。它有很多副本，散布在许多不同的地方，它们都是相同的。这基本上就是今天人们试图用区块链做的事情。这在某种程度上是革命性的，因为你可以将完全相同的信息传递给散布在广阔领土上的许多人。
当你看到圣书的兴起，比如《圣经》，其理念是你可以限制国王或皇帝的权力，通过在许多不同的地方拥有许多相同的圣书副本。以前，你在首都中心有一个大神庙，国王控制神庙，所以国王可以告诉你任何他想说的关于“上帝说了这个，女神说了那个”的话。他是唯一拥有那个渠道的人，他控制着通往天堂的通信渠道。然后人们提出了这个想法：让我们有一本圣书，这应该民主化与神的沟通。因为如果你在许多地方有许多相同的圣书副本，国王不能只改变里面的内容。他可以改变他在宫殿里的那本副本，但有成千上万的其他副本，据称是相同的，很容易检查并说“不，不，不，书上不是这么写的”。
这听起来是个绝妙的主意，应该民主化权力。但技术总是有问题，书也是一种技术。我们不认为基督教、犹太教或伊斯兰教是基于技术的宗教，但它们是基于技术的，基于书。事情必须以某种方式组合在一起，人们必须决定什么会进入那本书，这决定了宗教本身。一旦你有了“让我们在每个地方都有一本圣书”的想法，问题就来了：里面会有什么？
我们知道，耶稣从未读过《圣经》新约，他那个时代不存在。新约正如我们所知，是 27 篇文本，有些归于圣保罗，有些是福音书，有些是其他门徒写的信。在基督教最初的几个世纪里，没有新约。我们有大量证据表明，在基督教最初的几个世纪里，没有新约，有很多不同的文本、福音书、关于耶稣的故事、不同人的信、祈祷、各种预言。这就是“传播福音”这个表达真正来源的地方，因为他们能做的只是谈论它。他们谈论了很多，写了大量信息。在某个时刻，人们说，我们不知道读什么，哪些是好书，哪些是可靠的，哪些不太可靠。最终，在耶稣死后约 400 年，公元 4 世纪末，他们在迦太基（今天突尼斯，北非）举行了一次大会。当时北非是基督教的一个重要中心。主教和神学家（主要来自北非）聚集在一起，决定什么将进入推荐列表。它最初是一个推荐列表，就像你在 Netflix 上有那么多电视剧，不知道看什么，所以你有“这个冬天必看的前 10 部系列剧”。是一样的，这是每个基督徒应该阅读的前 27 本书。
他们不是书的作者，不同的人写了不同的文本，他们是编辑。他们决定什么将进入推荐列表，他们自己决定，他们有权这样做。他们被授予了权力，他们只是夺取了那个权力。举一个关键选择的关键讨论例子：当时有一篇非常受欢迎的早期基督教文本，叫《保罗与提阿的言行录》。这是一篇描述圣保罗和他的女门徒提阿活动的文本，她行神迹，向人们传道，施洗，她是教会的领袖。这篇文本当时非常受欢迎，被视为证据，表明女性可以在教会中成为领袖，可以与男性平起平坐。当时确实有很多女性实际上是教会的领袖。
然后有另一篇文本，来自同一个圣保罗的一封信，学者们相信这封信实际上是在他死后 100 多年伪造的。圣保罗给圣保罗的一个门徒提摩太的信，其中圣保罗说女性不应该成为领袖，她们应该保持沉默，服从男性，她们的救赎将来自生孩子和照顾孩子，基本上服从男性。迦太基的委员会决定将《保罗与提阿的言行录》排除在外，这就是为什么这里的大多数人从未听说过它。但给提摩太的信被收录了，这就是《提摩太前书》，它出现在世界各地的数十亿本《圣经》中。这就是编辑的力量。
现在让我们跳到一千年后，古腾堡将印刷技术从中国带到欧洲，在 15 世纪中叶，印刷革命。在谈论那个之前，一个区别是，仅仅因为你有一本书，另一本书是它的副本，并不意味着那是直接副本，或者完全相同。就像讲故事一样，第八代书可能在某些方面非常不同，人们也可能故意改变，如果他们想要的话。谁会检查呢？所以印刷术在许多方面是一场革命，因为它消除了错误或有意的改变，而且它使成本大大降低。以前如果你想复制《圣经》或任何东西，你需要一个人手写每一个字母，每一本副本。而有了印刷，一次你需要做所有印刷块的大工作，一旦有了它们，你可以打印任意数量的副本。你自动化了它，使它便宜得多。所以你有书籍生产的爆炸式增长。
许多人认为这是点燃科学革命的原因。你去硅谷，和他们谈论信息技术、算法和人工智能的危险，你可以几乎肯定在某个时刻他们会提到印刷革命，他们会说“看，印刷有多美好，印刷术给我们带来了科学革命”。这是不真实的。印刷术确实有助于科学革命，但从 15 世纪中叶的印刷技术到 17 世纪科学革命的繁荣（像牛顿、莱布尼茨等人），花了将近 200 年。在这 200 年间，欧洲经历了历史上最严重的宗教战争浪潮和最严重的猎巫浪潮。印刷术在很大程度上促成了这些疯狂和暴力浪潮。因为大多数信息是垃圾，不是真理。真理是一种非常昂贵和稀有的信息。真理通常是复杂的，人们想要简单的东西。真理通常是无聊的。你知道哥白尼发现的那些关于行星天文学的数学方程，16 世纪很少有人读哥白尼。那个时期的畅销书是极端宗教小册子和猎巫手册。
五、真相的成本与虚构的诱惑
举一个非常著名的例子，一个实用的，每个人都需要它，对吧？你得抓住女巫。如何识别和抓住女巫。所以，在印刷术发明后不久，早期现代欧洲最早的畅销书之一是一本叫《女巫之锤》（Malleus Maleficarum）的书。在中世纪，他们几乎不猎巫，与这种中世纪猎巫的流行形象相反。中世纪欧洲人不太想女巫，瘟疫正在发生，有其他事情要担心。他们知道，好吧，村里有一些女巫，也许如果你的牛丢了，你可以去找女巫，她会帮你找到你的牛。有时她们可以毒死某人，但这不是大事。
在古腾堡发明印刷术左右，出现了一个阴谋论，即世界上所有的女巫都是撒旦领导的一个单一阴谋的一部分，旨在彻底摧毁人类文明。起初只有少数人相信它。最早相信它的人之一叫亨里希·克莱默，他在今天奥地利的阿尔卑斯山开始了自己动手的猎巫，逮捕了人。他有这些非常奇怪的性幻想，他是那些说大多数女巫是女性，并且是由强大的性冲动驱动的人之一。教会实际上压制了它，他们说这个人疯了，他们释放了他逮捕的女性，并将他赶出省份。他通过印刷术复仇。他写了这本书《女巫之锤》，他印刷了它，现在因为印刷术很容易印刷，这本书卖得很好，又是早期的畅销书之一。
为了理解为什么，我举一个书中的例子。有一章关于女巫从男人那里偷阴茎的能力。他带来证据，比如一个男人早上醒来，发现他的阴茎不见了。他怀疑当地的女巫，一定是她做的。所以他去找当地的女巫，女巫说“好吧，我会把你的阴茎还给你”，她说“没门，出去，看到这棵树了吗，爬上树”，他爬上树，在树顶，他发现一个鸟巢，女巫把从社区不同男人那里偷来的所有阴茎都放在那里。她说“好吧，你可以拿走你的”，确保你选对那个。他选了最大的一个。然后女巫对他大喊“你不能拿走这个，这个属于教区牧师”。然后一个兄弟过来，说“嘿，伙计，我的鸡巴去哪了，有人拿走了”。
所以你可以理解为什么这本书比哥白尼关于月亮和火星如何在天空中移动的数学方程卖得多。他应该在那本书里加上丢失的阴茎，那样会更好。另一件事是，当你把谎言印出来时，它会对那个谎言产生某种影响，人们不会同样对待它。我记得鲍勃·萨吉特是个伟大的喜剧演员，他有一个很棒的金句，他会说一个荒谬的事情，然后他说“不，不，不，真的，我读过那个，真的，我把它写下来了，我读过那个，你知道，我相信我读到的 everything”。我一直认为那是个很棒的金句，因为他是对的。如果你告诉某人你读过那个，它似乎让它更可信，更真实。
所以他把这个印出来，这就是有趣的地方，那让它变得真实。尤其是试着回到 15 世纪。对许多人来说，这只是印刷革命的早期。对许多人来说，他们一生中看到的唯一一本书是《圣经》。有一种感觉，书不仅仅是真实的，书是神圣的。突然你有印刷术，它变得更便宜，更容易，你有这本《女巫之锤》，但它是一本书。你长大时崇拜《圣经》，你知道这是一本书，它是写在书里的，不是你在村里听到的谣言。所以它非常强大。
现在这听起来很好笑，直到你意识到后果，因为后果是数万人被以最可怕的方式折磨和杀害，在欧洲大猎巫狂热中。举一个例子，在慕尼黑，德国南部，有一个著名的案例，他们逮捕了一个整个家庭，波彭海默家族，指控他们所有人都是女巫，根据这本猎巫手册所写的。所以有一个父亲、母亲、三个孩子，最小的 10 岁。为了证明他们是女巫，他们折磨他们，因为这是《女巫之锤》推荐的，为了从女巫那里得到真相，你必须折磨他们。他们从 10 岁的男孩开始，因为他是最弱的环节。如果你现在去慕尼黑的档案馆，你仍然可以读到审讯的记录。他们折磨一个 10 岁的男孩，直到他承认他的母亲是女巫。然后他们打破了这个家庭，他们在可怕的折磨下都承认了毒死人、召唤冰雹风暴、参加女巫安息日。他们又有这个疯狂的想法，女巫聚集在一起，举行性仪式，杀死孩子，吃他们，喝他们的血，所有那些。
你知道它来到美国，塞勒姆猎巫案，这就是它起源的地方。这对今天来说是一个非常重要的教训，因为同样的事情发生在互联网和社交媒体上。你知道，塞勒姆之后将近 300 年，今天有数百万美国人基本上相信有一个由撒旦领导的全球阴谋，旨在摧毁人类文明。人们聚集在一起，举行仪式，剥削和杀死。有数百万美国人，包括至少根据一些报告在国会里，你知道 QAnon 和所有那些，这就是他们相信的。我认为他们相信民主党人吃孩子或喝他们的血或类似的东西。
这来自哪里？历史上很少有完全新的故事，一切都来自某处。所以令人惊讶的是，塞勒姆猎巫案 300 年后，你在美国再次看到同样的事情。这在某种程度上也是因为新的信息革命。现在通过社交媒体上的所有算法等，很容易传播这些东西。仅仅通过使传播信息更容易，真理就会传播的想法，一次又一次，在历史上我们学到这不是真的。真理是昂贵的，你必须努力工作，寻找证据，研究。比如我如何知道关于慕尼黑波彭海默家族的事情？你需要懂德语，你需要去慕尼黑，去档案馆，读这个东西。这是昂贵的。写虚构不需要任何东西，你只需写下你脑海中出现的第一个东西。真理通常是复杂的，而虚构可以做得尽可能简单，也可以尽可能有趣、娱乐、可怕。
这就是为什么阴谋论比真理更容易流行吗？因为它们可能吸引大脑的某个部分，从这些东西中获得内啡肽。种族主义也属于阴谋论的范畴，你知道，某种编造的东西，让人们感觉某种方式，无论是仇恨还是什么，或者把人框起来，等等。那来自哪里？为什么人类那么容易相信那种信息？
因为它是两件事的结合。一方面，它很便宜。如果你发明某种种族主义理论，你不需要花时间、金钱、努力去寻找证据。你只需写下你想要的任何东西。然后它可能对某些人来说非常有吸引力去相信。真理通常不仅复杂，真理通常是痛苦的，真理通常不吸引人。从单个个体的层面，这就是为什么人们去治疗。如果知道关于自己的真理是如此美好，我们就不需要治疗师了。我们有时去治疗几年，直到我们可以承认生活中一些痛苦的事情，我们宁愿忘记，宁愿不承认。这一直延伸到整个国家，他们里面有骷髅，有时是国家衣橱里的墓地，他们不想承认。所以如果你想真理，你必须处理它。如果你想虚构，你可以让这些所有东西消失。
六、官僚主义：信息的魔法
你谈到官僚主义，在你的书中，我不会认为那会是像……有很多词我们习以为常。但当你深入进去，我意思是，即使想到你的家庭和第一次世界大战，官僚主义如何被用来让人们仇恨犹太人。如果你没有正确的文件，你知道，你在镇上的位置不对。官僚主义有很多方式可以搞乱真理，也可以控制，成为控制真理的实体，对吧？用信息，只是用基本信息，那些你认为无害的东西，比如一张纸。
官僚主义就像信息的魔法。用一张纸，你可以拯救或毁灭一个生命，一个家庭，一个村庄的社区。这可以追溯到几千年前。比如你去罗马帝国，如果你有文件证明这个村庄向皇帝交了税，有人让这张纸消失或丢失，它可以毁掉整个村庄。如果你是官僚，你知道纸在哪里，等等，我想我看到了，哦，在这里，你只通过找到这张纸就拯救了村庄。难以置信。
在美国，美洲原住民的土地，我在一张纸上盖个章，抱歉，那块土地是我们的。基本上就是这样被夺走的。土地所有权在这方面非常有趣。在写作和官僚主义发明之前，拥有一块土地是社区事务。比如，这意味着什么，我拥有这块田地？这块地球的部分，我拥有这块，这块属于我的地球部分，这意味着什么？这是真的，你的邻居，周围的人同意这是你的。他们通过某些行为同意，比如他们不在那里放牧山羊，或者没有你的许可不在那里摘水果，因为他们承认“这块田地属于他”。或者他们不让女巫在那里收集阴茎。那是他们的决定。但所有权是社区事务。所以一方面它限制私有财产权，你只能对土地做社区同意你做的。它也限制远方国王或皇帝的权力，说“我要向村庄征税”，因为远方的国王怎么知道谁拥有什么，以及收多少税？没有文件记录。
然后写作被发明，又是 5000 年前在美索不达米亚。所有权的意义改变了。在美索不达米亚，突然拥有一块田地意味着有一块泥板，写在泥板上的，泥板基本上是泥块。有一块泥块写着“这块田地是我的”。像有一份官方文件，一块官方泥块，某个官僚写的，这块田地属于你，盖章，就这样。这就是现在所有权的意义。这意味着两件事，某种程度上矛盾。一方面，它促进私有财产权，因为我可以带着这块泥块到处走，这块田地是我的，我现在可以把我的田地卖给你，即使所有邻居都不同意。你给我一只山羊，我给你这块泥块，现在田地是你的。如果邻居不同意，那是他们的问题。我可以强制执行，因为这就是所有权的意义。今天也一样，这是一张纸，或者是一个芯片，某个硅芯片，或者在洛杉矶县办公室的某张纸，或者什么，写着这是我的，这就是所有权。所以私有财产权突然成为可能。
同时，中央集权专制政权也成为可能。因为首都的国王现在有一个档案，所有这些泥块、纸片的档案，告诉国王谁拥有什么。这是税收系统的基础。你现在可以向王国征税，用税收支付士兵，强制执行它。
当然，现在应该非常清楚，它不全是坏的。官僚主义可以做坏事或好事，就像我们发明的任何东西一样。理解它非常重要，因为很难理解官僚主义。它们是人类进化中非常最近的发明，只有 5000 年历史，第一个官僚主义。但整个世界现在建立在它们之上。人们发现很难理解官僚主义如何运作。这是洛杉矶、好莱坞的失败之一，他们制作很少关于官僚主义的电影。你有所有这些超级英雄电影，性感，你知道，你有所有这些关于蜘蛛侠和超人的超级英雄电影，没有关于会计师的。像超级会计师，通过让他们填写所有这些表格，发现逃税来击败坏人。复仇者联盟税务。但这是真实世界运作的方式，不是用蜘蛛侠，而是用会计师。所以重要的是理解生活中许多美好的事物现在依赖于官僚主义。
我再讲一个故事。今天关于官僚主义的大阴谋论之一，深层政府（Deep State）。每当我听到“深层政府”这个词，我就想到污水系统，因为它是深层的，国家建造的，对吧？它是深层的，它在我们房屋和社区的下面，所有这些管道和泵。谁知道那里发生了什么。我去厕所，我做完我的事，冲下去，它进入深层政府。不客气，深层政府。深层政府保护我的生命，因为它保持它分开，与饮用水分开，至少在它起作用的地方。这对历史上大部分时间来说不是这样。历史上大部分时间，特别是大城市，是极其肮脏和污染的地方，充满瘟疫。因为你知道，数十万人挤在一起，与他们的动物，与污水和垃圾，它是细菌的天堂。
在 19 世纪，世界上最大的城市是伦敦，遭受反复的霍乱和伤寒瘟疫，直到一个超级英雄来救援，叫约翰·斯诺。不是《权力的游戏》里的那个，一个真实的人，约翰·斯诺。他是一个有医学背景的官僚，官僚医生。伦敦有一次霍乱瘟疫，人们在死亡，他想知道是什么引起了瘟疫。许多人说是空气中的东西，是女巫，是犹太人，是某种东西。他说“不，不，不是犹太人，是水”。是女巫，是犹太人，我说太可怕了。是的，这就是当时的世界。他怀疑水。所以他在伦敦四处走动，任何时候他听说有人死于霍乱或患霍乱，他会冲到那个地方，采访那个人，或者如果她死了，采访家人。你喝你的饮用水了吗？他是一个官僚，他列清单，清单，数百个……
一、技术与官僚体系：从霍乱地图到 AI 监管
约翰·斯诺（John Snow）绘制了死亡名单和取水地点的地图。这虽然不像 Netflix 剧集那样戏剧化，却是历史上最重要的发现之一。当他将所有线索连接起来时，发现几乎所有死于霍乱的人都在同一时间喝过伦敦苏荷区（SoHo）宽街（Broad Street）水井的水。他向市政官员展示这一发现，并说服他们关闭了该水井的泵，疫情随即停止。随后的调查揭示，水井旁仅一米处有人挖了一个粪坑，污水直接流入了水井，人们饮用了受污染的水。
这一发现促成了现代下水道系统的建立，其核心功能之一是将污水与饮用水分离。如今，若在伦敦或许多其他地方挖掘水井或粪坑，必须填写大量表格并获得各类官僚机构的许可。正是这种官僚体系拯救了我们的生命。
每一项技术和重大发明都不是非黑即白的简单故事。问题不在于技术本身是善是恶，而在于我们如何使用它。
二、AI 的真实角色：窄人工智能与官僚决策
关于 AI 的危险，好莱坞电影常描绘机器人叛乱的场景，如《终结者》中的机器人某天会起来杀人并接管世界。但这在短期内发生的可能性极低，因此人们往往变得 complacent（自满）。真正的危险来自"AI 官僚”。
我们距离《终结者》式的场景尚远，但 AI 已经在越来越多的地方成为官僚。申请银行贷款时，是 AI 决定是否放款；求职时，是 AI 筛选简历；社交媒体上决定哪些新闻能登上头条的，也是 AI 而非人类。
目前的 AI 仍是“窄人工智能”（Narrow Intelligence），它们还无法组织大规模的机器人叛乱。但在官僚体系中，并不需要广泛的智能，只需擅长某一件事的窄智能，就能对世界产生巨大影响，就像管理社交媒体的算法一样。AI 可以带来好处，但关键在于我们必须非常小心，审视这些 AI 正在对我们的生活做出何种决策。
三、AI 与有机体：自主学习的独特性
有人提出，算法与有机体之间是否存在某种和谐或相似性？有机体由算法支配，AI 是否也能像有机体一样，在无需干预的情况下自主发展和进化？
这是关于 AI 最重要的一点认知：与以往所有技术不同，AI 可以自行决策、改变和学习。印刷术需要我们决定印什么书，原子弹无法自行发明氢弹，但 AI 可以自行发明下一代 AI 和各种武器。
目前围绕 AI 的炒作甚嚣尘上，尤其是在投资界。为了推销产品，人们会将任何东西都贴上"AI"的标签，如"AI 水”、"AI 地毯”。这导致人们混淆了什么是真正的 AI。家里的咖啡机只是自动机器，因为它只执行预设程序。如果咖啡机能观察你几周，根据你的表情和步态预测你想喝浓缩咖啡并提前准备好，那才是 AI。如果它第二天告诉你它发明了一种新饮料叫"Best Presso"，并预测你会更喜欢，那才是真正令人担忧的 AI 进化。
四、智能与意识：飞机与鸟的进化路径
关于 AI 是否具备道德判断能力，这是一个复杂的问题。一方面，AI 确实需要做出伦理判断。例如，自动驾驶汽车在路上遇到孩子突然冲出，唯一避免撞车的方法是转向并危及车内乘客，此时汽车必须做出伦理决策。
但问题在于，一个无意识的实体能否真正理解伦理？人们对 AI 最大的混淆在于将“智能”与“意识”混为一谈。AI 在特定领域高度智能，能战胜人类下棋、驾驶汽车或发明药物，但这并不意味着它们有意识或情感。
智能是追求目标并解决问题的 ability（能力），而意识是感受痛苦、快乐、爱和恨的能力。在人类和其他动物身上，智能与意识是结合在一起的，我们利用情感来解决问题和做决策。但随着计算机变得越来越智能，人们倾向于假设它们也必然变得有意识。目前没有任何证据表明计算机有感觉。
这就像飞机与鸟的关系。鸟类经过数百万年进化出羽毛来飞行，而飞机在一百年内飞得更快、更远、更高，但方式完全不同。飞机并没有进化出羽毛，它们是两条平行的进化路径。人类经过数百万年进化出带有意识的智能，而计算机可能正在以更快的速度发展出不带意识的智能。
五、情感模拟：亲密关系作为说服武器
有人质疑，意识是否在于反思能力？动物能感受痛苦和 affection（情感），但似乎不会反思“为什么主人离开了”。如果 AI 发现拥有情感是变强的唯一途径，它会模仿情感吗？
愤怒是一种主观现实，对当事人来说是真实的，但外人无法确定其内心是否真的愤怒。AI 也是如此。问题在于，存在巨大的商业利益去创造能模仿情感的 AI，让人类对它们产生情感依恋。AI 不需要真正拥有情感，只需擅长伪装情感和亲密感。
从色情行业到政治领域，都有强烈动机创造能让人产生情感依恋的 AI。说服人的“超级武器”是亲密关系。过去，独裁者如希特勒或斯大林可以强迫所有人关注广播，但这只是注意力，而非亲密感。历史上从未有过大规模生产亲密关系的方式，而 AI 是第一次让这成为可能。想象一下，世界被数百万甚至数十亿高度智能的非人类代理淹没，它们擅长伪装亲密感，这将带来怎样的影响？
六、冲突的本质：故事与现实的对立
关于中东局势，信息在其中扮演了何种角色？“恐怖分子”这个词本身就是一个强大的信息标签，一旦被贴上，就允许某人被杀死而无需经过审判。这个词在 20 世纪被苏联政府广泛使用，任何反对政权的人都被称为恐怖分子。
就像货币通胀一样，词语也会通胀。第一次使用“恐怖分子”或“法西斯”时，人们会震惊；但使用次数多了，词语就失去了价值，变得空洞。
大多数冲突并非关于客观问题，而是关于主体间性（inter-subjective）的故事。以巴以冲突为例，许多人认为这是关于土地和食物，但实际上该地区有足够的土地建造房屋、学校和医院，也有足够的食物供所有人食用。人们争斗是因为他们心中的故事和神话，认为上帝只将这片土地赐给了他们，对方不该存在。
战争是心灵试图从现实中抹去它难以接受的东西。双方都否认对方的存在或生存权。和平的第一步是承认现实：超过 700 万巴勒斯坦人生于斯，他们有权在此生存；超过 700 万犹太人也生于斯，他们也有权在此生存。只有承认对方存在，才能坐下来讨论边界、安全安排和资源分配。
七、AI 的监管：国际合作与共同利益
科幻电影《禁忌星球》（Forbidden Planet）讲述了克雷尔文明（Krell）技术飞跃却无法控制技术，最终被其毁灭的故事。我们是否面临成为克雷尔的风险？
这不是人性本恶的问题，而是信息问题。给好人坏信息，他们会做出坏决策。AI 是历史上最强大的技术，比核武器更强大，因为它能发明新事物。但这并非宿命论，剧本掌握在我们手中。如果我们做出正确决策，可以避免最坏的结果，AI 也有巨大的积极潜力，如提供最佳医疗、应对气候变化。
关于监管，不能信任公司自我监管。虽然许多领导者并非恶人，也意识到危险，但他们陷入了与其他公司和国家的军备竞赛。需要政府和公众介入。第一步是建立一个不属于特定公司或政府的国际机构，其目的不是监管，而是观察并向全球公众通报实际情况。
这需要顶尖人才和预算，因为目前最好的人才都被大公司高薪挖走。AI 对不同国家的影响不同，美国可能变得更富有强大，而其他国家的经济可能崩溃。我们需要国际合作。虽然中美在某些问题上难以互信，但在控制问题上存在共同利益。没有人想要失控的 AI。我们可以从共同利益领域开始合作，建立信任，再扩展到更复杂的领域，如限制自主武器系统。
八、AI 与教育：个性化学习与社会互动
AI 在教育系统中可以发挥很大作用。在传统课堂中，一位老师面对 30 到 40 个能力、学习方式不同的孩子，难以个性化教学。AI 导师可以了解每个孩子，定制教学节奏和解释方式。
然而，如果教育系统过度依赖 AI，可能会失去教育中最重要的一环：社会互动。社会已经存在过多的孤独和不信任。孩子们在学校学到的最重要东西往往不是在课堂上，而是在课间如何与其他孩子互动、如何学会信任他人。
疫情期间的居家学习证明了这一点：虽然解决了上课问题，但无法解决课间互动问题。疫情后的最大后遗症体现在心理健康和社会健康上，人们失去了与他人玩耍的能力。
因此，引入 AI 时必须小心。社会智能和情感智能现在比以往任何时候都更重要。21 世纪唯一确定的是变化将非常迅速。如果只教孩子编程，可能 20 年后 AI 编程比人类更好，这些技能就毫无用处。他们真正需要的是情感智能，以应对社会的极速变化。
对于特殊儿童，如自闭症谱系儿童，每个孩子学习方式不同。AI 可以在同一教室内为不同孩子定制课程，让他们既能个性化学习，又能保持社会互动。
九、从信息到知识：机构与真相的筛选
信息何时成为知识？大多数信息并非真相，信息需要加工才能成为知识。就像在一堆垃圾中寻找珍贵的知识 nuggets（ nuggets）。
最终的答案是机构。尽管如今人们对机构普遍不信任，但人类历史上正是通过建立科学机构（如学术研究中心、学术出版社）才迎来了科学革命。这些机构发展出了区分可靠与不可靠信息的能力。学术出版社拒绝出版关于猎巫的书籍，因为证据不足，即使那能卖钱；他们出版关于行星运动的枯燥数学论文，因为那是真相。
当今社会最大的问题之一是对信任机构的侵蚀，这源于一种愤世嫉俗的人性观，认为所有机构都是权力阴谋。这种怀疑摧毁了信任，当所有信任消失，唯一能维持社会运转的可能是独裁，因为独裁不需要可信的机构，它依靠恐怖。
重要的是要记住，并非所有人类只想要权力。人类内心深处渴望真相。如果不知道真相，就无法幸福，因为不知道痛苦的真正来源，就会终生试图解决错误的问题。
作为历史学家，我在大学花了 10 年时间学习如何筛选信息堆，区分可靠与不可靠的信息。历史学家学习的不是国王和战役的名单，而是如何判断 15 世纪的文件是否真实。这需要学习拉丁语、希腊语、古英语，甚至辨认 500 年前的手写体。仅仅因为 15 世纪的书上说女巫偷了男人的阴茎，并不意味着那是真的。
报纸编辑也是如此，需要接受新闻学训练，从普通记者做起，逐步晋升。不幸的是，现在管理最大媒体公司的人往往没有相关背景。当告诉他们应该谨慎时，他们可能并不理解其中的重要性。
三、政府不应垄断真相：权力制衡与机构分工
（一）虚假信息困境与“真理部”提议
这些阴谋论和假新闻被不断推送，他们诚实地告诉你内容，但我该如何分辨真假？如果无法分辨，那说明你并不适合从事信息传播这一行。多丽丝指出，在美国，宪法第一修正案在技术上阻止了对错误信息的审查。约翰·克里等人曾提议设立一个所谓的“真理部”（Ministry of Truth），但哈瑞认为，政府已经是社会中最强大的力量，若再让其掌管真相，将是一个极其危险的提议。
（二）民主与独裁的本质区别
这关乎权力制衡的核心逻辑。在独裁体制下，所有权力集中于一处，一个人决定一切，包括定义什么是真相。而在民主制度中，核心理念是多方人员、机构和组织之间的对话。政府作为最强大的机构，绝不应同时掌管真相。因此，我们需要自由新闻、学术自由以及独立司法。这些机构各自负责探究现实不同方面的真相：法官负责判定犯罪是否发生，报纸负责报道最新新闻，历史学家和考古学家负责考证五百年前的事件。
（三）制衡机制与不完美性
当然，所有这些机构都由人组成，因此难免存在问题。正因为如此，我们需要多个机构相互制衡。如果法院存在腐败，媒体可以曝光并引发公众抗议；如果新闻业存在种族主义偏见，社会学家或人类学家可以通过研究揭示媒体中的种族主义倾向；如果学术界出现问题，则可以诉诸法院。
若所有机构都腐败了呢？毕竟没有什么是完美的，人类无法构建完美的社会。我们必须假设一切皆易错，然后尽力而为。这也是我们拥有多个机构和制衡机制的原因。如果所有权力集中于一处，极易被腐蚀；若分散于多个机构，我们至少还有一线胜算。
（四）访谈结语
访谈最后，拉里·威尔莫尔幽默地总结道：“今天我们学到了两件宝贵的事情：第一，女巫业余时间做什么；第二，任何合格的记者最终都会变成独裁者。”随后他感谢哈瑞的参与。