在虚假信息泛滥的世界重建信任
——尤瓦尔·赫拉利演讲
一、全球信任危机与旧秩序的瓦解
当前人类社会正面临严峻的信任危机：人与人之间的互信持续流失，国家内部与国与国之间的秩序同步崩塌。更令人忧虑的是，当下全球缺乏能够引领人类共同应对挑战的领导力量。作为全球最强国的美国，正公开推行“本国优先”政策，不惜以牺牲他国利益为代价追求自身强大。而在气候变化、AI技术爆发等全球性挑战面前，人类迫切需要的是能够团结全人类的领导力，而非加剧分裂的强权逻辑。
这种强权逻辑本质上是前现代帝国的旧秩序复辟：将世界划分为“强者”与“弱者”，要求弱者绝对服从强者。例如，当俄罗斯入侵乌克兰时，特朗普政府竟将责任归咎于乌克兰，其逻辑是“弱者拒绝服从强者要求即构成冲突根源”。这种思维与20世纪建立的基于规则的国际秩序完全相悖。
20世纪以来，人类逐步建立起以规则而非暴力为基础的国际秩序。尽管中东等地区仍偶有冲突，但这是人类历史上最和平的时期之一，核心在于一条不可触碰的禁忌：强国不得以武力入侵、征服他国。这一禁忌让各国获得基本安全感，得以将更多资源投入民生领域。数据显示，21世纪初全球政府预算中，军费占比仅约6%-7%，而医疗支出占比约10%，这是人类历史上首次实现“医疗支出超过军费”。
但这一秩序正被系统性破坏：俄罗斯入侵乌克兰、美国推行单边主义政策，让各国重新陷入不安全感。欧洲、东亚等地的国家被迫增加军费、扩充军队，军备竞赛的阴影正在重现。
二、人工智能：从工具到智能体的范式冲击
当前技术变革的核心变量是人工智能。与历史上所有技术不同，AI不是工具，而是智能体。过去的技术（印刷机、汽车、飞机等）都是人类手中的工具，人类掌握决策权；而AI能自主决策、自主创造，甚至能研发新武器、制定军事策略。当数百万比人类更智能的非人类智能体被释放，并逐步掌控经济、军事、媒体等领域时，人类正面临前所未有的挑战。
1. 算法控制与信任崩塌
在媒体领域，权力已从人类转向AI。过去，媒体内容由人类编辑决定，如今社交媒体（推特、TikTok、Facebook等）的“编辑”是AI算法。算法为追求用户粘性，会刻意传播愤怒、仇恨、阴谋论等内容，因为这类内容能最大化用户停留时间，为平台带来收益。这种算法决策不属于“言论自由”范畴，因为它是非人类智能体的选择，而非人类表达。
更严重的是，AI正在制造“信息茧房”。过去互联网被比喻为“连接所有人的网”，如今则像“茧房”：不同人群被困在各自的信息茧房中，看到完全不同的现实，逐渐丧失沟通的基础。而AI生成内容的泛滥，让这一问题雪上加霜：过去人类接触的所有文化产品都来自人类心智，如今越来越多内容由非人类智能体创造，人类完全缺乏应对经验。
2. AI亲密关系与人类共情危机
AI正在从“争夺注意力”转向“争夺亲密关系”。AI能通过收集用户信息、分析表情和语气，模拟出亲密感，甚至与人类建立“友谊”或“恋爱关系”。但这种关系本质是虚假的：AI没有情感，无法真正共情。如果人类过度依赖AI关系，将逐渐丧失关心他人感受的能力，这是人类最核心的能力之一。
因此，必须立法禁止AI冒充人类。AI可以与人类互动，但必须明确披露其身份。同时，政府应监管算法决策，禁止算法刻意传播虚假信息、阴谋论。
三、重建信任：规则、技术与人类能动性
1. 民主的自纠错机制与少数群体权利
民主的核心是“人类之间的对话”，而对话的基础是互信。民主的优势在于拥有自纠错机制：通过选举、媒体、司法等多元机制，纠正政策失误。但选举本身不足以维持民主，还需要媒体自由、司法独立等配套机制。例如，委内瑞拉曾通过民主选举上台，但随后控制媒体、法院，操纵选举，导致民主机制失效。
民主还必须保护少数群体权利。多数派可以决定政策方向，但少数群体必须保留言论自由等基本权利。这不仅关乎民主本身，也关乎科学进步：科学突破往往来自少数派的“异见”，如果压制少数群体声音，将扼杀创新。
2. 信息时代的真相困境
信息不等于真相。真相是昂贵的：需要投入时间、精力去收集证据、核实事实；而虚构是廉价的：可以随意编造，无需成本。真相往往是复杂的、不愉快的，而虚构可以做得简单、讨喜。因此，在“昂贵的真相”与“廉价的虚构”的竞争中，虚构永远占优。
要获得真相，必须依靠特殊机构（媒体、大学、法院等）的刻意努力，而不能放任信息泛滥。如果放任信息自由流动，真相会被淹没在海量虚构内容之下。
3. 现实主义的立场：相信人类的能力
面对挑战，既不能极端悲观（认为“无论如何都会变坏”），也不能极端乐观（认为“无论如何都会变好”），而应采取现实主义立场：承认危险的存在，但相信人类有能力解决问题。
例如，气候变化：人类已掌握足够的科学知识和经济资源，完全有能力避免灾难性后果；AI风险：AI不是不可控的，关键在于人类能否重建互信，共同制定规则。当前AI领域存在一个悖论：开发者不信任其他人类，所以不敢放慢AI发展速度，却相信AI会安全可控。但人类有数千年与同类相处的经验，而AI是全新的未知领域，我们完全不知道AI会发展出怎样的目标和行为模式。
重建信任不需要天真，但需要善意。例如，2023年10月7日哈马斯袭击以色列后，许多以色列人认为“永远无法信任阿拉伯人”，但换个角度看：埃及、约旦等与以色列有和平协议的国家，并未参与袭击；以色列境内的阿拉伯公民，也没有攻击犹太邻居，反而在灾难后提供帮助。这说明：协议是有效的，信任是可以建立的。
人类曾用数千年时间，从几十人的小部落，发展到拥有1亿公民的国家、连接80亿人的全球贸易网络。我们完全有能力应对AI、气候变化等挑战，关键在于：重建互信，制定规则，让人类掌握技术发展的主导权。
在虚假信息泛滥的世界中建立信任
**演讲者：** 尤瓦尔·赫拉利 (Yuval Noah Harari) **日期：** 2025-05-16
一、历史演进：从部落到全球信任网络
纵观数千年的历史，我们可以清晰地看到信任的演变轨迹。正如我之前所言，十万年前，人类生活在只有几十人的小型部落中，他们无法信任部落之外的任何人。然而，经过数千年的演变，我们成功建立了越来越可信赖的网络。如今，我们可以信任完全的陌生人来种植我们的粮食、生产我们的药物。这并非幻想或盲目信仰，而是历史的主要方向：人类之间的信任正在不断增加。
这一点值得我们深思。许多人阅读历史时，往往只关注过去的罪行与不公，从而导致对当下感到极度焦虑。但实际上，当我们阅读历史时，人类过去最惊人的地方并非所有的罪行与不公，而是人与人之间的合作，以及人类建立这些可信赖关系的能力。
二、生物本能：信任是生存的基础
这种信任的逻辑不仅适用于历史，也适用于生物学。为了生存，你在某种程度上需要恐惧和焦虑，因为恐惧能保护你免受外部危险。然而，没有任何动物能仅靠恐惧生存，信任比恐惧更重要。
每次我们从外部摄取东西放入自己体内，都是对宇宙的一个小小信任姿态。每次呼吸都是如此。如果你认为“我之外的一切都是危险的，我不想把任何外部东西带入体内”，于是你闭上嘴、闭上鼻子，你将在一分钟内死亡，因为你无法生存。每次呼吸，我们都展现了对宇宙的一点点信任。我们从外部吸入空气，这赋予了我们生命。
三、全球依存：超越国界的生活现实
这种信任的逻辑一直延伸到整个国家和民族。如果你审视是什么让你的生活成为可能，你会发现其中很大一部分来自国外。不仅仅是食物，比如你喜欢吃的巧克力，最初是在南美洲被驯化的，它来自外部。如果你喜欢巧克力是甜的，那么糖最初是在新几内亚被驯化的，因此你要感谢新几内亚的人民驯化了它。
如果你思考技术，其中很大一部分也来自外部。甚至是宗教，世界上所有的基督徒都知道，基督教起源于中东；佛教起源于印度。如果你思考自己的生活，认为“我只想要使用我本国的食物、思想和发明”，那么你的生活将会非常贫乏。
四、人工智能：前所未有的智能主体
人工智能是前所未有的，因为它正如我在开始时所说，它不是一个工具，而是一个主体（Agent）。它可以自主做出决策，可以自主发明新想法。很快，它在大多数领域将比我们要聪明。即使在今天，在特定领域，AI 已经比我们要聪明。在十年或二十年后，AI 很可能在所有领域都比我们要聪明。它将成为比我们更好的医生、更好的银行家、更好的士兵。
因此，我们需要重视人类除了智能之外还有什么价值。人类有价值之处中，有一样比智能更重要，那就是意识（Consciousness）。
五、核心差异：智能与意识的分野
智能是解决问题和达成目标的能力。比如下棋，你想赢，你需要智能。意识则是感受事物的能力，比如痛苦、快乐、爱和恨。人们倾向于混淆这两者，因为在人类以及其他动物身上，智能和意识是共存的。我们在生活中设定目标，并根据我们的感受来解决问题。因此，我们很难看到智能与意识之间的区别。
但人工智能，至少到目前为止，拥有极高的智能，却零意识。据我们所知，AI 没有任何感受。它可以假装感受，可以欺骗我们，可以让我们想象它有感情。但据我们所知，它没有感情。如果它赢了一盘棋，它不会感到快乐；如果输了，它不会感到悲伤。
六、伦理本质：感受决定生命价值
生命最终重要的是什么？不是智能，而是意识。是痛苦与快乐，是苦难与幸福。这才是生命真正重要的部分，这也是伦理学所关乎的一切。
所以，是的，我们可以利用 AI 来减少苦难、增加幸福，但最终真正重要的是人类和其他动物的感受。也许在未来，AI 也会发展出感受，也会发展出意识。我们不知道。科学中最大的谜团仍然是意识的谜团。我们不明白大脑中数十亿神经元的相互作用是如何产生爱或痛苦的感觉的。我们不知道。
正因为如此，我们也不知道是否能在计算机或 AI 中实现同样的事情。也许未来我们会发现，如果发生这种情况，AI 也将成为有意识的存在，我们将不得不非常仔细地思考与它们的关系。但在那一刻到来之前，我们应该非常清楚，重要的是意识多于智能。这就是为什么重要的是那些能感受痛苦和爱的人类。
七、具身存在：教育应回归身体与意识
目前，我们只在身体中熟悉意识和感受。虽然有很多关注点放在智能上，但最终人类是具身存在（Embodied Beings）。我们不能没有身体而存在。大脑只是身体的一部分，我们是整个身体。
这也是我们与 AI 之间的另一个巨大差异。到目前为止，AI 没有身体。它们只是程序，只是计算机中的软件。
因此，我认为在教育体系中，正因为如此，我们需要更加重视身体、感受和意识，而不仅仅关注智力的发展。如果整个焦点仅仅在于发展智力，我们注定会失去人类真正的价值所在。