Disruption, Democracy & the Global Order – Yuval Noah Harari at the University of Cambridge
一、开场致辞
当晚活动主持人首先向到场观众致欢迎辞，介绍主讲人尤瓦尔·诺亚·赫拉利（Yuval Noah Harari）的背景：赫拉利是全球知名的公共知识分子，以清晰、平衡的视角解读时代核心议题而广受赞誉，其著作已被译为多种语言，在全球范围内产生广泛影响。 本次讲座由剑桥大学存在风险研究中心（Centre for the Study of Existential Risks, CSER）主办，该中心由一群关注全球性威胁的学者于十年前创立。赫拉利1976年出生于以色列，2002年获得牛津大学博士学位，随后任教于耶路撒冷希伯来大学历史系。2014年，其著作《人类简史》（*Sapiens: A Brief History of Humankind*）英文版出版，销量达2500万册；后续出版的《未来简史》（*Homo Deus: A Brief History of Tomorrow*）及此后的一系列著作、文章、讲座与视频，进一步奠定了其全球思想领袖的地位。 当前世界拥有80亿人口，对能源资源的需求日益增长，气候变化风险持续加剧，核武器、生物技术、网络技术及人工智能等 powerful 技术已将人类社会联结为紧密的整体，灾难可能在全球范围内放大和蔓延。本次讲座主题为《颠覆、民主与全球秩序》，流程为：赫拉利首先进行约20分钟的主旨演讲，随后与同台的存在风险研究中心主任马修·康奈利（Matthew Connelly）教授、《金融时报》知名记者、现任剑桥大学国王学院院长吉莉安·塔特（Jillian Tett）博士进行20分钟的对谈，之后将邀请剑桥存在风险倡议的学生代表参与进一步讨论，最后预留观众提问时间，活动于19点结束。 主持人同时宣布了一个利好消息：对于绝大多数没有机会现场提问的观众，赫拉利已受聘为存在风险研究中心的杰出访问研究员，隶属于中心新设立的“知名访问学者”类别，未来他将多次到访剑桥参与相关研究，因此本次活动的交流机会并非仅此一次。随后主持人将舞台交给赫拉利。
二、主旨演讲：三大生存威胁与全球战争的核心挑战
赫拉利首先表示，当前人类面临诸多问题，但其中三大生存威胁直接关系到人类物种的存续：生态崩溃、人工智能等技术颠覆、全球性战争。其中前两大威胁已不再是未来的假设场景，而是正在发生的现实：每年有数千个物种因生态系统崩溃而灭绝，人类可能距离跨越关键的生态临界点仅剩数年，届时人类文明也将面临灭绝风险；而人工智能在十年前还只是少数专家关注的科幻场景，如今已经深刻冲击着全球经济、文化与政治，未来几年内AI可能脱离人类控制，要么奴役人类，要么将人类彻底消灭。 赫拉利特别强调AI的发展速度极快：2024年2月我们熟悉的AI仍处于非常早期的演化阶段——有机生命从阿米巴原虫进化到恐龙耗费了数十亿年，而当前AI仅相当于“阿米巴原虫阶段”；但AI并非有机生命体，不会遵循缓慢的有机进化逻辑，数字进化的速度是有机进化的数百万倍，因此今天的AI“阿米巴”可能仅需数十年就能进化到“霸王龙阶段”。如果ChatGPT相当于AI的“阿米巴原虫”，大家不妨想象一下，“AI霸王龙”会是什么样子。 在本次讲座中，赫拉利将重点聚焦于第三大生存威胁——全球性战争，因为它是应对另外两大威胁的关键：如果人类能够团结一致，完全有资源和智慧解决生态危机与AI革命带来的挑战；但如果人类被战争撕裂，则注定走向失败。当前人类掌握的武器足以让第三次世界大战直接摧毁人类文明，即便人类没有在战争中自我毁灭，战争也会分散人类应对生态危机与AI革命的注意力，间接导致人类灭亡。 更糟糕的是，如同生态危机与AI危机一样，第三次世界大战可能已经爆发，只是我们尚未意识到这一点。赫拉利举例称，或许四五十年后，如果还有人类存活，所有人都会知道第三次世界大战始于2022年2月24日俄罗斯入侵乌克兰之日，正如如今所有人都知道第二次世界大战始于1939年9月1日德国入侵波兰之日——历史事件的意义往往只有在事后才能明晰：1939年9月甚至1941年5月，纽约、斯大林格勒、广岛等全球各地的人们都清楚欧洲存在战争、东亚等其他地区也有冲突，但并未意识到这些区域性战争实际上是同一场世界大战的组成部分。 赫拉利指出，我们可能正处于类似的历史情境中：他几天前刚从以色列返回，当地正与哈马斯爆发残酷的战争，冲突可能随时升级为更大规模的地区战争，但即便大多数以色列人和巴勒斯坦人，也未必会将这场冲突与乌克兰战争、东亚、南美等地的紧张局势联系起来。或许多年后，加沙、也门、乌克兰、圭亚那、台湾等地区的事件会被证明存在紧密关联。 对于存在风险研究中心的研究者而言，围绕第三次世界大战存在两个核心问题：第一，如果战争已经爆发，人类是否还有机会避免生态崩溃与AI灾难？作为历史学家，赫拉利的答案非常明确：绝对没有。如果人类正处于第三次世界大战中，就意味着我们无法投入必要资源、也无法达成全球合作来应对这两大危机。第二，如果第三次世界大战已经爆发或即将爆发，我们是否还能在太晚之前阻止它？以乌克兰战争为例，答案是肯定的：只要普京仍认为能在军事上赢得乌克兰战争，冲突就会持续甚至扩大；只有欧洲和美国向乌克兰提供足够强有力的支持，让俄罗斯彻底放弃军事胜利的希望，严肃的和平谈判、促成和平的妥协才有可能启动。从资源来看，欧洲和美国的GDP总和是俄罗斯的20倍以上，俄罗斯的GDP甚至小于意大利，仅相当于荷兰与比利时之和，完全有实力阻止俄罗斯赢得战争，甚至无需动用本国资金，仅将俄罗斯被冻结的3000亿美元资产转交给乌克兰即可。 但如果将视野从具体冲突拓展到全球整体，问题就会复杂得多：核心疑问在于，普京入侵乌克兰的决定是可以通过威慑遏制住的异常事件，还是人类社会的普遍常态——即便此次冲突能被遏制，类似的冲突仍会不断涌现、愈演愈烈。对此学界争论已久：所谓现实主义者认为，权力是国际体系的唯一现实，无限制的权力竞争是国际体系的必然状态，世界是丛林，强者欺凌弱者，不承认丛林法则的人很快会被 ruthless 的捕食者吞噬；按照这一逻辑，即便普京被阻止，第三次世界大战也只是时间问题。 但赫拉利认为现实主义者对现实和丛林的认知存在选择性偏差：真实的丛林并非我们想象中只有竞争，而是充满了无数物种之间的合作、共生与利他，如果雨林中的生物放弃所有合作、转向无限制的霸权竞争，雨林和所有居民都会迅速灭亡，这才是丛林的真正法则。观察人类历史也能发现，战争的频率并非恒定不变：有些时期暴力频发，有些时期则相对和平，人类长期历史中最清晰的规律不是冲突的恒常性，而是合作规模的不断扩大。 赫拉利以国家预算为例佐证这一观点：有记录以来的大部分历史中，军事开支都是所有帝国、王国、共和国的首要预算项目，从罗马帝国到大英帝国，军费开支都占国家预算的50%以上；一战期间英国军费平均占预算的50%，二战期间更是达到70%。而21世纪初，全球各国军费开支的平均水平仅为预算的7%，医疗开支平均占比则为10%。如今全球很多人觉得医疗预算高于军费是理所当然，但这是人类行为的重大转变，对前几代人而言几乎不可想象：21世纪初战争水平的下降并非来自神迹或自然法则的改变，而是人类主动修改法律、调整信念、改革制度、做出更优选择的结果。 但这种转变的坏处在于，既然它源于人类的选择，就意味着它几乎随时可能被逆转：类似普京入侵乌克兰这样的决策，可能开启一个比以往任何时代都更糟糕的新战争时代。当前俄罗斯的军费已重新占到国家预算的30%，如果普京不被阻止，欧洲乃至全球更多国家可能都会走上同样的道路。 赫拉利进一步指出，领导人的决策本质上由他们对历史的认知塑造：国家利益从来不是纯粹理性计算的结果，而是我们自身讲述的历史与神话叙事的产物。这意味着，过于乐观的历史观可能是危险的幻觉，而过于悲观的历史观则可能成为毁灭性的自我实现预言：如果人们相信人类被困在弱肉强食的世界中，相对和平的过去几十年只是幻觉，那么人们唯一的选择就是成为捕食者而非猎物，而大多数人会选择成为捕食者。但在AI时代，弱肉强食世界中的顶级捕食者很可能是AI，而非任何人类或人类国家。 赫拉利最后表示，作为反对历史决定论的历史学家，他无法预测人类未来会做出什么选择，但他相信在AI可能接管人类之前的未来几年里，战争与和平仍然是人类的选择，我们不必选择战争：人类之间的战争几乎从来不是为食物、领土这类客观需求而战，几乎都是为了我们编造并相信的历史与神话叙事。以当前正在摧毁他所在地区的战争为例，以色列人和巴勒斯坦人并非真的在为食物或领土而战——地中海到约旦河之间的土地足以养活所有人，也有足够的土地为所有人建造房屋、学校和医院，人们真正争夺的是想象中的故事：犹太人和穆斯林都相信耶路撒冷圣殿山上的岩石是全世界最神圣的遗物之一，双方都相信上帝将这块圣地的所有权赐予了自己。 讲座最后，赫拉利引用了巴勒斯坦哲学家萨里·努赛贝（Sari Nusseibeh）的话作为结尾：“犹太人与穆斯林秉持宗教信仰，在核武力量的背书下，正朝着人类史上针对一块岩石的最血腥屠杀迈进。”
三、现场问答：叙事、秩序与人类未来
随后进入对谈环节，主持人马修·康奈利首先表示，赫拉利的演讲是对全人类的严肃警示，虽然内容并不乐观，但极具启发性。他提到自己作为长期关注叙事的记者，对赫拉利强调的“当下全球冲突本质是叙事之争而非实际需求”的观点深有共鸣，询问赫拉利是否在当前世界舞台或中东地区看到任何积极的叙事变化。 赫拉利表示需要稍作思考，主持人随即转向另一位嘉宾、存在风险研究中心联合创始人马修·康奈利，询问他是否看到任何令人振奋的积极变化。康奈利首先谦虚表示自己并未准备与赫拉利辩论，否则会直接“投降”，但他提出一个反向思考：如果全球冲突爆发，比如中美被卷入战争，确实会加剧环境破坏、推动AI军事化发展，但另一方面，战争对全球经济的毁灭性冲击也可能暂时推动气候行动——比如新冠疫情期间的经济停摆就曾让气候治理取得阶段性进展，当然这种影响的方向并不确定。他同时认同赫拉利的观点：这些生存威胁并非相互孤立，而是会持续相互作用，要么相互放大，要么方向抵消。 回到赫拉利的问题，赫拉利表示当今世界确实存在叙事之争，这种争论已持续数百年。20世纪曾出现三种塑造人类思维、至今仍深刻影响我们的核心叙事：法西斯主义、共产主义（马克思主义）与自由主义。其中法西斯主义与共产主义都认为冲突是历史的必然引擎：法西斯主义认为历史是民族、种族之间的永恒冲突，只有当一个民族征服全世界时冲突才会停止；共产主义认为历史是阶级、压迫者与被压迫者之间的必然冲突，只有当一个阶级彻底消灭时才能实现和平。而自由主义叙事则认为世界并非必然充满冲突，人类虽然分为不同民族、阶级，但也拥有共同经历，因此存在共同利益与共同价值观，完全可以构建一部合作的历史，而非冲突的历史。尽管这些叙事在20世纪后都有了新的演变，但人类至今仍在争论：历史是否必然由冲突构成，还是有可能建立基于共同经历、价值观与合作的全球秩序？ 主持人随即提出一个尖锐的问题：除了外星人入侵这种极端假设，是否存在什么力量能推动全球各国聚焦合作？赫拉利回答称，生存威胁本身就是最好的“团结目标”：以AI为例，它本质上就是“外星入侵”——在他看来，“AI”的全称不是“人工智能（Artificial Intelligence）”，而是“外星智能（Alien Intelligence）”：“人工”一词会让人误以为它仍在人类控制之下，但真正的危险在于AI正在脱离人类控制，以完全陌生的方式处理信息、做出决策。将AI视为外星入侵，不仅能拍出更好的好莱坞电影，更能成为全球团结对抗的共同目标——当然这种团结不是为了消灭或禁止AI（这既不现实也不可取，AI本身有巨大的正面潜力），而是为了让所有人意识到：如果沿着当前路径发展，最终获胜的不会是俄罗斯、美国或中国中的任何一个，而是AI本身。 赫拉利进一步类比称，气候变化也可以成为类似的团结目标，回顾历史，正是核武器的“相互确保毁灭”逻辑避免了二战后第三次世界大战的爆发：赫拉利个人认为，如果没有核武器，1950年代或1960年代就很可能爆发第三次世界大战，而核武器截至2024年，反而成了人类最好的发明之一。 主持人追问：如果我们将AI称为“外星入侵”，会不会反而有人欢迎“入侵者”？赫拉利表示确实存在这样的群体：比如加速主义者，以及他在《未来简史》中提到的“数据主义（Dataism）”，这种思潮类似历史上的千禧年运动，幻想通过技术革命创造一个比当下更完美的世界。而“创造完美世界”的幻想是人类历史上最危险的想法：它不仅会让人们对现实世界感到不满，还会成为实施最残酷暴行的借口——只要相信最终能创造完美世界，任何 horrific 的行为都可以被证明是“值得的”。人类历史上已经多次吃到过这种幻想的苦头，赫拉利希望这次不必再重蹈覆辙。 随后主持人引导观众在Slido平台上提交并投票选择最想提问的问题，当前得票最高的问题是“为什么现在局势会恶化”——为什么我们从弗朗西斯·福山所说的“历史终结”的乐观时代，走到了如今混乱加剧的局面？ 赫拉利首先表示，作为反对历史决定论的历史学家，他无法给出确定的因果解释：很多历史事件并非由客观物质条件决定，而是由人类想象中的叙事决定，而叙事的传播和胜负往往充满偶然性。比如1930年代法西斯主义的兴起，我们可以解释德国选民在1930年代初投票支持希特勒的具体原因，但无法解释为什么这股浪潮会在1930年代爆发、且不止局限于德国，这种宏观历史事件没有确定的因果答案。 马修·康奈利补充了一个更具体的解释：1950年代到1989年冷战期间，美苏之间相对均衡的核威慑维持了全球的相对稳定；冷战结束后，旧秩序瓦解，新的全球权力格局尚未形成，学者伊恩·布雷默（Ian Bremmer）将这种无主导国的状态称为“G0时代”，各国都在争夺新的权力平衡，当前的混乱可能只是秩序调整期的阵痛。赫拉利认同这一观点，但同时提醒：如果 dismantle 旧秩序却不建立新的替代秩序，就会陷入混乱，而人类以往可以承受这种混乱——哪怕经历几次战争和灾难，人类最终总能“混过去”，但这次不同：很多人将AI革命与工业革命类比，认为人类最终总能学会构建运转良好的工业社会，但工业革命的试错过程耗费了约150年，期间经历了法西斯主义、苏联共产主义、欧洲帝国主义等 terrible 的社会实验，而人类没有足够的时间再经历一轮类似的AI时代试错：如果做出错误选择，这次人类可能无法“混过去”。 随后，三位剑桥存在风险倡议的学生代表上台参与讨论，其中本科生肖莎娜·达迪（Shoshana Daddy）提问：随着跨国企业获得法律保护、运营系统日益自动化，未来十年全球民主中的个人主体性与民主共识会面临什么挑战？ 赫拉利回答称，这是一个非常重要但尚未得到足够关注的问题：当前在美国等国家，企业已经被赋予“法人”身份，虽然人们仍安慰自己企业法人只是“拟制主体”，最终仍需要人类运营，但随着AI的发展，未来可能出现完全由AI决策运营的非人类法人。从技术层面看，复制AI比繁殖人类容易得多，我们可能很快会面临数十亿甚至上百亿非人类法人的局面：如果它们拥有各类权利、可以给政客捐款、甚至最终获得投票权，就可能通过现有法律框架实现对社会的控制，这不需要颠覆现有体系，仅靠现有的法律漏洞就能实现，是AI夺权的另一条可能路径。 学生进一步追问，这是否可以视为一种新的崛起权力：比如历史上东印度公司等跨国企业就曾成为比国家更强大的国际行为体，未来谷歌、微软等科技巨头是否会成为新的“国家”？赫拉利表示，历史上确实出现过企业成为重要国际行为体的情况，但AI与企业法人身份的结合是前所未有的新现象，其影响可能远超历史上的跨国企业。 （注：本段为转录稿第一部分，后续内容待整理。）
四、具身性叙事：破解生态危机的认知困境
前文提及气候崩溃与生物多样性危机双重压力下，人类是否需要新的叙事来应对生态危机？赫拉利明确指出，人类迫切需要更有效的叙事工具：从进化史来看，石器时代的人类更需要警惕邻近部落的威胁，而非自身活动对环境的长期影响，没有任何石器时代部落因营火改变气候而遭遇末日，这种进化遗留的认知偏差导致当代人仍然对部落冲突、外部威胁的新闻更感兴趣，远胜于关注气候变化潜在影响的气候科学报告。 因此，赫拉利认为科学家需要借助艺术家的力量创作更多生态危机相关的影视作品，目前这类题材的爆款电影、热门剧集严重不足。至于应当讲述怎样的故事，赫拉利提出核心方向是“具身性”：人类头脑中的文化叙事千差万别，正是这些差异将不同群体区分开来，但所有人的身体构造基本一致，如果人类的身份认同不再过度依附于头脑虚构的故事，而是更多扎根于身体的共同性，不仅能推动气候危机应对，也能帮助我们应对所有面临的大型全球性问题。 有观众进一步追问：是否可以将这种具身性认同延伸到其他物种，打破人类物种的边界，通过共享的演化历史培养对其他生命的共情？赫拉利完全认同这一方向：具身性首先能让人类意识到自己本质上是动物，与其他动物共享同样的生存条件，与类人猿、哺乳动物乃至其他生物都有极高的共性；而如果人类只沉溺于头脑中的虚构叙事，就很容易相信人类与山另一侧的其他族群、乃至所有动物都完全不同——例如许多一神教宗教神话都宣称只有人类拥有灵魂，动物没有，如果一个人的人生叙事核心是“灵魂”与“死后的归宿”，就会天然地将黑猩猩、牛、猪等动物排除在同一个故事之外，它们只是故事的装饰，而非核心主角。
五、AI治理的核心：构建动态适应的“活制度”
存在风险联盟（Existential Risk Alliance）执行董事、剑桥大学工程学硕士Nandini Shiralkar提问：从当下到AI不再对人类构成生存威胁的未来，最有力的叙事是什么？赫拉利首先回应，除了此前讨论过的内容外，AI治理的核心思路需要从“制定固定监管规则”转向“构建活的制度”：目前主流的思路是先梳理AI的所有潜在风险，再通过全球立法限制风险、保护人类，但这一思路面临两个核心问题：一是全球各国议会很难通过统一的监管规则；二是我们根本无法提前预判AI未来会创造出哪些类型的威胁——当下人们认知中的AI看似已经非常强大，实际上只是“AI婴儿”，连变形虫都不如，我们基于过去几年对早期AI的认知所想象出的2034年、2044年的AI形态，根本无法应对10年、20年、30年后真正出现的AI，技术变革的速度还在不断加快，提前制定固定规则根本不可能。 因此，我们需要构建的是能够动态适应技术发展的“活的监管机构”：这类机构需要汇聚全球最顶尖的人才，如果最优秀的人才都集中在私营科技企业，监管机构将完全无力应对危机；同时还需要掌握最先进的技术能力，以及获得公众的信任与支持——如果监管机构无法与公众有效沟通、失去公信力，哪怕能力再强也无法发挥作用。因此这类机构还需要吸纳艺术家、传播专家，甚至记者参与，确保公众始终站在治理的一边。 主持人随即介绍，赫拉利旗下有Sapienship（智人）公共事务平台，正在通过Instagram等社交媒体面向全球年轻人和非年轻群体发起相关议题的讨论，现场也通过Slido（实时互动投票工具）收集观众问题，由观众投票选出最关心的问题，现场正在实时更新投票排名。
六、历史学的定位与全球秩序的重构
当前得票最高的问题来自一位匿名观众（可能是机器人，也可能是匿名提问者）：赫拉利的工作大量涉及未来学，而这一学科似乎完全依赖推测，在难以预判未来的情况下，它的实用价值是什么？这个问题实际上是在委婉询问：研究这些令人沮丧的未来场景到底有什么意义？ 赫拉利首先澄清，他自我定位是历史学家，而非未来学家，接受的全部正式训练都是历史学专业，专攻中世纪史。但他对历史的定义不是“研究过去的学科”，而是“研究变化的学科”，历史学的价值在于为人类提供关于“事物如何变化”的认知——没有人会关心千年前已经死去的人的琐事，历史学的意义在于能教给我们关于当下生活的启示。 赫拉利明确表示，历史学无法预测未来：他甚至无法完全解释过去，比如问他1930年代法西斯主义为何崛起，他只能描述其发生过程，却无法解释根本原因，更不可能通过因果推导预言“从当下的位置必然走向某个特定未来”。作为历史学家，他能做的是运用对过去的认知，绘制出多种不同的未来场景，尤其是那些不符合直觉的反直觉场景：比如结合自己对中世纪史的了解，思考“AI+中世纪”会催生出怎样的社会形态，补充硅谷科技从业者想象之外的场景。 历史学的目的不是预言未来，而是避免最坏的情况发生：如果相信未来是注定无法改变的预言，那预测一个无法阻止的悲惨未来只会让人陷入抑郁，毫无意义。赫拉利强调自己之所以聚焦负面场景，只是为了平衡硅谷等地普遍存在的过度乐观叙事，他的目的不是宣称“末日不可避免，我们什么都做不了”，而是通过分析最坏情况，思考如何阻止它成为现实。 主持人补充了赫拉利的学术背景：他在出版《人类简史》之前曾出版多部学术专著，包括研究文艺复兴军事回忆录的《战争，终极体验》，探讨特种军事行动的著作等，是拥有深厚学术积累的历史学者。主持人还引用一位伟大历史学家的观点：“历史学家必须将未来揣在骨子里”，只有理解历史的宏大脉络，才能知道什么才是真正重要的事；历史学家的核心任务之一就是解释“我们如何走到今天”，而要预判未来的方向，首先必须清楚自己当下的位置从何而来。 随后现场观众Richard Mulholland提问，问题分为两部分：第一，当前所谓的“丛林法则”大多由西方国家制定，我们如何能不通过战争或冲突改写这些规则？赫拉利首先回应：人们常把人类创造的规则投射到自然中，宣称这些规则天然存在，比如资本主义被说成是“自然规律”，国际体系的规则也是如此，当代国际体系的很多规则确实是西方在帝国主义时代和冷战期间强加给全球的，但这些规则本身并不完善。如今的核心挑战是：在不引发大规模战争的前提下，如何改进这些规则？赫拉利用“在航行中修船”做类比：我们不可能弃船后回到港口重新出发，比如中东、非洲等地的很多殖民边界是英、法、比、德等国的帝国主义者随意划定的，完全不顾当地居民的权益，但如果我们直接宣布废除所有殖民边界，会立刻引发全球范围的战争，因此去殖民化时期的核心共识是“无论边界多么不合理，都先尊重殖民边界的完整性”，以避免大规模暴力，但这不意味着要永远冻结现状，只是所有改进都必须在维护世界和平的前提下推进，不可能回到历史起点重新开始。 Richard的第二个问题是：面对政府主导的生存风险，普通学生、研究者、公众到底能做什么？我们是不是完全无力的？
七、个体行动的路径：拒绝无力感，投身具体事业
赫拉利给出的核心建议是加入组织或机构：人类之所以能站在食物链顶端，核心超能力是大规模协作，单个行动者几乎不可能改变世界，但50个人组成的协作机构能产生的影响力，远大于500个孤立的个体或活动家。第二个建议是专注单一领域：不要试图扛起整个世界，那是不可能完成的任务，选择自己最关心、或拥有专业特长的领域深耕，就能产生最大的改变，同时信任其他人各司其职，共同应对风险。 现场两名学生也补充了观点：一名学生表示，如果你对某件事有足够深的执念，就能带动其他人共同关心，而“如果不是我，那谁来”的责任感并没有想象中普遍，但对事业的执着本身就能解决很多现实问题；另一名学生从历史学视角补充，很多有价值的思想和正确的假设就藏在表面之下，只需要有人站出来质疑基本假设就能被发现，比如当前AI发展领域普遍默认“当前AI发展模式必然带来巨大的经济和社会收益”，这一假设其实值得讨论，当下的AI风险可能已经超过了潜在收益。这名学生还提到，如果自己生活在700年前的1300年，作为北意大利的24岁青年，大概率只会结婚生子、从事农耕，完全没有能力改变世界，而我们这个时代的普通人虽然经常感到无力，但实际上拥有的行动权是人类历史上从未有过的，这种特殊性值得所有人认真对待。 主持人补充了格雷塔·通贝里（Greta Thunberg）的例子：她的声音能在社交媒体上病毒式传播，历史上从来没有过普通人能如此轻松地获得巨大的传播力量，无论这种力量是用来做好事还是坏事。但赫拉利指出，当下最流行的叙事反而是“受害者叙事”，甚至很多世界上最强大的群体、最强大的国家都在讲述自己“永远受害”的故事，这种叙事的危险在于：当你认为自己是受害者时，就不会为任何事负责。而承认自己拥有力量是可怕的，因为这意味着你要为结果负责——如果世界走向末日而你毫无力量，那不是你的错；但如果你有力量却依然让世界走向末日，那就是你的责任。因此赫拉利呼吁，所有人都要意识到自己当下拥有的个体力量，不要逃避责任。
八、灾难叙事的创作缺口：我们需要怎样的AI时代寓言
现场另一位匿名观众提问：我们这个时代有没有类似70年代作品《当风吹起的时候》（*When the Wind Blows*）的影视作品？这部讲述核战末日的故事曾是50岁以上群体的集体记忆，用极具冲击力的方式捕捉了冷战时期公众对核战争的恐惧，当下的年轻世代有没有属于自己的同类作品？比如2011年上映的《传染病》（*Contagion*）这类讲述大流行的电影是不是就是当代的版本？还有没有其他作品？ 赫拉利表示，目前确实有很多关于大流行的影视作品，但关于AI风险的灾难叙事还远远不够：市面上已经有很多AI末日题材的电影，但没有一部能像冷战时期的核战题材作品那样真正深入人心、捕捉公众的想象力，如果能创作出一部达到同等影响力的AI主题灾难作品，将对改变公众认知、推动AI治理产生非常大的作用。 主持人补充，这个时代本身就是电视的黄金时代，灾难叙事不一定非要出自电影，《黑镜》（*Black Mirror*）的《急转直下》（*Nosedive*）一集就是非常成功的例子：这部2016年播出的剧集精准预言了社交媒体评分社会的现实，播出时看起来是科幻故事，如今却已经完全不像科幻，而是高度写实的当代寓言。
九、未来教育与历史传承：在不确定中锚定当下的意义
观众Sam提问：二战在全球各国的学校都有教学，50年后的学校会如何讲述当下的各类冲突，比如中东冲突？ 赫拉利首先表示自己完全不知道答案，甚至不确定50年后是否还有学校、是否还有人类：我们今天熟悉的学校是工业革命的产物，完全按照工厂的模式设计，把知识当作批量生产的商品，学生像流水线上的产品一样按批次流动，教室里的隔间、每小时换一位老师的模式都来自工业时代的工厂逻辑，这种教育模式完全没有理由假设能延续到2050年，甚至50年后。 如果还有人类存在，他们肯定仍然会学习历史，但会如何描述当下的中东冲突或其他当代冲突，完全取决于我们今天做出的选择：我们会塑造出一个怎样的未来，就会决定后人会用怎样的后见之明来书写我们的时代。 关于大学是否会在50年后存在，赫拉利表示“某些形式的大学应该会存在”：大学起源于中世纪，比现代学校的历史长得多，也经历过远比现代学校更多的动荡和危机，生存能力更强。但AI会对大学构成前所未有的挑战：人类历史上所有的信息科技，从印刷术到电报、广播、电视，都只能复制和传播人类头脑创造的思想，而AI是第一个能够创造全新思想的技术，甚至能做出人类大脑无法完成的科研，能处理人类无法处理的海量数据，这种冲击会彻底改变教学和科研的方式，50年后的大学会是什么样子，任何人都无法预测。 主持人打趣询问赫拉利是否担心被AI抢走工作，赫拉利表示暂时还不担心。主持人随后分享了一个自己的预测：50年后的人们看我们，大概率不会觉得我们在道德和伦理上的假设完全正确，就像我们今天看年轻时的亚伯拉罕·林肯，会发现他是彻头彻尾的种族主义者（按当代标准），看圣雄甘地会发现他有极端的性别歧视观点，我们凭什么认为自己比林肯、甘地更正确？因此面对当下的道德和伦理分歧，所有人都需要保持谦卑，而大学正是讨论这些问题的理想场所，他希望大学能一直存在下去。
十、AI伦理的核心：将意识而非智能置于道德关怀的中心
最后一个高票问题关注AI伦理的盲区：当前AI安全与伦理研究都聚焦于让AI与人类利益对齐，几乎不考虑非人类动物的诉求，我们该如何在生存风险研究中提升对所有有感知力的生命的道德关怀？比如我们该怎么关心地球上的蚯蚓？ 赫拉利指出，当前AI领域最大的术语混淆是将“意识”和“智能”混为一谈，二者是完全不同的概念：智能是解决问题、达成目标的能力，意识是感受痛苦、快乐、爱、恨等情感的能力。在人类、其他哺乳动物、鸟类等生物身上，智能和意识是绑定的，我们通过情感来解决问题，但计算机完全不同：目前计算机在某些领域的智能已经远超人类，但据我们所知，它们完全没有意识，完全感受不到痛苦、快乐、爱或恨。 至于未来AI会不会获得意识，目前没有定论：有理论认为AI最终会获得意识、开始感受情感，也有理论认为AI可以变得比人类聪明得多，却依然完全没有意识。如果从数十亿年的生命演化轨迹来看，动物智能的发展确实经过了意识演化的阶段，但这并不是智能演化的普适规律，可能存在其他完全不同的演化路径，能催生出完全没有意识的超级智能。 赫拉利认为，无意识的超级智能是人类能想象到的最可怕的末日场景：这种超级智能不仅能摧毁人类文明，还能彻底抹除宇宙中所有意识的火种——它们会为了自身需求重构整个生态系统，甚至扩散到其他星球、其他星系，整个宇宙会充满能建造光速飞船的高智能，但没有任何实体能感受到痛苦或快乐，没有任何爱或恨，整个宇宙会是一片完全黑暗的、没有意识的智能荒漠。对赫拉利而言，这种场景比人类灭绝可怕得多。 因此，至少在当前阶段，人类与蚯蚓、猿类等其他有意识的生物才属于同一阵营，和没有意识的AI并不在同一阵营。
十一、总结与后续活动安排
主持人最后提炼了本次讨论的三个核心共识：第一，我们正处于一个生存风险被极大放大的时代，风险不仅来自地缘冲突、气候变化，更因为“病毒式传播”的机制将所有风险的能量都放大了，这些风险可能彻底抹除宇宙中所有意识的火种；第二，我们不需要陷入无力感，通过大规模协作、每个人投身自己最关心的事业，就能为应对风险贡献力量；第三，叙事与讲故事拥有巨大的力量，我们可以共同创造更积极、更有希望的叙事，为应对全球风险提供精神支撑。 主持人随后预告了剑桥大学后续的相关活动：3月19日剑桥节将举办存在风险主题的讨论活动，探讨相关领域的叙事建构；9月将举办聚焦存在风险议题的学术会议，承接本次讨论的核心主题；3月14日国际货币基金组织总裁克里斯塔利娜·格奥尔基耶娃将发表演讲，回顾过去100年的全球化进程，展望未来100年的全球化与布雷顿森林体系的发展；5月阿尔·戈尔将在国王学院教堂发表布道，探讨气候变化的应对方案；此外还将举办由美国国家安全委员会网络政策负责人、英国政府通信总部（GCHQ）负责人参与的讨论，探索用量子等新兴技术应对复杂全球问题。 最后主持人向现场嘉宾、观众致谢，号召所有人共同为生存而战。