一、开场与嘉宾背景
《经济学人》邀请历史学家尤瓦尔·赫拉利与人工智能企业家穆斯塔法·苏莱曼展开这场关于AI革命未来影响的辩论。赫拉利是《人类简史》《21世纪21课》等畅销书的作者，堪称全球最具影响力的公共知识分子之一；苏莱曼则是AI革命的一线实践者，既是DeepMind联合创始人，也是Inflection AI联合创始人兼CEO，其新书《即将到来的浪潮》对技术风险提出了深刻警示。二人背景差异显著：赫拉利作为历史学家几乎不使用智能手机，更偏向从人类文明的长周期视角审视技术；苏莱曼则身处技术研发最前沿，推动AI技术快速迭代。本次辩论将围绕AI带来的机遇、潜在风险与应对路径展开。
二、未来五年的AI发展图景
主持人向苏莱曼提问，请他展望2028年的世界样貌，以及普通人将如何与AI互动。苏莱曼首先回顾了过去十年AI技术的发展轨迹：过去十年AI在信息分类领域取得长足进步，能够理解、标注、整理图像、文本、音频内容，对信息的语义表征形成了准确认知，这为生成式AI的爆发奠定了基础。当前生成式AI已经能够生成新的图像、视频、音频和文本，以ChatGPT为代表的语言模型在准确性和细腻度上已经表现出极高的拟真度。
苏莱曼预测，未来五年内，前沿AI模型的规模将达到当前GPT-4的千倍以上，每提升一个数量级的算力投入，都会催生全新的能力突破。下一代AI的核心特征将是具备跨时间维度的规划能力，不再局限于单次生成内容，而是能够生成长期的行动序列，即AI不仅能“说话”，还能“做事”。他进一步提出了“现代图灵测试”来评估这一能力：给AI提供10万美元启动资金，要求其在三个月内完成从市场调研、产品设计、打样生产、对接供应商、谈判定价、物流配送到最终盈利的全流程。他认为未来五年内，AI有望自主完成该流程的大部分环节：能够自主拨打电话与人类谈判、调用API对接供应链、使用各类知识库和信息平台，这项能力的应用场景将覆盖经济的方方面面。
三、AI技术的核心正面价值
苏莱曼指出，人类历史上所有文明成果都是智能的产物，人类通过预测世界规律、干预现实进程创造了如今的一切。一百年前生产一公斤谷物所需的劳动力是现在的50倍，农业生产领域的效率提升轨迹，将在智能领域复现。所有被AI技术触达的领域，都将产生前所未有的价值。他同时强调，AI的能力并非模型天然自带，需要人类有意识地设计约束，治理的核心目标是确保人类始终掌握技术发展的控制权，避免将意图、自主性等人类特征错误投射到AI模型上。具体而言，AI有望在以下领域带来变革性提升：大幅优化医疗水平、加速创新进程、革新科学发现范式，更高效地应对气候变化等全球性挑战；同时每个普通人都将拥有个性化的智能助理，帮助筛选信息、整合知识，提升全社会的认知能力和行动效率。
赫拉利认同AI的正面价值是研发这项技术的核心动力：如果AI没有巨大的潜在收益，不会有任何人和机构愿意投入资源研发。更好的医疗、更高的生活水平、解决气候变化等全球性难题，都是AI极具吸引力的正面价值，人类愿意承担巨大风险的核心原因也在于此。但他同时提醒，智能本身是被高估的概念：当前人类是地球上最智能的物种，但同时也是最具破坏性、最愚蠢的物种，是唯一会将生态系统推向灭绝边缘的物种，更高的智能并不必然带来更好的结果。
四、就业市场的冲击与转型风险
主持人提出大众普遍担忧的“AI是否会取代所有工作”的问题。苏莱曼表示，10到20年的周期内，大规模失业的风险较低：过去技术进步的历史已经证明“劳动总量谬误”并不成立，社会总需求会持续增长，就业岗位不会消失。但30到50年的长周期很难预测：仅仅两年前，学界还普遍认为AI永远无法具备共情能力，人类将永远保留善意、理解和关怀他人的独特技能；四年前人们还认为AI永远无法实现创造性，人类将是发明新事物、在不同观点之间建立关联的唯一主体。但如今这些曾经被认为是人类独有的能力，AI都已经能够出色完成。短期内AI会作为工具增强人类的能力，让我们更高效、更准确、更有创造力、更有同理心；但长期来看，哪些能力是人类独有的“永久保留领域”很难界定，这正是技术管控的核心挑战：人类需要共同决策，划定技术发展的伦理与行为边界，这本质上是政治与治理议题。
赫拉利同意“所有工作被AI完全取代”是小概率场景，但强调转型期的风险远大于长期失业的风险：第一是时间维度的风险，就业岗位的消失和新增存在时间差，大量劳动者需要时间学习新技能、转换赛道，如果转型期出现大规模失业，会引发严重的社会动荡——历史上纳粹主义在德国上台的直接背景就是三年25%的失业率；第二是空间维度的风险，就业岗位的消失和新增在地域上严重不均衡，可能出现美国加州、得州、中国等地对工程师、创意工作者等岗位需求旺盛，而危地马拉、巴基斯坦等国的纺织业等传统岗位完全被自动化取代的情况，全球贫富差距会进一步加剧。
赫拉利进一步指出，工作本身不是人类文明的最终目标：人类创造文明不是为了实现充分就业，而是为了减少全人类的痛苦，实现丰裕。面对人口增长、气候变化等现实压力，提升生产效率的技术工具是必然要发展的，核心是要捕获AI创造的价值，通过税收、再分配等手段管理转型过程。但他对全球层面的公平再分配持悲观态度：他无法想象美国政府会对加州的企业加税，然后将转移支付给危地马拉的失业纺织工人，帮助他们适应新的就业市场。
五、AI对民主制度的潜在冲击
赫拉利指出，现代民主制度本身就是工业革命和19、20世纪信息技术的产物：在19世纪之前，历史上没有任何大规模民主的案例，只有狩猎采集部落、古希腊城邦等小规模民主实践。因为民主的本质是“公共对话”，在没有通信技术的古代，不可能实现千万级人口的国家层面的公共对话。只有当报纸、电报、广播、电视等信息传播技术出现后，现代民主才成为可能。因此，民主制度是建立在特定信息传播技术基础之上的，一旦底层信息传播技术发生根本变化，民主制度能否存续是完全未知的。
当前最大的危险在于：网络已经成为国家层面公共对话的主要空间，但其中充斥着可能伪装成人类的非人类AI实体。人们在网络上对话时，无法判断对方是真人还是AI；看到视频、音频时，无法判断内容是真实还是伪造。一旦公众之间的信任崩塌，公共对话的基础就会瓦解。赫拉利用金融系统的假币逻辑类比：人类发明货币后，伪造货币的技术一直存在，但金融系统没有崩溃，是因为有严格的法律禁止假币流通——如果允许伪造的“人”在公共空间大量存在，政治对话的信任基础就会彻底崩溃。
苏莱曼认同需要禁止AI冒充真人的行为：机器人没有言论自由，不能允许数字虚拟人在公共平台随意发布内容。他也承认过去30年互联网的发展让更多人获得了发声渠道，是积极的进步，虽然伴随混乱，但人类已经展现出适应能力，会逐步发展出辨别真伪的技术和治理机制。但他同时指出，当前美国、英国、以色列等国家的信息技术比历史上任何时候都发达，但公众之间的对话能力反而在下降，甚至无法就“上次选举谁赢了”这样的基本事实达成共识，信任正在快速崩塌。
六、治理的核心挑战与应对路径
主持人指出，两位都认同需要对AI进行监管，但当前负责监管的民族国家本身就面临信任危机、政治极化的困境，同时AI技术由私营企业主导研发，开源技术的扩散也让管控难度大幅提升，形成了“需要国家监管但国家能力不足”的矛盾。
苏莱曼解释，当前顶尖AI模型由私营企业开发，开源模型的水平比顶尖模型落后1-2年，但技术扩散是必然趋势：任何有价值的技术最终都会变得更便宜、更易用，并广泛普及。就像合成生物学领域，现在已经出现售价约2万美元的桌面DNA合成器，普通人就能编辑出潜在危险的分子，且几乎没有任何监管。治理需要双线并行：一方面要管控集中化的权力，另一方面要应对技术扩散的必然趋势。他提出了具体的治理路径：第一，坚持开放研发，通过“红队测试”公开检验模型的弱点，共享安全最佳实践，参考航空业全球共享事故调查数据的模式，提升整个行业的安全水平；第二，明确禁止将AI用于选举操控、自主杀伤等高风险场景，对涉及递归自我改进、AI自主设定目标等危险能力的研发，引入许可制和独立审计机制，参考核技术研发的监管模式；第三，发展新的治理机构，这些机构需要具备足够的技术能力、资源，同时获得公众信任——当前只有开发技术的私营部门真正理解技术进展，政府和高校的能力都远远不足。
赫拉利补充指出，当前AI治理的最大难点在于地缘政治冲突：如果人类面对的是共同的AI威胁，还有可能协同管控，但如果大国之间陷入军备竞赛，就会把AI技术当成竞争工具，几乎不可能实现有效管控。他将当前的AI风险类比为“外星人入侵”：如果有外星舰队五年后抵达地球，人类会协同应对，但现在的“外星人”不是来自外太空，而是来自人类的实验室，且大国之间还在争夺谁先开发出更强大的AI，管控难度会大得多。他认为未来需要建立新的国际治理机制，但当前全球的政治互信水平还远不足以支撑这样的机制。
三、AI能力的不可预测性与现实风险
穆斯塔法·苏莱曼（Mustafa Suleyman）首先回应尤瓦尔·赫拉利（Yuval Noah Harari）此前的风险警示，指出当前AI技术的发展速度远超各方最初的预期，即便尚未达到全面超越人类智能的水平，其能力演化的不可预测性本身就已经足以引发担忧：AI的创造者无法完全预判其最终会具备哪些能力，哪怕AI尚未达到完全自主的状态，其向更高自主性演进的方向也已经带来现实风险。而目前常用的红队测试（即通过模拟攻击排查系统漏洞的机制）只能在发现问题后针对性调整，不可能在部署前覆盖所有潜在风险场景，因此尤瓦尔提出的风险判断是有现实依据的。
四、预防原则与国际监管框架的构建
尤瓦尔·赫拉利表示，面对AI能力的快速提升，应当尽早采取预防原则，直接将部分高风险能力排除在可用范围之外，例如自主决策能力、递归自我改进能力等，都应当被列为禁止发展的高风险能力。他同时肯定欧盟《人工智能法案》的合理性，该法案历经三年半起草，建立了覆盖医疗、自动驾驶、人脸识别等各应用领域的风险分级框架，当AI能力超过特定阈值时就会触发限制，本质上就是提前将部分高风险能力排除在应用范围之外。 尤瓦尔进一步提议建立类似政府间气候变化专门委员会（IPCC）的国际共识机制，由完全中立的独立专家团队负责调研，明确当前AI能力的真实发展水平，为全球监管提供科学依据。他强调，只要该专家团队是真正可信、立场公正的第三方，他个人会毫无保留地允许其访问自己公司的全部信息，他也相信其他AI企业都会做出同样的选择。 针对公众常关注的“AI制造超级病毒灭世”这类科幻式风险想象，尤瓦尔指出更现实的极端风险来自金融领域：假设某AI对全球金融系统的理解远超普通人类、甚至多数政要和银行家，它可能发明出一种全人类都无法理解的全新金融工具——这类工具的复杂数学逻辑、涉及的数据量都远超人类认知极限，虽然能在短期内创造巨额收益，但最终会拖垮全球经济，届时没有任何人类官员能搞清楚危机是如何发生的。2008年全球金融危机就是前车之鉴：当时少数华尔街天才数学家发明的担保债务凭证（CDO）和信用违约互换（CDS）几乎无人能懂，也因此未受到有效监管，最终引发危机且几乎没人提前预判到。这类风险远比好莱坞科幻片中的情节更现实。
五、地缘政治下的监管困境与逐底竞争风险
尤瓦尔指出，AI监管面临的核心地缘政治难题是：如果部分国家主动禁止某些高风险AI能力，而其他国家并不遵守同样的规则，就会陷入“逐底竞争”的陷阱。他以自主致死武器为例，说明联合国围绕该类武器的监管谈判已经进行了20余年，但至今连统一的定义都未能达成，更遑论全球共识。但即便如此，西方各国也不能因为其他国家可能违规，就放弃自身的安全标准、降低监管要求，不能陷入“别人在做所以我们也该做”的逻辑误区，否则最终将自食恶果。 他还补充称，AI监管本质上也是社会文化共识的形成过程：技术可行性并不等于社会接受度，比如目前技术上已经可以实现无人机自主导航飞行、自动驾驶汽车也基本具备实用能力，但人类社会尚未接受这些技术的全面落地，因此监管的节奏需要匹配社会对风险的容忍度，采取适当的谨慎态度是合理的选择。 穆斯塔法·苏莱曼完全同意上述观点，他表示即便并非所有国家都愿意加入全球监管框架，也可以先推动“意愿联盟”开展局部监管，例如禁止AI冒充人类的聊天机器人，即便有部分国家不同意这项规则，对于保护自身社会的公共利益而言，依然是值得推进的好事。
六、研发者的坚守与对AI未来的展望
主持人最后向两位提问：两人都在不断发出AI风险的警示，却又深度参与AI技术的研发与未来塑造，为何选择继续留在这一领域？ 穆斯塔法·苏莱曼回应称，他始终相信能够最大化AI的发展收益，同时将风险降到最低。他主导研发的个人智能体（Pi）就是目前全球安全性最高的AI产品之一，不仅消除了两年前普遍存在的种族歧视、毒性偏见等问题，也完全免疫各类提示词攻击、红队测试的破解手段，安全是其产品设计的首要原则。他的目标是尽可能展示一条安全的个人智能体发展路径——AI的发展浪潮已经势不可挡，是未来数十年不可避免的趋势，他希望能够通过自身实践，为行业提供最符合安全约束的发展范本。 尤瓦尔·赫拉利则表示自己无法预测AI发展的最终走向，但他指出，当前AI的发展仍处于非常初级的阶段，类比有机生命的演化，现在的AI就像“有机生命进化中的阿米巴原虫”，距离演化出强人工智能阶段，可能只需要20年，而非数百万年。但他同时强调，人类自身的心智发展也存在巨大的潜力，如果全球投入AI研发的每一分资金、每一分钟人力，都能同时投入同等资源用于发展人类自身的意识与心智，人类完全可以应对AI带来的挑战，但遗憾的是，目前全球对AI研发的投入和对人类自身发展的投入完全不成比例。 最后主持人总结称，本次对话本身就是对AI未来发展的宝贵投资，向两位嘉宾致谢，辩论正式结束。