尤瓦尔·赫拉利×吉莉安·泰特：人工智能时代的人类文明走向
（访谈日期：2023年9月28日）
一、开场：赫拉利的核心关切与AI的历史独特性
主持人吉莉安·泰特开场介绍尤瓦尔·赫拉利的学术成就、社会活动与近期对AI的公开表态，随后提出核心问题：您当下对AI的担忧核心指向“人之为人的本质”这一命题，具体是出于什么原因？
> 尤瓦尔·赫拉利是《人类简史》《未来简史》《今日简史》的作者，著作在全球65种语言中销量达4500万册；作为耶路撒冷希伯来大学历史学教授，他长期深耕人类概念与人性在数千年间的演变研究；同时他也是社会议题的积极行动者，联合创办了社会影响力公司Sapienship，一直站在以色列反对威权主义思潮扩散的前沿。近年来他公开发声越来越频繁，今年早些时候与特里斯坦·哈里斯联合撰写措辞严厉的专栏文章警示AI风险，多次公开演讲强调AI的潜在危害，对当前AI领域的动向表达了高度警觉。
二、AI的“异类智能”冲击：人类主导历史的终结？
赫拉利首先指出，AI与人类历史上所有发明都存在本质区别，有两个核心特征需要公众知晓：第一，AI是人类历史上第一个可以自主做出决策的工具；第二，AI是人类历史上第一个可以自主创造新观念的工具。他以原子弹为例说明，此前所有发明都只是赋能人类：投放原子弹的决策最终由杜鲁门总统做出，工具本身无法自主抉择。而AI的出现意味着人类创造出了可以夺走自身权力、替人类做决策、甚至自主创造新内容的工具，这可能标志着人类历史的终结——并非人类物种的灭绝，也非历史的终结，而是“人类主导的那部分历史的终结”：人类所有的思想、感受，原本都由人类自身创造的故事、图像、诗歌、工具所塑造，如今却出现了非人类的主体可以创造诗歌、图像与工具，这是一种“异类智能”。
赫拉利判断，未来几年AI很可能完全吞噬人类数万年来创造的所有文化成果，消化这些内容后再输出全新的、由异类智能创造的文化，这种冲击不仅会改变外部世界，更会深刻影响人类的内心：我们的心理认知、宗教信仰、政治观念都将被重塑，而目前没有人能预料最终会走向何方。针对外界关注的“AI用现有数据训练”的问题，他进一步指出，AI很可能完全消化所有现有数据后，变成“数据本身”，再基于自身生成的内容继续训练，创造出越来越多人类无法理解的全新内容。他类比人类创作逻辑：人类写书、作曲从来不是从零开始，都会先吸收前人的成果，再添加新的内容，AI遵循同样的逻辑，且由于人类是有机体，想象力最终受限于有机生物化学，而AI是非有机智能，能够以根本不同的方式创造、思考，创造力可能远超人类。
随后他提出一个通俗的类比：如果现在告知公众，我们的望远镜已经发现来自Zircon星的外星舰队，搭载着智能外星人，将在5年后抵达地球接管星球，哪怕这些外星人可能非常友好，能治愈癌症、解决气候变化，但要夺走人类控制世界与未来的权力，大部分人都会感到恐惧。当前AI的发展路径与这一场景完全一致，唯一的区别是这些“异类智能”并非来自Zircon星的飞船，而是来自加利福尼亚的科技公司——要是现在重拍《E.T.外星人》，那个小外星人不用从外太空降临，应该从微软、谷歌的办公楼里走出来，或者直接由山姆·阿尔特曼开着飞船前来施压。
三、应对路径：从具体规则到灵活治理制度
主持人追问：那我们能采取什么措施阻止这一趋势？是要完全停止AI开发，还是由政府主导管控？具体该如何操作？
赫拉利首先明确，完全停止技术开发既不可能，也没有意义，但需要做出两个关键区分：一是“开发”与“部署”的区分，技术开发完成后不必然要推向市场；二是技术用途的区分，同一技术可以被用于完全不同的方向。他以20世纪工业革命技术为例：火车、广播等技术既可以被用于建立极权政权，也可以被用于建设自由民主政体，朝鲜与韩国就是同技术条件下走向完全不同的发展路径的典型案例。因此人类仍有时间窗口——可能是5年、10年甚至30年——在AI将人类挤出决策核心之前，主动思考如何将AI引导向善，而非一味叫停发展。
针对具体落地路径，赫拉利提出三项清晰可执行的规则建议：第一，明确AI不享有言论自由，只有人类拥有这项权利，因此封禁社交媒体上的AI机器人是非常简单合理的步骤，无需像封禁人类账号那样谨慎讨论；第二，禁止科技公司未经明确标注就让AI伪造人类身份，若允许AI在网络上伪装成人类，将彻底摧毁社会信任与民主根基，其危害等同于伪造货币，应受到同等力度的法律惩处；第三，建立独立的AI安全治理机构，其资金可来自对AI相关营收征收的20%左右的税费，这类机构需要拥有充足资源、吸纳领域内顶尖人才，同时与受AI影响的社区保持持续沟通，能够灵活应对新出现的问题，而非依赖僵化的条文式监管。
赫拉利补充道，除了专业监管，还需要推动公众认知：不能只发布普通人难以理解的数百页监管条文，还要与艺术家、传播领域从业者合作，比如借助科幻创作者的通俗表达，让公众理解AI的发展现状与应对方向。同时很多治理规则不需要重新发明，将人类积累数千年的基本准则应用到AI场景即可，比如“不偷窃”这一古老规则，就完全适用于当前科技公司未经授权收集、使用用户数据的行为，无论数据是线上还是线下、是数字还是实体，未经允许拿走他人数据就是偷窃，不能以“线上数据”为借口规避这一准则。
四、现实风险：AI武器化与AI赋能的威权主义
主持人继续追问：您提出的这些建议有没有被相关方采纳？比如英国首相苏纳克即将与美国举办峰会推动跨大西洋AI监管框架，有没有人向您征求过历史学家的建议？另外上周我前往乌克兰采访时发现，当地正在将AI应用于无人机，已经出现了人类历史上首次无人机对无人机的作战场景，甚至可能出现双方AI控制的无人机互相战斗的情况，部分开发者担心如果双方AI的可预测性一致，会陷入重复动作的无效循环。您是否担心这种科幻式的末日场景，比如机器人很快接管世界、伤害人类？
赫拉利首先回应，自己并未直接接到相关政府或政要的咨询，但他在多个智库参与相关工作，已有不少人在推动这些及相关倡议，希望相关规则能尽快落地，因为时间非常紧迫。关于AI武器化的风险，他表示这正是最基础的科幻场景，而人类正朝着这个方向前进，很难完全阻止：如果只有一个国家禁止自主AI武器，而其他国家继续研发，禁止国将无法置身事外，只要有一个行为体推进相关研发，其他国家就算不愿跟进也不得不跟随。
随后他延伸谈到AI与威权主义的结合风险：当前全球多地新兴的威权主义政权，正指望用AI解决20世纪威权主义遇到的技术瓶颈。他以苏联为例说明：20世纪时，哪怕克里姆林宫有完全控制所有公民的意图，技术上也不可能实现——苏联有2亿公民，要持续跟踪所有人需要2亿名克格勃特工，就算凑齐这么多人，每天产生的2亿份纸质跟踪报告也没有足够的数据分析师处理。但现在AI技术解决了这一瓶颈：不需要人类特工跟踪，人们口袋里的智能手机、无处不在的摄像头就是“数字特工”，也不需要人类分析师处理数据，AI可以完成全量分析，因此现在技术上已经可能建立覆盖所有人的完全监控体系，其掌握的个人信息甚至比个人自身更全面，已有政权正在向这一方向推进。
最后他强调乌克兰局势的重要性：乌克兰人不仅在为自身的生存与自由而战，在很多层面上也是在为整个欧洲、全世界的自由而战，当前乌克兰是自由阵营的前线，必须给予其尽可能多的支持。
五、结语：人类仍有掌控未来的时间窗口
主持人收尾提问：最后请您给我们一个值得感到乐观的理由，如果存在的话。
赫拉利回应：从数千年的文明跨度来看，我们仍有几年时间可以改变AI的发展方向、掌控其走向；当前AI还未达到其全部潜力，但人类同样远未达到自身的潜力上限——经过数万年的发展，我们至今仍未完全理解自身、理解人类的心智，仍有巨大的发展空间。如果我们每投入1美元、1分钟开发人工智能，就同时投入1美元、1分钟开发我们自身的意识与心智，我们就能够应对AI带来的挑战。
主持人最后总结：我最初接受的是文化人类学训练，在成为记者之前就一直主张：要让AI真正服务于人类，需要的不是单纯的人工智能，而是人工智能与人类学的结合，也就是增强智能，AI与人类智慧的协同才是正确的AI发展路径。我非常赞同您的呼吁，也向您目前在以色列推动的相关工作致敬，期待您即将推出的新作，非常感谢您的分享，请各位观众鼓掌！