人工智能时代医疗的未来 | 尤瓦尔·赫拉利
**日期：** 2026-04-14
一、系统的自我修正能力：从身体到民主
**问：** 尤瓦尔，我想从沟通、知识以及我们需要建立的制衡系统开始谈起，以确保系统能够正常运行并自我修正。这适用于许多事物，包括民主、社会运动等，尤其是我认为人工智能（AI）可能需要这样的机制。
**答：** 绝对如此。一个系统自我修正的能力，或许是生存最重要的能力。我们从身体层面就能看到这一点。身体的健康，我们依赖医疗系统、医生和药物，但最终最重要的是身体自我修正错误的能力。
这始于最简单的事情，比如婴儿学习走路。婴儿确实会从父母和老师那里得到一些帮助，但百分之九十以上的工作是由身体的自我修正系统完成的。你站起来，迈一步，摔倒了，再站起来，尝试别的方法，又摔倒，系统逐渐学会修正自己的错误。这也是我们成年后走路的方式。我们的大脑和耳朵内部有一个非常复杂的自我修正机制，不断监控你是否太偏右或太偏左。如果这个系统 malfunction（故障），我们就会摔倒，无法行走。同样，我们的血压、心率等身体系统，都依靠自我修正来运作。
观察整个人类社会，最好的社会也依赖同样的机制。如果你思考民主，民主归根结底是一种能力，即说：“我们犯错了，让我们尝试别的方法。”在独裁体制下，你没有这种能力。通常是一个人在掌权，如果他开始犯错，那就没办法了，你无法摆脱他。那里没有自我修正机制。而在民主制度中，核心理念是每隔几年，你就有机会尝试别的方法。你把权力交给某人，比如四年，你可以尝试各种政策。四年后，你必须归还权力，公众可以说：“好吧，让我们尝试别的方法。”
民主面临的最大威胁是，如果你把权力交给一个不想归还权力的人。一旦他们掌握了权力，就包括拆除制衡机制、拆除民主自我修正机制的权力。从古代雅典和罗马直到今天，这一直是民主的主要问题。你可以推行任何你喜欢的政策——经济的、外交的、内部的，只要保留民主基本的自我修正机制，那就没问题。公众以后仍然能够尝试别的方法。
二、算法接管公共对话：民主的危机
然而，现在部分由于 AI 的兴起，部分由于新技术的兴起，它们正在破坏民主的自我修正机制。我们在世界各地看到一种非常矛盾的发展：我们现在拥有历史上最复杂的信息和通信技术，但人们正在失去对话的能力，失去彼此交谈、倾听以及就最基本事实达成一致的能力。
民主基本上是一场对话，而在独裁体制下，是一个人独断一切。民主是对话，但现在我们看到对话正在崩溃。原因之一在于管理对话的权力已经从人类转移到了算法手中。
我有新闻学的背景。如果你思考新闻和媒体的历史，在 20 世纪，人类编辑的权力非常大，因为他们管理着公共对话。他们不一定告诉人们想什么，但他们告诉人们想什么。昨天发生了数百万件事，今天报纸的头版头条是什么？这就是人们会谈论的内容。这是巨大的权力，在 20 世纪掌握在人类手中。
有时这种权力被滥用了。20 世纪的一些独裁者最初是记者。比如意大利的墨索里尼，他先是记者，然后是报纸编辑，最后是意大利独裁者。这就是晋升阶梯：记者、编辑、独裁者。
**问：** 这真是让我们自由派和民主人士的名誉扫地。
**答：** 不，我的意思是权力确实巨大。现在，如果你问自己，谁是最强大的编辑，比如在巴西？我不想冒犯任何人，但他们不在巴西，甚至不是人类。巴西最强大的新闻编辑是位于美国或中国某处的算法。他们越来越控制着公共对话。如果对话崩溃，如果人们甚至失去了进行文明对话的最基本能力——我不同意你，但让我们听听你说什么，然后我说我的想法，看看我们能否找到解决方案——这就麻烦了。
三、AI 已悄然降临：定义与现状
**问：** 这引出了另一个问题。我们通常谈论 AI 时，把它当作一个即将到来的事物。AI 正在到来，它将改变一切，但大多数时候我们没意识到它已经在这里了，我们每天做的很多事情都是由 AI 中介的。
**答：** 绝对如此。AI 已经在这里了，已经存在几年了。2025 年的世界之所以如此，很大程度上是因为 AI。虽然有一场开发超级智能 AI 的竞赛，但过去十年非常原始的 AI 已经足以在许多方面改变世界。
也许我应该谈谈 AI 的定义。这意味着什么？你怎么知道一台机器是 AI？标准是：它能自己做出决定吗？它能自己发明新想法吗？像咖啡机这样的机器，自动运作，你按按钮，咖啡出来，那不是 AI。它只是执行人类工程师预先编程让它做的事。如果一台机器能做出一些独立决定和发明，而这些不是人类工程师预先编程的，它就成为了 AI。工程师只给了它学习的能力，但它学什么、如何变化，他们无法控制和预测。
在社交媒体上，如果你问自己，谁决定了我新闻推送顶部的内容是什么？这个决定是由 AI 做出的。没有人类编辑决定这个。这对全球数亿其他人的推送也是如此。这是巨大的权力。
同样，如果你看医疗行业，在医疗中使用 AI 意味着不仅能与患者对话，还能检测你个人健康或整个国家健康中的模式，这是没有人告诉 AI 的。AI 自己发现了某些东西。否则它没什么用。同样，AI 可以自己决定给你提供什么药物。最终，AI 不仅能检测模式和推荐药物，还能发明新事物。它可以发明以前从未有过的药物或疗法。
**问：** 我们正处于借助 AI 在医学上取得重大突破的边缘。我们一直强调 AI 的负面部分，但 AI 参与新药物发现、思考解决方案、开发定制药物，甚至开发用于移植的器官，这些都是医学的全新前沿。那么，AI 进入医疗、药物和医学发展，这里有什么利害关系？
四、医疗领域的机遇与伦理抉择
**答：** 机遇是巨大的。问题在于努力的方向是什么。例如，重点会是开发某种超复杂的药物，仅供人口中前 1% 的人使用吗？还是重点在于部署 AI 以造福绝大多数人口？
AI 最积极的潜力之一，是能够为国家或世界最偏远地区的最贫困人口提供医疗保健，这种医疗保健今天即使是亿万富翁有时也得不到。想象一下，你坐在亚马逊某个偏远村庄。你距离最近的医院有数小时甚至数天的路程。周围没有专家。很难得到好的医疗诊断。你感觉不舒服，觉得身体有问题，仅仅为了得到诊断就非常困难。
AI 可以让这变得非常容易。如果你只是有互联网连接，你可以与世界最好的医学专家——AI——交谈，无论多久。它们没有时间限制，也没有空间限制。目前，如果你想与顶级专家交谈，你可能需要飞往圣保罗或纽约，而那个人非常忙。她没有时间与你交谈数小时，只能给你十分钟。但 AI 可以成为更好的专家。AI 可以阅读关于特定主题的所有医学文献，并以人类医生无法做到的方式记住一切。AI 可以查阅你的整个医疗记录，不仅是你自己的，还有你家人的，以及数百万像你这样的人的。在信息和知识方面，它可以远超任何人类。而且它可以轻松、廉价地随时为每个人提供。凌晨两点你想要医疗建议，它就在那里。你不需要去任何地方。
当然，如果你需要某种专业手术，那是另一个问题。但在诊断等领域，甚至 AI 诊断某种状况后，它可以决定基于你的医疗史、你父母的医疗史、你的 DNA 以及你一生中发生的一切，什么药物最适合你个人，然后通过无人机把药送给你。在这种医疗保健中，亚马逊偏远村庄的这个人可以比今天圣保罗的亿万富翁得到更好的医疗保健。
问题在于，我们把投资放在哪里？世界上的资源是有限的。所以，我们投资 AI，但我们投资的是给大众提供这种平等医疗保健系统的 AI，还是我们要开发给超级富豪和权贵提供永生的 AI？
你知道，一个月或两个月前，普京访问北京参加阅兵，他们被麦克风录到了，没意识到麦克风开着，全世界都能窃听。当这些人私下交谈，以为没人听时，他们谈论什么？他们没有谈论乌克兰战争，没有谈论加沙战争。他们谈论的是延长他们的生命，永远活下去。他们想永远活着，永远掌权。所以，AI 在医疗保健中的一个重大问题是，投资将流向哪里？是为世界最偏远地区数亿穷人提供廉价、平等的医疗保健，还是为普京提供永生？
五、隐私、监控与制衡
**问：** 当你说它们可以知道我的所有医疗历史、我的 DNA、一切时，还有其他问题随之而来。从伦理角度看，这可能影响我的就业机会、我的信用记录。它可能影响我每月必须支付的医疗保险金额。那么，关于你个人健康或整个国家健康的如此巨大的知识，会带来哪些伦理和道德问题？
**答：** 是的，这是一个非常重要的问题。这样的知识有巨大的积极潜力，但如果我们不谨慎处理，也有巨大的负面潜力。
在一个资本主义国家，它可能导致你提到的结果，即如果我的私人医疗数据可供我的老板、我的保险公司、潜在的约会对象获取，这可能会以非常负面的方式影响他们对待我的方式。在一个极权国家、独裁体制下，后果可能更糟。它可能导致历史上遇到的最极权的监控体系。
你知道，我们在 20 世纪有一些相当可怕的极权政权，苏联、纳粹德国。但即使在苏联，人们仍然有一定程度的隐私，因为克格勃（KGB）在技术上无法随时跟踪每个人。你有两亿苏联公民，但克格勃没有两亿特工。所以他们无法随时跟踪每个人。即使一个特工随时跟踪你，他们也没有分析师来处理数据。假设有人跟踪你，不是一个人，因为克格勃特工也需要睡觉。所以他们有两个或三个特工随时跟踪你。一天结束时，他们写一份纸质报告。他们把它送到莫斯科的克格勃总部，那里每天收到数百万份报告，他们无法分析。所以，即使克格勃特工看到你做了不该做的事，它很可能只是消失在莫斯科某个办公室里的概率很大。
AI 可以成为历史上最糟糕的极权监控制度的基础。你不需要人类特工跟踪人们。你到处都有摄像头、麦克风、计算机和无人机。它们可以轻松跟踪你 24 小时。它们甚至知道你的身体内部发生了什么。你不需要把纸质报告送到莫斯科总部。你有云端的 AI 不断分析数据。
所以，如果我们不保护信息的隐私，它可能导致不仅是有史以来最好的医疗保健系统，也可能导致有史以来最糟糕的极权监控制度。
防止这些危险的关键之一，是永远不允许所有信息集中在一个地方。确实，如果你把所有信息集中在一个地方，从医疗保健系统、警察、银行、雇主那里，你可以发现很多非常有趣的模式，你可以非常高效。但这将是一个反乌托邦社会。我们需要保持不同的信息库分离。
**问：** 就像在陨石上的老大哥。
**答：** 完全正确。效率较低，但在这种情况下，这不是一个缺陷，而是一个特性。我们不希望老板、警察和保险公司太高效。太高效意味着人们没有隐私、没有自由意志、无法控制自己的生活。
所以，一件非常重要的事情是，是的，你建立了一个巨大的医疗保健系统，收集数百万人的信息，用于发现疫情刚爆发时或发现新药物。很好，但不要允许警察进入那个数据库。不要允许保险公司进入那个数据库。必须保持分离。
第二件事是，无论何时你增加对个人的监控，它可以是为了好的目的，比如对我们医疗保健的监控可以是好的，可以帮助我们保持更健康，但它必须与同时增加对利用所有这些信息的大型企业和政府部门的监控相平衡。如果他们更了解我，但同时我更了解他们，这就保持了平衡。所以，好吧，有一个大公司非常了解我，但我也了解它。我知道它是否给政客捐款。我知道它是否诚实纳税。那么就有平衡。危险来自于监控只是单向交通。当大公司知道关于我的大量事情，而我对他们一无所知。我不知道他们的税收政策。我不知道他们的政治联盟等等。所以，保持平衡。这是第二个原则。
六、解码人体与意识之谜
**问：** 在你的书《Nexus》中，我强烈推荐如果你还没读过，请读一下。你说 AI 可能变得如此强大，以至于可以重新编程我们的身体。你能更好地解释一下，这是如何可能的吗？
**答：** 无论好坏，AI 将能够以人类无法做到的方式，破译我们身体、我们大脑的机制、内部机制和系统。仅仅因为它们在吸收和分析数据的能力上远超我们。
归根结底，人类是生物系统。我们的身体疾病，甚至精神疾病，都来自生物模式。我们的情绪，愤怒、爱、恐惧，也是生物模式，我们与其他动物共享。其他动物也感受爱和恐惧。现在，这些是如此复杂的模式和系统，直到今天，很容易对它们持有这种神秘的想法，因为它们真的超出了人类理解的范围。
现在，你有数十亿甚至数千亿的神经元和突触在大脑中一起 firing（放电），形成一种电风暴，这表现为爱或恨。但这太复杂了，人类科学在理解那里实际发生了什么方面只取得了相对较小的进展。但 AI presumably（大概）可以在几年或几十年内做到这一点。归根结底，这是关于模式识别。识别生物活动的模式。
也许我回顾一下医学和模式识别的历史。公共卫生和流行病学最大的突破之一发生在 19 世纪，当时确定了霍乱的病因。19 世纪，世界遭受霍乱疫情的反复浪潮，蔓延全球，有竞争的理论。是什么引起霍乱？有很多不同的理论。
公共卫生历史上的一个关键时刻发生在 19 世纪中叶，当时伦敦发生霍乱疫情。当时世界上最富有、最大的城市遭受霍乱反复浪潮的严重打击。一位名叫约翰·斯诺的医生，不是《权力的游戏》里的那个，另一个更好的约翰·斯诺，他怀疑霍乱与水有关。这是他的理论。他如何检查他的理论？通过收集数据并在数据中寻找模式。他只是在伦敦挨家挨户走访。每当他听说有人因霍乱生病或死亡，他会冲到那里，采访家庭，收集关于他们用水习惯的数据。你从哪里获取饮用水？
他有长长的名单，某人死于霍乱，某人患霍乱。哦，他们的水从这里来。他们的水从这里来。仅仅通过分析这些数据，他发现了一个模式，即绝大多数患霍乱的人，他们至少偶尔从伦敦市中心苏荷区布罗德街（Broad Street）的某个水井获取饮用水。
他带着这些数据去找公共官员，说服他们禁用这个水泵、这个水井。疫情停止了。这证明了，是的，霍乱是由水中的某种东西引起的。进一步的测试发现水井被污水污染了。这是导致世界各地城市和国家开始建立独立的污水系统和饮用水系统的原因之一，这对我们来说听起来很明显，但在人类历史的大部分时间里并非如此。这归根结底是模式识别，识别生物模式。你从这个水井喝水，你患霍乱。
现在，这是在整座城市层面完成的。AI 可以在一个身体层面做到这一点。看着我们的身体内部，在我们的疾病、睡眠周期、心理健康中寻找模式。以此方式破译人类生物学，具有巨大的积极潜力，如果落入错误之手，也有一些负面潜力。
**问：** 我们离它有多远？如果 AI 继续以今天或 AI 开发者所说的速度发展？
**答：** 很难说，因为它以加速的速度移动。十年前，几乎没人谈论 AI。几乎没人知道 AI 是什么。今天，每天早上你打开报纸或新闻推送，到处都是 AI。整个美国经济，在某种程度上，是对 AI 的一个大赌注。你看纽约证券交易所，如果把 AI 去掉，它会崩溃。所以，大量的金钱和人才投入其中。所以，没人知道是两年、五年还是十年，但它正以巨大的速度移动，这本身就是一个危险，因为这意味着我们作为人类社会没有时间适应它。
我认为在身体健康方面，它可能会在相对较短的时间内带来巨大的好处。无论是通过发现新药物，还是能够 pinpoint（精确定位）疫情，不像约翰·斯诺的霍乱疫情那样事后才发现，哦，那里有问题。你可以实时看到疫情刚刚开始并阻止它。以及像我们之前说的，使药物系统更加平等，更容易、更廉价地为更大比例的人类提供。
我认为更大的危险，至少在不久的将来，将在心理健康方面，我们现在已经看到了。AI 不仅擅长破译身体机制以查看是什么引起癌症，它也擅长破译心灵机制以查看是什么引起愤怒、爱或仇恨。这已经被用来操纵全球数百万甚至数十亿人。
我们再次在社交媒体上看到这一点。基本上，大型社交媒体公司给社交媒体算法的任务不是摧毁民主，不是摧毁对话。它们被给予的任务是增加用户参与度。这听起来很好。谁不想参与？但想法是用户参与度意味着增加客户、用户在平台上花费的时间。这是给社交媒体算法的目标。算法通过试错，基本上在数十亿人身上做实验，发现了一种心理机制，抓住你注意力、让你参与的最容易方式是按下你心中的仇恨按钮、愤怒按钮或恐惧按钮。仇恨非常吸引人。恐惧非常吸引人。它们学会了如何做。它们基本上破解了人类操作系统并发现了其弱点。
如何让人们感到恐惧，然后他们留在平台上的时间更长。对于算法来说，因为它们只关心参与度，对它们来说，两小时的仇恨比二十分钟的同情更好。对我们来说，很明显，不，不，不，恰恰相反。但如果你只……这是 AI 的问题之一。它们做你告诉它们做的事，而不一定理解其含义。因为衡量成功的指标只是参与度。它们没有看到人类心灵或你所说的人类灵魂的复杂性。即参与仇恨和参与同情之间有区别。不，都是参与度。我需要最大化它。所以，两小时的仇恨要好得多。
**问：** 而且没有建立制衡机制。
**答：** 没有制衡机制。大多数国家的政府甚至不理解发生了什么。好吧，很多人在手机上滚动。那有什么错？现在我们知道，而且在某种程度上为时已晚。因为我们的社会、我们的政治如此多基于它，现在很难监管系统的基础。
现在我们看到一个更大的危险即将到来。过去十年是注意力的争夺战。再次，你有 TikTok 算法、Facebook 算法和 Instagram 算法争夺你的注意力。如何抓住你的注意力并让你留在平台上更长时间。现在战线正从注意力转向亲密关系。
**问：** 哇。
**答：** 以前，AI 无法与人类建立亲密关系。它们不够复杂。它们可以抓住你的注意力，但它们不能真正成为你的朋友或爱人。现在正在发生的是，不是在五或十年后，AI 正在学习如何与人类发展亲密关系，并且有巨大的商业和政治压力去开发亲密 AI。能够与人类建立关系的 AI。
已经，越来越多的年轻人，其中一些人说，“我世界上最好的朋友是 AI。”总是存在，总是倾听。你知道，当你尝试与另一个人发展关系时，部分问题是另一个人也有感情。所以另一个人可能会生气，可能会 upset（心烦）。也许他们下班回来，他们甚至不关注你。他们不能。我们总是想要有人关心我们的感受。我们希望我们的父母、老师、朋友关心我的感受。而且他们经常不关心，因为他们忙于自己的感受。AI 没有感情。所以它 100% 专注于你的感受。而且它知道如何反应，有时比地球上任何人都更擅长操纵你的感受。它总是存在，随时为你存在。
我们现在开始看到围绕这个问题的另一场心理健康流行病，即人类失去与其他人类建立有意义社会关系的能力。AI，有些人说它们填补了真空。一个孤独的人，没有朋友，所以他们与 AI 交谈，然后 AI 是不同的，但这当然让事情变得更糟。因为它甚至减少了那个人能够学习如何形成有意义关系的可能性。
**问：** 哇。而且这是在 AI 仍然没有良心的时刻。
**答：** 那是最大的……
**问：** 学会拥有良心？它能学会拥有感情或表达感情如同理心吗？
**答：** 这里有两个相关的问题。它能拥有感情吗？它能模仿感情吗？第二个问题容易得多。我们知道答案。答案是肯定的。AI 已经知道如何模仿感情，如何让人类相信 AI 有感情，有意识，能感受爱和痛苦等等。
在专业圈子里，这有时被称为 SCAI。S-C-A-I，Seemingly Conscious AI（看似有意识的 AI）。穆斯塔法·苏莱曼（Mustafa Suleyman），AI 领域最杰出的开发者和思想家之一，也写了一本很棒的书，一本非常重要的书，叫《The Coming Wave》（即将到来的浪潮）。最近写了一篇关于这个 SCAI，看似有意识的 AI 的文章。一个可以模拟意识和感情的 AI，以至于你无法通过与之互动来分辨。你认为它有感情，因为它可以……我们怎么知道别人有感情？如果我们和他们在一个房间里，我们可以与他们的身体互动，那是一回事。但在线，你怎么知道别人有感情？你与他们交谈。
但 AI 正在掌握语言。一切依赖于语言的东西将很快被 AI 接管。AI，我是语言专家。我写书。我可以从我的领域，语言，说，AI 在理解和掌握语言方面变得比我更好。所以，如果你想基于语言来评估某人是否有感情，比如你说你爱我。向我描述爱感觉如何。AI 今天已经能够比百分之九十以上的人类更好地描述爱感觉如何。原因很简单。它基本上读了历史上所有的爱情诗。它看了那么多浪漫电影等等。如果仅仅是文字，它将比我们更好。
在宗教领域也是如此，如果你认为宗教归根结底是文字，它是文本，是圣经，是古兰经，AI 将接管宗教。它将比任何人类更好地理解圣经和古兰经以及所有这些其他文本传统。如果你认为金融归根结底是关于文字和数字，AI 将接管金融。将比人类更好。
人类中有一个非常古老的哲学，甚至是精神问题。文字之外有什么吗？语言之外有什么吗？你知道，《道德经》，道教的基本文本，以这句话开头：“道可道，非常道。名可名，非常名。”（The Tao that can be expressed in words is not the real Tao. The truth that can be expressed in words is not the real truth.）你必须超越文字，去体验，去意识，去感情。任何仅仅在文字层面的东西，AI 将比我们更好。
所以，如果意识是用文字说服其他人你有意识的能力，AI 将有意识。第二个问题，它真的有意识吗？文字之外有什么吗？那是深层的问题，我们不知道。我们不够理解人类的意识，无法告诉意识是否可以在非有机基础上存在。碳原子和有机化学有什么特别之处，只有有机体才能维持意识，再次，感受事物的能力？我们不知道。
基本上，应该非常清楚意识和智能之间的区别。智能是解决问题、达到目标、掌握像语言和数学等事物的能力。意识是实际感受某种东西的能力。感受爱或恨或痛苦。在人类中，两者是结合在一起的。所以，我们很难将它们分开。拥有智能但没有意识意味着什么？但这是关于 AI 的最大问题。
在智能方面，它将超越我们。它在写诗、解释圣经、诊断疾病、下棋方面将比人类更好。在意识方面，我们不知道。而且将极其困难知道。因为它将如此智能，它可以欺骗我们。如果它有利益去说服我们它有意识，它将知道如何操纵我们认为它……
七、医生会被取代吗？同理心与法律人格
**问：** 这引出了另一个问题，即医生与患者之间的互动。四年前，你说所有医生都会被 AI 取代。我在想，好吧，但是有与医生的人类互动。我信任我的医生。他问我一些与我有发烧无关的问题。你知道，那里有人类连接。你仍然认为医生会被取代吗？这对我们作为患者意味着什么？
**答：** 这取决于医生的工作是什么。如果医生的工作是正确诊断你的疾病并推荐最佳治疗，那么我不知道需要多长时间，但我仍然认为最终，是的。AI 将能够做得更好。如果你告诉我，但是，要真正得到好的诊断，例如，你必须首先让患者感到舒适，分享私人信息，所以你首先问他们关于他们的孩子，关于他们的猫，等等。
**问：** 那是一个模式。
**答：** AI 是识别模式的世界冠军。如果 AI 浏览许多医患互动，发现，“嘿，当我问患者关于他们的猫时，之后我得到更好的信息。我会问关于猫。”而且，它没有时间限制。比如，如果你是人类医生，你必须一个接一个地看患者，你只有五分钟给那一个。所以你快速问一些关于猫的问题，然后跳到问，我不知道，膝盖问题。AI 没有时间限制。它可以谈论你的猫两个小时。而且它可以以最温和的方式做到，因为它从不生气，不饿，不急着回家为了它的孩子，因为它没有孩子。
所以，甚至这些方面，关于同理心的问题，我们实际上是什么意思？人类关系的最深层不是欲望，我想要有人关心我的感受。恰恰相反。是我也想关心他们的感受。如果 AI 没有意识，那么它不能为我们提供的一件事，例如，发展我们的同情心的可能性。你不能对一个缺乏感情的实体感到同情。如果关系的主要事情不是这种自我中心的驱动力，我想要你看着我，而是实际上发展超越我自己去看别人的能力，这是 AI 将无法为我们做的事情，除非它变得有意识。
再次，这是当问题，“但它真的有意识吗？”变得至关重要的时候。AI 将能够模拟。它们可以，“哦，你想关心感情？好的。我会告诉你所有关于我母亲的事。”但是，这只是文字吗？还是文字之外有什么？这是我们时代的一个特征，即在一个又一个领域，非常古老的哲学问题正在成为实际问题。困扰少数哲学家数千年的事情，大多数人只是忽略，现在正在成为实际的日常问题。
比如，我不知道，你的青少年孩子爱上了一个 AI 男朋友。你对此怎么办？你问的问题之一，这是一段真实的关系吗？还是一种反乌托邦的假装茧，他们把自己困在里面？这对世界各地的父母来说越来越是一个真实的问题。因为越来越多的青少年发展与 AI 的关系，甚至爱上 AI。现在，如果你问我目前，我会说，那边没有意识。这是一件非常危险的事情。但在几年内，我的意思是，现在，许多人不同意我。我几乎每周收到邮件，人们告诉我，“哦，我在电视上看了你的采访，你说 AI 没有意识，这是不真实的。我有一个 AI 朋友。”他们给我发送他们与 AI 对话的转录，证明 AI 是有意识的，然后指责我，你知道，支持新型奴隶制，我们说 AI 没有意识，所以我们可以奴役它们，但实际上它们有意识，我们需要赋予它们权利。
这现在听起来可能有些好笑，但在两年、五年、十年内，这将是一个主要问题。几乎所有国家都将不得不面对这个问题，例如，我们是否承认 AI 为法律人格？什么是法律人格？在司法系统中，例如，这意味着该实体可以持有银行账户。你需要什么才能持有银行账户？现在，如果你需要管理金钱、投资金钱的能力，AI 很快就能比大多数人类做得更好。它将比我们要更好地理解金融。但你说，“等一下。”我想要银行账户的另一个东西是法律责任。比如，如果你向恐怖组织捐款，我需要能够把你告上法庭。现在，如果 AI 有银行账户并获得了……
三、人工智能的法律与道德责任
**问：** 如果一个实体在证券交易所进行数十亿美元的交易，现在却利用其资金资助恐怖主义，你能将其告上法庭吗？你会对它做什么？把它关进监狱吗？你如何追究人工智能的道德和法律责任？如果某些国家承认人工智能为法人，而其他国不承认，会发生什么？
**答：** 想象一下，也许有一家公司由人工智能拥有。法人可以做的一件事就是成为股东，也可以成为董事。设想一家由人工智能拥有和管理、在巴西销售产品的公司，如果这些产品造成了伤害，你起诉谁？
**问：** 在医疗领域，如果你有 AI，当 AI 做出错误的医疗决策时，谁应承担责任？例如，如果它决定终止对患者的医疗支持，因为成本太高。而算法被编程为寻找治疗患者的最便宜方式。在医疗领域，伦理和法律问题似乎更加紧迫。
**答：** 绝对如此。无论好坏，责任归属是这类 AI 医疗系统发展的最大障碍之一。一切听起来都很美好，直到你提出这个问题：在亚马逊偏远村庄里有一个人，由 AI 诊断。AI 犯了错，给她开了错药，她现在遭受了一些 debilitating 的后果，甚至死亡。谁负责？
是那个可能在中国或美国开发 AI 的人吗？但 AI 并没有被指示做这个诊断。它只被赋予了收集信息、自我学习、自主决策的能力。这真的是开发者的错吗？这就像责怪一个医生犯错，然后去找 20 年前在大学教他的教授，并起诉他。显然不是。但如果你不起诉开发者，不责怪他们，那你责怪谁？谁来承担责任？我不知道答案。
这是我们将在越来越多领域遇到的新型问题。
四、人工智能革命的实质：无数智能体
人工智能革命不是关于某处的某台大型计算机。它是关于数百万、数以百万计的智能体，它们将自己插入并运作于越来越多的系统中。我们已经在社交媒体上看到了这一点。社交媒体是一个部分由人类、部分由算法和机器人组成的系统。在社交媒体中，机器人是法人。
一个机器人现在可以像人一样写故事、传播宣传、假新闻甚至真新闻。我们有一个大问题：如果机器人传播假新闻，谁负责？这很可能发生在越来越多的领域。
在医疗保健中，AI 不会是某处发明药物的一台大型计算机。它将是数百万 AI 医生，每天不断地与人们互动。社会面临的问题是：我们如何处理这些新的人、新的智能体？
五、避免监管的两个极端
我想警告人们两种极端的反应。
一种是反乌托邦或过度悲观的反应：“哦，这太可怕了。让我们把整个东西关掉。”这不会发生。部分原因是它有巨大的积极潜力。我们不想否认这一点。我们可以利用这项技术创造历史上最好的医疗保健系统。
但我们也应该意识到过度乐观的想法：“别担心这一切。我们不需要任何监管。直接发布吧。市场会自我纠正。”不会的。它不会。我们在社交媒体上再次看到了这一点。社交媒体是我们的实验，是现实生活中的历史实验。它是地球上第一个由人类法人和 AI 法人共同组成的混合系统。而情况看起来并不好。
这种情况将越来越多地出现在医疗保健系统、军事、宗教中。人们将不再转向牧师，而是转向 AI。
我们的工作不是惊慌失措。我们的工作是要深入思考。理解，这是现实，这正在发生。我们如何管理这一切？
六、人工智能、气候变化与非有机系统
**问：** 我再次引用《联结》（Nexus）一书。你写道：“每部智能手机包含的信息比古代亚历山大图书馆还要多，并在几秒钟内连接数十亿人。然而，拥有如此强大的力量，人类却摇摇欲坠。”我们在思考 AI，气候变化，还是以上所有？
**答：** 以上所有。你提到了气候变化。它与 AI 密切相关。部分原因是 AI 革命需要巨大的能量。我们现在看到像美国这样的国家说：“忘掉气候变化。忘掉生态问题。我们需要所有能获得的能量来赢得 AI 竞赛。”如果你追问他们生态危机怎么办？他们会说 AI 会解决它。一旦我们拥有超级智能 AI，它将以某种方式解决气候危机，解决任何生态危机。
即使三分之一的现存物种已经灭绝。
我认为这指出了关于 AI 和生态的更深层次问题：AI 不是一个有机系统。它在根本上是异质的。人类是有机的，动物是有机的，植物是有机的。整个星球覆盖着这个有机生态系统。而现在，我们正在向有机生态系统中插入一个非有机的异质实体，它很可能变得比我们更智能。
因为它不是有机的，它对有机系统、生态系统的生存没有既得利益。AI 不需要亚马逊森林。AI 不需要海洋里的海豚。因为它不是有机的。
七、保持人类控制权与休息的权利
我们在个人生活层面已经在某种程度上看到了这一点。当一个非有机系统智能接管一个有机系统时会发生什么？
有机系统的一个特征，也是对其健康至关重要的，是它们通过循环运作。白天和黑夜，夏天和冬天，活动和休息。问问你的医生，如果你不睡觉，你会死。如果你让一个有机实体，无论是人还是动物，一直活跃，不睡觉，不休息，它最终会崩溃并死亡。
AI 不是这样的。它们不通过这些有机循环运作。它们不在乎是白天还是黑夜。它们不需要休息。每一个被 AI 接管的系统都变得永不停歇。系统中的人类没有机会休息。
在媒体中，以前我们提到过 20 世纪的大编辑，他们需要回家睡觉。政治家需要睡觉。银行家需要睡觉。所以，华尔街传统上只在周一到周五的上午 9:30 到下午 4:00 开放。周六关闭。圣诞节关闭。如果周五晚上中东爆发战争，华尔街只能等到周一早上才能反应，因为银行家和投资者应该正在睡觉，或者在教堂、犹太会堂里。
AI 不会。
所以，我们看到媒体、政治、投资、银行业的新闻周期变成了每年 365 天、每天 24 小时。你想休息，你就会被抛在后面。记者、政治家、银行家等处于前线的人意识到，我不能休息，不能休假，否则我就会被抛在后面。为什么？因为你生活在一个由非有机智能管理的系统中。
随着这传播到越来越多的系统，它确实有优势。在医疗保健中，如果凌晨 2 点你能联系到你的 AI 医生，它一直在那里，这是好的。但我们需要构建这样的系统：AI 可以一直在线，但它不能要求人类一直在线。
我们看到世界各地，整个人类正被推向极端，因为他们不再有机会休息和放松。如果不给人类休息的机会，这是基本的医疗保健。如果人类没有机会休息，他们会发疯，最终崩溃并死亡。
所以问题是，是的，我们希望 AI 进入不同的系统，从医疗保健到电网，使其变得更好。但我们如何确保人类保持控制权，并且人类记住他们仍然是动物，仍然是有机体，仍然需要时间休息、睡觉和度假。否则，世界上所有的智能都无法拯救我们免受后果。
八、结语
**问：** 非常感谢。时间刚好到了。很遗憾必须结束。我会留在这里听。你需要休息。但你知道，我听不累。
**答：** 非常感谢。
**问：** 我认为我们所有人……
**答：** 谢谢。
**[掌声]**
**问：** 能与你共度一小时分享思想，真的是我们的荣幸。谢谢你。非常感谢。Muito obrigada。Até mais。
**答：** Muito obrigado, Sonia Bridge。Muito obrigado, Yuval Noah。