李飞飞与尤瓦尔·赫拉利对话：即将到来的 AI 动荡
**日期：** 2019 年 4 月 24 日 **地点：** 斯坦福大学 **主讲人：** 尤瓦尔·赫拉利（Yuval Noah Harari）、李飞飞（Fei-Fei Li）、尼克·汤普森（Nick Thompson） **主持人：** 罗布·赖希（Rob Reich）
---
一、活动背景与嘉宾介绍
晚上好，各位。我是罗布·赖希，很高兴欢迎大家来到斯坦福大学，参加今晚与尤瓦尔·赫拉利、李飞飞和尼克·汤普森的对话活动。我是斯坦福大学政治学教授，也是斯坦福大学社会伦理中心（Stanford Center for Ethics in Society）的学术主任。今晚的活动由该中心、斯坦福大学以人为本的人工智能研究所（Stanford Institute for Human-Centered Artificial Intelligence）以及斯坦福大学人文中心共同赞助。
今晚的主题至关重要。我们将共同探讨人工智能的承诺与风险。这项技术正在迅速重塑我们的经济、社会和政治世界，无论好坏。人工智能兴起所引发的问题，对于硅谷的许多人来说已经不再陌生，但其重要性正在日益增长。当数百万工作岗位可以被自动化时，工作的未来将何去何从？我们是注定生活在一个由算法而非人类做决策的世界里，还是这是一种祝福？
在宏大的图景中，这些都是较小的问题。更宏大的问题包括：如果机器智能接近或超过普通人类，人类物种将变成什么样？作为一种目前依赖大规模集中化数据池的技术，人工智能是否更倾向于威权式的集中治理，而非去中心化的民主治理？我们是否正处于一场人工智能军备竞赛的开端？如果强大的人工智能系统（特别是用于人脸识别等目的）落入威权统治者手中，会发生什么？
这些挑战仅仅是触及了表面。随着技术的不断改进和使用案例的倍增，我们需要充分应对人工智能的影响。关于今晚的活动形式，鉴于尤瓦尔和李飞飞拥有广泛的专长领域，通过 Slido 平台提问时，问题应限于今晚讨论的主题。Slido 是一个网络界面，允许大家对问题进行投票。如果您没有联网设备，可以使用入场时发放的明信片，在背面写下问题，活动结束后收集，斯坦福大学人文中心将尝试基于这些问题促进对话。
另外提醒几点：尤瓦尔的书籍将在活动结束后于大厅出售；请将手机调至静音；我们的 moderated 对话将持续 90 分钟，并将在 90 分钟后准时结束。
接下来，我将把舞台交给一位斯坦福大学杰出的本科生，由她来介绍我们的嘉宾。她是安娜 - 索菲亚·莱西夫（Anna-Sofia Lesiv），斯坦福大学大三学生，主修经济学，辅修计算机科学。在课堂之外，安娜 - 索菲亚是一名记者，其作品曾刊登于《环球邮报》、半岛电视台、《水星新闻》、《西雅图时报》以及校园记录报纸《斯坦福日报》。她目前是《斯坦福日报》的执行编辑，今年早些时候撰写的关于计算机科学与伦理教育的文章《CS + Ethics》获得了 2018 年最佳新闻学生奖。她持续发表关于技术专家面临的伦理挑战的深入考察。女士们，先生们，请记住这个名字，你们未来会读到她的文章。请大家欢迎安娜 - 索菲亚·莱西夫。
安娜 - 索菲亚·莱西夫：非常感谢罗布的介绍。很荣幸今晚介绍我们的三位嘉宾：尤瓦尔·诺亚·赫拉利、李飞飞和尼古拉斯·汤普森。
尤瓦尔·诺亚·赫拉利教授是一位历史学家、未来学家、哲学家，也是希伯来大学的教授。世界也因他撰写了本十年中最具雄心和影响力的书籍而认识他。赫拉利教授的国际畅销书全球销量达数百万册，涵盖了从叙述整个人类历史到预测人类未来的广泛主题，甚至在《未来简史》（Homo Deus）中创造了名为“数据主义”的新信仰。赫拉利教授已成为硅谷备受喜爱的人物，他的著作被指定为斯坦福大学的课堂阅读材料，他的名字在比较文学系和计算机科学系的走廊里被低声传颂。他最近的一本书是《今日简史》（21 Lessons for the 21st Century），聚焦于当下的技术、社会、政治和生态挑战。在这部作品中，赫拉利警告说，随着技术突破不断加速，我们将越来越少有时间去反思它们带来的变化的意义和后果。
这种紧迫感正是李飞飞教授每天工作的动力，她是斯坦福大学以人为本的人工智能研究所的联合主任。该研究所是最早坚持认为人工智能不仅仅是技术专家的领域，而是一个根本性的跨学科问题，最终也是人类问题的机构之一。她对人类智能基本问题的着迷激发了她对神经科学的兴趣，她最终成为计算机视觉、机器学习和认知计算神经科学领域的世界顶尖专家之一。她在顶级期刊上发表了超过 100 篇科学文章，研究得到了美国国家科学基金会、微软和斯隆基金会的资助。2013 年至 2018 年，李飞飞教授担任斯坦福大学人工智能实验室主任；2017 年 1 月至 2018 年 9 月，她担任谷歌副总裁及谷歌云人工智能和机器学习首席科学家。
尼古拉斯·汤普森是《连线》杂志（Wired Magazine）的主编，自 2017 年 1 月起担任该职位。在汤普森先生的领导下，人工智能话题在杂志上占据了特殊地位。《连线》不仅分配给他比任何其他主题都多的人工智能特写故事，而且它是唯一拥有全职记者负责的具体话题。因此，赫拉利教授和李飞飞教授对《连线》的页面并不陌生。汤普森先生曾与世界技术和人工智能领域的领导者进行讨论，包括马克·扎克伯格关于 Facebook 和隐私、法国总统埃马纽埃尔·马克龙关于法国的人工智能战略，以及雷·库兹韦尔关于人工智能的伦理和局限。汤普森先生是斯坦福大学毕业生，获得地球系统和政治学双学士学位，并令人印象深刻地完成了第三个经济学学位。当然，我必须提到，汤普森先生在《斯坦福日报》的评论版面开始了他的新闻生涯。所以尼克，这让我们两人有了共同点。
像我们今天的所有嘉宾一样，我既对人工智能给我们社会带来的挑战感到着迷，又感到担忧。我在斯坦福的一个目标之一是撰写和记录教育一代学生的挑战，他们的生活和职场最终将被人工智能改变。最近，我与《斯坦福日报》发表了一篇名为《自满的山谷》（Complacent Valley）的文章。在文中，我批评了我们倾向于对硅谷已经取得的技术和财务成就过于舒适，以免我们变得自满，失去应对世界即将面临的巨大挑战的雄心和动力。回答我们应该花时间在什么上、应该如何生活的根本问题变得更加困难，特别是在人工智能革命的前夜。我相信，作者 J.D.万斯在《乡下人的悲歌》（Hillbilly Elegy）中写到的那种主体性危机，并不局限于阿巴拉契亚或去工业化的中西部，甚至正在像斯坦福这样的精英机构中浮现。因此，像今晚这样举办旨在将个人重新置于人工智能核心的演讲者的对话，将向我们展示如何在大多数决策似乎可以由算法为我们做出的时刻承担责任。没有叙事能引导我们穿越拥有 AI 的未来，没有古老的神话或故事可以依赖来告诉我们该做什么。在人类面临最大挑战的时刻，我们 somehow 不能更缺乏想法或方向。正是人类历史上这一关键时刻将我拉向未来的新闻和写作，这也是我如此渴望听到我们的三位嘉宾今晚讨论这样一个未来的原因。所以，请大家和我一起，给他们一个热烈的欢迎。
尼克·汤普森：哇。非常感谢，安娜 - 索菲亚，谢谢罗布。谢谢斯坦福邀请我们所有人来这里。我回想起上次在斯坦福舞台上，是在 CoHo 弹吉他。当时我没有尤瓦尔或李飞飞陪我，所以观众大约六个人，其中一人戴着耳机。但我遇到了我的妻子。是不是很甜蜜？
好吧，提醒一下，问答将通过 Slido 进行，你们可以输入问题，也可以投票。我们已经有几千个问题。所以请投票给你们真正喜欢的问题。如果有人能编程一个 AI 提出一个真正毁灭性的问题难倒尤瓦尔，我会给他一个《连线》的免费订阅。
我希望这次对话分为三个部分。首先，阐述我们目前的处境。然后，谈谈我们现在必须做出的一些选择。最后，谈谈给大厅里所有精彩人士的一些建议。所以这是三个一般领域，我会随着进程提出一些问题。我们可能在最后有一个特定的问答时间，但让我们开始吧。尤瓦尔。
上次我们谈话时，你说了许多非常聪明的话，但有一句让我印象深刻，你说：“我们不仅处于技术危机中，我们处于哲学危机中。”所以请解释你的意思，解释它如何与 AI 联系起来，让我们以存在主义的焦虑开始吧。
---
二、哲学危机与“黑客人类”公式
**尤瓦尔·赫拉利：** 是的，我认为现在发生的是，现代世界的哲学框架——建立在 17 和 18 世纪围绕人类能动性和个人自由意志等观念之上——正以前所未有的方式受到挑战。不是由哲学思想，而是由实用技术。我们看到越来越多的问题，过去是哲学系的主食，现在被移到了工程系。
这有点可怕，部分原因是，与哲学家不同，哲学家是极其耐心的人。他们可以讨论某事几千年而不达成任何协议，并且对此感到满意。工程师不会等待。即使工程师愿意等待，工程师背后的投资者也不会等待。这意味着我们没有太多时间。
为了概括危机是什么，我知道，特别是在硅谷这样的地方，工程师喜欢公式。所以也许我可以尝试制定一个公式来解释正在发生的事情。公式是：B 乘以 C 乘以 D 等于 H。
这意味着生物知识乘以算力乘以数据等于黑客人类的能力。人工智能革命或危机不仅仅是 AI，也是生物学，是生物技术。我们还没有看到任何东西，因为链接尚未完成。现在围绕 AI 和计算机有很多炒作，但这只是故事的一半。另一半是来自脑科学和生物学的生物知识。一旦你将那与 AI 联系起来，你得到的就是黑客人类的能力。
也许我会解释这意味着什么，黑客人类的能力意味着创建一个算法，它比我更了解我自己，因此可以操纵我、增强我或取代我。这是我们哲学包袱和所有信念——你知道，人类能动性、自由意志、顾客永远是对的、选民最了解——一旦拥有这种能力，这一切就分崩离析了。
**尼克·汤普森：** 一旦拥有这种能力，并且被用来操纵或取代你，而不是用来增强你。
**尤瓦尔·赫拉利：** 即使当它被用来增强你时，问题是谁决定什么是好的增强，什么是坏的增强？所以我们立即的退路是退回到传统的人文主义观念，即顾客永远是对的。顾客将选择增强。或者选民永远是对的，选民将投票，关于增强会有政治决定。或者如果感觉好，就做。我们将跟随我们的心，我们将倾听我们自己。当有技术可以大规模黑客人类时，这些都不起作用。你不能信任你的感觉、选民或顾客。最容易操纵的人是那些相信自由意志的人，因为他们认为自己不能被操纵。
那么，如果你不能信任顾客，不能信任选民，不能信任你的感觉，你信任谁，你依据什么？这是一个非常深刻的伦理和哲学问题。哲学家们已经辩论了几千年，什么是好的，我们需要增强哪些好的品质？
**尼克·汤普森：** 好吧，李飞飞，你有博士学位，你有计算机科学学位，你是斯坦福的教授。A 乘以 B 乘以 C 等于 H 吗？尤瓦尔的理论是看待我们去向的正确方式吗？
**李飞飞：** 哇，这是一个很好的开始，谢谢尤瓦尔。有一件事，过去几年我一直在读尤瓦尔的书，并与你交谈。我现在非常羡慕哲学家，因为他们可以在危机中提出问题，但不必回答它们。（观众笑）
不，作为一名工程师和科学家，我觉得我们现在必须解决危机。所以老实说，我非常感激，我是说，个人而言，我读了你的书两年。我非常感激尤瓦尔，以及其他一些人，为我们打开了这个真正重要的问题。
这也相当……当你说 AI 危机时，我坐在那里想，这是我热爱并充满激情研究了 20 年的领域。那只是一个年轻科学家进入 AI 博士阶段的科学好奇心。发生了什么，20 年后，它变成了一场危机？
实际上，谈到 AI 的演变，这把我带到了我今天的位置，也把我的斯坦福同事带到了我们今天以人为本的 AI 的位置，因为这是一项变革性技术，是一项新兴技术，与物理、化学、生物学相比，它仍然是一门萌芽中的科学。但随着数据、算力的力量，以及 AI 正在产生的多样化影响，正如你所说，它正在以广泛和深刻的方式触及人类生活和企业。
回应那种面临人类的问题和危机，我认为斯坦福正在努力提出的一个解决方案，或者如果不是解决方案，至少是一个尝试，就是：我们能否以以人为本的方式重新构建 AI 和一般技术的教育、研究和对话？我们不一定今天就能找到解决方案。但我们能否让人文主义者、哲学家、历史学家、政治学家、经济学家、伦理学家、法律学者、神经科学家、心理学家以及许多其他学科参与到 AI 的研究和开发中，进入下一章，下一个阶段？
**尼克·汤普森：** 不要那么确定我们今天得不到答案，我有世界上最聪明的两个人坐在椅子上，我有 Slido 72 分钟，所以让我们试一试。
**李飞飞：** 他说我们有几千年时间。
**尼克·汤普森：** 但让我在尤瓦尔的问题上走得更远一点。所以有很多关于 AI 的危机，人们谈论 AI 变得有意识意味着什么，他们谈论工作替代，他们谈论偏见，尤瓦尔非常清楚地阐述了他认为最重要的一个，即生物学加计算加数据导致黑客。所以他阐述了一个非常具体的担忧。这个具体的担忧是那些思考 AI 的人应该关注的吗？
**李飞飞：** 所以绝对是的。所以人类创造的任何技术，从火开始，都是双刃剑。它可以给生活、工作和社会带来改善，但它也会带来危险，AI 也有危险，你知道。我每天早上醒来，担心 AI 中的多样性、包容性问题。我们担心公平或缺乏公平、隐私、劳动力市场，所以绝对，我们需要担心，正因为如此，我们需要将 AI 的研究、开发、政策制定和对话扩展到代码和产品之外，扩展到这些人类错误，扩展到这些社会问题。所以我完全同意你的观点，这是开放对话、开放这些问题的研究的时候。
**尤瓦尔·赫拉利：** 尽管我只是想说，再次，我恐惧的一部分是，对话，我不担心 AI 专家与哲学家交谈，我对此没问题，历史学家，很好，文学评论家，太棒了。我担心的是你开始与生物学家交谈的那一刻。那是我最大的恐惧，当你和生物学家说：“嘿，我们实际上有一种共同的语言。我们可以一起做事情。”那就是我认为真正可怕的事情发生的时候。
**李飞飞：** 你能详细说明一下，我们和生物学家交谈让你害怕的是什么吗？
**尤瓦尔·赫拉利：** 那就是你可以真正黑客人类的时候，不是通过收集我们搜索词、购买习惯或我们在城里去哪里的数据。而是你可以真正开始窥视内部，直接从我们的心脏和大脑收集数据。
**李飞飞：** 好吧，我能具体一点吗？首先，AI 的诞生是 AI 科学家与生物学家，特别是神经科学家交谈，对吧，AI 的诞生很大程度上受到大脑做什么的启发。快进 60 年，今天的 AI 正在医疗方面取得巨大进步，有很多来自我们生理学和病理学的数据被收集，并使用机器学习来帮助我们。但我觉得你在谈论别的东西。
**尤瓦尔·赫拉利：** 那是其中的一部分，我是说，如果技术中没有巨大的承诺，也就没有危险，因为没有人会走那条路。我是说，显然，AI 可以为我们做极其有益的事情，特别是当它与生物学联系起来时。我们即将获得历史上最好的医疗保健，也是最便宜的，并且可以通过智能手机提供给数十亿人，而今天他们几乎什么都没有。这就是为什么几乎不可能抵制诱惑。
**李飞飞：** 所以完全同意这一点，你知道，我的工作作为历史学家、哲学家、社会批评家，就是指出其中的危险，因为，特别是在硅谷，人们非常熟悉优势，但他们不喜欢过多思考危险。而最大的危险是当你能够黑客大脑时会发生什么，那不仅可以服务于你的医疗保健提供者，那可以服务于很多东西，从一个疯狂的独裁者到……
**尼克·汤普森：** 让我们专注于这一点，黑客大脑意味着什么。比如，以某种方式，我的大脑被黑客了，对吧，这个设备有一种吸引力，它想让我不断检查它，就像我的大脑被稍微黑客了，你的没有，因为你每天冥想两个小时，但我的有，可能这里大多数人都有。但未来的脑黑客到底是什么，它今天还不是那样？
**尤瓦尔·赫拉利：** 更多的相同，但在更大规模上。我是说，当，例如，你生活中的更多个人决定被外包给一个算法，它只是比你好得多。所以你知道，我们有两种不同的反乌托邦，它们交织在一起。我们有监控资本主义的反乌托邦，其中没有像老大哥那样的独裁者，但你的更多决定由算法做出。不仅仅是关于吃什么或买什么的决定，而是关于在哪里工作、在哪里学习、和谁约会、和谁结婚、投票给谁的決定。逻辑是一样的。我很好奇听到你是否认为人类有什么东西在定义上是不可黑客的。我们不能达到一个算法可以比我更好地做出那个决定的点。
所以这是一条反乌托邦线，在这个世界的一部分更熟悉。然后你有基于全面监控系统的全面独裁政权的反乌托邦。类似于我们在 20 世纪看到的独裁政权，但增强了生物识别传感器，基本上能够 24 小时跟踪每个个体。你知道，在斯大林或希特勒的时代，这是绝对不可能的，因为他们没有技术，但也许在 20 到 30 年后可能成为可能。
所以我们可以选择讨论哪个反乌托邦，但它们非常接近在……
**尼克·汤普森：** 让我们选择自由民主反乌托邦。李飞飞，你想回答尤瓦尔的具体问题，即在反乌托邦 A，自由民主反乌托邦中，有什么是人类固有的不能被黑客的？
**李飞飞：** 所以当你两分钟前问我那个问题时，我脑海中出现的第一个词是爱。爱可以被黑客吗？
**尤瓦尔·赫拉利：** 问问互联网，我不知道。（观众笑）约会。
**李飞飞：** 那是一个防御……
**尤瓦尔·赫拉利：** 约会不是爱的全部，我希望。
**李飞飞：** 但问题是，你指的是哪种爱？如果你指的是这个，你知道，我不确定，希腊哲学之爱或佛教的慈悲，那是一个问题，我认为那要复杂得多。如果你指的是生物学哺乳动物的求偶仪式，那么我认为，是的，我是说，为什么不呢？它与身体中发生的其他事情有什么不同？
**尤瓦尔·赫拉利：** 但人类之所以是人类，是因为我们，我们有一部分超越了哺乳动物的求偶，对吧？所以那部分可以被黑客吗？
**李飞飞：** 那是问题，我是说，你知道，在大多数科幻小说和电影中，他们给出了你的答案。当外星邪恶机器人即将征服地球，没有什么能抵抗他们，抵抗是徒劳的，在最后一刻，人类赢了，因为机器人不理解爱。
**尤瓦尔·赫拉利：** 最后一刻，有一个英雄白人男性拯救了我们。（观众笑）
**李飞飞：** 我们为什么这样做？
**尤瓦尔·赫拉利：** 不，不，那是个笑话，别担心。
**李飞飞：** 但好吧，所以两个反乌托邦，我没有答案。但我想一直说的是，这正是我们需要寻求解决方案的时刻。这正是我们相信 AI 的新篇章需要由人文主义者、社会科学家到商业领袖到公民社会到政府共同撰写，通过跨学科努力，在同一张桌子上，进行多边和合作对话，我认为你真正提出了这种潜在危机的紧迫性、重要性和规模。但我想面对这一点，我们需要行动。
**尤瓦尔·赫拉利：** 是的，我同意我们需要合作，我们需要工程师和哲学家或工程师和历史学家之间更紧密的合作。而且，从哲学角度来看，我认为工程师在哲学上有一点很棒。
**李飞飞：** 谢谢。
**尤瓦尔·赫拉利：** 他们真的切断了废话。我是说，哲学家可以谈论和谈论，你知道，在云里和花哨的隐喻中。然后工程师可以真正聚焦问题。就像我前几天刚和一个谷歌的工程师讨论过这个。他说好吧，我知道如何最大化人们在网站上的时间。如果有人来告诉我，看，你的工作是最大化这个应用程序上的时间，我知道怎么做，因为我知道如何衡量它。但如果有人来告诉我，嗯，你需要最大化人类繁荣或你需要最大化普遍的爱，我不知道那是什么意思。
所以这就是工程师回到哲学家那里问他们，你实际上是什么意思？你知道，许多哲学理论在那周围崩溃，因为他们不能真正解释什么，我们需要这种合作才能前进。
**尼克·汤普森：** 我们需要一个公式。
**尤瓦尔·赫拉利：** 但然后，尤瓦尔，如果李飞飞是对的，如果我们不能解释，我们不能编码爱，人工智能能重现它吗，还是它是人类固有的，机器永远不会模仿的东西？
**尤瓦尔·赫拉利：** 我不认为机器会感受爱，但你不需要感受它就能黑客它，监控它，预测它，操纵它。我是说，机器不喜欢玩 Candy Crush，但它们仍然可以……
**尼克·汤普森：** 这个设备，在某个未来，它比现在无限强大，能让我爱上观众中的某人吗？
**尤瓦尔·赫拉利：** 那是，那涉及到意识和心灵的问题。我们应该去那里。我不认为我们有足够的理解什么是意识来回答非有机意识是否可能的问题，我认为我们只是不知道。但再次，黑客人类的门槛低得多，机器不需要有自己的意识来预测我们的选择和操纵我们的选择。它们只需要，好吧，如果你接受像爱这样的东西，最终，是身体中的生物过程，如果你认为 AI 可以通过监控和预测像流感或像癌症这样的东西为我们提供奇妙的医疗保健，那么流感和爱之间的本质区别是什么，在意义上，这是生物学的，这是别的什么东西，如此分离于身体的生物现实，以至于，即使我们有一个能够监控和预测流感的机器，它仍然缺乏一些本质来做同样的事情与爱？
**尼克·汤普森：** 李飞飞。
**李飞飞：** 所以我想做两个评论，这是我的工程，你知道，个性在说话。我们在对话的这一部分做了两个非常重要的假设，一个是 AI 是全能的，它达到了一个状态，它超越了预测任何物理东西，它进入了意识层面，它甚至进入了终极，爱的层面能力。
我想确保我们认识到我们离那非常非常非常远，这项技术仍然非常新兴，我对今天 AI 的部分担忧是对其能力的超级炒作。我不是说那不是有效的问题，但我想这部分对话是建立在这个假设上，即这项技术变得那么强大，我不知道我们离那有多少十年。
第二个相关的假设我觉得我们的对话是基于的，是我们谈论的世界或一种世界状态，只有那么强大的 AI 存在，或者只有那小群人生产了强大的 AI 并意图黑客人类存在。但实际上，我们人类社会是如此复杂，有这么多我们，对吧。我是说，人类在其历史上面临过许多技术，如果我们把它留给一个坏玩家单独，没有任何监管，多边合作，规则，法律，道德准则，那技术可能没有黑客人类，但毁灭人类或伤害人类在大规模方式上。它已经发生，但大体上，我们的社会，从历史观点看，正在走向一个更文明和受控的状态。所以我认为重要的是看那个更大的社会，把其他玩家和人带入这个对话，所以我们不要谈论好像只有这个全能的 AI，你知道，决定它要黑客一切到底。
那带来你的话题，即除了在你谈论的那个层面黑客人类，有一些非常立即的担忧已经存在。多样性，隐私，劳动力，法律变化，你知道，国际地缘政治。我认为现在解决那些至关重要。
**尼克·汤普森：** 好吧，让我们，我喜欢和 AI 研究人员交谈，因为五年前，所有 AI 研究人员都像，它比你想象的更强大，现在他们都像，它没有你想象的那么强大。（观众笑）
**李飞飞：** 那是因为五年前，你不知道 AI 是什么，现在你外推太多了。
**尼克·汤普森：** 我没说那是错的，我只是说那是那件事。让我们，我想进入你刚才说的，但在那之前，我想在这里问一个观众的问题，因为一旦我们进入第二部分，我们就不能回答它了。所以问题是，这是给你的，尤瓦尔。我们如何，这是来自 Marin Nasini，我们如何避免 AI 驱动的数字独裁政权的形成？所以我们如何避免反乌托邦二号，让我们进入那个，然后让我们去，李飞飞，进入我们现在能做什么，不是我们未来能做什么。
---
三、数据主权与“黑客人类”的现实性
**尤瓦尔·赫拉利：** 关键问题是如何监管数据的所有权。因为我们不会停止生物学研究，我们也不会停止计算机科学和 AI 研究，所以从生物知识、算力和数据三个组成部分中，我认为数据是最容易的，它也非常困难，但仍然是最容易监管或保护的。在那里放置一些保护。现在正在做出努力。而且不仅仅是政治努力，你知道，也是哲学努力，真正概念化拥有数据或监管数据所有权意味着什么？
因为我们对拥有土地意味着什么有相当好的理解。我们有几千年的经验。我们对拥有数据实际上意味着什么以及如何监管它有很差的理解，但这是一个非常重要的前线，我们需要专注于此，以防止最坏的反乌托邦结果。
我同意 AI 远没有一些人想象的那么强大，但这就是为什么，再次，我认为我们要把门槛放低。达到临界阈值，我们不需要 AI 完美地了解我们，那永远不会发生。我们只需要 AI 比我们更了解我们自己，那并不难，因为大多数人不太了解自己，经常在关键决定上犯大错。
所以无论是金融、职业还是爱情生活，这种权威从人类到算法的转变，它们仍然可以是可怕的。但只要它们比我们稍微不那么可怕，权威就会转移到它们身上。
**尼克·汤普森：** 你，在你的书中，你讲了一个非常启发性的关于你自己的故事，你与自己和解，你是谁，你如何被操纵。你会在这里讲那个故事吗，关于与你的性取向和解，你在书中讲的关于可口可乐的故事？因为我认为那将很好地澄清你在这里的意思。
**尤瓦尔·赫拉利：** 是的，所以我说我直到 21 岁才意识到我是同性恋。我回顾那个时间，我是，我不知道，15，17 岁。那应该很明显。如何，而且不像陌生人，就像我 24 小时和自己在一起，我只是没注意到任何尖叫的迹象，说是的，你是同性恋。我不知道如何，但事实是，我错过了。现在，一个 AI，甚至一个非常愚蠢的 AI 今天，不会错过它。
**尼克·汤普森：** 我不太确定。
**尤瓦尔·赫拉利：** 所以想象，这不是像，你知道，像世纪后的科幻场景。这今天就可以发生，你可以写各种算法，你知道，它们不完美，但它们仍然比说平均青少年好，这意味着什么，生活在一个你从算法那里了解关于自己如此重要的事情的世界，这意味着什么，如果算法不与你分享信息，而是与广告商或政府分享信息，会发生什么？
所以如果你想，我认为我们应该从云的高度，你知道，极端场景，下降到日常生活的实用性，这是一个好例子。因为这已经发生了。
**尼克·汤普森：** 是的，好吧，让我们把电梯降到今天我们在购物的那个更概念层面的购物中心。李飞飞，让我们谈谈我们今天能做什么，当我们思考 AI 的风险，AI 的好处，告诉我们你认为我们应该思考的关于 AI 的最重要的事情清单。
---
四、以人为本的 AI 与未来行动
**李飞飞：** 哦，天哪，我们今天能做很多事情。我不能更同意尤瓦尔，这是一个如此重要的话题。再次，我将尝试谈论斯坦福所做的所有努力，因为我认为这是我们所相信的许多努力我们可以做的一个很好的代表。所以在以人为本的 AI 中，这是我们相信 AI 的下一章应该是的整体主题，以人为本，我们相信三个主要原则。
一个原则是投资于下一代 AI 技术，那更，那反映更多我们想要的人类智能种类。我刚刚想到你关于 AI 对数据的依赖的评论，以及数据和治理政策应该如何出现以监管和治理 AI 影响，同时技术是，我们应该开发可以解释 AI 的技术。在技术领域，我们称之为可解释 AI 或 AI 可解释性研究。我们应该专注于具有更细微理解人类智能的技术。我们应该投资于开发较少依赖数据的 AI 技术，那会考虑到直觉、知识、创造力和其他形式的人类智能。所以那种人类智能启发的 AI 是我们的原则之一。
第二个原则是，再次，欢迎那种 AI 的多学科研究，与经济学、伦理学、法律、哲学、历史、认知科学等交叉授粉，因为在 AI 的社会、人类、人类学、伦理影响方面，我们需要理解更多。我们不可能作为技术专家独自做到这一点，我们中的一些人甚至不应该这样做，是伦理学家、哲学家应该参与，与我们一起在这些问题上工作。所以那是第二个原则。
第三个原则，在这个之内，我们与政策制定者合作。我们召集那种多边利益相关者的对话。然后第三个，最后但并非最不重要的。我认为尼克，你在这次对话的最开始说，我们需要促进这种技术的人类增强和协作和增强方面。你有一个观点，即使在那里，它可能变得操纵性。但我们需要从那种警觉性，理解开始，但仍然促进那种这种技术的仁慈应用和设计，至少这是斯坦福以人为本的 AI 研究所基于的三个原则。
我只是感到非常自豪，在这个研究所诞生的短短几个月内，有超过 200 名教职员工参与在这个校园的这种研究对话，你知道，学习教育。而且他们的数量还在增长。
**尼克·汤普森：** 哇。让我们，从这三个原则中，让我们开始挖掘它们。所以让我们去第一个，可解释性，因为这是人工智能中一个真正有趣的辩论。所以有一些从业者说你应该有可以解释它们做了什么和它们做出的选择的算法。听起来极其明智。但你怎么做？我做出各种我无法完全解释的决定，比如为什么我雇佣这个人，而不是那个人，我可以讲一个关于为什么我这样做的故事，但我不确定。就像我们不够了解自己，总是能够真实和完全地解释我们做了什么，我们怎么能期望一个使用 AI 的计算机那样做？而且如果我们在这里西方要求那样，那么世界其他部分不要求那样，谁可能能够移动得更快。所以我们为什么不开始，为什么不我问你问题的第一部分，尤瓦尔问题的第二部分。所以第一部分是，如果在我们自己内部超级难，我们实际上能得到可解释性吗？
**尤瓦尔·赫拉利：** 好吧，对我来说乘以两个数字相当难，但你知道，计算机可以做到。所以某事对人类难并不意味着我们不应该尝试让机器做，特别是，你知道，毕竟这些算法基于非常简单的数学逻辑。承认，我们现在处理的是数百万节点和数十亿连接的神经网络。所以可解释性实际上很困难，是 ongoing 研究。但我想这是如此肥沃的土地，当涉及到医疗决定、金融决定、法律决定时，这是如此关键。有这么多场景，这种技术可以潜在地积极有用，但具有那种可解释能力。所以我们必须尝试，我相当有信心，有很多聪明的大脑在那里，这是一个可破解的东西。而且在上……
**尼克·汤普森：** 有 200 位教授在做。
**尤瓦尔·赫拉利：** 对，不是所有都在做 AI 算法。在那之上，我认为你有一个观点，如果我们拥有可以解释算法决策过程的技术，它使它更难操纵和欺骗，对吧。这是一个技术解决方案，不是整个解决方案，那将有助于澄清这项技术在做什么。
**尼克·汤普森：** 但因为， presumably，AI 以与人类根本不同的方式做决定，那么即使 AI 解释它的逻辑，恐惧是，它对大多数人类来说将完全没有意义。大多数人类，当他们被要求解释一个决定时，他们以叙事形式讲一个故事，那可能反映也可能不反映他们内部实际发生的事情。在许多情况下，它不反映。那只是一个编造的合理化，不是真实的东西。
现在，一个 AI 可能比人类好得多，告诉我，比如，我向银行申请贷款，银行说不，我问为什么？银行说好吧，我们问我们的 AI。AI 给出这个极长的统计分析，基于不是我生活中的一两个显著特征，而是 2517 个不同的数据点，它考虑了并给予不同的权重。为什么你给这个，这个权重，为什么你给，哦，有另一本书关于那个。大多数数据点对人类来说似乎完全不相关。你在周一申请贷款，而不是周三。AI 发现，无论什么原因，周末后，无论什么，周一申请贷款的人偿还贷款的可能性低 0.075%。所以它进入方程。我得到这本真实解释的书，终于，我得到一个真实解释。那不像坐在一个人类银行家那里，他只是胡说八道。
**尼克·汤普森：** 所以你是支持 AI 吗？你是说在这种情况下 AI 是好的？
**尤瓦尔·赫拉利：** 在许多情况下，是的，我是说，我认为在许多情况下，它是硬币的两面，我认为，在许多方面，这种场景中的 AI 将是比人类银行家的改进。因为例如，你可以真正知道决定是基于什么， presumably。但它是基于一些我作为人类无法理解的东西，我只是不，我知道如何处理简单的叙事故事。我没给你贷款因为你是同性恋，那不好。或者因为你没有偿还任何之前的贷款，好吧，我能理解。但我不，我的大脑不知道如何处理 AI 将给出的真实解释，那只是这个疯狂的统计东西，对我来说什么都没说。
**尼克·汤普森：** 好吧，所以你的评论有两层。一层是你如何信任并能够理解 AI 的解释？第二是，实际上，AI 能被用来让人类更可信或成为更可信的人类吗？
**李飞飞：** 在第一个点上，我同意你，如果 AI 给你 2000 维潜在特征与概率，那不是人类可理解的。但整个人类文明科学的历史是以更好和更好的方式沟通科学结果的能力，对吧。就像我刚刚做了我的年度体检，一堆数字来到我的手机。而且，首先，我的医生可以，专家可以帮助我解释这些数字。现在甚至维基百科可以帮助我解释一些这些数字。但解释这些的技术改进将提高。如果……
李飞飞与尤瓦尔·赫拉利对话：即将到来的 AI 变革（下）
一、可解释性危机与人类自主权
我们只是向你抛出 2000 维的概率数字。
但这正是解释所在。我认为你提出的观点非常重要，但我看待的方式不同。我认为科学在向公众解释其理论和发现方面变得越来越差，这就是为什么会出现怀疑气候变化等现象的原因。这甚至不完全是科学家的错，因为科学本身变得越来越复杂，现实也极其复杂，而人类的大脑并没有适应去理解气候变化的动态，或者拒绝给某人贷款的真实原因。
让我们暂时搁置关于操纵和信任的问题，假设 AI 是良性的，假设没有隐藏偏见，一切都没问题。但即便如此，我仍然无法理解 AI 的决策。
像尼克这样的讲故事的人必须去解释。你说得对，这很复杂。但社会作为一个整体，有责任去解释复杂的科学。我并不是说我们做得很好，但我说如果我们努力，还是有希望的。
但我担心的是，我们真的做不到，因为人类的大脑并不是为了处理这类解释和技术而构建的。这对个人客户来说是真的，当他们去银行却被拒绝贷款时。甚至在国家层面也是如此，今天地球上有多少人理解金融系统？有多少总统和总理理解金融系统？在这个国家，答案是零。
这意味着生活在一个本该由管理者运营的社会中，但这并不是某个特定政治家的错。只是金融系统变得如此复杂，我认为经济学家并不是故意向公众隐瞒什么，它只是极其复杂。世界上最聪明的人进入金融行业，创造了极其复杂的模型和工具，客观上，除非人们先学习十年经济学和数学，否则你根本无法向大多数人解释。我认为这是一个真正的危机，这也是我们开始时提到的哲学危机的一部分。人类能动性的削弱正在发生，我们拥有极其智能的工具，它们或许能在医疗保健和金融系统方面做出更好的决策，但我们无法理解它们在做什么以及为什么这样做。这削弱了我们的自主权和权威，而我们作为一个社会，不知道如何应对。
理想情况下，李飞飞的研究所将有助于解决这一问题。
二、算法偏见与伦理教育的必要性
在离开这个话题之前，我想转向一个密切相关的问题，我认为这是最有趣的问题之一，即算法中的偏见问题。这也是你 eloquently（雄辩地）谈论过的话题。让我们以金融系统为例，想象一家银行使用贷款算法来决定是否给某人贷款。你可以想象用历史数据训练它，而历史数据是种族主义的，我们不希望这样。所以我们要想办法确保数据不是种族主义的，并且无论种族如何都发放贷款。我想房间里每个人都同意这是一个好的结果。但假设分析历史数据表明，女性比男性更有可能偿还贷款。我们是将其剔除，还是允许其保留？如果允许保留，你会得到一个稍微更高效的金融系统。如果剔除，男女之间会有更多的平等。你如何决定哪些偏见要剔除，哪些可以保留？
这是一个极好的问题。我个人没有答案，但我认为你触及了一个真正重要的问题。首先，机器学习系统的偏见是真实存在的，就像你所说的那样。它始于数据，可能始于收集数据的那一刻以及我们收集的数据类型，贯穿整个管道，直到应用。但偏见以非常复杂的方式出现。在斯坦福，我们有机器学习科学家研究偏见的技术解决方案，比如去偏数据和规范某些决策。但我们也有人文学者辩论什么是偏见，什么是公平，何时偏见是好的，何时是坏的。所以我认为你刚刚开启了一个完美的研究、辩论和对话话题。
我还想指出，尤瓦尔，你已经使用了一个非常相关的例子。机器学习算法实际上有潜力暴露偏见。我最喜欢的研究之一是一篇几年前的论文，分析好莱坞电影，使用机器学习人脸识别算法（这是一项如今非常有争议的技术），来识别好莱坞系统地给予男演员比女演员更多的屏幕时间。没有人类能坐在那里计算所有帧的面部和性别偏见。这是使用机器学习暴露偏见的完美例子。所以总的来说，有一系列丰富的问题我们应该研究，再次强调，要引入人文学者、伦理学家、法律学者和性别研究专家。
同意。虽然为人类辩护，我知道在那篇论文之前好莱坞就是性别歧视的，但同意。
尤瓦尔，关于贷款的问题。你剔除种族主义数据吗？你剔除性别数据吗？你去除哪些偏见，保留哪些偏见？
我认为没有一刀切的答案。这是一个我们需要工程师、伦理学家、心理学家和政治学家之间进行日常协作的问题。
还有生物学家吗？
是的，越来越多地包括生物学家。这回到了我们应该做什么的问题。我们应该将伦理学作为课程的一部分教给程序员。当今世界最需要伦理背景的人是计算机科学系的人。所以它应该是课程的重要组成部分。同样，在设计这些工具的大公司中，团队内部应该嵌入具有伦理、政治等背景的人，让他们始终思考我们可能会无意中在系统中构建哪些偏见，我们构建的东西可能有什么文化或政治影响。这不应该是一种事后诸葛亮，即你创造了一个精巧的技术小玩意，它进入世界，发生了坏事，然后你才开始想，哦，我们没预料到这个，现在怎么办？从一开始就应该清楚，这是过程的一部分。
我想特别提及罗布·赖希，他刚刚介绍了整个活动。他和我的同事梅赫兰·萨哈米以及几位其他斯坦福教授开设了一门名为《伦理与计算》的课程。抱歉，罗布，我滥用了你课程的标题。但这正是这类课程，我认为这个季度，有超过 300 名学生报名。
太棒了。这门课，我希望在我还是学生时就有这门课。
三、全球 AI 竞争与军备竞赛风险
让我问一个来自观众的优秀问题，这与上述内容相关，来自尤金·李。你如何调和算法的可解释性与功效和准确性之间的固有权衡？
快速问一句，这个问题似乎假设，如果你能解释它，你就没那么好或没那么准确。
嗯，你可以想象，如果你要求可解释性，你会失去一些效率，你给算法增加了一点复杂性。
所以首先，我不一定相信这一点，这个假设没有数学逻辑。其次，让我们假设存在一种可能性，即可解释的算法会牺牲效率。我认为这是我们必须做出的社会决定。当我们把安全带放进车里，开车时，那是一点效率损失，因为我必须做那个系安全带的动作，而不是直接跳上去开车。但作为一个社会，我们决定我们可以承受这种效率损失，因为我们更关心人类安全。所以我认为 AI 是同类技术，当我们向前推进解决方案和产品时，我们必须平衡人类福祉和社会福祉与效率。
让我问你关于全球后果的问题，这是许多人以不同方式问过的问题，我们也触及过，但还没有正面回答。假设有两个国家，A 国和 B 国。A 国说，你们所有 AI 工程师，必须使其可解释，必须上伦理课，必须真正思考你们所做事情的后果，你要和生物学家共进晚餐，你必须思考爱，你必须阅读约翰·洛克。那是 A 组。B 国说，只管去构建一些东西。这两个国家迟早会发生冲突。我猜测 B 国的技术可能会领先于 A 国。这是一个担忧吗？
是的，这一直是军备竞赛的担忧，这变成了以效率和统治为名的逐底竞争。目前 AI 的情况极其有问题或危险，因为越来越多的国家意识到这可能是 21 世纪的统治技术。你谈论的不仅仅是不同纺织行业或石油行业之间的经济竞争。比如一个国家决定，我们完全不在乎环境，我们全速前进，而另一个国家更重视环境。AI 的情况可能更糟，因为它可能真的是 21 世纪的统治技术，那些落后的人可能会被那些前进的人统治、剥削、征服。所以没有人想落后。我认为防止这种灾难性逐底军备竞赛的唯一方法是围绕 AI 进行更大的全球合作。
这听起来很乌托邦，因为我们现在正朝着完全相反的方向移动，即更多的竞争和对抗。但这我认为是我们工作的一部分，就像核军备竞赛一样，让不同国家的人意识到，这是一场无论谁赢，人类都输的军备竞赛。AI 也是如此，如果 AI 变成军备竞赛，那么对所有人类来说都是极其坏的消息。对于美国的人来说，很容易说在这场竞赛中我们是好人，你们应该为我们欢呼。但在“美国优先”成为当日口号的情况下，这变得越来越困难。我们如何信任美国成为 AI 技术的领导者，如果最终它只服务于美国利益以及美国的经济和政治统治？所以我认为大多数人想到 AI 军备竞赛时，想到的是美国对中国。但世界上还有近 200 个其他国家。其中大多数远远落后。当他们看到正在发生的事情时，他们越来越恐惧，这是有充分理由的。
你给出的历史例子有点令人不安。如果我正确理解你的回答，那就是我们需要全球合作，否则我们将导致军备竞赛。在实际的核军备竞赛中，我们试图从 1945 年到 1950 年左右进行全球合作，然后我们放弃了。然后我们说美国将全速前进。冷战为什么那样结束？谁知道，但一个论点是美国及其无情的核武器建设有助于维持和平，直到苏联崩溃。如果这是类比，那么这里可能发生的是，我们将在 2019、2020、2021 年尝试全球合作，然后我们将进入军备竞赛。A，这是否可能，B，如果是，你会说，那么美国需要在 AI 方面真正全速前进，因为自由民主国家拥有人工智能比极权国家拥有更好？
恐怕合作破裂并让我们陷入极端版本的军备竞赛是非常可能的。在某种程度上，这比核军备竞赛更糟，因为对于核武器，至少直到今天，国家开发了它们但从未使用它们。AI 将一直被使用。它不是放在架子上用于末日战争的东西，它将一直被用来创造潜在的全面监控制度和极端的极权系统。所以从这个角度来看，我认为危险要大得多。你可以说核军备竞赛实际上拯救了民主和自由市场，以及摇滚乐、伍德斯托克和嬉皮士，他们都欠核武器巨大的人情。因为如果核武器没有被发明，苏联集团和美国集团之间会有常规军备竞赛和常规军事建设。那将意味着社会的总动员，如果苏联进行总动员，美国人唯一的竞争方式就是做同样的事。但实际上发生的是，共产主义集团有一个极端的极权动员社会，但 thanks to 核武器，你不需要在美国、西德或法国这样做，因为你依赖核武器，你不需要军队里有数百万征召兵。而对于 AI，情况将完全相反。该技术不仅会被开发，还将一直被使用。这是一个非常可怕的场景。
四、数据殖民主义与基础设施鸿沟
等等，我能加一点吗？我不像您那样了解历史，但你说 AI 不同于核技术。我想指出，它确实非常不同，因为，在你谈论这些更可怕的情况的同时，这项技术有着广泛的国际科学合作基础，被用来改善交通，改善医疗保健，改善教育。所以这是一个我们以前从未见过的非常有趣的新时期，因为虽然我们有这种竞争，但我们也有大规模的国际科学界合作，用于这些良性用途和技术的民主化。我只是认为看到这两面很重要。
你绝对正确。正如我所说，这项技术也有巨大的好处。
并且是以全球协作的方式，特别是在科学家之间。
全球方面更复杂，因为问题是，如果一些国家和世界大多数国家之间存在巨大的能力差距，会发生什么？我们会重演 19 世纪工业革命吗，当时少数工业强国征服、统治和剥削整个世界，无论是经济上还是政治上？什么能阻止这种情况重演？所以即使在术语上，没有这种可怕的战争场景，我们可能仍然发现自己处于一个全球剥削制度中，其中大部分好处流向少数国家，以牺牲其他人为代价。
你听说过 archive.org 吗？
Archive.org？
所以观众中的学生可能会对此发笑，但我们处于一个非常不同的科学研究气候中，即技术和技术的全球化以 19 世纪甚至 20 世纪从未见过的方式发生。任何今天产生的 AI 基础科学研究论文或技术，假设这周在斯坦福产生，很容易通过所谓的 Archive 或 GitHub 仓库全球分发。
信息就在那里，是的。
这种科学技术的全球化传播方式与 19 世纪和 20 世纪非常不同。我不怀疑存在，你知道，由政权进行的这种技术的封闭发展。但我们必须认识到，这种全球差异现在相当尖锐，我们可能需要考虑这一点，即你描述的场景更难发生。我不是说不可能，但更难发生。
我只是说，不仅仅是科学论文。是的，科学论文在那里。但如果我住在也门、尼加拉瓜、印度尼西亚或加沙，是的，我可以连接互联网并下载论文，但我能拿它怎么办？我没有数据，我没有基础设施。看看拥有世界所有数据的大公司来自哪里，它们基本上只来自两个地方。甚至欧洲真的不在竞争中。没有欧洲谷歌、欧洲亚马逊、欧洲百度或欧洲腾讯。如果你看看欧洲以外，想想中美洲，想想非洲大部分地区，中东，东南亚大部分地区，是的，基础科学知识在那里，但这只是创造能与亚马逊或腾讯或美国政府或中国政府能力相竞争的东西的组成部分之一。所以我同意，信息和基础科学知识的传播，我们处于一个与 19 世纪完全不同的地方。
让我问你关于这一点，因为这是三四个问题中问到的，似乎人工智能可能有一种集中化力量，它会让拥有数据和最佳计算能力的人更强大，然后可能加剧收入不平等，无论是在国家内部还是世界范围内，对吧，你可以想象你刚才提到的国家，美国、中国，欧洲落后，加拿大在某个地方落后，远远领先于中美洲。它可能加剧全球收入不平等。A，你认为这是否可能，B，这有多让你担心？我们有四个人问了类似的问题。
正如我所说，这非常非常可能，它已经发生了。而且极其危险，因为经济和政治后果可能是灾难性的。我们谈论的是整个经济和国家的潜在崩溃。那些依赖廉价劳动力的国家，他们只是没有教育资本在 AI 世界中竞争。所以这些国家会怎么办？比如，如果你将大部分生产从洪都拉斯或孟加拉国转移到美国和德国，因为人类工资不再是方程的一部分，在加利福尼亚生产衬衫比在洪都拉斯更便宜，那么那里的人会怎么办？你可以说，好吧，但会有更多软件工程师的工作。但我们没有教洪都拉斯的孩子成为软件工程师。所以也许他们中的少数人能以某种方式移民到美国。但大多数人不会，他们会怎么办？而我们目前，我们没有这些问题的经济答案和政治答案。
李飞飞，你想加入吗？
我认为这很公平。我认为尤瓦尔 definitely 列出了一些关键的陷阱，这就是为什么我们需要更多人研究和思考这个问题？我们一遍又一遍注意到的事情之一，即使在这个建立以人为本的 AI 社区的过程中，以及与内部和外部人员交谈时，是全球各地的企业和政府有机会思考他们的数据和 AI 战略，仍然有很多机会，你知道，除了大玩家之外，真正意识到对于他们的国家、他们的地区、他们的业务来说，这是转型进入数字时代的重要时刻。我认为当你谈论这些潜在危险时，世界部分地区缺乏数据，没有真正跟上这种数字化转型，时刻就是现在，我们希望提高那种意识并鼓励那种信息。
是的，我认为非常紧迫。我们目前看到的是，一方面，你可以称之为某种数据殖民主义。我们在 19 世纪看到的相同模式，你有帝国中心，他们拥有先进技术，他们在印度或埃及种植棉花，他们将原材料送到英国，他们在曼彻斯特生产衬衫，19 世纪的高科技产业，然后将衬衫送回印度销售，击败当地生产者。我们在某种程度上可能现在开始看到数据经济中的相同事情，他们在巴西和印度尼西亚等地收获数据，但他们不在那里处理数据，巴西和印度尼西亚的数据去加利福尼亚或去中国东部，在那里处理，他们在那里生产美妙的新型小玩意和技术，然后作为成品卖回给省份或殖民地。现在，这不是一一对应的，不完全相同，有差异。但我认为我们需要记住这个类比。
另一件我们可能需要记住的事情，在这方面，我认为石墙的重新出现。我有点，你知道，最初，我的专业是中世纪军事历史。我是这样开始我的学术生涯的，与十字军、城堡和骑士等。而现在我做所有这些半机械人和 AI stuff。但突然，有我来自那时知道的东西，墙回来了。我试图理解这里发生了什么？我们有未来现实，我们有 3G，AI，突然，最热门的政治问题是建造石墙。像你能想象的最低科技的东西。在互联互通的世界中，石墙的意义是什么？这真的让我害怕，那里有什么非常险恶的东西，数据的组合如此容易地到处流动，但越来越多的国家，以及我的祖国以色列，也是一样的，你有，你知道，创业国家，然后有墙。这意味着什么，这种组合？
李飞飞，你想回答那个吗？
也许你可以看下一个问题。
五、个体赋能与"AI 副驾"构想
你知道，让我们进入下一个问题，这与那个问题相关。下一个问题是，你这里有斯坦福的人，他们将帮助建立这些公司，他们要么进一步推动数据殖民主义的过程，要么逆转它，或者他们将建立，你知道，在基于人工智能的世界中创建虚拟墙的努力，这些努力至少是由斯坦福毕业生资助的。所以你有所有这些学生在房间里。你想让他们怎么做，你希望他们如何思考人工智能，你希望他们学习什么，让我们用这次对话的最后 10 分钟谈谈这里每个人都应该做什么。
所以如果你是计算机科学或工程学生，上罗布的课。如果你是人文主义者，上我的课。你们所有人，读尤瓦尔的书。
他的书在你的教学大纲上吗？
不在我的，抱歉。我教硬核深度学习。他的书没有方程。
我不知道，B 加 C 加 D 等于 H。
但严肃地说，我的意思是，斯坦福学生，你们有一个伟大的机会。这是我们引以为豪的历史，将这项技术带入生活，斯坦福处于 AI 诞生的前沿，事实上，我们的教授约翰·麦卡锡创造了人工智能这个词，并于 1963 年来到斯坦福，开始了这个国家两个最古老的 AI 实验室之一。从那时起，斯坦福的 AI 研究一直处于每一波 AI 变革的前沿。而在 2019 年，我们也处于启动以人为本的 AI 革命或撰写新 AI 章节的前沿。过去 60 年我们做这一切都是为了你们，为了那些进门并将毕业成为从业者、领导者和公民社会一部分的人。这真的是底线所在。以人为本的 AI 需要由下一代技术专家撰写，他们上了像罗布这样的课，思考伦理影响，人类福祉。也将由那些潜在的未来的政策制定者撰写，他们来自斯坦福的人文学科研究，在这所学校里，精通技术细节，理解这项技术的影响，并有能力与技术专家沟通。这就是底线，无论我们如何同意或不同意，我们需要这种多语言领导者和思想家和从业者，这就是斯坦福以人为本的 AI 研究所的宗旨。
尤瓦尔，你想如何回答这个问题？
在个人层面，我认为对每个人来说都很重要，无论是在斯坦福，无论是工程师还是不是，都要更好地了解自己。因为你现在处于竞争中。你知道，这是哲学书中古老的建议，认识你自己。我们从苏格拉底、孔子、佛陀那里听到过，认识你自己。但有一个区别，就是现在你有竞争。在苏格拉底或佛陀的时代，如果你不努力，好吧，你错过了启蒙。但国王没有和你竞争。他们没有技术，现在你有竞争。你在与这些巨型公司和政府竞争。如果他们比你更了解你，游戏就结束了。所以你需要为自己争取一些时间，争取时间的第一种方法是更好地了解自己，然后他们有更多的地面要覆盖。
对于工程师和学生，我想说，我会专注于工程师。我希望从实验室和工程系出来的两件事，第一，工具在去中心化系统中比在中心化系统中天生工作得更好。我不知道怎么做，但如果你，我希望有工程师可以工作的东西。我听说区块链是那个领域的大承诺，我不知道。但无论是什么，当你开始设计工具时，这个工具应该是什么样子的规范的一部分，我会说这个工具应该在去中心化系统中比在中心化系统中工作得更好。这是民主的最佳防御。
第二件我希望看到出来的——我不想打断你，因为我想让你说到这第二件事，你如何让一个工具在民主中比在——我不是工程师，我不知道。
好吧。我们将进入第二部分。房间里有人，解决这个问题，因为这很重要——我可以思考一下，然后，我可以给你历史例子，说明工具如何以这种方式或那种方式工作得更好。但我不知道如何将其转化为当今——进入第二部分，因为我有几个来自观众的问题。
好的，所以另一件我希望看到出来的是，一个为我服务而不是为某些公司或政府服务的 AI 副驾，所以采取所有，我的意思是，我们不能阻止这种技术的进步。但我希望看到它为我服务。所以是的，它可以黑我，但它黑我是为了保护我。就像我的电脑有杀毒软件，但我的大脑没有。它有针对流感或什么的生物杀毒软件，但没有针对黑客和巨魔等。所以一个要工作的项目是创建一个 AI 副驾，我可能花了很多钱，它属于我。它跟随我，监控我和我做什么以及我的互动。但它学到的一切，都是为了保护我免受其他 AI 的操纵，免受其他外部影响者的操纵。所以这是我认为，以当今技术，我希望看到更多努力的方向。
不要进入太多技术术语，我认为你会感到安慰，知道这种研究的萌芽努力正在发生，你知道，可信 AI，可解释 AI，安全，你知道，有动机或意识 AI。所以我不是说我们有解决方案，但世界各地的许多技术专家正沿着那条线思考并试图使其发生。
并不是我想要一个属于谷歌或政府的 AI 我可以信任，我想要一个我是其主人的 AI，它为我服务。
并且它很强大，它比我的 AI 更强大，否则，我的 AI 可以操纵你的 AI。
它将具有非常了解我的内在优势。所以它可能无法黑你，但因为它跟随我，并且可以访问我所做的一切，这给了它在仅仅我这一特定领域的优势。所以这是对拥有——的人的危险的一种制衡。
但即使那样，在我们的社会中也会面临很多挑战，谁负责，你为你的行动负责还是为你的副驾负责？
这将是一个我们将不得不处理的越来越困难的问题。
副驾防御。好的。李飞飞，让我们快速过几个问题。我们通常谈论，这是来自里根·波拉克的，我们通常谈论来自大公司的自上而下的 AI，我们应该如何设计个人 AI 来帮助加速我们的生活和事业？我理解这个问题的方式是，这么多 AI 是在大公司做的。如果你想在一家小公司或个人拥有 AI，你能做到吗？
首先，一个解决方案是尤瓦尔刚才说的。
可能那些东西将由 Facebook 构建。
所以首先，这是真的，有很多投资和努力，资源投入大公司进行 AI 研发，但并不是所有 AI 都发生在那里，我想说学术界继续在 AI 的研发中发挥巨大作用，特别是在 AI 的长期探索中。什么是学术界？学术界是一个全球网络的个人，学生和教授，非常独立和创造性地思考不同的想法。所以从那个角度来看，这是一种非常草根的 AI 研究努力，继续发生。小企业独立研究机构也有角色要扮演，对吧。有很多公开可用的数据集，我们，这是一个全球社区，非常开放地分享和传播知识和技术。所以是的，请务必，我们希望全球参与这一点。
好的，这是我最喜欢的问题，这是来自匿名的，不幸的是。如果我是八年级学生，我还需要学习吗？
作为一个妈妈，我会告诉你，是的。回去做作业。
好的，李飞飞，你希望尤瓦尔的下一本书关于什么？
哇，我不知道这个，我需要考虑一下。
好的，好吧，当你考虑那个时，尤瓦尔，你希望李飞飞接下来追求机器学习的哪个领域？
副驾项目。
是的，我的意思是，就像我说的，一个 AI，我们能创造一种可以为个人服务而不是某种大网络的 AI 吗？我的意思是，那甚至可能吗，还是关于 AI 本质的东西不可避免地总是会导致某种网络效应和赢家通吃等？
好的，我们将与李飞飞一起结束——他的下一本书将是一本关于你和你的副驾之间的科幻小说。
好的，给尤瓦尔的最后一个问题，因为我们有两个投票的问题是这个问题。没有对自由意志的信念，什么让你早上起床？
没有对自由意志的信念？我不认为这个问题，我的意思是，非常有趣或非常核心，它在西方文明中一直是核心的，因为几千年前犯下的某种基本神学错误。但这真的是对人类状况的误解。真正的问题是你如何从痛苦中解放自己？而朝那个方向迈出的最重要步骤之一是更好地了解自己，为此，你只需要推开整个，我的意思是，对我来说，相信自由意志的最大问题是它让人们对自己和内部真正发生的事情变得好奇。因为他们基本上说，我知道一切。我知道我为什么做决定，这是我的自由意志。他们认同脑海中出现的任何思想或情感，因为嘿，这是我的自由意志。这使他们对自己内部真正发生的事情以及他们生活中痛苦的深层来源变得非常好奇。所以这就是让我早上起床的原因，试图更好地了解自己，试图更好地理解人类状况。而自由意志对此只是无关紧要的。
如果我们失去了它，你的副驾可以让你早上起床。李飞飞，75 分钟前，你说我们不会达成任何结论，你认为我们有所进展吗？
好吧，我们开启了人文学者和技术专家之间的对话，我想看到更多那样的对话。
太棒了，好的，非常感谢，谢谢你，李飞飞，谢谢你，尤瓦尔·赫拉利，很高兴来到这里，谢谢观众。