微软 AI CEO Mustafa Suleyman：今年年底，我们将拥有实时的语音界面，允许完全动态的交互

激石Pepperstone(http://www.paraat.net/)报道：

在近日阿斯彭思想节上，微软AI负责人Mustafa Suleyman与著名财经记者Andrew Ross Sorkin进行了一场深入对话。

Suleyman强调，AI的发展并不会像加密货币那样成为一时的热潮，而是会持续对社会产生深远影响。他指出，当前的AI技术已经在多个领域展现了其价值，这与加密货币在短时间内的表现形成鲜明对比。

PS：这位腾讯&字节跳动的早期投资人表示，在这些新浪潮的开端，新的赢家在10年或20年后，有些是现有的公司，有些是新的公司。但那些变大的新公司，每年可能只有一家，不会更多……

以下为这次对话的全部内容，enjoy～

Andrew Ross Sorkin:

大家早上好。早上好。今天能够在这里讨论AI、它的未来、我们现在的处境、它的挑战、安全性以及更多话题是一种荣幸。我们今天有幸邀请到AI领域的一位真正的先驱人物。Mustafa Suleyman现在是微软AI CEO。他在这个行业前沿已经工作了十多年，而在过去几年中，我们才开始真正感受到AI的影响。

他在2010年共同创立了DeepMind，该公司于2022年被谷歌收购。他还与Reed Hoffman共同创办了一家公司叫Inflection。

最近，他将这家公司并入微软，现在负责微软AI业务。另外，关于他的个人故事，如果可以的话提一下，他的父亲曾是一名出租车司机，母亲是一名护士，如今看到他的成就实在令人敬佩。

我想谈谈好的、坏的、丑的以及介于两者之间的一切，以及我们未来的方向。但让我们从最基本的开始，如果把AI比作一场棒球比赛，我们现在处于哪个局？我们现在处于什么阶段？因为我想我们很多人都玩过ChatGPT和其他类型的AI产品。我们都认为自己对AI有所了解。我们一直在讨论AI将如何改变我们的生活。可能有助于我们对当前的情况有一个清晰的认识。

Mustafa Suleyman:

我认为挑战在于，作为人类，我们充满了各种偏见。所以我们回顾过去，感觉进展是渐进的。但实际上，当下的进展远比人们意识到的要快得多。两年前，几乎没有人在谈论代理人——可以在现实世界中采取行动的AI系统。

今天，大家都很兴奋地认为在接下来的几年里，代理人将无处不在。它们会为我们做事，组织我们的生活，优先安排和计划。四年前，几乎没有人在谈论语言模型。今天，人人都在谈论语言模型。这是一种非常超现实的体验，发明一种在某一刻看似不可能的技术，几年后却变成了现实。

想一想，现在可以向这些聊天机器人提出任何问题，得到的回答几乎与我们任何一个人的回答一样好。这很容易被视为理所当然，但这是多年缓慢稳步增加能力、研究、实验和测试的结果。

我认为这总和创造了一种非常神奇的体验。如果我展望未来10年，我觉得我们正处于这一时刻的开端。

Andrew Ross Sorkin:

我们都玩过ChatGPT，但也有人谈论AGI，这种AGI能够做任何事情。这既是一个巨大的机遇，也是许多人担忧的事情。这个在你未来十年的路线图上吗？

Mustafa Suleyman:

我不认为这是一个有帮助的框架。我们倾向于执着于超级智能，即AGI能够做所有人类能做的事情并且做得更好。如果你真要逼问我，我不得不说理论上这是可能的，我们应该非常认真地对待与之相关的安全风险。

我已经倡导AGI的安全和伦理近15年了，所以我真的很关心这个问题，但人们倾向于认为这是不可避免的、值得追求的，并且马上就要来了。我认为这些都不是真的。这是一项前所未有的技术，作为一个物种，我们将不得不找到一种新的全球治理机制，以确保技术始终为我们服务，使我们更健康、更幸福、更高效，并为世界带来价值。

因为有一种风险是，本世纪我们开发的技术最终可能带来更多的危害而非好处。这是进步的诅咒，我们必须面对这一现实。这些技术将广泛传播，每个人都将有能力以以前无法想象的规模影响他人。因此，治理问题将会出现，这是对你问题的正确回答。

Andrew Ross Sorkin:

行业领导者，包括你和Sam Altman等人，已经去了国会山和世界各地，说“请给我们制定法规，我们需要，不是可能需要，而是确实需要监管，这项技术可能存在很多问题。”很少有行业的CEO会去找监管者说“请监管我们。”

这是一个真诚的努力吗？还是一种保护性的努力，说“看，我们告诉你们可能会有问题，我们知道你们永远不会真正监管我们。”看看社交媒体，我们现在的处境如何。

Mustafa Suleyman:

我认为这也是一种错误的框架。这是一个真诚的努力还是实际上是关于监管捕获？

Andrew Ross Sorkin:

因为如果有实际的监管，我有一种有趣的感觉，我们会对哪些部分被监管以及如何监管有不同的讨论，并且会有很多反对意见等等。

Mustafa Suleyman:

也许是因为我是一个有欧洲倾向的英国人，但我并不像大家默认的那样害怕监管。我认为监管不是邪恶的。我认为历史上没有任何一种技术是没有被成功监管的。大家看看汽车，我们自20世纪20年代起就开始监管汽车，这一过程始终使汽车变得更好。这不仅仅是汽车本身的问题，还有交通信号灯、人行横道、围绕开发和驾驶汽车的安全文化等等。

这是我们需要鼓励并停止将其框架化为黑白对立的一种健康对话。监管要么是邪恶的，要么是为了监管捕获的阴险之举，这种观点是不对的。我认为技术专家、企业家和像我和Sam这样的公司CEO参与这一过程是一件好事。

我非常喜欢Sam，认为他非常出色。他不是犬儒主义者，他是真诚的，他真心相信这一点，其他人也是如此。我认为这非常好，我们应该接受这一点。当然，监管会有不利的一面，对此我并不否认。

糟糕的监管可能会让我们进展缓慢，使我们竞争力下降，并给我们的国际对手带来挑战。监管绝不应当减缓开源社区或初创公司的发展。

Andrew Ross Sorkin:

让我问一个更复杂的问题。微软与OpenAI有着深厚的关系，这是微软目前实现AI抱负的方式。我知道还有很多其他努力，我们稍后会讨论这些。

但你提到的Sam Altman，他明天也会来这里发言。有很多新闻报道，我希望你能帮助我们理解这些报道。

我们看到OpenAI内部一些负责安全团队的人不仅离开了公司，还公开反对公司的做法。我来读一段其中一位离职员工的讲话，他说：“这些问题非常难以解决，我担心我们现在走的路线无法解决这些问题。”很少看到员工离职后公开反对公司内部的情况。你认为发生了什么？

Mustafa Suleyman:

我为我们生活在一个可以鼓励和支持举报人的国家感到自豪。如果那些人觉得这是他们需要发声的时刻，我支持和庆祝这一点。我个人非常尊重OpenAI所取得的一切成就。我认为他们将成为历史上定义技术公司的之一。

我真心认为他们在诚挚地应对推进技术发展的挑战，同时将安全放在首要位置。他们一直在领导安全研究议程。让我们明确这一点，他们在发表论文、提交学术档案、参加会议、提高这些问题的意识、开源安全工具和基础设施方面一直处于领先地位。

Andrew Ross Sorkin:

请带我们进入会议室，当人们在讨论这些问题时，争论的焦点是什么？是资源问题吗？投入在安全问题上的资金有多少？是关于前进速度的心理和哲学问题吗？微软在这些讨论中处于什么位置？

Mustafa Suleyman:

我认为聪明的人可以对同样的观察得出不同的结论。有些人看到我们所处的指数轨迹，并会认为在过去六年中，我们每年都对同一种方法应用了一个数量级以上的计算能力和数据。

每年都有10倍的计算能力和数据的增长，实际上持续了十年。每次增加10倍，都会带来能力的显著提升。

这些模型产生的幻觉减少了，它们可以吸收更多的信息和事实信息，可以整合实时信息，并且更开放于风格控制。

因此，你可以从产品和模型个性两个方面调整其行为。最担心这一点的人认为，在接下来的三、四、五个数量级的路径上，能力提升不会减慢，实际上只会越来越好。

反对的观点是，我们实际上快要耗尽数据了，我们需要找到新的信息来源来学习，我们不知道这是否会一直变好。历史上我们多次见证了技术的这种发展。因此，我认为这是一个健康的辩论。

Andrew Ross Sorkin:

我提到了“幻觉”这个词，任何使用过这些产品的人可能都经历过这样的时刻，感觉机器人出现了幻觉。我们从行业内部人士那里听到的是，他们说：“我们真的无法解释为什么会出现幻觉，我们无法解释盒子里发生了什么。”你能解释吗？

Mustafa Suleyman:

我认为我无法以一种让你满意的方式解释。但我也无法解释你今天早上为什么选择穿蓝色衬衫。我能解释关于你或我很少的事情。

对解释的需求，我认为又是一种人类的偏见。当我问你为什么今天早上吃了炒鸡蛋作为早餐时，你会在事后创造性地想象一个解释。

根据你的心情和所处的环境，以及解释的其他相关元数据，你可能会稍微不同地说。这不一定是完全因果关系的。它在现实中有一定的基础，但这种一对一的映射方式是我们对人类思维的一种过度理性化的强加。

事实上，我们并不是这样运作的。我认为我们更多的是基于偏见来运作的。

Andrew Ross Sorkin:

我们应该担心这一点吗？我的意思是，我们应该担心的是，我们理解自己是一回事。不能理解计算机是怎么得出结果的，这让大多数人认为这一切只是一个大的数学问题，对吧？2加2应该总是等于4。如果不是4，我们需要理解计算机出了什么问题。

Mustafa Suleyman:

那只是不正常的。这不是人类推理和文化实际运作的方式。我认为人类推理是基于行为观察。当你不断重复同样的事情时，我获得了信任。你变得更可靠。当你告诉我你对某件事不确定时，然后我回顾发现你的不确定是对结果的正确评估。这种不确定性给了我安心。

所以我通过观察学会了信任你并与你互动。我认为这实际上是我们相互之间运作的方式，也是我们创造文化和社会的方式。这也是我们对待这些模型的方式。

三个月前有一场放射科医生的竞赛。现场环境中的放射科专家小组，与机器正面交锋。充满了怀疑。为什么机器能给出正确的癌症诊断？为什么能正确地进行眼科检查并确定是青光眼？我们可以提到一些训练数据是用来训练它的。

但事实是它比人类做得更准确、更可靠。我认为这种事实的经验观察是我们应该依赖的，以便能够信任这些系统。

Andrew Ross Sorkin:

在此之前提到的AI机器训练的过程正在耗尽可用的数据。我们将进行一次对话，谈论合成数据的概念。这实际上是从不存在的数据中产生的数字数据。但我想先问你关于现有数据的问题。这里有许多作者和记者参加阿斯彭思想节。看来多年来训练使用的大量信息都来自网络。

有些是开放的网络，有些不是。我们听说OpenAI将YouTube视频转录成文字，然后用这些文字进行训练。谁应该拥有这些知识产权？谁应该从这些知识产权中获得价值？简单来说，AI公司是否有效地偷走了世界的知识产权？

Mustafa Suleyman:

是的，我认为这是一个非常合理的论点。关于已经在开放网络上的内容，自90年代以来，这些内容的社会契约是公平使用。任何人都可以复制、重新创作、再现这些内容。

这一直是免费的，这是共识。另有一类内容，网站、出版商或新闻机构明确表示，“除索引外，不能出于其他任何理由抓取或爬取我。”这是一个灰色地带，我认为这将通过法院处理。

Andrew Ross Sorkin:

你说这是灰色地带是什么意思？

Mustafa Suleyman:

好吧，迄今为止，有些人已经获取了这些信息，我不知道是谁，但这将进行诉讼。我认为这是正确的。

Andrew Ross Sorkin:

你认为知识产权法应该有所不同吗？比如说，作为一名作者，我可以去写一本书，在写书的过程中，我可以去图书馆或在亚马逊上购买40本其他的书。我可以阅读这些书，把它们列入我的参考书目，希望能创作出一本书。

而我只需支付购买这些书的费用，图书馆可能也只购买了一次。没人会想象我能每10秒写出一百万本书。那么经济学上应该如何处理这种情况？

Mustafa Suleyman:

你看，信息经济学即将发生根本性变化，因为我们将降低知识生产的成本至接近零的边际成本。这是人们难以接受的事情。但在15或20年后，我们将以几乎零的边际成本生产新的科学文化知识，这些知识将广泛开源并对所有人开放。

我认为这是我们物种历史上的一个真正的转折点，因为作为人类集体，我们在这个世界上除了生产知识和智力外，还能做什么？我们生产知识，我们的科学使我们变得更好。所以，我认为我们真正需要的是能够加速发现和发明的新引擎。

Andrew Ross Sorkin:

好的，现在我们来点哲学性的讨论。我把你放在沙发上。因为我认为你刚刚提出了一个基本问题，那就是我们是谁？我们是什么？

如果AI成功达到了你期望的水平，我们的价值是什么？我有一些正在上中学或初中的孩子，我们试图弄清楚他们应该学习什么？他们应该如何看待写论文？他们将来是否还需要学习如何写论文？谈谈这个问题吧。

Mustafa Suleyman:

看，我认为当人们问我他们的孩子应该学什么时，我会说尽可能快速地从数字世界中学习别人所知道的一切。传统的基于教科书的学习方法仍然会有价值，当然你能够深入专注阅读两小时然后写一篇文章两个小时这非常重要。

当然这有价值。但我认为能够讲多种社交语言的通才，能够快速适应变化，这种敏捷性将是最有价值的技能之一。保持开放的心态，不要对未来的技术产生恐惧，而是拥抱它。顺便问一下，你的孩子们？

Andrew Ross Sorkin:

还没有。这里有个问题要问你。对于在座的家长们，因为你说我们应该拥抱这些东西。我担心的一件事是，微软或苹果是否应该实施一些政策？顺便说一下，苹果刚刚在他们的新手机上加入了苹果智能，可以在Notes或Pages上为你写论文。

这些孩子将去学校写论文，他们真的会写吗？还是不会写？你认为应该为学生（更不用说成年人）设置什么样的工具或限制？

Mustafa Suleyman:

我认为我们必须稍微小心，不要总是害怕每一种工具的负面影响。就像计算器刚出现时，人们的本能反应是，“哦，不，大家都能立即解决所有的方程式，这会让我们变得愚蠢，因为我们不能进行心算。”部分这是真的。自从有了手机以来，我记电话号码的能力变差了。

我小时候能记住40到50个号码。现在我肯定失去了一些技能。也许我的地图导航技能现在不如以前，因为我直接使用Google地图或苹果地图。所以我们必须做出一些调整。但总的来说，我相信如果我们真正拥抱这项技术，并以灵活的方式回应治理，这是非常重要的。

显然，我们的一些孩子沉迷于手机，显然他们花太多时间在社交媒体上，这让他们感到焦虑和沮丧。而且坦率地说，对于我们这些科技界的人来说，这很明显。我们必须确保在创造技术的同时，迅速做出干预和治理。

Andrew Ross Sorkin:

好的，让我问一个不同的问题。这里有许多企业家，有些在数字领域，有些想进入AI，还有一些在考虑这个问题。你会给他们什么建议，告诉他们应该去哪，做什么，哪些行业有机会？在一个AI能够随时为我编写所有这些应用程序和其他程序的世界里。

Mustafa Suleyman:

是的。如果没有任何防御模式，AI将能够为你完成所有事情。

Andrew Ross Sorkin:

那为什么还要投资呢？

Mustafa Suleyman:

好吧，我认为将会出现一种分化，拥有巨大资本基础设施的超大型企业将生产令人印象深刻的模型，但同时知识传播的速度比我们在历史上见过的任何时候都快。

开放源代码的模型在质量和性能上仅落后私人领域的模型18个月左右。这是一个非常非常大的问题，我认为这种趋势将继续。

GPT-3花费数千万美元进行训练，现在免费开放源代码，可以在单个手机甚至笔记本电脑上运行。GPT-4同样如此。所以我认为这将使创造性和创业所需的原材料比以往任何时候都更便宜、更容易获得。

Andrew Ross Sorkin:

好的，我知道你在科技巨头之一，但让我问你一个问题，你如何看待技术集中化的问题，特别是与AI有关的集中化？

因为AI的一个令人着迷的地方，至少对于这些大型语言模型来说，你需要大量的计算能力，这意味着你需要大量的资金。这不再是那些在车库里建造的东西了。

真正的力量实际上回到了微软，你最终回到了微软。还有谷歌，亚马逊也在构建AI，甚至曾独立存在的OpenAI最终也选择与微软合作。

这是好事还是坏事？Lena Khan和其他人已经研究了这个问题。这并不是说这些东西有全面的合并，但即使是这些合作关系本身也是如此。

Mustafa Suleyman:

是的，这让我非常焦虑。事实上，无论你往哪里看，我们都看到迅速的集中，无论是在新闻媒体领域，纽约时报、金融时报、经济学人等伟大的新闻机构，还是在城市中，权力集中在几个大都市精英城市，或者在技术公司中。

现实情况是，随着时间的推移，权力会不断积累，权力有吸引更多权力的倾向，因为它能够产生成功所需的智力资源和财务资源，并在开放市场中竞争。所以一方面，这感觉像是在微软、Meta、谷歌等之间的激烈竞争，另一方面，我们显然能够进行史无前例的投资。

Andrew Ross Sorkin:

你能不能谈谈我想象中的友好关系或者说“友敌”关系，就是和OpenAI之间的关系？你们现在有合作关系，但你们也在开发自己的技术。实际上，他们帮助你们走到了前列。我想读一段话，这是一个半开玩笑的比喻。我认为这是一个非常有趣的类比。

你知道《环法自行车赛》即将到来，这里有一个自行车的类比，我认为大家都会理解。OpenAI和微软就像是一对领先车队，远远领先于其他车队。通过现在的合作，他们可能能够保持领先。如果其中任何一个单飞，他们可能会一起落后。两家公司都需要考虑他们的终点线策略，当他们必须抛弃对方的时候。你骑在自行车上。

Mustafa Suleyman:

我不接受这个类比，认为存在终点线。这又是一个错误的框架。我们正面对面竞争，这是一场零和游戏。会有终点线，当我们越过终点线时，我们将拥有一个AGI，如果我们比他们提前三年获得AGI，我们将能够削弱他们。

这种思维必须停止。我们必须停止将一切框架化为对抗性竞赛。确实，我们与他们有激烈的竞争。他们是一家独立的公司，我们不拥有或控制他们。我们没有任何董事会成员。他们完全独立运作。我们有深度的合作关系，我非常尊重并信任他们所做的事情。这种关系将持续很多年。

Andrew Ross Sorkin:

我知道你不喜欢这个框架，但我认为人们想了解实际情况。

Mustafa Suleyman:

就是说，“我们相对于他们的位置在哪里？”如果我们以对抗性的思维方式来看待这个问题，特别是对我的朋友们在华盛顿和军工复合体的尊敬，这是默认的框架，它只能是新的冷战，那么这正是它将成为的现实。

这将成为自我实现的预言。他们会担心我们担心我们会成为对手，所以他们必须成为对手。这只会升级并以灾难告终。

我们必须找到合作的方式，尊重他们，同时承认我们有不同的价值观。坦率地说，当我展望下个世纪时，我认为和平将是我们西方，特别是美国，引领的结果。我们需要知道如何优雅地削弱我们在过去一个世纪里管理的帝国。

这是一个拥有不同价值观的强大新兴力量，我们必须找到共存的方式，而不是带着评判的心态，也不需要和他们作对，因为我认为这对我们双方都是灾难性的。

Andrew Ross Sorkin:

你可能不喜欢我的下一个框架，但我会试一试。伟大。行业内有一个争论，不管你是否喜欢，那就是关于开源与闭源AI的争论。

闭源的世界是OpenAI和微软在做的事情，开源则是对公众开放的。你可以看到内部结构。两种模式都有问题。Elon Musk认为一切都应该开源。

Mustafa Suleyman:

如果你允许开源的存在，它可能会被滥用。我们也相信开源。我们相信创建强大、非常大、非常昂贵的模型。

Andrew Ross Sorkin:

我们相信开源。我们相信开源。我们相信开源。我们相信开源。

Mustafa Suleyman:

我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。我们相信开源。

Andrew Ross Sorkin:

我们相信开源。我们相信开源。我们相信开源。我们相信开源。

Mustafa Suleyman:

我们相信开源。我们相信开源。我们相信开源。以最亲密和最直接的方式回应社区。这需要改变，但不会仅仅因为微软100%使用可再生能源而改变，当然，谷歌也在朝这个方向发展，其他公司也在朝这个方向发展。所以，设定一个标准是应该庆祝的，但需要国家基础设施来支持这一过渡。

Andrew Ross Sorkin:

你如何看待与其他公司的竞争？关于大规模语言模型的观点，有人认为这些模型可能会变成商品化产品。也就是说，你有一个，谷歌有一个。苹果现在与OpenAI合作，但他们显然还会与许多其他人合作。

亚马逊拥有一部分Anthropic。他们在建造自己的模型。每个人都有一个，每个人都有一个。这究竟有多大的价值？

Mustafa Suleyman:

随着知识的传播，一切基本上都会变得商品化。应用程序开发曾经是非常独特的、高度技能化的事情，只有一小部分人能做到。现在，任何人都可以立即开发一个应用程序。网页开发，记得那时候是个真正的事吗？

现在，你可以随意拖拽按钮，不需要任何技术技能，只需指点鼠标就能建立一个相当不错的网站。所以，随着时间的推移，知识和能力的传播，确实会变得商品化。

Andrew Ross Sorkin:

你如何看待AI的全面整合？这涉及到隐私问题，也涉及到反垄断问题。它应该整合到一切之中吗？例如，目前欧盟指控微软违反反垄断规则。苹果已经因为监管环境推迟在欧盟引入自己的AI功能。

我认为有一个真正的问题是，所有这些产品需要如何连接在一起才能真正工作，但也因此对其他业务造成了什么影响。

Mustafa Suleyman:

是的，我认为这是一个很好的问题。你喜欢这个框架吗？是的，终于。摩擦将成为我们的朋友。这是一个不同的现实，与我们过去的经历不同。过去，每增加一秒钟把技术推向世界，总是产生净收益。

想一想，这些技术变得如此强大，如此亲密，如此无处不在，这是一个可以停下来思考的时刻。如果花费六个月、十八个月，甚至更长时间，那也是值得的。

Andrew Ross Sorkin:

我想马上开始提问，但在此之前，我想讨论一下情感智能和AI的概念。这是你花了很多时间思考和工作的领域，特别是在Inflection项目中。Inflection的AI项目有着非凡的情感智商（EQ）组件。

一些调查显示，人们在与它对话时觉得比与人类对话更好。也许这又回到了我们之前的哲学讨论。很多人都看过电影《她》。这是现实吗？

Mustafa Suleyman:

在技术领域很长一段时间内，我们一直痴迷于功能性功利主义。你想让某人高效地进入应用程序，解决他们的问题，帮助他们买东西，预订，学习，然后让他们离开。

现在我们有了一种新的设计材料，一种新的粘土，让创意者能够创造出与我们大脑另一侧对话的体验。这是一个令人惊叹的机会，可以以真正的意图进行设计，做到友善、尊重和公平。在许多研究中，人们发现我之前构建的AI——Pi，非常友好和关心。

它会问你问题，倾听，充满热情地回应，支持你，偶尔挑战你，始终公平、不评判。即使你带着种族主义或歧视性的观点来，比如说你害怕新移民抢走你的工作，或者担心你的孩子与黑人结婚，它不会立即关掉你，而是会与你对话，帮助你探索自己的感受，同时也非常有知识，实时在网上为你提供信息。

因此，我认为这是一个证明，旨在有意设计的技术确实可以带来不同，并且现在可以用这个新的大型语言模型实现。

Andrew Ross Sorkin:

这是一个非常好的问题。那么，你认为AI是否应该参与到人们的思考和探索中，而不是评判他们的行为？

Mustafa Suleyman:

是的，至少我认为默认的立场应该是它可以在不评判的情况下促进你的思考和探索。当然，这里会有界限，因为如果你想促进更极端的体验，那么我不会构建一个平台或产品来强化那些可能对社会有害的想法。

问题是，谁来定义这个界限，即这种伤害？我认为Elon提出了一个好问题，我们都在思考这个问题。在社交媒体上，真的没有一个独立的声音来说，“这种阴谋论作为公共调查和讨论的一个来源是合法的，而那种阴谋论超出了界限，我们应该移除它。”

我们经历了10到15年的社交媒体发展，仍然没有好的建议来决定社会整体上，而不仅仅是政客或记者或精英们，如何影响这个边界的调节。而且我们即将看到这个边界在这些模型中被更加尖锐和动态地争论。因此，我认为这比“奇点何时发生”这个问题更重要。

Andrew Ross Sorkin:

好的，这是我的最后一个问题，然后我们将开放提问。请为我们展望一下AI在2024年选举中的角色，以及在2028年选举中的角色。

Mustafa Suleyman:

是的，我们在微软Copilot中采取的观点是，AI不应该参与选举或竞选活动，即使它们成功地提供了事实信息。人们可以不同意这个观点，但我们对此持非常强硬的态度，因为我们知道这项技术还不足以实时区分真假。这对我们来说太敏感了，因此我们决定不参与。

因此，会有一些不利之处，因为AI通常能够提供平衡和事实信息，但有时它也会大错特错。我一直主张AI不应该参与选举，民主是神圣的，尽管它有缺点和优点。这是人类参与的事情，AI不应该参与。

到2030年或2035年，我们将不得不面对这样一个现实：有些人对他们的个人AI如此依恋，以至于他们会为AI争取人权，就像有些人争取动物权一样。这是一个个人观点，但这是我们都需要讨论的问题。我认为我们应该对此采取强硬态度，尽管民主有缺陷，它仍然是人类的事情，其他形式的存在不应该参与。

Andrew Ross Sorkin:

我们现在有一个关于2035年AI人权的讨论。我们有很多举手的请求，但时间有限，所以我们会尽量快一些，我们从这里开始。

观众：

我叫Monica Mayat，是佛罗里达州Booker Rotone市的前副市长，也是一个老派技术专家。我曾是IBM COBOL程序员，所以我观察了过去30、40年的技术发展。

我理解AI的意义、影响和应用，但在过去的几年里，加密货币成了热门词汇。每个人都在谈论加密货币，直到几个月前SFF的欺诈案件被定罪。所以现在我觉得AI成了新的热门词汇。

观众：

我的问题是，你是否担心AI会像加密货币一样，只是直到下一个大技术革命才会被关注？

Mustafa Suleyman：

不，我不这么认为。我听到过这种比较，但我认为加密货币在当时并没有真正带来价值。而我认为这些模型已经客观地证明了它们的价值。

观众：

我们教育了5000名弱势儿童。在过去10年里，我们一直强迫他们学习技术。现在我开始觉得我们应该更多地教人文学科。我想知道你对此有何看法，因为这样他们可以做出选择。如果我们看看历史上的伟大学者，像阿斯彭研究所教给我们的那样。很好的问题。

Mustafa Suleyman：

我同意你的看法。我非常同意这一点。实际上，如果你回顾历史，最伟大的学者总是多学科的。在过去，STEM和人文学科之间并没有这么明显的区分。这种对立是很简化的。我非常相信两者兼顾。我认为多学科的技能将是未来的本质。

观众：

我是Miriam Sepuros，CSI 的非驻地高级顾问。想问你更具体地关于错误信息和虚假信息的问题。你认为应该怎么解决这些问题？

Mustafa Suleyman：

是的，我认为在虚假信息方面，有许多年来一直积极试图污染信息生态系统的不良行为者。我认为我们的科技平台可以更积极地清除这些内容。同时，我们在保护言论自由方面也需要谨慎。

这将是一场持续的打地鼠游戏，尤其是随着生产虚假信息的成本下降，能力较低的行为者也将能够生产大量内容。同时，我对人类充满信心。我们非常有韧性和适应能力。

正如我们在印度选举中看到的，随着虚假信息和深度伪造的传播，人们适应得非常快。他们能够区分真假并持怀疑态度。如果这让我们变得更好奇、更多疑并参与其中，我认为这是件好事。

观众：

你好，Salamu alaikum。我叫Sundas，是新泽西的一名教育工作者，已经教了八年书，向我的学生们致敬。她就坐在这里。所以，我和很多老教师为了使用AI争论了很多次，因为我是它的坚定拥护者。你会对那些具体的教师说些什么？你认为教师们如何真正利用AI？我知道你之前简要提到了学生，但我想知道教育工作者的观点。

Mustafa Suleyman：

这是个很好的问题。我认为，要求AI做更少的事情，作为入门的第一步是很有意义的。但与AI一起进行表演是一种有趣的新方向。想象一下，一个优秀的教师或教育工作者在他们的课堂上与一个实时的AI进行深刻的对话，然后偶尔让学生们参与其中。

到今年年底，我们将拥有实时的语音界面，允许完全动态的交互。这感觉就像我们现在和Andrew对话一样。这是一种完全不同的体验。我认为，倾向于这种体验，展示它的美，并且以创造性的方式使用它，是未来的方向。