今天小编分享的教育经验：微软AI CEO苏莱曼：AI助手是构建一种持久而值得信赖的关系，好的AI智商/情商/行动商/记忆力缺一不可，欢迎阅读。
第二期华夏基石数智时代领导力特训营热招中！
报名即送十月管理论坛名额一个！价值12800元！
作者| 瓜哥
来源 | 管理智慧
咨询合作| 13699120588
摘编自彭剑锋教授新著《赢在组织》，文章仅代表作者本人观点，图片来源于pixabay
★
内容导读：Mustafa在这次演讲中主要表达了以下几个观点：
AI 的发展速度及未来预测的困难： 虽然AI技术进步迅速，且能预测未来几年的技术能力发展，但预测未来3-5年AI对现有生态系统、激励机制和商业模式的影响却非常困难。这与互联网早期类似，难以预料移动互联网的最终形态。
AI 作为一种新的"设计材料"： AI不再是传统意义上的工具，而是一种新的设计材料或媒介，具有动态互動的特性，其与用户的互动会持续塑造其自身。构建AI产品不再是编写确定性指令，而是塑造其"基调、风格和个性"。
AI 的三个关键能力提升： Mustafa 预测未来几年AI会在三个方面取得显著进步：智商（IQ，更准确、更易控制）、情商（EQ，更流畅自然的互動）、行动商（AQ，更好地使用工具、与其他AI沟通）。记忆能力的提升也是关键。
AI 互動模式的转变： 未来的AI互動将更趋向于人与人之间的自然互動模式，更加注重情感和信任感。这需要AI在准确性、流畅性和容错性方面达到极高的水平。 语音互動的加入是重要一步，但仍需克服从高准确率到极高准确率的技术挑战。
AI 原生应用的出现： 尽管ChatGPT令人印象深刻，但真正的AI原生应用才刚刚开始出现。未来的AI将不只是一个应用，而是一种持续存在的、具有记忆能力的"伴侣式"关系，将整合多种互動方式（语音、视觉等）。
模型层 vs. 应用层： Mustafa认为预训练模型将趋于商品化，未来的价值创造主要在于微调模型以及构建用户体验。 成功的AI应用需要建立高效的反馈循环机制，并整合产品设计方面的专业知识。 他并不认为单一模型会最终胜出，各种规模的模型（LLM, MLM, SLM）将共存，并根据不同用例进行选择。
AI 对軟體开发的影响： AI将极大地提高軟體开发效率，例如GitHub Copilot已经展现出强大的能力。 但未来也需要关注AI自主性带来的风险，以及潜在的"递归式自我提升"可能造成的挑战。
AI 安全性与风险： Mustafa 认为AI安全是一个极其重要的问题，需要认真对待其带来的前所未有的风险。 他强调学习Web 2.0和社交媒体的经验教训，建立多层次的防护机制，并预见可能出现的意外后果。 他认为"不做什么"也可能成为未来重要的安全策略。
对下一代AI创业者的建议： 勇于冒险，全力以赴，充分发挥主观能动性。
穆斯塔法·苏莱曼简介
穆斯塔法·苏莱曼是一位英国科技企业家和人工智能思想领袖，是人工智能公司Inflection AI的联合创始人兼首席执行官。他更为人所知的是其作为DeepMind的联合创始人兼首席产品官的角色，该公司于2014年被谷歌收购。
在DeepMind，苏莱曼领导了人工智能在医疗保健、能源和基础科学领網域的应用。他主导了DeepMind Health的开发，该部门与英国国家医疗服务体系（NHS）合作，利用人工智能改善患者护理。
2019年离开DeepMind后，Suleyman继续与人共同创立了初创公司Inflection AI。这家公司专注于人机互動。
在2024年3月19日，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）宣布，Mustafa Suleyman加入微软，组建一个名为"Microsoft AI"的新团队，专注于推进 Copilot 及公司其他消费者 AI 产品和研究。
苏莱曼是一位直言不讳的人工智能伦理倡导者，他强调负责任地开发和部署人工智能的重要性。他与人合著了《超级智能：路线图、危险性与应对策略》一书，探讨了超级智能的潜在风险和机遇。
作为一位有远见的领导者，苏莱曼致力于利用人工智能解决全球性挑战，并塑造人工智能的未来，使其造福人类。
"地球上的每个人都将拥有一个个人AI助手"
主持人： 下午好。我们把最好的留到了最后。好的，我先这么说。希望你们都进行了一系列良好的讨论。我们计划了大约五个不同的讨论主题。希望你们都有机会参与其中。但今天时间很长，我完全意识到了这一点。但我们马上会有一位非常棒的人来和我一起上台。Mustafa，我很荣幸也很高兴欢迎你今天来到这里。谢谢你来到这里。对于那些不认识Mustafa的人来说，
他是我所说的典型的AI企业家。早在AI成为当今的热潮之前，Mustafa就开始致力于AI。今天，他是微软消费者AI的首席执行官，他也是DeepMind的联合创始人兼前应用AI负责人，DeepMind是一家很久以前被谷歌收购的公司。离开DeepMind后，Mustafa于2022年共同创立了Inflection AI。今年早些时候，微软和Inflection达成了一个非常有趣的合作关系，最终结果是Mustafa现在成为微软的关键领导者之一，帮助公司思考人工智能的未来，特别是消费者应该期待什么以及他们可以从人工智能及其带来的所有好处中获得什么。就在上个月，《时代》杂志公布了其100位最具影响力人物、100位人工智能最重要人物的名单，显然，这份名单如果没有Mustafa是不完整的。这只是Mustafa在他职业生涯中获得的众多认可之一。所以，事不宜迟，Mustafa，再次感谢你，请和我一起上台。
谢谢。非常感谢。非常感谢。既然你今天是从纽约飞过来的，Mustafa，我想确保你了解今天发生的一些事情。告诉我。然后我会谈谈昨天的情况。
穆斯塔法·苏莱曼： 你想从哪里开始都可以，没问题。
主持人： 一件是，你最亲密的合作伙伴之一谈到了一轮相当大的融资。另一个是Poolside AI，它也是下一代现代AI公司之一，筹集了大约5亿美元。我们看看流入的资金量和大型科技公司正在进行的投资额，这让我回到了24小时前，当时我听说你昨天在纽约发表的一系列声明。我非常喜欢你所说的，"地球上的每个人都将拥有一个个人AI助手"。那就从这方面开始，告诉我们你昨天向全世界宣布的内容。
穆斯塔法·苏莱曼： 你知道，我认为我们正处于一个奇怪的时代，尽管每个人都在关注，我们也都看到了同样的技术趋势，并且都在专注于投资、建设或以某种方式进行合作，但我认为我们仍然无法完全预测未来三到五年世界将会是什么样子。而这实际上是很正常的。互联网早期也发生了类似的事情。很难预测移动设备会以当时的形态出现，也很难预测商业模式会适应这种新的模式。我认为现在也是如此，尽管我们对未来几年将出现的技术能力有相当清晰的认识，但很难说这些能力的组合对现有生态系统、激励机制以及我们将要建立的各种企业意味着什么。
我的意思是，这就像认识到人类历史上第一次，机器学会了说我们的语言一样深刻。因此，编程接口已经从根本上发生了变化。每个人都将能够访问这个工具，他们可以使用这个工具来编程他们周围的数字世界。显然，这种编程反过来又改变了我们。因此，它不再仅仅是一个工具。它肯定不是传统意义上的工具，那种手工制作、清晰明确、能够以确定性方式提供已知输出的工具。它具有动态和互動的特性，这是这种新事物固有的基本属性。现在最好不要试图将其框定，因为它与我们所知的任何事物都完全不同。我们还没有真正遇到新的设计材料，或者，我经常将其比作新的粘土，我们用它进行创作或作为设计材料。这是一种新材料，对于产品制造商或建设者来说，现在有了这个新的东西需要你去制作，它与学习编程、构建网站和应用程式等方面的特性大相径庭。它真的非常不同。你现在正在创造一种持续的体验。
你的模型，你的LLM，无论在什么环境中投入使用，都会不断适应环境的反应，或者适应客户或用户的反应。所以你显然无法在第二步或第三步之后塑造它。因此，你真正创造的是一种基调、风格和个性。我认为这真的很不一样，看到2028年或2030年的样子将会非常令人惊叹。
主持人： 你知道，穆斯塔法，这让我想到人们常说的一件事，那就是我们往往会高估一年内可能发生的事情，而完全低估十年内可能发生的事情，对吧？所以，当你谈到2028年或2030年的时候，我实际上不知道我们是否真的充分设想了潜在的可能性。我想回到今年早些时候，我认为是三月份，你做了一个TED演讲。我不知道在座的各位有多少人看过这个TED演讲。有些人看过。对于那些没有看过的人，我鼓励你们在本次会议结束后观看，而不是在会议期间观看。
但对我来说，这是一系列非常鼓舞人、我听到并学习到的东西。你在演讲中谈到的一件事是，我们要这样做，我们要那样做，我们要那样做，我们要那样做。我认为，我们真的处在一个拐点上。也许这就是你上一家公司名为Inflection.ai的原因。但就人类而言，我们真的处在一个拐点上。你使用的另一个我非常喜欢的比喻是，一种新的数字物种正在出现。请你详细介绍一下这个愿景，然后我们可以将其与你昨天发布的公告联系起来。
未来愿景
穆斯塔法·苏莱曼： 嗯，我的意思是，你一开始说的也完全正确，那就是我们在做预测方面确实很糟糕。然而，我整天都在尝试做预测，然后押注在上面。而且，我认为，在能力层面押注未来两三年可能出现的技术能力实际上是完全可能的。然后，困难的任务是尝试将这些能力转化为新产品、商业模式和生态系统。如果让我押注能力，我会说，我们在智商（IQ）方面做得相当不错。因此，模型越来越注重事实，它们显著减少了幻觉。它们可以很好地检索并根据任意文档（无论是网络还是你的私有语料库）进行条件生成。
事实上，从回顾性来看，从经验上看，很明显，每增加一个数量级的计算量，它们就会变得更好，也更容易控制，对吧？这是一个巨大的成就。两年前，有些人推测模型会变得更大，也会变得更混乱，更难以操控，更难以对齐。而结果似乎恰恰相反，至少目前是这样。它们在指令遵循方面做得更好，更能遵循你产品设计、行为策略、业务策略或你试图优化的任何内容的细微差别。这就是智商方面的情况。
然后，几年前人们说的第二件事是，哦，你知道，它们永远不可能感同身受，它们永远不会具备情商，这将永远是某种特殊的魔法来源，远离机器。然而，我认为它们真的开始展现出非常优雅、非常流畅的互动，当然，在它们用文本给出的某些答案中是这样，在语音方面也是如此。它们确实捕捉到了某些东西。是的，它们确实捕捉到了这些快速对话界面中非常无缝和自然的某些东西。这就是我们昨天发布的一些内容。
然后，当然，我们都在谈论的第三件事是，它如何增加行动商数（AQ），也就是它能够使用工具、与其他 AI 通信、在生成输出之前进行推理的程度。我认为，至少就我目前所见，所执行的操作的性质并没有太大的区别。但与视频、影像、音频或文本领網域相比，行动领網域从根本上来说是相同的难题。因此，只要我们有足够的数据，我认为这是一个非常开放的问题，我们是模拟数据还是从现有语料库中提取数据，它可能会产生相同类型的回报。在这三个方面，我认为我们看到了相当可预测的改进。
然后，我认为将所有这些结合在一起的缺失部分是数据。那就是数据。是的，数据就是数据，数据就是记忆。很多人都在努力研究这个问题，并且有很多不同的方法。但我确信，在接下来的大约 18 个月内，我们将拥有具有非常、非常好的记忆的 AI，即使不是无限和完美的，但也能很好地在任意文档中进行检索。这很有趣，因为塑造了整个领網域的对智力的定义是 AGI，即通用性。
这是我们所有人一直强调的某种北极星。但这是一种智力的定义。你知道，另一种定义，比如相同的核心系统能够在各种各样的环境中表现良好。这强调了一个系统必须是通用的。另一种对智力的定义是能够在正确的时间关注正确的事物。它实际上更接近人类运作的方式。例如，我的身体和大腦会立即知道，如果我洒了这水，我就会洒了这水。我能做到，我会知道如果我洒了这水，我会把手缩回来。如果我有一些更复杂的任务需要用到我的前额叶皮层，我会动用大腦的不同部位。所以，我的大腦真正做的事情是，它有很多不同的子系统，它知道如何在给定的上下文和任务下选择正确的系统。因此，如果我们能够在正确的时间将处理能力导向正确的子系统，这可能是一种元启用器，使我们能够做到这一点。这使我们能够跳过仅仅通过传统的上下文視窗进行扩展所面临的挑战。所以我认为这是未来几年我对能力的预测，而且信心很高。然后你可以想象，如果我有很好的智商、情商、行动商数和记忆力，那将是一个非常非常强大的系统。
未来几年互動模型的变化
主持人： 为了补充这一点，Mustafa，你昨天谈到了为 Copilot 添加语音互動功能。我认为这是你昨天谈到的许多事情之一。我一直相信，至少在今天，你我使用的是一套技术进行互動，对吧？而当我与技术或机器互動时，大多数情况下是不同的，我认为是这样。但是，我们越能将人类彼此互动的方式作为人类与技术或机器互动的方式，你的情商愿景就能实现到某种程度。你如何看待未来几年互動模型的变化？
穆斯塔法·苏莱曼： 是的，我的意思是，这些事情的挑战在于，人们可以证明，比如，你可以发布一个非常酷的演示，它70% 的时间都能工作。但是，为了让这些技术得到广泛采用，它们必须在99% 的时间里有效。所以延迟超低、非常准确、非常流畅、非常擅长打断，知道何时暂停。我认为人们经常忘记，从90% 到99%，然后从99.9% 是多么困难，对吧？这实际上几乎和从0% 到70% 一样困难。
所以我认为还有很长的路要走。但我们昨天展示的是更具情感直觉体验的希望。昨天在纽约的发布会上，我没有一次谈到参数、模型或任何底层技术。因为我认为对大多数消费者来说，这真的无关紧要。重要的是感觉如何，它是否记得我？我是否信任它？因为它一次又一次地做同样的事情。它是否礼貌地打断我？当它出错时，它是否能优雅地失败？你知道，这些感觉让我们信任某件事，并想要更多地使用它，因此对其进行投资并分享更多等等。或者只是让我们怀疑，因为它实际上有点粗鲁，或者有点愚蠢等等。所以这就是我们必须破解的难题，才能真正实现大规模采用。我认为我们昨天展示了希望，但是，你知道，我们必须……还有很长的路要走。
真正原生 AI 应用程式的可能性
主持人： 你知道，你几分钟前提到的另一件事是，嘿，你会看到越来越多的有趣应用出现。一些像微软正在构建的，你们正在构建的，我认为还有一些，生态系统的其余部分将会构建。这让我回想起你说的另一件事，比如，嘿，当移动革命发生时，这么说吧。在我看来，你可以争论说手机存在，或者移动电话在 iPhone 1 出现之前就存在了，但 iPhone 1 是一种拐点，对吧？它确实，我认为如果我没记错的话，是在 2007 年左右出现的。直到 2010 年或 2011 年，特别是 Uber 和 Airbnb 出现的时候，人们才真正感觉到，嘿，你能用移动设备、移动平台和各种应用程式做什么，对吧？
正如你所知，ChatGPT 已经出现了大约 22 个月，自 ChatGPT 出现以来，对吧？我仍然相信，尽管 ChatGPT 令人惊叹，但我认为世界还没有看到真正原生 AI 应用程式的可能性。好吗？你对此怎么看？你认为这已经过去了，还是认为这还在未来？
穆斯塔法·苏莱曼： 这绝对还在未来。我的意思是，你知道，我又一次觉得这甚至不应被认为是一个应用程式。我认为这从根本上来说是一种关系。我和我的团队现在从事的是个性化工程。我们正在建立一种持久、有意义、值得信赖的关系。在我看来，这就是新的平台。因为它不仅仅是关于语音和文本或语言。你知道，它真的会关乎视觉。你的伴侣将实时看到你在浏览器和桌面上看到的一切。理解文本和所有影像。并能够像我现在和你谈话一样流畅地和你谈论它。
因此，过早地试图将其设计成一个应用程式和商业模式，几乎会忽略它作为一种始终存在、完全感知、具有永久记忆的伴侣是多么重要。你知道，这种伴侣需要与你的兴趣高度一致。这将是一种非常私密的体验。就像你曾经在晚上坐在沙发上与你的伴侣或最好的朋友一起搜索一样。你们都在搜索，我不知道，计划假期或查找你们将要观看什么，将要观看什么电影。你意识到他们正在看到你所看到的某种版本，但略有不同。你们都在实时讨论它。就像那种存在感，我甚至不知道该如何形容它。
你知道，我不会说这是一件坏事。但这对于隐喻来说是一种挑战。我认为这更多的是与你腦海中的一种想法建立持久的关系，而不是某种应用程式或平台。我认为这就是我一直在推动我的创意团队努力解决的问题，就像我们必须沉浸在这些能力中，然后再让体验和商业模式逐渐显现出来一样。
应该在多大程度上考虑模型
主持人： 太好了。你知道，今天，有很多关于大型语言模型的讨论，对吧？无论你从哪个维度考虑，在过去四五年里，大型语言模型都出现了爆炸式增长，对吧？微软正在构建许多自己的模型。微软正在与 OpenAI 合作开发大型语言模型。特别是当你在与一群企业家交谈时，他们正在考虑，嘿，他们如何将他们的想法付诸现实。
你认为人们应该在多大程度上考虑或担心控制模型层，而不是担心这个问题，而是说，嘿，让我向上移动堆栈，考虑一下体验和我们所说的应用程式，但实际上并不是他们将要交付的服务或他们将要交付的能力。你认为人们应该在多大程度上考虑模型，而不是向上移动堆栈？
穆斯塔法·苏莱曼： 是的，我的意思是，我认为预训练模型很可能会商品化。我认为所有的技巧都在微调上。我认为很多人还没有完全弄清楚微调的日常技巧。你知道，很多知识都是公开的。但我认为这里还有很多东西需要学习，因为大多数情况下，不幸的是，这不仅仅是一个技术问题，它是一个运营问题。因此，挑战在于如何建立你的反馈循环。你拥有值得信赖的、训练有素的、可靠的人员，他们可以为你的模型和建模团队提供方向性输入。我认为大多数人，我认为，有点过于迅速地使用模型本身来作为 RLHF 的评判标准。我认为这可能有点为时过早。如果你真的想像我们在 Inflection 的 Pi 中那样打造高质量的体验，那么你必须将所有产品设计知识和专业知识融入你的 AI 教师中，并快速关闭这个循环，让他们与你的机器学习工程师并肩工作。所以我认为这个基本范式在一段时间内将会保持不变。
我认为这就是所有价值将被创造的地方。当有人在某个特定领網域或应用领網域真正取得优异成绩时，这将是因为他们能够做到这一点。他们真的掌握了微调循环。他们让他们的数据飞轮运转起来。然后他们创造了一些对某些客户具有巨大价值的东西。然后很显然有人为此付费，他们拥有先发优势等等。所以我认为这不会发生在预训练阶段。我认为这是好消息，因为它将是开源的，因为我认为 Meta 将继续开源。所以我认为这对社区来说非常好。我们没有开源前沿技术，但我们正在开源 MLM 和 SLM。也就是中型语言模型和小型语言模型。
主持人： 你是否看到一个世界，在这个世界里，大型语言模型 (LLM)、中型语言模型 (MLM)、小型语言模型 (SLM) 以及与所有这些不同模型的不同互動模型都能用于不同的用例，或者你认为只有一个会胜出？还是其他的？
穆斯塔法·苏莱曼： 我不认为会出现一个"统治所有"的模型。我的意思是，正如我所说，我认为一个对智能有益的定义，也是你应该记住的定义，就是关于注意力和在正确的时间使用正确工具的定义。所以即使在我们今天的模型中，我们在幕后也部署了大量不同的模型。而真正关键的部分是你的路由器，它负责判断这是一个非常复杂和罕见的查询，是否需要路由到X模型，或者它实际上是一个非常快速的查询，是否需要路由到Y模型？是安全问题？是信息检索？还是个性化？显然，会有一些专门的模型，比如医疗保健、法律、金融等领網域。但是，最终将会有代表每个品牌、每个企业、每个影响者的AI。会有AI优先的明星名人。我的朋友尤瓦尔·诺亚·哈拉里说，技术世界中下一个伟大的机器将是AI。
我认为他说得有点道理。我认为这有点可怕，但我认为这可能是真的。这些AI将会非常强大且有说服力。因此，我认为另一个需要考虑的问题是，你的AI在给你答案之前，会在幕后调用多个模型，它还会以闪电般的速度实时查询大量其他不在你生态系统中的AI。它们会立即从第三方AI获取信息，只需几秒钟。从商业模式的角度来看，这非常有趣，因为它意味着使用旧式的封闭式花园方法来锁定价值将非常困难。因为新的API就是语言。语言可以通过电话、电子邮件、向量空间等方式传输。几乎所有方式，几乎实时。
到2030年，每个人都会构建一个AI，就像每个人都建立了一个网站和一个应用程式一样。所以这是一个相当困难的理论问题。就像你如何才能长时间地获取价值？因为它将竞争非常激烈，这将降低每个人的成本和价格，从某种程度上来说这是个好消息，因为个性化的知识和一切都会对每个人开放。所以我们只需要考虑这种最终的市场动态是什么。我必须考虑这个问题。我必须考虑这个问题。我还没有完全弄清楚，我认为没有人弄清楚。特别是如果你认为——如果你不同意我的2030年预测，那么就把它推迟到2035年。当然，是的。你会有这种——我认为这样就更清楚了。
AI 如何帮助軟體开发
主持人： 我记得，这大概是八年前的事了。你去和福特这样的公司谈谈。当时的福特汽车公司会告诉你，嘿，我们认为全自动驾驶汽车。我们看到了一条路线图，到2032年我们可以实现。然后埃隆出现了，他说，你在说什么？在未来三到五年内，我就能做到。我希望我们不必等到2032年，但埃隆的时间表已经过去了，我们还没有全自动驾驶汽车。所以对我来说，无论是2030年还是2035年，我认为我们可以讨论，但更有趣的是，我认为创新正在以非常非常快的速度发生，我认为这才是最令人兴奋的。谁知道呢，时间会证明一切。
穆斯塔法·苏莱曼： 疯狂的是，市场动态正在将生产成本降低到接近零边际成本。这太疯狂了，这真是令人难以置信的事情。考虑到这不仅仅是任何原材料，这不仅仅是知识，而是智能，对吧？所以智能将变得廉价且丰富，对吧？而智能是当今世界创造所有价值的东西，对吧？我们周围的一切，每一栋建筑，每一种材料，你所能看到的一切，都是我们物种综合信息、做出这些巧妙预测、发明工具并利用这些工具创造更多事物能力的产物。
因此，你不必纠结于AGI超级智能的概念，只需要应对预测引擎将变得超级廉价且广泛可用这一概念带来的深远影响即可。我认为每个人都有所收获。我认为每个人都有所收获。我认为每个人都有所收获。
主持人： 你知道，也许是因为我的背景，或者其他什么原因，我真的很想考虑，比如，嘿，AI 如何帮助軟體开发？好的？我认为世界正在看到很多巨大的进步，从GitHub Copilot开始，以及其他发生的事情。随着我们前进，你对AI如何帮助軟體开发有什么看法？特别是当你考虑到，嘿，如果一个AI系统可以创建另一个AI系统，并且这一切都可以自动完成或接近自动完成，你认为这会成倍地提高创新的速度吗？
穆斯塔法·苏莱曼： 是的，我的意思是，我们已经看到了这一点。GitHub Copilot 确实非常了不起。它节省了多少时间，这真是令人惊叹。我认为这显然会继续下去，因为我们将找到越来越高效的方法来生产相同的軟體。而且，你知道，一些全新的生成式体验非常令人难以置信。所以，它是否会导致智能爆炸或递归自我改进的问题，我认为还为时尚早。我今天没有看到这一点。但我认为我们必须注意在几年后给予这些系统什么样的激励。
有些能力你可以掌控，并说，好吧，这是一组高风险的能力。自主性显然是一组高风险的能力。如果真的要进行有意义的干预，就必须定义这一点，并真正限制其范围等等。这很难。但是同样，递归自我改进，这显然会在五到十年后提高风险级别，并且可能需要监管机构以合理的方式来审视这种能力。这些问题的挑战将是定义它们，并且不会像大规模地减缓创新一样，因为我认为这很可能，他们可能会过度监管，这可能是不好的。这可能是不好的。
AGI使用时的安全风险及防控措施
主持人： Mustafa，你几次提到了AGI，而我自身对AGI的经验是，当我与人们谈论AGI时，你可以将世界大致分为两部分，对吧？一部分人会说，哦，我的上帝，我太兴奋了，而另一部分人会说，哦，我的上帝，那是世界末日，对吧？我怎么能想象AGI出现呢？这意味着可能会发生坏事，你可以回顾《终结者》，以及你在电影中看到的内容。
但总的来说，你如何看待安全问题？是的，你刚才提到，在未来五到十年内，随着自动驾驶真正实现，你宁愿考虑，因为一方面，这是一个高回报的局面，但这也是一个高风险的局面，对吧？因此，当你考虑你对每个地球人都将拥有AI助手的愿景时，有哪些陷阱，有哪些事情是你正在考虑的，以及扩展到所有从事AI工作的人，他们应该考虑哪些防护措施、安全措施或其他与之相关的事情？
穆斯塔法·苏莱曼： 是的，我的意思是，每项新技术都会带来前所未有的风险，当时感觉这些风险与你以前见过的任何事情都截然不同。在我的书里，我找到了1830年代利物浦首趟载客铁路旅程的故事。火车和铁轨对于迎接这列新火车到来的庆祝人群来说是如此陌生，其中包括1830年的首相和利物浦的地方议员，他们竟然站在铁轨上迎接火车的到来。结果导致庆祝活动中有大约15人丧生，其中包括利物浦的议员。因为他们无法完全理解这列火车会直接冲向他们。
你知道，而我们与他们同属一个物种，只是过去了170年而已。我认为，这是一种需要深刻理解的事情：面对新事物，如今我们世界各地都有火车，它们带来了不可思议的变化，而且它们也成为了我们遇到的最安全的事物之一，对吧？它们感觉平淡无奇，司空见惯。
所以，第一次发生这样的事情时，你会感到害怕；第二次，你会想，好吧，我们该如何应对它？到第三次时，我们已经制定了各种治理机制。例如，想想汽车，它受到数十个不同机构的监管，从安全带到驾驶员排放、交通信号灯、驾驶员培训到挡风玻璃抗拉强度，都有多层保护措施。我的意思是，这需要时间，但我们会逐步建立遏制机制。这就是为什么当无人机出现时，我们能够将80多年航空法规积累的经验应用到这项新技术上，现在我们不会有无人机随意自主飞行，侵犯我们的隐私，以奇特的方式递送包裹等等。所有这些都得到了很好的规范，并且影响相对较小。
关键在于，我们必须吸取先前技术浪潮的教训。就我而言，这是Web 2.0和社交媒体时代，因为这与当前情况最为接近，我们可以从中吸取所有问题和错误的教训，并尽快将这些教训应用到我们面临的新事物中。所以，长话短说，我对这项技术持乐观态度，但前提是我们必须认真对待风险的规模，并且真正承担起责任，这并非易事，肯定会有损失。没有不造成任何损害的路径。也许，未来我们必须做出的最艰难的决定实际上是关于我们不做的事情，也就是关于技术的应用。因为我们正在跨越一个临界点，在这个临界点上，一小撮高度集中的突破性进展会非常迅速地影响到数亿人。这种一对多的效应也是前所未有的。这不像我们作为一个物种以前真正应对过的事情。
技术的能力和边界在哪里
主持人：作为一名人工智能技术专家，您是否觉得您和世界其他地方的人们都在花足够的时间思考安全问题？或者说，我们先来构建技术，看看它的能力和边界在哪里，然后再考虑安全问题？您认为我们处于这个范围的哪个位置？
穆斯塔法·苏莱曼：我两种观点都有。一方面，安全问题让我抓狂，因为我觉得我从2010年就开始谈论这个问题了。但另一方面，这也是最需要担心的事情之一。所以，就像所有这些事情一样，它感觉非常重要和紧迫，而且我们也一遍遍地听到同样的事情，你是悲观主义者还是超级乐观主义者？我认为我们彼此的言辞已经让我们感到厌倦，因此我认为，如今如何在实践中解决问题才是最大的挑战，尤其是在社交媒体如此盛行，批评如此之多的情况下。
主持人：我知道，虽然这是一次很棒的谈话，但我了解到我们的时间快到了，但我还是想问您最后一个问题。大部分观众都是创始人、企业家或以某种形式从事人工智能工作的人，对吧？从"我公司只有两个人和一个PowerPoint演示文稿"到规模化运营，等等。如果您想告诉下一代企业家一两件事，您会说什么？
穆斯塔法·苏莱曼：我认为有一点被低估了，那就是：承担更多风险。对许多企业家来说，这可能是一件奇怪的事情，但我经常看到人们不够全力以赴。要知道，你必须全力以赴。我认为，我肯定多次经历过这种情况，有时会非常撞墙。但我真的认为，如果你的整个心态不是"我准备牺牲一切，真正专注于执行"，那么它就会产生一种令人惊叹的彻底负责的态度，这会让你专注于成败。有时我觉得，即使在创业社区中，也存在着太多的舒适感。而且，我认为这是一种强大的力量，可以推动我们的创造力向前发展。所以，全力以赴是一件很棒的事情，真的。我喜欢。
主持人：谢谢。让我们一起感谢他。非常感谢。这真的太棒了。
穆斯塔法·苏莱曼：非常感谢。回头见。
