微软AI CEO苏莱曼：如何打造值得信任的技术是当前AI最大挑战

2024年诺贝尔奖的各个奖项已经全部揭晓，其中，诺贝尔物理学奖与化学奖双双花落AI领域。

​很显然，AI技术及其应用成为今年诺奖最大的亮点。

近期，微软AI新任“掌门人”、CEO穆斯塔法·苏莱曼（Mustafa Suleyman）接受Wired对话，聊聊AI发展、伦理问题以及未来的技术前景。

苏莱曼认为，人与AI 信任体验的构建是当前最大挑战。

“我一直相信AI具备提供支持的潜力。情感支持实际上是我19岁时参与的第一个项目，那时我启动了一项电话咨询服务。这正是这个技术时代的美妙之处——与一个真正了解你的AI伙伴互动。它会指导你、鼓励你、支持你、教导你。我认为这将不再让人感觉像是在跟一台计算机互动。”苏莱曼表示。

谈及AI技术带来的生产力，苏莱曼指出，第一阶段是AI处理与用户相同的信息——看到用户所见、听到用户所听、阅读用户阅读的文本；第二阶段是AI具备长期、持续的记忆，随着时间的推移建立起共同理解；第三阶段是AI通过发送指令和采取行动与第三方互动——比如购买东西、预订东西、规划日程。我们正在研发实验模式中的这两个功能。

微软全球资深副总裁、微软 AI 亚太区总裁张祺博士认为，诺奖对AI相关成果及科学家的高度认可。不但有力地推动了AI技术的进一步发展和跨学科研究的深化，也预示着AI将以更快的速度推动人类社会的经济增长和高质量发展。AI的发展速度惊人，这在人类历史上尚属首次——机器学会了运用我们的语言。苏莱曼先生对如何最大限度利用技术满足用户需求给出了一个清晰的路线图。他探讨了人工智能的发展、伦理问题以及未来的技术前景。这正是本次苏莱曼先生交流带来的启示。

苏莱曼曾强调，AI是自地球生命诞生以来最新的创造浪潮，而且我们正处于有史以来速度最快、影响最深远的浪潮之中。“为了驾驭这股浪潮，将人类的能动性置于其中心，并减轻可能产生的不可避免的意外后果，我们应该开始将它们视为一种新形态的数字物种。”

以下是穆斯塔法·苏莱曼与WIRED的资深作者Will Knight近期的深度访谈：

苏莱曼: 我们正处于一个惊人的转型点。AI伙伴现在能够看到我们所见，听到我们所听，并使用我们沟通的同一种语言。这种新的设计理念关注的是持久性、关系和情感。我们正在打造一种体验，是关于与伙伴进行持久、持续互动。

苏莱曼: 我一直相信AI具备提供支持的潜力。情感支持实际上是我19岁时参与的第一个项目，那时我启动了一项电话咨询服务。这正是这个技术时代的美妙之处——与一个真正了解你的AI伙伴互动。它会指导你、鼓励你、支持你、教导你。我认为这将不再让人感觉像是在跟一台计算机互动。

苏莱曼: Copilot Vision让你能够说“那边的东西是什么（在你的屏幕上）？”或“等一下，那是什么？你觉得那个怎么样？”在你坐在电脑前时，会有很多这样的小瞬间。这个AI伙伴可以看到你所见，并实时与你讨论你正在看的内容，这是非常了不起的。它在某种程度上改变了你在数字生活中的体验，因为你不必再费力键入内容。

苏莱曼: 保护用户的隐私是至关重要的。目前我们不会用Copilot Vision保存任何内容，因此一旦会话结束后关闭浏览器，所有内容都会消失，完全删除。但我在思考是否以及如何在未来引入这一功能，因为很多人确实希望有这样的体验。如果你可以说，“我前几天在网上看到的那张图片是什么？那个表情包是什么？”我想我们总有一天得研究这个问题。不过目前，Copilot Vision工具是这样的。我们需要随着时间进行实验，看看如何在这方面做更有意义的事情。

苏莱曼: 是的，类似于Strawberry。我们对OpenAI的模型进行了调整，为了更符合消费者的需求，我们让它以一种更符合AI伙伴主题的方式运行。

穆斯塔法·苏莱曼: OpenAI的模型更专注于纯数学和科学问题的解决。我们试图让它专注于并列比较和消费者分析等内容。当你在解决一个难题时卡住了，想要推理时，它可以真正列出一个并列比较，或者进行大规模分析。

苏莱曼: 是的，大家都在使用。我们几天前刚在公司内部全面上线。所以每个人都在使用，并且提供大量反馈。我们的反馈渠道非常繁忙，这很有趣。

苏莱曼: 我前几天见到了比尔·盖茨，他说，你知道吗，你给整个AI的命名搞错了？应该叫Clippy。这确实显示了盖茨这样的人的前瞻性。他们不仅能预见未来两年，还能预见未来二十年。

苏莱曼: 是的，绝对是。

第一阶段是AI处理与用户相同的信息——看到用户所见、听到用户所听、阅读用户阅读的文本。第二阶段是AI具备长期、持续的记忆，随着时间的推移建立起共同理解。第三阶段是AI通过发送指令和采取行动与第三方互动——比如购买东西、预订东西、规划日程。我们正在研发实验模式中的这两个功能。

苏莱曼: 还有一段路要走，但没错，我们已经完成了闭环，实现了交易。这项技术的问题是，你可以让它在50%、60%的情况下运行，但要达到90%的可靠性还需要付出很多努力。我已经看到了一些令人惊艳的演示，它可以独立完成购买等操作。但我也见过一些出状况的时候，技术不知所措，无法正确应对。

苏莱曼: 如果它用的是盖茨的信用卡，那就好笑了。但不，如我所说我们还在一步步摸索。这项技术仍然处于实验室阶段。还有很长的路要走，但我想进展可以按季度来计算，而不是按年。

苏莱曼: 这里的关键在于如何打造一种值得信任的技术，因为这将是一种非常亲密和个人化的体验。我们必须做好安全和隐私的部分。我认为真正的挑战在于如何设计对话，使AI伙伴能够明确地表达边界，能够说出“这是我不准备参与的事情”。

如果我们能做到这一点，那就是建立信任体验的基础。然后我们就可以进一步推动更复杂的方面，例如让它代表你购买东西、代表你谈判、代表你签订合同，或者为你规划一个周六下午涉及三四个不同站点的行程。你会说：“我相信你，Copilot，你能搞定，对吗？”这正是我们努力的方向。

（本文首发于钛媒体App，作者｜林志佳，编辑｜胡润峰）