Microsoft Research 的 Jennifer Neville 谈 AI 会犯哪些错，以及失败能教会我们什么

Jennifer Neville 是 Microsoft 的合伙人研究经理，她的职业生涯始终致力于理解和推进 AI 在现实世界中的应用。正如她一直研究的人类与 AI 之间的交互一样，她早期的职业道路也经历了多轮转折：先是数学，再是物理；然后是认知科学，接着参加工作；最后转向了计算机科学——尽管她曾竭力避开这个领域。

在与首席应用科学家 Chad Atalla 的这次对话中，她探讨了评估在突破当今 AI 系统性能边界、满足用户需求方面的作用，以及在传统基准测试之外测试模型时出现的那些“令人意外的失败”。Neville 还分享了使用当前 AI 系统的实用建议，讨论了为何在结果出乎预期时仔细审视数据至关重要，以及数十年的 AI 进步让她对预测未来发展有了怎样的认识。

从出人意料的职业轨迹，到 AI 交互与学习的前沿，本期节目提出了一个更宏大的问题：当发展路径——无论是人类的还是人工智能的——没有按照我们的预期展开时，我们能从中学到什么？ 

订阅 Microsoft Research 播客：

文字实录

[音乐]

JENNIFER NEVILLE： 有时候，我觉得自己在原地打转。事情毫无进展。我会有点沮丧。然后，我们终于到了确实学到一些东西的那一刻，那种、那种情绪上的激动，才是真正让我着迷的地方。就是能够去理解一些还没有其他人理解的东西……

CHAD ATALLA： 没错……

NEVILLE： ……因为那正处在我们对事物认知的最前沿。

标准开场白： 这里是 Microsoft Research 播客。Microsoft 的研究人员通过基础科学和技术研究推动进步，在这里探讨计算与 AI 领域的人物、方法和未来发展。

[音乐结束]

CHAD ATALLA： 大家好，欢迎收听。我是 Chad Atalla，Microsoft Research 的应用科学家。

今天，我们邀请到了 Jennifer Neville，她是 Microsoft Research 的合伙人研究经理，也是普渡大学计算机科学与统计学 Samuel D. Conte 讲席教授。

她的研究聚焦于面向交互式领域和结构化数据的机器学习与 AI，探究用于训练 AI 系统的数据点如何影响系统行为，以及这些行为与用户实际需求的契合程度。

在这些研究中，她发表了超过 130 篇论文，被引用超过 10,000 次，并获得了美国国家科学基金会 CAREER 奖等荣誉，入选 IEEE 的 AI 领域“10 位值得关注的人物”榜单（在新标签页中打开），还获得了国际数据挖掘会议（在新标签页中打开）和国际学习表征会议的最佳论文奖。

Jen 的工作最让我惊叹的是她的远见，以及她在 AI 领域不断发展的过程中始终保持一条清晰主线的能力。我很期待进一步了解她是如何走到今天的。

Jen，谢谢你来参加访谈。

JENNIFER NEVILLE：谢谢你的邀请。

ATALLA：太好了。我很想了解你是如何走到今天的。让我们把时间往前拨很久。我小时候想成为一名天体物理学家，但你看，我最后却有了计算机科学背景。你是什么时候确定自己想进入计算机科学领域的？

NEVILLE：这是个好问题。我……在成长过程中，我什么都想做，就是不想做计算机科学，因为我爸爸就是干这个的，而我什么都想做，就是不想做和他一样的工作。所以，上大学时，我先是主修数学，后来又转到物理，但我实在对这些专业找不到感觉。

于是我中途离开了大学一段时间，后来再回去时，我改为主修认知科学，但这个专业对我来说也太不够严谨了，数学内容不够多。那时候，要是有人告诉我：“你应该做 AI，因为它把认知科学与数学和计算思维结合在一起”，我想我本可以省下很多时间，[笑声] 但并没有人这么说。

于是我工作了一段时间。后来再回学校时，我决定主修计算机科学，因为我想做的是思考如何使用和处理数据。也就是那时，我发现了 AI。纯属偶然。我当时甚至都没真正意识到它是计算机科学的一部分。

ATALLA：太好了。进入计算机科学领域，想做数据或 AI 方面的工作是一回事，想参与这方面的研究又是另一回事。那么，是什么样的问题或宏大想法激发了你的研究动力？

NEVILLE：是的，这其实也是个有趣的故事。我之所以开始做研究，只是因为我参加了计算机科学学位的荣誉项目，而这个项目要求你必须完成一个研究课题 [笑声]。

ATALLA：是强制要求，对。

NEVILLE：是强制要求。所以，当我和教授们讨论该做什么研究课题时，他们居然说：“嗯，你得自己决定想研究什么主题。”

那时候，我对数据和 AI 都很感兴趣，也想了很多。我读了大量资料。最后，我决定研究如何对相互关联的网络数据进行数据挖掘，所以……当我确定这就是我想研究的问题后，有人把我引荐给了一位教师……

ATALLA：不错。

NEVILLE：……他当时刚开始研究一个叫作统计关系学习的新兴领域。我们就在这个领域完成了我的课题，我在一个研讨会上发表了一篇论文，然后就有点迷上研究了。

ATALLA：好的，是的。

NEVILLE：所以，我原本没打算继续读研究生，但那段经历……

ATALLA：是的。

NEVILLE：……让我想继续读研究生，继续做研究。

ATALLA: 不错。你觉得其中哪一部分吸引了你？是做研究时的那种兴奋感吗？还是会议的氛围，以及学术发表的方式？

NEVILLE: 真正吸引我的是做研究的兴奋感和过程。那是一个历时很长的项目。有些时候，我觉得自己在原地打转。事情进展不顺，我会有些沮丧。但我的导师总是给予支持，态度积极，会说：“不，继续做下去。我们正在学到东西。”然后，等到我们确实有所收获时，那种情绪上的兴奋感，才是真正吸引我的地方。能够理解一些还没有其他人理解的东西……

ATALLA: 当然。

NEVILLE: ……因为它就在我们认知的最前沿，呃，那种感觉简直就像毒品一样，对吧？[笑声] 所以，让我这么长时间一直做研究的，就是那种同样的、同样的……对那种感觉的不断追寻。

ATALLA: 明白了。嗯，真棒。是的，你在 2021 年从学术界加入了 Microsoft。事实上，你现在仍然是一名教授，而且从事教学和指导工作已经有 20 年了。是什么促使你转变方向，把职业生涯的一部分投入到产业界的研究中？你会如何描述产业界研究与学术界研究之间的区别？

NEVILLE: 我的研究大致涵盖了从理论到应用的整个范围。在获得终身教职后，我第一次休学术假时，很多和我……处于相同职业阶段的同事都去了产业界的实验室休学术假，之后就再也没有回到 Purdue。我考虑过自己想往哪个方向走，是更偏理论，还是更偏应用。我觉得，在职业生涯的那个阶段，探索理论这一侧会更好，因为这样我可能还真会回到 Purdue。

所以，我去了 Berkeley 的 Simons Institute 休学术假，那里的研究非常偏理论。这是一次很棒的经历，不过，之后回归学术界也算是无缝衔接。第二次休学术假时，我选择了另一个方向，也就是来到 MSR [Microsoft Research]，在这里休学术假。当然，能够看到理论中的算法如何真正落地，看到它们在实践中、在真实系统中，面对真实用户和真实数据时会有怎样的表现，一旦有了这种体验，就很难再回头了。所以，这就是我现在仍然留在这里的原因。

ATALLA: 明白了。

NEVILLE: 所以，我认为学术界与产业界研究的区别取决于……实际上，很大程度上受你研究目标的影响。因此，我觉得从根本上说，在学术界和产业界会提出的问题，感觉非常相似。但在产业界，你能够在真实系统中，利用真实数据大规模应用研究成果，这一点与学术界确实非常不同。而在学术界，我觉得你最终提出的问题往往更加抽象，能够同时涵盖许多不同领域的应用。这也是你从 DARPA [国防高级研究计划局] 和 NSF [国家科学基金会] 这类机构获得资助的方式。

但在业界，你知道，要真正亲自动手，在实际系统中开展工作，会稍微容易一些。而你的目标，可以说，就是产品和公司的利益。因此，随着……这些因素发生变化，你会提出或研究的问题类型可能也会改变。所以我觉得，能够……其实很好。

ATALLA: 是的。

NEVILLE: ……在这两个领域都工作，对吧？比如，两者之间有很多协同作用，而且我认为有很多机会可以先去业界，再回到学术界，或者从业界起步，再转向学术界。但就目前而言，如果你正在从事 AI 系统方面的工作，我认为业界确实是最适合的地方。

ATALLA: 明白了。是的。对于眼下正在决定职业生涯该往哪个方向走的人来说，这或许是个有用的建议。

我在 Microsoft 工作了六年多，其中大部分时间都在从事 AI 评估工作。当然，这个领域存在不少令人望而生畏的根本性问题和挑战。

我最初接触并了解到你的研究，是因为你的部分工作针对其中一些问题提出了解决方案，也帮助揭示了这些问题。我当时的第一反应是松了一口气：有你这样出色的人在研究这些事情，你会帮我们解决这些问题。我也非常欣赏你在批判 AI 评估的同时，也不断提供解决方案，在两者之间取得了平衡。

但我知道，这只是你更广泛的研究议程中的一小部分。那么，你会如何描述你在这里领导的团队目前的研究任务？

NEVILLE: 我们的团队叫作 AI 交互与学习团队。我们真正关注的是，努力拓展这些 AI 系统在真实工作环境中的行为能力边界。具体而言，就是研究当前系统的性能边界在哪里，用户在实际工作流程中对此有怎样的体验，以及我们该如何改进，提升模型处理用户正在开展的这类任务——复杂任务——的性能。

我们之所以关注评估，是因为我们发现，机器学习和 AI 领域的研究人员通常通过基准测试来进行评估，而相较于人们在实践中实际使用这些系统的方式，这些基准测试相当简单。因此，我们发现，真正需要做的第一件事是问：我们希望从这些系统中得到什么？然后设计贴近实际的评估，将系统置于这类环境中。这意味着要涵盖多轮交互行为、协作环境，以及用户正在执行的长时程任务等。

而一旦我们能看清这些评估中出现的性能差距或问题在哪里，也就能知道，从理论或算法层面来说，我们需要在哪些方面改进这些系统。

所以，我们从评估入手，但最终，我们想做的是开发更好的算法、模型、估计方法……

ATALLA: 当然。

NEVILLE: ……以提升模型的性能。

ATALLA: 是的，这是加深理解的切入点，有了理解，才能拓展边界，改进这些系统。

NEVILLE: 是的。

ATALLA: 你刚才提到了多轮交互和协作环境。你最近有几篇论文专门研究这些问题，比如大语言模型如何在多轮对话中迷失方向，或是它们如何在这类智能体知识工作场景中破坏文档。你能具体介绍一下这些研究项目吗？

NEVILLE: 当然。我们……这些都是这样的例子：我们需要在如何设计评估方面提出一些创新思路，才能真正控制并测试模型在这些场景中的行为。

对于多轮对话，我们的做法是采用单轮基准测试——也许我应该先退一步，讲讲我们在实际使用中观察到的一个现象：用户往往没有充分说明自己想做什么。他们一开始并不知道如何完整地描述需求。作为计算机科学家和软件工程师，我们有时会忘记这一点，但普通用户可能无法在第一轮就把事情说清楚。因此，他们会在多轮交互中逐渐弄清自己要做什么，并在各轮对话中不断补充条件和澄清说明。

所以，我们采用了公开的单轮基准测试数据集，将其中在单轮内完整描述需求的复杂指令进行改写，让模型模拟用户，在多轮对话中逐步提供澄清说明，然后研究模型——也就是我们目前拥有的所有模型——在任务通过多轮对话逐步明确的情况下会如何表现。

我们发现，模型在单轮场景中的表现——当然，表现非常好，因为我们这些模型开发者一直在针对这种场景进行优化——到了多轮对话中实际上会显著下降。这是一个相当令人意外的发现，因为此前没有人以那种……

ATALLA: 是的。

NEVILLE: ……以那种方式进行过评估。但当我们公布这项研究时，这些系统的用户都产生了共鸣，……

ATALLA: 当然……是的。

NEVILLE: ……“这就是我的亲身经历。我知道确实有这种情况。我们该怎么、怎么解决这个问题？”而其中一个……所以，我们正在研究强化学习方法，帮助模型在这些环境中更好地学习，从而纠正这种行为。

不过，我们在论文中提到了一个实用的解决办法：如果你在多轮对话中逐步说明需求，结果让模型有些混乱，那就直接停止对话，清空所有内容，重新开始，然后根据你现在掌握的信息，在单轮输入中完整地说明需求，……

ATALLA: 我明白了，是的。

NEVILLE: ……这样，它在这种交互中的表现就会更好。

所以，这或许说明，虽然我们从根本上是在寻求对模型进行算法层面的改进，但有时在这些项目中，我们最终也会发现，用户可以如何改变自己的行为……

ATALLA: 当然。是的。

NEVILLE: ……从模型那里获得更好的结果，就以它们目前……

ATALLA: 是的……

NEVILLE: ……的性能水平而言。

ATALLA: 是的。我们注意到，你的研究主题之一是如何改进这些系统，使其更好地契合用户真正想要的东西。你在这里提到了一种情况：“我们知道，在现实中，用户往往不会在第一轮就完整说明自己的需求，而且我们确实会进行很长的多轮交互。”而在你发表这篇论文之后，他们对在多轮对话中迷失方向的这种挫败感表达了共鸣。

你如何看待理解用户的愿望、需求和体验这件事？这又与你所做的工作有什么联系，比如你刚才说的，通过模拟用户来开展这些更长的多轮评估？

NEVILLE: 是的，这……能够大规模了解用户想做什么，以及他们在使用系统时遇到了哪些失败和成功，我认为这是在业界实验室工作、能够接触到这种大规模数据的优势之一。

因此，我们与 Microsoft 内部的产品团队开展了大量合作，大规模分析消费者使用日志，以确定用户遇到的主要失败模式。这也就是……为我们所做的许多工作提供洞见或动力的来源。还有许多优秀的产品团队也在分析用户取得的成功，这样一来，你甚至可以向用户推荐如何……哪些类型的任务是他们能够在我们现有的系统中成功完成的。

我想，如果你回想一下搜索引擎刚出现的时候，人们必须学习如何与搜索引擎交互……

ATALLA: 没错。

NEVILLE: ……才能有效地获取他们要找的信息。如今，我们可能已经忘记了这个过程，因为在所有这些 AI 系统出现之前，这早已成为每个人日常行为的一部分。但现在，我认为人们正在从搜索引擎转向这些基于聊天的系统，而用户也需要学习一些东西，……

ATALLA: 对，是的。

NEVILLE: ……来适应这个新环境。我认为，分析用户所做的事情中哪些取得了成功，是开始向他们提出建议的一个好办法……

ATALLA: 是的。

NEVILLE: ……也可以用同样的方式辅导或教导用户。

ATALLA: 我很欣赏你指出了研究真实数据的价值，但这实际上意味着什么？你们真的会查看真实数据吗？在这里如何保护隐私？你们有哪些流程，能够负责任地利用真实场景中的数据？

NEVILLE: 哦，是的，这是个很好的问题。谢谢你提出来。我们实际上并不查看这些数据。我们以保护隐私的方式大规模分析数据，提取失败或成功的模式。此外还有很多限制，我们实际上不能直接用眼睛查看数据。我们只能将处理方法部署到受到严格限制的环境中来处理数据。然后，嗯，这些经过隐私保护的、更高层次的洞见，才会成为我们之后开展算法工作的依据。

所以，明确地说，我们不会用你的数据或回复进行微调，但你在回复中提供的细节越多，无论是通过捐赠的信息、点踩时给出的说明，还是在与模型的聊天互动中提供的细节，这些信息最终都可以被提炼成有助于改进模型的内容，而不需要有人实际查看你做过什么。

ATALLA: 你提到了这种转变：从搜索作为主导交互方式，转向这些多轮聊天互动。但现在我们也看到，智能体任务以及协作式知识工作任务正变得更加重要，你也提到自己在这方面做过一些工作。还有什么有趣的发现想与我们的听众分享吗？

NEVILLE: 有的。我们既有一些理论研究，试图刻画哪些类型的任务对 transformer 来说，从根本上就难以在模型内部完成计算；也有更多基于模拟的研究，考察在长流程工作流中执行的复杂任务，例如，拿一些文档，对这些文档反复进行编辑。

在这些环境中，对模型乃至智能体而言，任务的复杂性在于，不仅要跟踪用户在这项长流程工作活动中想做什么，还要理解当前状态是什么、哪些信息相关、哪些不相关，以及情况发生了怎样的变化。智能体在这些方面已经开始表现得相当不错，但某些类型的任务比其他任务更容易。

ATALLA: 当然。

NEVILLE: 因此，我们研究的一个问题是，哪些类型的任务，其复杂性会超出当前智能体的应对能力，以及如何解决这个问题。智能体使用工具的最佳方式是什么？让人类参与其中会不会更好？我们怎样才能知道事情出了岔子？所以，让……甚至让智能体在一定程度上监控自身，评估自己是否正确回答了某个问题，或者是否应该回退到先前的状态。我认为，这些目前都是尚未解决的问题。

但我们有……我们确实有一些研究表明，随着我们在这些工作流中推进得越来越深入，同样会出现令人意外的失败，因为错误如果没有被发现，就可能不断累积……

ATALLA: 是的。

NEVILLE: ……而且，当 AI 必须在反复互动中执行任务时，这些错误会开始让它更加困惑。

ATALLA: 是的，“令人意外的失败”这个说法让我很感兴趣。它意味着一种预期：“嘿，它本应该表现得更好，我很惊讶它竟然会以这种特定的方式失败。”你觉得自己看到的这类意外错误更多，还是说很多错误其实都在预料之中，也就是你能理解它会以这样或那样的方式失败？

NEVILLE: 是的，我觉得确实存在预料之中的失败，因为那些……嗯，当然，随着我们努力让系统变得越来越好，预料之中的失败也越来越少了。

ATALLA: 没错。如果我们能预料到，就能修复它们。

NEVILLE: 没错。但像幻觉这样的失败类型，研究界很早就已经对其特征进行了描述，也有专门的基准测试和方法来尝试减少这类问题。

我想，我的团队最终会去寻找那些几乎令人意外的失败，因为它们不是传统的失败类型，而且往往很难单独识别出来并证明它们确实发生了，因为它们非常微妙，并不会简单地表现为一道数学题的错误答案，或是一份法律意见书中凭空捏造的案例，而是文档中语义内容的某种微妙流失。回顾我们团队研究过的内容，我觉得我们有一种假设：作为人类，我们认为自己难以完成的事情，模型也会觉得难。但实际上，情况往往并非如此，因为我们必须考虑，对 Transformer 来说，哪些内容实际上难以计算，它们的检索系统又难以检索到哪些内容……

ATALLA: 对。

NEVILLE: ……从底层内容中。

所以我认为，这种“意外”来自这样一些事情：我们人类可能觉得做起来非常简单，或者我们认为，如果之前某项任务完成得正确，那么现在再做同样的任务，理应也能可靠地完成。但实际上，对大语言模型来说，情况未必如此。所以我觉得，这种意外在某种程度上源于我们自己基于人类智能，对什么难、什么容易所抱有的预期。

ATALLA: 是的。那么，一方面，用户可能基于对人类智能的思考，对这些系统应该擅长什么抱有预期，由此产生困惑；另一方面，外界又充斥着各种炒作和营销。在这种情况下，你希望实际用户从这项研究中得到什么启示？或者说，结合你们的这项工作，你会如何提醒他们看待 AI 系统的能力，以及自己对这些系统可能抱有的预期？他们怎样才能拨开这些噪声，建立更合理的预期？

NEVILLE: 哦，这是个好问题。我认为，当前的 AI 系统具备许多能力，现在就能在工作环境中为人们带来很大帮助。我觉得，我们这项工作的启示是，你不应该指望它们在所有方面都能 100% 成功。你应该核查得到的答案。如果你得到的内容在你看来不正确，也不应该就此认定模型完全做不了这件事。你应该考虑再问一次，或者换一种方式提问，下次可能就会得到更好的答案。

这很难融入我们目前的工作方式，因为我觉得，你不能……它们还没有准备好让我们把事情 100% 委托给它们。但如果你能找到办法，让它们在有你参与、监督和验证的工作流程中发挥作用，我认为它们就能非常有效地帮助你做事，提高生产力，加快完成工作的速度。

所以……也许还想说一点，就是，请大家多包涵，因为[笑声]我们在发布这些系统的同时，也在实时开发它们。所以，你们的使用实际上有助于我们拓展模型的能力边界，因为这为我们提供了实例，让我们知道哪些事情能做到，哪些做不到。

也许我还想说一点，用户可能并不了解：过去，面对基于搜索的系统或推荐系统，我们作为用户能提供的反馈基本上就是点赞、点踩。但现在，我们所处的环境实际上允许我们提供更精确、更详尽的反馈，这对于后续改进模型可能极有帮助。

所以，如果你正在聊天环境中与模型互动，要知道，如果出了问题，说明具体是怎么出问题的，其实很有帮助，可以……在文字或语音互动中，真正讲清楚究竟哪里出了错、你原本期望什么，以及实际得到的又是什么。因为我们更新模型时，确实会用到这些信息。所以，作为用户，你可以这样看待自己的作用：训练模型去做那些你原本希望它能做、但它目前还做不到的事情。

ATALLA：太棒了。这是个很有意思的行动倡议。

我很好奇。你谈到了这类大型语言系统目前采用的 Transformer 范式。你认为大型 AI 系统的科学研究接下来会走向何方？从宏观上讲，这也许是个很难回答的问题，但至少就你的兴趣和研究方向而言，你认为这些系统的科学研究下一步会朝什么方向发展？

NEVILLE：这，这确实是个大问题。[笑声]我想，我们……研究界也在同时努力弄清楚，Transformer 架构是否是合适的底层模型，因为 Transformer 的计算方式存在一些已知的局限。其中很多局限可以通过模型外围的封装层——也就是我们目前围绕模型搭建的智能体运行框架——以及后端进行的推理来解决。

所以，我认为一个尚待解答的问题是：依靠模型外围的这类封装基础设施，我们能在多大程度上应对 Transformer 架构的局限，而哪些问题需要通过一种根本不同的……

ATALLA：当然。

NEVILLE：……底层架构来解决？我认为，我们将会看到替代架构和模型的快速发展，也会看到围绕现有模型构建的复杂封装层迅速发展。

我认为，在下一代研究工作中，我们将需要关注与模型的更长期互动，并让模型以比现在更具体、更切实的方式理解它们所处的世界。不过，我对正在开展的研究非常乐观。我想，我们会在这方面取得成功。

也许可以回到我刚起步的时候，我的第一份实习是在2000年，地点是 AT&T Labs。我非常清楚地记得，实习期间午餐时坐在那里下围棋，一边讨论怎样才能让 AI 模型学会下这种棋、为什么它比国际象棋更难，以及我们能做些什么。

而且，而且那时我正在学下围棋。我是在 9-by-9 的棋盘上学的。我不知道你有没有学过下围棋，……

ATALLA: 我没学过。

NEVILLE: ……但学的时候不会一上来就用大棋盘……

ATALLA: 哇。

NEVILLE: ……因为那实在是，就算对人类来说也太难了，对吧。所以你会从这个 9-by-9 的棋盘开始。

我一边观察自己是怎么学下棋的，一边思考算法会怎么学下棋。在这个过程中，我们也在猜测，AI 究竟还需要多久才能做到这件事。现在回头看就觉得很有意思，因为当时在 AT&T Labs，聚集了许多机器学习和 AI 研究领域的杰出人物。有人说：“哦，要做到这一点还得花 50 年。”也有人说要 100 年。当然，如今这已经是一个解决了的问题（在新标签页中打开）。

ATALLA: 是的。

NEVILLE: 所以，展望未来，作为研究者，我可能会对某些事情作出这样的判断，因为我们很难超越眼下所看到的这些行为边界，所以往往会觉得：“哦，这得花 10 年”，或者“这得花 25 年”。

但我认为，考虑到研究的进展速度、在这个领域开展研究的人数，以及这些模型运行的规模，事情实际发生的速度，会比 2000 年那个刚开始学习 AI 的我所预想的快得多。所以……

ATALLA: 哇。那么，顺着这个思路，回望 2000 年，让我们想象一下，从现在向未来跳跃 20 年，或者只跳跃 10 年，毕竟一切发展得这么快。

NEVILLE: [笑] 是的。

ATALLA: 你希望自己在这个领域的研究中留下怎样的印记？

NEVILLE: 我想，贯穿我研究生涯的一条主线，就是思考复杂系统，以及如何让 AI 和机器学习在这些复杂系统中发挥作用。所以，即便是现在，这也是我们研究协作时关注的重点，我们在思考多人、多 AI 之间的交互。我想……如果真的从科幻式成果的角度来考虑，那么，如果在工作环境中，我们开始看到由人类和 AI 共同组成的组织，大家在团队中协作，完成任务并开展创新，我就会认为我们成功了。如果我们能让这一切正常运转，我就会觉得自己的研究是成功的。

ATALLA: 太棒了。在结束之前，我想来一轮快问快答应该会很有趣，也就是快速提问、轻松作答，想到什么就说什么。可以吗？

NEVILLE: 当然。

ATALLA: 太好了。有哪一条建议让你一直铭记在心，或者改变了你的看法？

NEVILLE: 呃，好吧。不过你刚才说要简短回答。[笑]

我刚开始学习计算机科学时，我，呃，其实，Doina Precup（在新标签页中打开）是我第一门计算机科学课的助教。当时我有点不知所措，觉得自己不……其他人什么都懂，而我什么都不懂。她对我说，你知道，不要，不要害怕提问，因为别人可能看起来知道是怎么回事，但实际上，他们也不知道，而且他们其实会非常感激你有勇气提问，因为他们很可能也有同样的疑问。而且，而且，如果你，如果你愿意把问题问出来，对你和他们都有帮助。

所以，在整个职业生涯中，我一直把这番话记在心里。而且这很难，你知道，你可能会害怕，觉得提问会显得自己很傻。但毫无疑问，一路走来，每当我感到这种恐惧，而且……却仍然鼓起勇气提问时，我确实发现大家都非常感激。你知道，人们事后会说：“哦，我也在想同样的问题。真高兴你问了这个问题。”所以，所以要勇敢，把问题问出来。

ATALLA：太棒了。有什么教训是你吃过苦头才学到的？

NEVILLE：看数据。[笑声] 看数据。

在机器学习中，我们往往会这样——这也适用于基准测试。我们有，我们有一个测试集。我们运行模型。我们训练它。我们把它应用到这个测试集上。通常会得到一个数字，也就是我们试图提升的指标。因此，我们觉得，如果这个数字在上升，就说明我们做得不错。如果数字没有变化，我们就会想：“哦，好吧，那就是这个问题太难了。”

但我不止一次吃过苦头才明白，当事情进展不顺时，如果你花时间看看数据，可能真的会发现数据中有错误。数据并不是你预期的那样。数据的分布与你训练模型时所用的数据分布不同。所以，每当……我想，也许这说明我是个重视数据的人。[笑声] 但很多时候，当事情没有像我们预期的那样发展时，我们就会去查看数据，试着弄明白原因。

ATALLA：是的。有道理。这是个很好的教训。也是个很难的教训。

NEVILLE：[笑] 很难记住。

ATALLA：是的。

NEVILLE：而且这……也许重要的一点是，尽管我已经吸取了这个教训，……

ATALLA：当然。

NEVILLE：……在整个职业生涯中，我还是不得不至少半打次地重新吸取这个教训。

ATALLA：是的。那么，反过来说，你最引以为傲的一项成就是什么？

NEVILLE：我想我会说，是我能够在获得终身教职的同时，养育一个蹒跚学步的孩子。

ATALLA：哇，是啊。

NEVILLE：我是在我们开始任职之前刚生下儿子的——我丈夫也是大学教师——也就是在我们开始担任教职之前。所以我想，我能够获得终身教职，儿子健康快乐，而且我还维持住了婚姻 [笑]……

ATALLA：是啊，确实。

NEVILLE：……这大概就是我最大的成就，呃，是的……

ATALLA: 是啊，很了不起的成就。最后一个问题。艺术或自然曾以怎样的一种方式影响你的工作？

NEVILLE: 嗯，我不确定这是否真的算得上自然，但作为一名 AI 研究者，我一直在观察的一件事，就是孩子、人、动物、昆虫似乎是如何了解世界和环境，并改变自身行为的。所以我完全承认，在孩子还小的时候，作为家长的我很有技术宅的作风。我会拿机器学习中的一些想法，试着看看能不能帮助儿子学得更好。

比如，他还是婴儿、正在学着翻身的时候，我会说，我会说：“好，让我给你一个正向训练样例。[笑声] 就像这样，把腿摆成这样，然后这样做”，接着……

ATALLA: 是啊，是啊。

NEVILLE: ……然后看看这对他的学习有什么影响，同时也观察他如何学习，再思考如何将这些融入我们开发的算法和模型中。这大概是我在整个职业生涯中一直反复思考的、最重要的一种相互影响。

ATALLA: 真美好。是啊。

NEVILLE: 谢谢。

ATALLA: 好的，Jen，谢谢你分享自己的故事和见解。很高兴能请到你。

也感谢各位听众收听。如果你想进一步了解我在 Microsoft 的同事们所做的工作，请访问 Microsoft Research 页面 aka.ms/research，或者[音乐]收听本播客的其他节目。谢谢。

[音乐结束]

了解更多：

在新标签页中打开

文章《AI 会犯哪些错，失败又能教会我们什么》最先发表于 Microsoft Research。