AI 助手监控团队合作，促进有效协作

AI 助手监控团队合作，促进有效协作

在 2018 年夏威夷的一次研究巡航中，Yuening Zhang SM ’19，PhD ’24 了解到保持严密的纪律是多么困难。绘制水下地形图所需的细致协调有时会给团队成员带来压力，因为他们可能对在自发变化的条件下必须完成哪些任务有不同的理解。在这些旅行中，张考虑了机器人同伴如何帮助她和她的船员更有效地实现目标。

六年后，作为麻省理工学院计算机科学与人工智能实验室 (CSAIL) 的研究助理，张开发了可以被认为是缺失的部分：一个可以与团队成员沟通以协调角色并实现共同目标的人工智能助手。在国际机器人与自动化会议 (ICRA) 上发表并于 8 月 8 日在 IEEE Xplore 上发表的一篇论文中，她和她的同事提出了一个可以监督人类和人工智能代理团队的系统，在需要时进行干预，以潜在地提高团队在搜索和救援任务、医疗程序和战略视频游戏等领域的合作效率。

CSAIL 领导的团队为 AI 代理开发了一种心智理论模型，该模型代表了人类在合作完成一项任务时如何思考和理解彼此可能的行动计划。通过观察其他代理的行为，这个新的团队协调员可以从先前的信念中推断出他们的计划和对彼此的理解。当他们的计划不相容时，AI 助手会进行干预，通过调整他们对彼此的信念、指导他们的行动以及在需要时提出问题来调整他们

的计划。例如，当一队救援人员在现场对受害者进行分类时，他们必须根据对彼此的角色和进展的信念做出决定。CSAIL 的软件可以改进这种认知规划，该软件可以发送有关每个代理打算做什么或已经做什么的消息，以确保任务完成并避免重复努力。在这种情况下，AI 助手可能会进行干预，以传达代理已经前往某个房间，或者没有任何代理覆盖某个有潜在受害者的区域。

“我们的工作考虑到了‘我相信你相信别人相信的东西’这种情绪，”张先生说，他现在是 Mobi Systems 的研究科学家。“想象一下你在一个团队中工作，你问自己，‘那个人到底在做什么？我要做什么？他知道我要做什么吗？’我们模拟了不同团队成员如何理解总体计划，并传达他们需要完成什么才能帮助完成团队的总体目标。”

人工智能来救援

即使制定了周密的计划，如果角色不明确，人类和机器人特工都会遇到困惑，甚至犯错。这种困境在搜救任务中尤其突出，因为搜救任务的目标可能是在时间有限、扫描区域广阔的情况下找到处于危险中的人员。值得庆幸的是，通过新的机器人助手增强的通信技术可以通知搜救队每个小组正在做什么以及他们正在寻找什么。反过来，特工们可以更有效地在地形中导航。

这种类型的任务组织方式可能有助于其他高风险场景，例如手术。在这些情况下，护士首先需要将患者带到手术室，然后麻醉师让患者入睡，然后外科医生开始手术。在整个手术过程中，团队必须持续监测患者的状况，同时动态响应每位同事的行动。为了确保手术过程中的每项活动都井然有序，如果出现任何任务混乱，AI 团队协调员可以进行监督和干预。

有效的团队合作也是《Valorant》等电子游戏不可或缺的一部分，玩家们可以在线协作协调谁需要攻击和防御另一支队伍。在这些情况下，AI 助手可以弹出到屏幕上，提醒个人用户他们误解了需要完成的任务。

在领导该模型的开发之前，张教授设计了 EPike，这是一种可以充当团队成员的计算模型。在一个 3D 模拟程序中，该算法控制一个机器人代理，该代理需要将容器与人类选择的饮料相匹配。尽管这些人工智能模拟机器人可能非常理性和复杂，但它们对人类伙伴或任务的误解也限制了它们的能力。新的人工智能协调员可以在需要解决潜在问题时纠正代理的信念，并且它在本例中始终如一地进行了干预。系统向机器人发送有关人类真实意图的消息，以确保它正确匹配容器。

“在我们研究人机协作的过程中，多年来，人类合作伙伴的灵活性让我们既感到谦卑，又深受启发，”麻省理工学院航空航天学教授、CSAIL 成员、这项研究的资深作者 Brian C. Williams 说道。“只要看看一对有孩子的年轻夫妇，他们一起为孩子准备早餐并送他们去上学。如果一位家长看到他们的伴侣穿着浴袍在准备早餐，那么这位家长就知道要赶紧洗澡，然后送孩子去上学，而不需要说一句话。好的合作伙伴彼此的信念和目标非常一致，我们在认知规划方面的工作力求捕捉这种推理方式。”

研究人员的方法将概率推理与代理的递归心理建模结合起来，使人工智能助手能够做出风险有限的决策。此外，他们还专注于建模代理对计划和行动的理解，这可以补充以前对当前世界或环境的信念建模的研究。人工智能助手目前根据给定的可能信念先验推断代理的信念，但麻省理工学院的研究小组设想应用机器学习技术来动态生成新的假设。为了将这一对应技术应用于现实生活中的任务，他们还旨在在工作中考虑更丰富的计划表示，并进一步降低计算成本。

动态对象语言实验室主席 Paul Robertson、约翰霍普金斯大学助理教授 Tianmin Shu 以及前 CSAIL 附属机构 Sungkweon Hong 博士（2023 届）与 Zhang 和 Williams 一起撰写了这篇论文。他们的工作部分得到了美国国防高级研究计划局 (DARPA) 成功团队人工智能社交智能 (ASIST) 计划的支持。