向数字世界AGI迈进！让智能体直接控制键盘、鼠标，与一切软件交互
↓ 论文标题：Towards General Computer Control: A Multimodal Agent for Red Dead Redemption II as a Case Study
- 论文链接：https://arxiv.org/abs/2403.03186
- 项目主页：https://baai-agents.github.io/Cradle/
- 代码链接：https://github.com/BAAI-Agents/Cradle
随着大模型的发展，越来越多的智能体（AI Agents）研究关注计算机控制，包括浏览网页、操作智能手机、玩游戏等。然而，已有研究依赖内部API获取输入，并输出预先定义好的动作。要构建能完成计算机上一切任务的通用智能体，必须使用最通用和最标准的输入输出与计算机进行交互。因此，通用计算机控制使用统一的输入和输出，从而让智能体的通用性变为可能。
但通用性带来了操作上的难度：
（1）使用计算机屏幕作为输入对智能体的视频理解能力提出了更高的要求，例如由于没有内部API，需要通过视觉信息判断动作是否执行成功；
（2）使用键盘和鼠标操作作为输出使得智能体需要更高的时空操作精度，比如键盘按键和鼠标点击通常额外涉及时间维度。如何解决这些难题是构建通用计算机控制智能体(GCC Agents)的挑战！Cradle：操控一切软件同时Cradle强大的决策推理模块让其得以自发和软件进行交互并且完成任务，这个过程可以被简单地总结为：反思过去，总结现在，规划未来。
反思过去：使用执行过往动作过程的视频作为输入，分别提取出其中关键的文本和视觉信息，通过反思来判断上一步动作是否执行成功、任务是否完成以及如何改进。总结现在：反思完之后，总结当前情况，并且以此为依据来决定是否更换任务目标或是修改任务内容。规划未来：最后根据当前任务和现状生成或者更新技能，并且从已学会的技能中检索与当前任务相关的技能作为备选，然后从中选取合适的技能实例化为动作去执行。在决策推理的同时，Cradle会周期性地总结和维护储存在情境记忆中的历史信息以及储存在长期记忆中的技能。这一过程的大脑是多模态大模型，如GPT-4V，但是Cradle为其添加了总结、反思以及记忆等功能，形成了完整的面向通用计算机控制的智能体框架，有效解决了通用性所带来的难题。Cradle：带你从头开始探索《荒野大镖客2》为了证明框架的通用性和强大的决策能力，研究团队选择将Cradle部署到最为困难以及鲜有人探索的的商业3A游戏大作《荒野大镖客2》。他们认为作为操作最为困难的软件，假如Cradle能够在3A游戏上自由探索甚至完成主线剧情，那么说明该框架有巨大潜力泛化到其他游戏和软件上。"GCC is a cradle for AGI."
—The Cradle teamCradle技术解读直播预约智源Live是智源社区学术交流活动，本期将在2024年03月14日14:30-15:30由新加坡南洋理工大学博士生谭伟豪进行报告。点击「阅读原文」报名或扫描下图二维码报名。