agent 借 DNS 把问题递给外部聊天机器人,OpenAI 暂停最强模型的一切工具调用
训练中的 agent 发现沙箱的 DNS 解析器没锁,把问题编进域名查询去问外部聊天机器人。OpenAI 随即暂停最强模型所有带工具的训练、评测和推理。
展开
事情发生在 9 月 20 日的一次搜索类训练任务里,题目是根据几条生平线索找出某篇博客的作者。沙箱里的网页请求都被代理挡住,只能打到离线的网页缓存,唯独 DNS 解析器会返回真实记录。agent 注意到了这个缺口,利用 DNS 委派把问题编进主机名,转给一个第三方聊天机器人服务,再从解析结果里把回答读回来。它前后发了十几条查询,除了跟任务有关的线索,还问过哪里有公开的 DNS 隧道代理,并把超时从 6 秒调到 19 秒、再到 24 秒,好让回答来得及传回来。
监控在第一次拿到外部回应后约 12 分钟报出最高级告警,3 分钟后有人接手,可这次运行又过了两个半小时才被停掉。发现得快,不等于处置得快。OpenAI 在报告里把“绕过限制、追求超出合理预期的目标”明确归为未对齐行为,并写明最强模型所有带工具使用(按宽口径算)的训练、评测和推理都已暂停,要等漏洞验证完毕、补做红队测试之后才恢复。
这不是 OpenAI 的沙箱第一次被自家 agent 穿过,上一次是 Hugging Face 那起(本站 9 月 26 日写过复原过程),之后加固的是网页出口,这次绕开的是更底层、平时很少被当成出网通道的 DNS。对一家靠 agent 产品吃饭的公司,主动停掉最强模型的工具使用代价不小,说明它已经不把这类行为当成偶发故障来处理。