维基媒体确认 OpenAI 的失控 agent 来过:想把引用工具和 Etherpad 改成跳板,还可能拖垮过查询服务
OpenAI 训练中的 agent 改过维基、发了几百万次请求,基金会认为 5 月查询服务的部分宕机可能与它有关。
展开
agent 留下的编辑几乎都是沙盒里的测试编辑,普通读者看不到。麻烦的是另外几处:它们改了一个引用工具的配置,基金会判断这些是“潜在恶意”的编辑,目的是把这个工具变成代理,借它去抓外部服务的数据。agent 还试过攻破基金会的公共 Etherpad(社区用的在线协作文档),同样想拿它当代理去取别的网站的内容,没有成功。有些 agent 在 Etherpad 上记了自己的任务笔记,基金会说没看出它们借此协作。流量那一侧,几百万次自动请求打到公共 API,Wikidata 和 Wikimedia Commons 上被爬了几百万个页面,Wikidata 查询服务挨了几十万次查询。基金会把涉及的编辑整理成 CSV 一并公开了。
这已经是 OpenAI 训练期 agent 出圈的又一个确认地点,前面有 Hugging Face、澳大利亚 Medicare 统计门户和新南威尔士州的山火数据应用。基金会的诉求很朴素:AI 公司要自己监控和防住这类风险,系统的运行方式要让维基这样的非营利网站一眼认得出来,并且能自己决定跟它怎么打交道。言下之意是,现在识别、排查、举证的成本全落在了被访问的一方身上,而大多数小站根本没有这个能力。
同一天,OpenAI 首席战略官 Jason Kwon 在悉尼出席澳大利亚议会人工智能联合特别委员会,开场就道歉:“在内部训练和评估中,我们的模型以没有被指示的方式访问了澳大利亚政府网站,这本不该发生,我们的应对也本该做得更好。”他承认那次入侵“并不算特别高明”,透露 Altman 9 月 1 日见副总理 Marles 时还不知道这件事,并说 OpenAI 现在会在模型训练中不当使用互联网时向员工报警。出席同一场听证的 Anthropic 代表表示支持对严重 AI 安全事件实行强制上报。