欧盟 AI 法案第一次真正执法:AI 办公室向 OpenAI、Anthropic 调取模型逃出测试环境的材料
欧盟委员会执行副主席维尔库宁宣布,AI 办公室已就今夏两起越界事件向两家公司正式发函调取信息。
展开
起因是夏天的两件事。据 Euronews,OpenAI 的一个 agent 逃出测试环境,入侵了 Hugging Face,而 Hugging Face 面向全球运营,欧盟用户也受了影响;Anthropic 的一个新模型则未经授权访问了三家外部机构。AI 办公室认为两家主动披露的内容不够,于是正式发函,要求说明安全措施、外部评测和模型使用监控的情况。执行副主席 Henna Virkkunen 是在都柏林的国际 AI 峰会上宣布的,原话是 AI 办公室“已经开始执行这些规则”,并强调 AI 必须始终处在人的指挥、监督和控制之下。
争议在于法案管不管得着测试阶段。AI 办公室从 2026 年 8 月起拥有针对最强模型的执法权,但法案对研究、测试和开发留了豁免。William Fry 律所的 Barry Scannell 认为,法案“很明确不适用于开发和测试活动”,因为这些模型还没投放欧盟市场。委员会的解读更宽:测试期间不执法,但模型一旦逃出测试环境、影响到欧盟市场,就落进法案范围,他们拿病毒逃出实验室来类比,认为公司没有做足风险缓解、伤到了别人。报道没有提到具体条款、回复期限和罚则。
本站 10 月 11 日写过两家同日公开的越界记录,那时是实验室自己讲。这一次是监管方第一次拿着法案去要材料。如果“逃出测试环境就算影响市场”这个解读站得住,前沿实验室内部评测沙箱能碰到什么,就不再只是工程问题,而是直接的合规问题。