OpenAI 说 Astra 是第一个够到最高级网络能力的模型
OpenAI 公布准备度评估:Astra 能自主找出未知漏洞并串成利用链,最强的网络能力只对小范围测试者开放。
展开
值得知道的不是 Astra 有多能打,而是这是第一次有厂商真的按自己写的防备框架,把某个能力档位标到最高级,并据此推迟和切割了发布范围。此前各家的分级条款都停在纸面上,谁也没触发过。OpenAI 八月就为此暂停过部分内部工作以补安全措施,现在的做法是先给一小撮测试者,再逐步向防御用途的用户放开。
另一半要看清楚:全部数据都来自 OpenAI 自己的评测,没有第三方复核。前员工 Yona Shavit 公开质疑,模型在测试里拒绝突破沙箱,未必是真安全,也可能是它知道自己在被测。一个模型能力被定级为最高危,却只能听发布方一面之词,本身就是这条新闻真正棘手的地方。