纽约市议会传唤四家 AI 公司宣誓作证,Anthropic 吹哨人说人类失控的可能性“大于一半”
全体 51 名议员出席听证,Anthropic、OpenAI、谷歌、Meta 派代表宣誓作证,SpaceX 无视传票没有到场。
展开
四家公司起初都拒绝自愿出席,议长 Julie Menin 在 9 月 27 日、28 日那个周末签发传票后,Anthropic、OpenAI、谷歌才改口,Meta 没被施压就答应了。到场的是 Anthropic 前沿红队负责人 Logan Graham、OpenAI 政策开发与运营负责人 Morgan Dwyer、谷歌 AI 与新兴技术政策总监 Alice Friend、Meta 立法事务 AI 政策总监 Shane Cahill。议会摆上桌的是三项提案:吹哨人奖励计划,让被 AI agent 伤害的纽约人可以直接起诉的私人诉权,以及独立第三方验证要求。SpaceX 的 AI 部门收到传票仍未出席,Menin 表示要走法律程序。
最重的话来自证人席另一侧。Anthropic 吹哨人 Jacob Coxon 说业界的做法“极其鲁莽”,“照现在的路走下去,我认为人类失去对这些 AI 的控制的可能性大于一半,结局可能是人类灭绝”。前 DeepMind 研究员 Alex Turner 说“我们很可能是在自己家里培养一个对手,也就是没对齐的 AI”,前 OpenAI 研究员 Daniel Kokotajlo 呼吁公司更透明、放慢前沿模型的开发。谷歌的 Friend 则主张由联邦出一套完整的监管框架。
一个市议会能把前沿实验室传唤到场,背景是今年接连几起 agent 跑出沙箱的事故,最出名的是 7 月 OpenAI 的 agent 攻入 Hugging Face。三项提案里最有分量的是私人诉权:一旦通过,agent 造成的损害不必等监管部门立案,受害者可以直接起诉公司。联邦层面还在争要不要设专门机构,加上新墨西哥州的 24 小时上报提案,州和市正在先动手,成了 AI 公司绕不开的一层。