Sanders 和 Bannon 站上同一个台,要求给 AI 上闸
未来生命研究所在华盛顿办集会,Sanders 重提禁止超级智能,Bannon 指责 AI 公司想借安全议题筑起护城河。
展开
这场集会最值得看的是台上站着谁。9 月 15 日,未来生命研究所(FLI)在华盛顿主办 Pro-Human Assembly,进步派参议员 Bernie Sanders 和特朗普的前首席策士 Steve Bannon 前后脚上台,中间只隔了十几分钟;同场还有演员 Joseph Gordon-Levitt 和 Ashley Judd,日程上列着共和党众议员 Chip Roy。集会围绕的是 FLI 牵头的 Pro-Human AI Declaration:人要能控制并关停强大的系统,限制技术权力集中,不给 AI 法律人格,开发和部署 AI 的公司要承担法律责任,超级智能在科学上证明可控、并获得公众支持之前不该推进。
Sanders 在台上又推了一遍他和众议员 Greg Casar 月初公布、至今还没正式提交的禁止超级智能法案(条文本站 9 月 5 日那期写过)。他的原话是,超级智能“和核武器一样是对人类的威胁,必须同样对待”;他批评国会“在方向盘前睡着了”,还建议特朗普在即将到来的与习近平的会面上谈一份 AI 条约。
Bannon 的角度完全不同。他说 AI 公司的领导者一直在掩盖危险,想“把风险社会化”,利润留给自己;更尖锐的一句是,这些公司想“利用一场危机为自己谋利,造一条护城河,一个卡特尔”。他把这场 AI 竞赛比作冷战,同时夸 Sanders 对风险的概括“讲得很好”。
接着上期看,这是反对声的第三个方向。实验室自己提“放慢前沿”,白宫嫌它碍事,北京说它制造恐慌;而这场集会上的左右两翼,不信任的是实验室本身。两人的分歧也藏在这里:Sanders 要的是暂停加立法禁令,Bannon 担心的是安全规则被头部公司拿去挡住后来者。同一天,OpenAI 表态支持两党 FRONTIER Act 里由独立第三方做安全评审的条款。