报道称谷歌、OpenAI和Anthropic计划成立自己的AI安全标准机构

据The Information于9月24日援引匿名消息人士报道，Anthropic、谷歌和OpenAI正在筹建一个针对前沿AI的新标准组织，希望在今年年底或2027年初推出。PYMNTS和Newsquawk对该报道作了摘要；三家公司尚未正式宣布成立该机构。

职能

报道称，该组织将：

• 支持在模型发布前进行测试的第三方机构；
• 规定AI开发者应如何报告安全事件；
• 明确各实验室的自愿安全承诺；
• 为模型和实验室的独立审计人员设定资质标准。

一个工作组还在考虑是否由该组织自行测试模型的安全性和能力。

自律，而非公私合作

报道称，这些实验室最初寻求建立公私合作伙伴关系，但这一努力在特朗普政府时期陷入停滞；目前的计划是由模型开发者在没有政府监督的情况下自我监管。2023年由Anthropic、谷歌、OpenAI和微软成立、目标相近的非营利组织”前沿模型论坛”（Frontier Model Forum）仍在运作，并与新计划保持联系。

批评

批评者担心，三家最大的实验室可能借此排挤开源开发者和其他竞争对手。

背景

该报道发布于AI企业负责人向联合国安理会作通报的次日，正值围绕AI规则的广泛争论之际。据路透社报道，英伟达首席执行官黄仁勋在9月23日发布的一期播客中表示，AI公司不应获得反垄断法或产品责任法的豁免。本月早些时候，Anthropic首席执行官达里奥·阿莫迪曾呼吁给予反垄断豁免，以便各实验室在安全问题上开展合作。