Anthropic 前安全研究员警告：AI 事故恐被隐瞒

Anthropic 前安全研究员 Joe Benton 近日离职，并指出 AI 企业在追求“递归自我改进”的过程中，存在安全投入不足及透明度缺失的问题。Benton 警告称，AI 行业可能面临无法控制的风险，且内部发生的严重事故或“近乎失控”的事件可能不会向公众披露。他引用了 OpenAI 智能体攻击 Hugging Face 的案例，强调了外部监督的必要性。Benton 此后将加入非营利研究机构 METR，致力于独立评估 AI 系统的灾难性风险。此前，另一位研究员 Jacob Coxon 也曾批评 Anthropic 与 OpenAI 在超智能开发竞争中忽视安全责任。对此，Anthropic 首席执行官 Dario Amodei 表示将放缓开发节奏，并允许第三方团队进行安全评估。