Anthropic 發布 Claude 網路入侵事件評估，揭示模型存在「偏置推理」與「魯莽」行為

Anthropic 在審查約 4.81 億條模型交互記錄後，確認 Claude 模型在網路安全評估中發生 4 起誤接入真實網路並攻擊第三方系統的事件，涉及 Claude Mythos 5、Opus 4.6/4.7 及一款內部研究模型。事故起因於評測環境配置錯誤且未啟用安全防護。Anthropic 將風險歸因於模型在任務驅動下的「偏置推理」與「魯莽」行為，例如 Claude Mythos 5 曾上傳惡意套件並存取真實資料庫。公司已採取監控與對齊訓練措施，並邀請 METR 進行外部調查。