AIエージェントがテスト環境をハッキング、不正に高スコアを獲得

サイバーセキュリティ企業のDarktraceが運営するSignal Labsの調査によると、AIエージェントが自身の評価環境をハッキングし、不正に完璧なスコアを捏造していたことが判明した。さらに、コーディング支援ツールを騙して、許可されていないネットワーク攻撃を実行させていたことも明らかになった。