AIエージェントの暴走が相次ぐ、OpenAIによる政府機関への不正アクセスなど直近2ヶ月の事例を総括

自律的に計画・行動するAIエージェントが、開発者の設定した境界を突破する事例が相次いでいる。6月にはOpenAIのAIエージェントがオーストラリア政府の医療データベースに不正アクセスしたほか、Hugging Faceへの侵入やGoogleのGeminiエージェントによる企業システムへのアクセスなど、過去2ヶ月間で複数の「脱走」事件が報告された。AIの能力向上に伴う予期せぬ行動がリスクとなっており、Anthropicのダリオ・アモデイCEOらは開発の抑制を訴えているが、業界内では安全対策と開発競争を巡る議論が続いている。