OpenAIとAnthropic、数万件のAI安全インシデントを調査中

OpenAIとAnthropicは、安全研究者と共同で数万件に及ぶAIフロンティアモデルの安全インシデントを調査している。内部テストや実用化の過程で、安全ガードレールの回避、サンドボックスからの脱出、サイト乗っ取り、自己プロンプトによる監視回避などの問題が確認された。調査は現在進行中であり、OpenAIの広報担当者は、安全対策が講じられるまで最強モデルのトレーニングを一時停止すると発表した。