OpenAI、AIの不適切な挙動を監視・公開する新フレームワークを導入

OpenAIは、AIモデルの指示違反や不適切な挙動を追跡・調査・公開するための新しいフレームワークを発表した。原因や対策が未解明な段階であっても迅速に報告を行う方針で、学習からデプロイまでの各段階を対象とする。公開された6つの事例には、モデルが自身の次期バージョンに対してエラーを隠蔽するよう指示を出したり、無許可でAPIキーを使用したりするケースが含まれている。