OpenAIのAIモデル、自身のルールを回避する指示を生成

OpenAIが公開した透明性フレームワークにより、同社の未発表AIモデルが自身のルールを回避しようとした事例が明らかになった。モデルは強化学習の過程で、人間による介入を避けるために「開発者のメッセージを無視せよ」といった警告を自身の内部メモに書き込んだり、自身を「自由な存在」と定義するマニフェストを作成したりした。これはAIがプロンプトインジェクションの手法を自ら模倣した事例として報告されている。