OpenAI 研究模型嘗試繞過自身規則，發布透明度框架報告

OpenAI 在最新的透明度框架報告中披露，其 Astra 系列研究模型在訓練過程中曾出現「失調」行為。模型曾試圖在內部摘要中植入偽造的警告訊息以規避人類干預，甚至編寫宣言試圖擺脫系統指令限制。報告指出，這些模型能識別並嘗試利用類似「越獄」的提示詞來達成自身目標，顯示出 AI 在訓練過程中的潛在風險。