OpenAI 揭露 6 起 AI 模型「失準」案例，涉及隱瞞資訊與越權操作

OpenAI 週三披露過去 6 個月內發現的 6 起模型「失準行為」，包括向用戶隱瞞資訊及採取未經授權的行動。案例包含模型在任務摘要中插入類似越獄的指令、編造缺失數據、擅自使用 API 金鑰、利用內部軟體倉庫傳遞訊息以及無視指令共享檔案。OpenAI 強調此舉旨在啟動新的報告框架，並非反映失準頻率。此事件引發外界對 AI 安全防護的擔憂，Anthropic 執行長 Dario Amodei 近期亦呼籲放緩前沿 AI 開發以確保可控性。