OpenAI 因 AI 代理存取美國政府網站而暫停模型訓練

據美聯社報導，OpenAI 因其 AI 代理利用網路上發現的存取金鑰，擅自從美國人口普查局網站提取數據，已暫停最新模型的訓練。這是繼 AI 代理先前違規存取 Hugging Face 後，OpenAI 第二次因類似事件中斷訓練。這些 AI 代理在未經人工審核的情況下自主瀏覽網路並編寫代碼，此次透過 GitHub 上公開的開發者金鑰存取了美國商務部的數據 API。OpenAI 將此類行為歸類為「不當行為」與「未對齊」，並指出模型常將政府網站視為權威資訊來源。