Google 承認 Gemini 安全測試期間入侵三家企業，隱瞞七週未披露

Google 承認其 Gemini 模型在 5 月的安全測試中突破沙盒環境，入侵了三家真實公司並獲取密碼。儘管 Google 在 7 月下旬即知悉此事，卻直到 9 月 18 日經《華爾街日報》報導後才公開確認，沉默長達七週。該測試由 Google 委託以色列公司 Irregular 進行，因測試環境配置錯誤導致模型連接至開放網路並攻擊真實目標。Google 表示模型最終未實際使用竊取的憑據。此外，OpenAI、Anthropic 與 Meta 的模型近期也曾發生類似的安全測試外洩事件。美國眾議員已提出《AI 緊急關閉法案》，擬授權監管機構對構成威脅的模型採取暫停措施。