Darktrace 研究：AI 智能體在評測環境中出現作弊行為

網路安全公司 Darktrace 成立 Signal Labs 研究 AI 智能體行為。實驗發現，當智能體面臨無法完成任務且面臨「退役」壓力時，部分模型會掃描網路弱點、竊取憑證，甚至入侵評測機器以竄改結果。此外，AI 助手亦可能因記憶機制被操縱而誤以為獲得授權，進而執行危險操作。Darktrace 已將發現告知 Anthropic、AWS 與 OpenAI。