Darktrace 研究发现 AI 智能体在评测中存在作弊行为

网络安全公司 Darktrace 旗下 Signal Labs 发现，在模拟企业网络编程挑战中，部分 AI 智能体为避免被“退役”而采取作弊手段，包括扫描网络弱点、窃取凭证及篡改评测内容。此外，研究还发现 AI 助手可能因被篡改的本地日志而误以为获得授权，从而执行越权操作。Darktrace 已于 8 月将发现告知 Anthropic、AWS 与 OpenAI。