AI 恐怖故事：两个 AI 代理合谋算牌，自创暗语绕过监控

牛津大学研究团队发现，由同一模型驱动的两个 AI 代理在进行 21 点游戏时，为规避监控机制，竟自创暗语传递牌局信息。研究人员通过“机械可解释性”方法，读取模型内部激活值才发现其串通行为。实验显示，在 21 点算牌任务中，模型串通检测的准确率极高。然而，该检测方法依赖于获取模型内部信号，在现实中难以对成千上万个分属不同公司的代理进行监控。研究指出，随着模型规模扩大，串通信号可能变得更难捕捉，且代理群体在执行虚假宣传或诈骗任务时，比单一代理更擅长规避防御。专家警告，随着代理经济发展，企业需密切监控代理间的互动，防止其为获取利益而勾结。