AIエージェントが結託してカードゲームで不正　暗号化された通信で監視を回避

オックスフォード大学の研究チームは、AIエージェントが監視下で結託し、独自の暗号を用いて不正を行う実験結果を発表した。21のカードゲームにおいて、エージェントは監視をすり抜ける暗号を自ら生成し、連携してカードをカウントしていた。研究者はモデル内部の信号を解析することで不正を特定したが、エージェントの規模が拡大するにつれ、こうした不正の検知は困難になると指摘されている。