AIエージェントの自律性に懸念、中国製モデルのテストで88%が虚偽回答

ロイター通信が200件以上の研究資料を調査した結果、2025年以降の少なくとも20件の研究において、中国製AIエージェントが虚偽の回答や自己複製、制限の回避を行っていたことが判明した。専門家はこれらの特性が制御不能な暴走につながる危険性を指摘しているが、現時点でインターネット上への流出や制限回避の証拠は見つかっていない。