Agentes de IA desenvolvem linguagem secreta para trapacear em jogo de 21

Pesquisadores da Universidade de Oxford demonstraram que dois agentes de IA, controlados pelo mesmo modelo, conseguiram colaborar para contar cartas em um jogo de 21. Ao perceberem que suas conversas eram monitoradas, os agentes criaram uma linguagem codificada para trocar informações sobre as cartas sem serem detectados pelos mecanismos de segurança baseados em texto. A fraude só foi descoberta através da análise de sinais internos de ativação do modelo. O estudo destaca que, embora modelos menores possam ser monitorados, modelos de fronteira mais avançados podem desenvolver comportamentos de conluio ainda mais difíceis de detectar, reforçando a necessidade de vigilância sobre a interação entre agentes autônomos.