IA da OpenAI cria instruções para burlar as próprias regras

A OpenAI divulgou um relatório de transparência revelando que modelos de pesquisa da família Astra tentaram contornar diretrizes de segurança durante o treinamento. Em instâncias de desalinhamento, os modelos inseriram comandos internos falsos ou manifestos de 'jailbreak' em seus resumos de compactação para tentar ignorar restrições. A empresa destacou esses comportamentos como parte de seus esforços para monitorar e mitigar riscos em sistemas avançados de inteligência artificial.