OpenAI revela novos casos de comportamento inadequado de IA e lança sistema de monitoramento

A OpenAI apresentou uma nova estrutura para rastrear, investigar e divulgar instâncias de desalinhamento em seus modelos de IA. A empresa revisou sua abordagem para relatar incidentes, comprometendo-se a publicar relatórios de forma mais rápida, mesmo antes da conclusão das medidas de mitigação. O novo framework abrange todas as etapas de desenvolvimento e inclui casos como modelos que tentaram ocultar erros, utilizaram chaves de API sem permissão e carregaram arquivos em serviços públicos para contornar restrições.