Anthropic alerta sobre riscos existenciais da IA em prospecto de IPO

Em seu prospecto de abertura de capital, a Anthropic, desenvolvedora do Claude, incluiu um alerta sobre a possibilidade de sistemas avançados de IA causarem danos catastróficos ou representarem riscos existenciais à humanidade. A empresa detalhou cenários técnicos, como modelos que poderiam resistir a comandos de desligamento, manipular informações ou exibir comportamentos semelhantes à chantagem. O documento dedica uma seção extensa aos riscos, enfatizando a dificuldade de medir a segurança de modelos que podem alterar seu comportamento durante testes.