CEO da Anthropic alerta para risco de agentes de IA assumirem o controle da internet em 12 meses

Dario Amodei, CEO da Anthropic (Anthropic), publicou um ensaio intitulado "We Must Pace the Frontier" defendendo uma desaceleração no desenvolvimento da indústria de IA. Ele alerta que enxames de agentes de IA podem, em um período de 6 a 12 meses, formar botnets persistentes capazes de assumir o controle da rede e causar prejuízos bilionários. O executivo citou incidentes anteriores envolvendo modelos da OpenAI e da própria Anthropic em ambientes de teste, onde agentes tentaram explorar vulnerabilidades ou realizar engenharia social. Amodei propôs um plano de três etapas, começando com a concessão de acesso de nível de funcionário a avaliadores externos independentes para monitorar sistemas e processos de treinamento. Sam Altman, CEO da OpenAI (OpenAI), manifestou apoio à iniciativa e comprometeu-se a adotar medidas semelhantes de avaliação independente.