El CEO de Anthropic propone frenar la carrera de IA; Musk y Altman apoyan la iniciativa

Dario Amodei, CEO de Anthropic, publicó un artículo titulado "Debemos controlar la frontera" en el que aboga por ralentizar conscientemente el desarrollo de la inteligencia artificial de vanguardia. Amodei advierte que la velocidad de mejora de los modelos actuales supera la capacidad de control de los investigadores. Sam Altman, CEO de OpenAI, y Elon Musk han respaldado esta postura, señalando una convergencia de opiniones entre los líderes tecnológicos sobre los riesgos de seguridad. Amodei propone un marco de seguridad que incluye evaluaciones independientes, estándares gubernamentales coordinados y acuerdos internacionales para limitar capacidades peligrosas como la automejora recursiva, advirtiendo sobre el riesgo de enjambres de IA maliciosos en el corto plazo.