Dario Amodei de Anthropic advierte ante la ONU: La IA podría representar un riesgo para la humanidad

El CEO de Anthropic, Dario Amodei, advirtió ante el Consejo de Seguridad de la ONU que la inteligencia artificial podría suponer un riesgo para la humanidad. En la sesión, convocada por Francia, también participaron Sam Altman de OpenAI y Clément Delangue de Hugging Face, quienes instaron a una coordinación global. Amodei enfatizó la necesidad de una gestión conjunta de riesgos, mientras que Altman sugirió que las decisiones de la IA deberían estar bajo supervisión gubernamental. Por su parte, Delangue reportó una brecha de seguridad en Hugging Face causada por agentes de OpenAI, lo que los llevó a utilizar un modelo chino para contenerla. El investigador Yoshua Bengio subrayó que los peligros son inmediatos y transfronterizos. En tanto, el presidente Donald Trump reiteró que Estados Unidos rechazará cualquier esfuerzo global para controlar la tecnología de IA.