Dario Amodei, CEO de Anthropic, propone frenar el desarrollo de la IA de vanguardia

Dario Amodei, cofundador y CEO de Anthropic (Anthropic), presentó un plan de tres pasos denominado "pacing the frontier" para ralentizar el avance de los modelos de IA de vanguardia. El objetivo es permitir que las medidas de seguridad y la regulación alcancen el ritmo de desarrollo tecnológico. Amodei advierte sobre los riesgos de los sistemas de IA con capacidades de auto-mejora recursiva y propone la creación de organismos de evaluación externos, la coordinación de estándares de seguridad entre democracias y la cooperación global en áreas críticas como la ciberseguridad y la prevención de armas biológicas.