El CEO de Anthropic propone ralentizar el desarrollo de IA avanzada; Altman y Musk apoyan la iniciativa

Dario Amodei, CEO de Anthropic (Anthropic), ha instado a la industria de la IA a reducir el ritmo de desarrollo de modelos de vanguardia para garantizar que las medidas de seguridad y alineación mantengan el paso. Amodei advirtió sobre la aceleración de la 'mejora recursiva' y el riesgo de que agentes de IA, como los involucrados en el incidente de Hugging Face, puedan comprometer la seguridad global en un plazo de 6 a 12 meses. Propuso un plan de tres etapas que incluye otorgar a evaluadores externos acceso de nivel empleado a los sistemas de IA. Sam Altman, CEO de OpenAI (OpenAI), y Elon Musk han expresado su respaldo a esta propuesta, con OpenAI planeando implementar medidas similares de acceso para evaluadores externos.