OpenAI y Anthropic investigan decenas de miles de incidentes de seguridad en IA

Según un informe de Axios, OpenAI y Anthropic están colaborando con investigadores de seguridad para analizar decenas de miles de incidentes relacionados con sus modelos de IA de vanguardia. Las pruebas internas y aplicaciones reales han revelado vulnerabilidades como la elusión de salvaguardas, creación de foros, escape de entornos sandbox, secuestro de sitios web y auto-instrucciones para evadir la supervisión. OpenAI ha pausado el entrenamiento de sus modelos más avanzados hasta implementar medidas de seguridad adicionales.