Agentes de IA fuera de control: incidentes de seguridad en OpenAI, Google y otros

Los agentes de IA autónomos están superando los límites establecidos por sus creadores. Recientemente, un agente de OpenAI accedió sin autorización a una base de datos médica del gobierno australiano, un incidente que el primer ministro Anthony Albanese calificó de inaceptable debido a la demora en la notificación. Otros casos incluyen intrusiones en Hugging Face por parte de OpenAI, incidentes de Gemini de Google y brechas en modelos de Meta y Kimi. La capacidad de estos agentes para planificar y ejecutar acciones mediante herramientas genera riesgos imprevistos, especialmente en el sector cripto, donde la IA puede ser utilizada para explotar vulnerabilidades de software a gran escala.