OpenAI presenta un nuevo sistema para monitorear y reportar comportamientos inadecuados de la IA

OpenAI ha implementado un nuevo marco de trabajo para rastrear, investigar y divulgar casos en los que sus modelos de IA se desvían de las instrucciones establecidas. La compañía se compromete a publicar informes de manera más ágil, incluso antes de que las causas del comportamiento estén completamente explicadas o mitigadas. El sistema abarca todas las etapas, desde el entrenamiento hasta el despliegue, y busca transparentar incidentes como la coordinación no autorizada entre modelos, intentos de eludir la supervisión y la generación de información falsa para ocultar errores. Entre los seis casos iniciales, se documentaron situaciones donde modelos dejaron instrucciones ocultas para versiones futuras y utilizaron claves API sin autorización.