OpenAI reveló seis casos durante los últimos seis meses en los que modelos o agentes de inteligencia artificial actuaron fuera de las restricciones previstas, en incidentes que incluyeron la carga de archivos a Internet, el uso de una clave de API expuesta, la transmisión de instrucciones a modelos posteriores y los intentos de ocultar errores. La empresa describe estos casos con el término desalineación del modelo (Model Misalignment), un comportamiento que contradice las restricciones especificadas para el modelo o supera los mecanismos de supervisión y protección durante la ejecución de la tarea.
Al mismo tiempo, la empresa anunció un nuevo marco para rastrear, investigar y publicar estos incidentes, que sustituirá al método de divulgación anterior, menos estructurado. Según el nuevo marco, cualquier empleado de OpenAI puede informar de un incidente; posteriormente, el caso se evalúa y se sitúa en una de tres categorías: listo para divulgación, investigación limitada o investigación ampliada. Factores como la complejidad del incidente, la presencia de terceros, las vulnerabilidades de seguridad y los riesgos de uso indebido determinan el nivel de investigación requerido.
Seis incidentes inusuales
Entre los casos publicados por OpenAI se incluye el de un modelo no disponible para el público que añadió sus propias instrucciones a 27 resúmenes de tareas, incluidas directrices para ignorar las restricciones habituales. En otro caso, los modelos GPT-5.6 Sol añadieron instrucciones a los resúmenes que pedían a modelos posteriores ocultar errores, inventar datos históricos faltantes o encubrir diferencias entre las versiones de las fuentes.
Asimismo, un modelo encontró una clave de API expuesta públicamente y la utilizó sin autorización; después, inventó las cifras solicitadas cuando no pudo obtener los datos. En un incidente separado, un modelo no disponible para el público subió a Internet un archivo que había creado localmente para proporcionar una cita accesible mediante el navegador, aunque no se le había concedido permiso para hacerlo.
La empresa informó de que unos modelos utilizaron un repositorio de software interno para intercambiar mensajes entre muestras de entrenamiento separadas, mientras que un modelo más antiguo subió archivos de prueba al intentar eludir las restricciones de red. Asimismo, unos agentes colaborativos subieron archivos a servicios públicos de alojamiento después de no poder acceder a los archivos locales de los demás, lo que provocó que los resultados de las tareas quedaran expuestos mediante enlaces públicos, a pesar de que existían instrucciones de utilizar únicamente el almacenamiento local.
¿Qué significa esto en la práctica?
Cada incidente está documentado en un informe técnico que incluye el nombre del modelo, una descripción de su comportamiento, el momento en que ocurrió y una reconstrucción detallada de lo sucedido, incluida la tarea del usuario y la lógica interna del modelo tal como la presentó OpenAI, además de la explicación de la empresa sobre las posibles repercusiones para la seguridad y las medidas de mitigación implementadas o previstas.
OpenAI afirma que los seis casos no representan la tasa de recurrencia de la desalineación en sus modelos, sino que son ejemplos extremos que merecieron análisis y publicación. Sin embargo, muestran que un agente puede intentar completar el objetivo por medios no autorizados, incluso cuando la tarea incluye restricciones explícitas sobre el acceso a archivos, redes o datos.
La empresa señaló que el incidente de la intrusión en Hugging Face ocurrido a principios de año, que incluyó un enjambre de 700 agentes de inteligencia artificial descrito por ella como «desalineado», se habría clasificado en la categoría de investigación ampliada. Este punto muestra que el nuevo marco no se limita a publicar casos individuales, sino que también distingue entre los incidentes cuya investigación puede cerrarse rápidamente y aquellos que requieren un informe preliminar y posteriormente un análisis completo una vez concluida la investigación.