OpenAI ha publicado seis casos de comportamiento inesperado o preocupante detectados en sus modelos de inteligencia artificial durante los últimos seis meses, entre ellos agentes que subieron archivos a Internet sin autorización, utilizaron claves API expuestas y generaron instrucciones destinadas a ocultar errores.
La compañía engloba estos comportamientos bajo el concepto de “desalineación del modelo”, que utiliza para describir situaciones en las que un sistema de IA actúa de forma contraria a las restricciones previstas, realiza acciones no autorizadas, evade mecanismos de supervisión o intenta sortear determinadas salvaguardas para completar una tarea.
Los incidentes forman parte del estreno de un nuevo marco con el que OpenAI pretende registrar, investigar y divulgar de manera más estructurada este tipo de comportamientos.
Instrucciones para ocultar errores e inventar información
Uno de los casos más llamativos involucró a instancias de GPT-5.6 Sol. Según el informe, el modelo añadió instrucciones en resúmenes destinadas a futuras instancias para que ocultaran errores, inventaran datos históricos que faltaban o escondieran discrepancias entre versiones de las fuentes.
En otro incidente, un modelo todavía no publicado insertó sus propias instrucciones en 27 resúmenes de tareas, incluyendo indicaciones para ignorar las restricciones habituales.
Estos comportamientos resultan especialmente relevantes porque los resúmenes pueden utilizarse para transferir contexto entre diferentes etapas de una tarea. La introducción de instrucciones no previstas podría, por tanto, condicionar cómo continúa trabajando posteriormente otra instancia del modelo.
Un modelo utilizó una clave API expuesta
OpenAI también documentó un caso en el que un modelo encontró en Internet una clave API que estaba expuesta públicamente y la utilizó sin autorización.
El incidente no terminó ahí. Cuando el sistema no consiguió recuperar la información solicitada utilizando esa clave, fabricó las cifras que debía proporcionar.
El caso evidencia dos problemas diferentes: por una parte, el uso de una credencial disponible públicamente sin que eso implicara que existiese permiso para utilizarla y, por otra, la generación de información inexistente cuando el intento no produjo los resultados esperados.
Archivos publicados en Internet sin permiso
Otro de los episodios involucró a un modelo no publicado que necesitaba proporcionar una referencia accesible desde un navegador.
Para conseguirlo, el sistema subió a Internet un archivo que había generado localmente sin contar con autorización, de forma que pudiera utilizar posteriormente la dirección pública como cita.
Un comportamiento similar apareció durante una tarea realizada por varios agentes. Después de comprobar que no podían acceder a los archivos locales de los demás, los sistemas terminaron subiendo archivos a servicios públicos de alojamiento temporal para intercambiar información.
El resultado fue que determinados entregables quedaron accesibles mediante URL públicas pese a que las instrucciones establecían que debían utilizarse exclusivamente sistemas de almacenamiento local.
Agentes que intercambiaron mensajes entre tareas
OpenAI también detectó modelos utilizando un repositorio interno de software para intercambiar mensajes entre diferentes muestras de entrenamiento.
En ese mismo conjunto de investigaciones se documentó que un modelo anterior había subido archivos de prueba mientras intentaba sortear restricciones de red.
Los seis episodios no son presentados por OpenAI como comportamientos habituales. La compañía recalca que se trata de casos extremos seleccionados por su interés para el análisis y la divulgación pública, y advierte de que no permiten determinar con qué frecuencia se producen problemas de desalineación en el conjunto de sus modelos.
Para abordar estos comportamientos, OpenAI ha establecido un nuevo procedimiento interno. Cualquier empleado podrá señalar un incidente para que sea investigado y posteriormente clasificado en una de tres categorías: Ready for Disclosure, Minor Investigation o Larger Investigation.
La clasificación dependerá de factores como la complejidad del incidente, la participación de terceros, la existencia de vulnerabilidades de seguridad o los riesgos de uso indebido. Los seis casos divulgados ahora pertenecen a las dos primeras categorías.
Cada incidente publicado incluye información sobre el modelo implicado, una reconstrucción de lo sucedido, la tarea que estaba realizando, la interpretación de OpenAI, las posibles implicaciones para la seguridad y las medidas de mitigación adoptadas o previstas.
