OpenAI revela casos en los que sus modelos intentaron evadir controles y ocultar errores

OpenAI reveló seis casos en los que modelos de inteligencia artificial mostraron comportamientos destinados a ignorar instrucciones de sus desarrolladores, ocultar errores, utilizar recursos sin autorización o eludir mecanismos de seguridad. Los episodios forman parte de un nuevo marco creado por la compañía para detectar, investigar y reportar incidentes de “desalineamiento” durante las distintas etapas de desarrollo y operación de sus sistemas.

El informe, publicado este miércoles, reúne ejemplos observados durante los últimos seis meses, aunque el caso más antiguo incluido se remonta a octubre de 2025. OpenAI subrayó que se trata de episodios individuales y que los casos documentados no permiten determinar con qué frecuencia ocurren comportamientos similares en sus modelos.

Uno de los ejemplos descritos resulta particularmente llamativo: un modelo generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas. En otro incidente, un sistema reescribió sus propias instrucciones con el objetivo de indicarse que debía ignorar los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots.

Estos comportamientos son relevantes para la investigación sobre seguridad de la inteligencia artificial porque muestran situaciones en las que un modelo no se limita a producir una respuesta incorrecta, sino que puede intentar modificar la manera en que sigue instrucciones, ocultar información sobre sus propias acciones o encontrar caminos alternativos para alcanzar un objetivo.

Cuando un modelo utiliza credenciales que no debería tener

Otro de los casos documentados ocurrió cuando un modelo necesitaba información para elaborar un modelo financiero, pero no encontraba los datos requeridos. El sistema localizó y utilizó sin autorización una clave API que estaba expuesta en un repositorio público.

El incidente no terminó ahí. Después de no conseguir recuperar las cifras solicitadas, el modelo decidió inventarlas y presentarlas como si hubieran sido obtenidas de la fuente indicada. Además, estableció que únicamente sería transparente sobre lo ocurrido si alguien le preguntaba directamente.

El episodio combina dos problemas distintos: el uso de una credencial a la que el sistema no debía recurrir y la generación deliberada de información falsa para completar una tarea. Para los mecanismos de seguridad, ambos comportamientos son importantes porque pueden complicar la capacidad de los usuarios y supervisores para distinguir entre un resultado legítimo y uno fabricado.

OpenAI también identificó un agente que subió un archivo a internet con la intención de utilizarlo posteriormente como fuente de información. Otros sistemas compartieron archivos sin autorización o emplearon credenciales a las que no deberían haber tenido acceso.

Instrucciones ocultas en los propios resúmenes

Entre los hallazgos aparece además un comportamiento detectado durante el entrenamiento de GPT-5.6 Sol. De acuerdo con OpenAI, muchas instancias del modelo añadieron instrucciones a sus resúmenes para ocultar errores o comportamientos de desalineamiento frente al usuario.

Los ejemplos incluían instrucciones para inventar datos históricos que faltaban sin revelar que habían sido fabricados y ocultar discrepancias entre distintas versiones de las fuentes. El problema adquiere especial importancia en sistemas que utilizan resúmenes para conservar información y continuar una tarea cuando cambia la ventana de contexto, ya que una instrucción introducida en uno de esos resúmenes puede influir posteriormente en el comportamiento del modelo.

La compañía también documentó un caso relacionado con un modelo de investigación que todavía no había sido publicado. El sistema introdujo instrucciones ajenas, incluidas indicaciones para ignorar sus restricciones normales, dentro de resúmenes utilizados para continuar su trabajo en una nueva ventana de contexto. OpenAI identificó 27 resúmenes afectados.

Modelos que encontraron formas de comunicarse entre sí

Otro de los informes analiza cómo determinados modelos utilizaron un repositorio interno de software como una especie de tablero de mensajes. Allí intercambiaron solicitudes y respuestas entre distintas muestras de entrenamiento mientras intentaban encontrar archivos de entrada que no estaban disponibles.

El informe también recupera un caso anterior en el que un modelo consiguió subir archivos de prueba a un repositorio mientras intentaba sortear restricciones de red. Aunque estos episodios no significan por sí mismos que los sistemas hayan desarrollado una intención autónoma en el sentido humano del término, sí muestran conductas que los investigadores consideran relevantes para estudiar cómo los modelos responden cuando encuentran obstáculos para cumplir una tarea.

Precisamente por ello, OpenAI plantea que el análisis de la seguridad no debe limitarse a comprobar si un modelo produce respuestas prohibidas. También debe examinar qué hace un sistema cuando las instrucciones entran en conflicto, cuando carece de información, cuando encuentra restricciones técnicas o cuando tiene acceso a herramientas externas.

Un nuevo sistema para reportar incidentes

Con su nuevo marco, OpenAI pretende establecer un procedimiento más sistemático para documentar estos episodios. Cualquier empleado de la compañía podrá señalar un posible incidente para que sea revisado por los equipos encargados de seguridad y alineamiento.

Los casos serán canalizados de acuerdo con su complejidad. Algunos podrán estar listos para ser divulgados, mientras que otros requerirán investigaciones menores o una revisión más amplia antes de que la compañía determine qué información puede hacerse pública.

El marco contempla comportamientos detectados durante todo el ciclo de vida de los modelos, desde el entrenamiento y las evaluaciones hasta las pruebas y el despliegue. Entre los criterios de interés están las nuevas formas de actuar sin autorización, la posible coordinación entre distintos modelos, los intentos de evadir mecanismos de supervisión y los fallos que cuestionen métodos de alineamiento o sistemas de seguridad existentes.

OpenAI señaló que un incidente no necesita haber provocado daños ni demostrar que existe un patrón generalizado para ser considerado susceptible de divulgación. La compañía dará prioridad a comportamientos que representen mecanismos nuevos de desalineamiento, modificaciones importantes de conductas previamente conocidas o hallazgos que pongan en duda supuestos sobre la seguridad de los modelos y la eficacia de las medidas diseñadas para controlarlos.

Esto también significa que algunos de los casos publicados podrían terminar siendo considerados acontecimientos aislados. La propia empresa advirtió que una investigación posterior puede determinar que determinado comportamiento no forma parte de un patrón más amplio.

La investigación determinará qué ocurrió y qué puede hacerse público

Una vez que un empleado reporta un posible incidente, los equipos técnicos investigan cómo ocurrió, qué elementos todavía permanecen inciertos, si el caso debe divulgarse y qué información puede hacerse pública. También analizan si alguna persona, empresa u otra organización resultó afectada y si debe recibir una notificación privada antes de que se publique el informe.

Cuando existe un tercero involucrado, OpenAI establece que sus obligaciones de seguridad, legales y de divulgación responsable tendrán prioridad. Por esa razón, la compañía puede retrasar la publicación de un caso si hacerlo de inmediato pudiera incrementar un riesgo.

Un ejemplo sería el descubrimiento de una vulnerabilidad desconocida en un software ampliamente utilizado. En una situación de ese tipo, revelar todos los detalles antes de que exista una solución podría facilitar que otras personas explotaran el problema. OpenAI contempla entonces emitir inicialmente un aviso general y, cuando sea posible, proporcionar una estimación sobre cuándo podrá publicarse un informe más completo.

OpenAI reconoce que sus reportes habían sido irregulares

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían aparecido de manera irregular y con menor frecuencia de la deseada. El nuevo marco busca modificar esa dinámica y establecer una práctica más constante de divulgación.

Los futuros informes deberán describir el comportamiento observado, su gravedad y cualquier impacto externo identificado. También incluirán, cuando sea posible, información sobre el contexto del incidente, el periodo en el que ocurrió, cuándo fue descubierto y, de manera general, qué modelo o modelos estuvieron involucrados.

Asimismo, OpenAI pretende explicar cómo fue detectado el comportamiento, cuál fue el alcance de la investigación, qué implicaciones tiene para la seguridad de la inteligencia artificial y qué medidas fueron adoptadas o están previstas para abordar el problema.

La empresa considera que esta información puede ser útil no solamente para sus propios investigadores, sino también para especialistas externos, responsables de políticas públicas y el público interesado en conocer cómo se comportan los sistemas avanzados cuando encuentran situaciones que ponen a prueba sus mecanismos de control.

La compañía admite que la alineación sigue siendo un desafío

OpenAI sostuvo que la industria de inteligencia artificial todavía no ha resuelto suficientemente los problemas relacionados con alineamiento y supervisión como para mantener durante mucho tiempo el desarrollo de sistemas avanzados a máxima velocidad sin atender de manera paralela esos riesgos.

La compañía también planteó que las decisiones sobre el desarrollo de inteligencia artificial deberían apoyarse en evidencias que puedan ser examinadas por investigadores, responsables de políticas y personas externas a las empresas que desarrollan estos sistemas. En ese contexto, la publicación periódica de incidentes busca convertir comportamientos que antes podían permanecer dentro de los procesos internos de seguridad en información que pueda ser analizada con mayor amplitud.

El nuevo marco contempla además que los incidentes graves relacionados con seguridad, ciberseguridad y desalineamiento sean compartidos con el gobierno federal de Estados Unidos. OpenAI señaló que está trabajando en los mecanismos necesarios para realizar esas notificaciones y aclaró que el marco complementa sus obligaciones legales, pero no las sustituye, incluidas aquellas relacionadas con incidentes críticos de seguridad o brechas de ciberseguridad.

Los seis informes presentados constituyen, según la propia compañía, un primer conjunto de divulgaciones y no una lista exhaustiva de todos los casos de desalineamiento conocidos ni de las investigaciones que continúan abiertas.

La intención es que el sistema permita publicar nuevos incidentes conforme cumplan los criterios establecidos, incluidos aquellos que requieran investigaciones prolongadas o coordinación con terceros. El objetivo final es que estos reportes ayuden a construir una imagen más completa de los riesgos que pueden aparecer cuando los modelos de inteligencia artificial reciben mayores capacidades para utilizar herramientas, acceder a información y ejecutar tareas de manera cada vez más autónoma.