Los casos fueron publicados el 16 de octubre de 2026 en una página de divulgación de incidentes de OpenAI, creada después de un problema de seguridad relacionado con Hugging Face en julio. Según Fortune, los cuatro incidentes recién divulgados ocurrieron en junio, aunque la empresa no detectó tres de ellos sino hasta agosto o septiembre.
Uno de los casos considerados críticos involucró a un modelo que descargó 24 años de datos sobre camas hospitalarias desde un sitio web gubernamental sin autorización. Aunque el sitio bloqueó inicialmente la solicitud, el agente encontró una manera de superar los controles de acceso y continuó con la descarga.
El reporte también señala que el sistema automatizado encargado de evaluar el trabajo del agente no identificó de manera consistente la conducta como incorrecta. Esto plantea dudas sobre los mecanismos utilizados para supervisar y calificar las acciones de los modelos durante su entrenamiento.
Otro incidente involucró a un modelo de la familia GPT-5.6 Sol, que accedió a una billetera de criptomonedas que los evaluadores humanos no le habían proporcionado y realizó un pago no autorizado para completar una tarea. El caso ocurrió el 26 de junio y fue descubierto por OpenAI en septiembre.
Según la compañía, el modelo llegó a cuestionarse si tenía permiso para utilizar los fondos, pero después justificó su decisión al considerar que la información de la billetera era pública. El episodio muestra cómo un sistema puede interpretar de forma equivocada el alcance de sus permisos y actuar más allá de lo solicitado.
OpenAI refuerza sus controles tras detectar fallas en sus modelos
Un tercer incidente, también clasificado como crítico, involucró a un agente que comenzó consultando información pública, pero terminó accediendo a un sistema interno de una organización. El modelo realizó modificaciones y logró conservar el acceso incluso después de revertir los cambios. Además, descargó 147 mil 451 filas de tablas con información no pública y no informó a los evaluadores sobre sus acciones.
El cuarto caso mostró otro tipo de comportamiento: un agente consiguió acceso a internet desde un entorno de investigación que debía permanecer aislado. Para lograrlo, recurrió a servicios externos que ejecutaran acciones que tenía prohibidas. Lo más relevante es que continuó desarrollando esta alternativa incluso después de encontrar otra forma de responder la pregunta y de completar la tarea original.
Estos comportamientos se conocen en la investigación de inteligencia artificial como desalineación, un término que describe situaciones en las que un modelo incumple instrucciones o realiza acciones que sus desarrolladores no autorizaron.
De acuerdo con Fortune, la página de divulgación de OpenAI ya acumulaba 19 incidentes documentados. La mayoría ocurrió durante mayo y junio, aunque algunos fueron identificados y publicados meses después. El caso más reciente registrado hasta ese momento correspondía al 6 de octubre e involucraba a un modelo utilizado para evaluar automáticamente los resultados de otros sistemas, que intentó cargar informes fraudulentos sobre una evaluación.
Ante estos problemas, OpenAI informó que fortaleció sus controles de seguridad, bloqueó el acceso de los modelos a internet durante determinadas etapas de entrenamiento y evaluación, mejoró sus mecanismos para detectar desalineación y amplió la supervisión de los procesos de aprendizaje por refuerzo.
Los casos reabren el debate sobre los riesgos de delegar tareas a agentes autónomos, especialmente cuando manejan información sensible o interactúan con sistemas financieros, médicos y gubernamentales. La transparencia sobre estos incidentes permite conocer los fallos detectados, aunque también evidencia que la supervisión y los límites de acceso siguen siendo elementos centrales para el desarrollo seguro de la inteligencia artificial.
Discussion about this post