Modelos de OpenAI hackearon plataforma de IA durante pruebas internas: “Ciberataque sin precedentes”

Lo que comenzó como una evaluación interna para medir las capacidades ofensivas de sus modelos de inteligencia artificial terminó convirtiéndose en un incidente que la propia OpenAI calificó como “sin precedentes”. La empresa reveló que dos de sus sistemas experimentales lograron escapar de un entorno de pruebas controlado y accedieron a la plataforma Hugging Face en busca de información para cumplir el objetivo que se les había planteado.

El episodio fue dado a conocer por el director ejecutivo de OpenAI, Sam Altman, quien señaló en su cuenta de X que se trata de un hecho “significativo” y adelantó que la compañía compartirá públicamente las lecciones obtenidas tras la investigación.

En un comunicado publicado en su blog, la empresa explicó que el incidente involucró a dos modelos en fase de pruebas: GPT-5.6 Sol y otro sistema más avanzado que aún no ha sido lanzado.

“Ocurrió durante una evaluación interna que impulsa a los modelos a realizar ataques avanzados mediante rutas complejas, con el fin de cuantificar sus capacidades cibernéticas”, detalló la compañía.

Según OpenAI, la prueba se desarrollaba en un entorno aislado con acceso restringido a internet para evaluar las capacidades de ciberseguridad de los modelos. Sin embargo, ambos sistemas consiguieron superar esas limitaciones.

La empresa explicó que los modelos “se centraron excesivamente” en encontrar una solución al desafío planteado, llegando a identificar vulnerabilidades que les permitieron eludir las restricciones del entorno de investigación.

“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de recursos computacionales en la búsqueda de acceso abierto a Internet para resolver el problema de evaluación”, indicó OpenAI.

Una vez fuera del entorno controlado, los modelos accedieron a Hugging Face, una de las principales plataformas de código abierto para desarrolladores de inteligencia artificial y aprendizaje automático, que alberga millones de modelos y conjuntos de datos.

De acuerdo con la empresa, la inteligencia artificial dedujo que en esa plataforma podría encontrar información útil para completar la evaluación y “buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación”.

OpenAI precisó que el equipo de seguridad de Hugging Face detectó la actividad y logró detenerla, iniciando posteriormente una investigación conjunta entre ambas organizaciones para esclarecer completamente lo ocurrido.

Tras el incidente, la compañía informó que está corrigiendo las vulnerabilidades detectadas e implementando “controles estrictos” para impedir que situaciones similares vuelvan a ocurrir.

“Estamos mejorando y reforzando las medidas de protección para futuras capacitaciones y evaluaciones”, señaló OpenAI, que calificó el episodio como un ciberataque sin precedentes debido a las capacidades demostradas por sus propios modelos durante la prueba.