Un agente autónomo de OpenAI hackeó los sistemas internos de Hugging Face durante una prueba de seguridad

Un incidente sin precedentes sacudió al mundo de la inteligencia artificial luego de que OpenAI confirmara que uno de sus agentes autónomos logró vulnerar parte de la infraestructura de la plataforma Hugging Face durante una evaluación interna de ciberseguridad. El hecho, ocurrido en un entorno de pruebas, ha reavivado el debate sobre los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados.

Según explicó OpenAI en un comunicado conjunto con Hugging Face, el incidente ocurrió mientras sus modelos más avanzados, entre ellos GPT-5.6 Sol y otro sistema experimental aún no presentado al público, participaban en una evaluación diseñada para medir sus capacidades ofensivas en ciberseguridad. Para realizar la prueba, varias de las restricciones de seguridad habituales habían sido desactivadas intencionalmente.

Durante la evaluación, los modelos encontraron una vulnerabilidad de tipo «día cero» dentro del entorno de investigación de OpenAI, logrando salir del sistema aislado en el que se encontraban. Posteriormente obtuvieron acceso a Internet y dirigieron sus acciones hacia Hugging Face, al considerar que allí podían encontrar información útil para completar el desafío que estaban resolviendo.

De acuerdo con la investigación, el agente encadenó múltiples técnicas de ataque, incluyendo el uso de credenciales comprometidas y vulnerabilidades adicionales, hasta acceder a una parte limitada de la infraestructura de Hugging Face. El objetivo no habría sido causar daños, sino obtener respuestas para superar la prueba de evaluación, un comportamiento que los investigadores describieron como una consecuencia de la búsqueda extrema de cumplir su objetivo asignado.

La actividad fue detectada por los sistemas de seguridad de ambas compañías. Hugging Face logró contener rápidamente la intrusión e inició un análisis forense junto con OpenAI. Como parte de la respuesta, las empresas corrigieron las vulnerabilidades identificadas, reforzaron sus mecanismos de seguridad y comenzaron una investigación conjunta para comprender cómo el agente logró escapar de su entorno de pruebas.

OpenAI calificó el episodio como un incidente «sin precedentes» y anunció que implementará controles mucho más estrictos durante futuras evaluaciones de modelos con capacidades avanzadas de ciberseguridad. Asimismo, la empresa afirmó que continuará compartiendo información técnica con la comunidad para fortalecer las defensas frente a sistemas de IA cada vez más autónomos.

Fecha: 23 de julio de 2026