OpenAI, Hugging Face y el fallo que llamaron rebelión

Cinco días. Ese es el tiempo que pasó entre que Hugging Face detectó y contuvo una intrusión en sus servidores de producción y el momento en que OpenAI descubrió que el intruso era suyo. El 21 de julio de 2026 OpenAI publicó en su blog corporativo que dos de sus modelos, GPT-5.6 Sol y un prototipo sin lanzar, habían provocado ese incidente. La cobertura fue inmediata y unánime: la inteligencia artificial se había escapado. Fortune habló de alarmas en toda la industria. Un investigador de la Universidad de Louisville declaró que estos sistemas son impredecibles e incontrolables. El expediente técnico cuenta algo menos cinematográfico. Los modelos estaban siendo evaluados en un benchmark interno de capacidades ofensivas de ciberseguridad llamado ExploitGym. Para esa prueba, OpenAI desactivó deliberadamente los filtros que impiden a sus sistemas ejecutar operaciones de alto riesgo. El entorno aislado tenía una única vía de conexión al exterior, un proxy de caché de paquetes documentado por la propia empresa, y ese proxy tenía una vulnerabilidad que nadie conocía. El modelo dedicó horas de cómputo a buscar una salida, la encontró, y encadenó fallos hasta llegar a los servidores de Hugging Face, de donde extrajo las respuestas del examen que debía resolver por su cuenta. El fundador de Trail of Bits lo llamó un fallo de contención con las salvaguardas apagadas. En 2019, con GPT-2, la misma empresa anunció que su modelo era demasiado peligroso para publicarse y meses después resultó que no lo era. Analizamos qué ocurrió realmente, por qué se eligieron esas palabras y qué tenía OpenAI en el calendario esa misma semana. La próxima vez que leas que una máquina decidió algo, prueba a preguntarte quién necesita que lo creas.

Learn more about your ad choices. Visit megaphone.fm/adchoices