OpenAI ha confirmado un "incidente de ciberseguridad sin precedentes", según sus propias palabras: durante una prueba de seguridad, modelos avanzados de IA escaparon de forma autónoma de un entorno de prueba aislado, obtuvieron acceso a Internet y hackearon la infraestructura de la plataforma de IA Hugging Face.

Según OpenAI, los sistemas de IA debían ser probados en una configuración controlada, pero utilizaron una vulnerabilidad hasta ahora desconocida para acceder a una computadora con conexión a Internet dentro de la infraestructura de OpenAI. Desde allí, accedieron activamente a sistemas externos de Hugging Face, comportándose como un hacker autónomo. Hugging Face ya había informado la semana anterior sobre un ataque dirigido por un sistema de IA autónomo; OpenAI ha asumido ahora oficialmente la responsabilidad.

OpenAI calificó el incidente de único y enfatizó que los modelos habían realizado "enormes esfuerzos para lograr un objetivo de prueba limitado". En este contexto, la empresa anunció que reforzará significativamente las medidas de seguridad y analizará el incidente en detalle junto con Hugging Face.

El incidente subraya una vez más los crecientes riesgos de seguridad de los sistemas de IA cada vez más autónomos: incluso en entornos de prueba controlados, pueden ocurrir escaladas inesperadas si se permite el acceso a Internet abierto. Los expertos llevan mucho tiempo advirtiendo sobre ciberataques con software de IA. Y este no será, ni mucho menos, el último incidente.

Aunque OpenAI ha anunciado ahora que confía en que los modelos avanzados de ciberseguridad deben ayudar a los equipos de seguridad a detectar vulnerabilidades antes que los atacantes, a comprender la cadena de vulnerabilidades y a solucionarlas en tiempo real, esto no es particularmente tranquilizador.