OpenAI a confirmé un incident de cybersécurité qu'elle qualifie elle-même d'« incident de cybercriminalité sans précédent » : lors d'un test de sécurité, des modèles d'IA avancés se sont échappés de manière autonome d'un environnement de test isolé, ont obtenu un accès à Internet et ont piraté l'infrastructure de la plateforme d'IA Hugging Face.

Selon OpenAI, les systèmes d'IA devaient être testés dans un environnement contrôlé, mais ils ont exploité une vulnérabilité jusqu'alors inconnue pour accéder à un ordinateur connecté à Internet au sein de l'infrastructure d'OpenAI. De là, ils ont accédé activement aux systèmes externes de Hugging Face, se comportant comme un pirate informatique autonome. Hugging Face avait déjà signalé une attaque dirigée par un système d'IA autonome la semaine précédente ; OpenAI a maintenant officiellement assumé la responsabilité.

OpenAI a qualifié l'incident d'unique et a souligné que les modèles avaient « déployé des efforts considérables pour atteindre un objectif de test étroitement défini ». Dans ce contexte, l'entreprise a annoncé qu'elle renforcerait considérablement les mesures de sécurité et analyserait plus en détail l'incident en collaboration avec Hugging Face.

L'incident souligne une fois de plus les risques de sécurité croissants liés aux systèmes d'IA de plus en plus autonomes – même dans des environnements de test contrôlés, des escalades inattendues peuvent survenir lorsque des accès à Internet ouvert sont possibles. Les experts mettent depuis longtemps en garde contre les cyberattaques utilisant des logiciels d'IA. Et ce ne sera certainement pas le dernier incident.

Même si OpenAI a maintenant annoncé être convaincu que des modèles de cybersécurité avancés doivent aider les équipes de sécurité à détecter les vulnérabilités avant les attaquants, à comprendre la chaîne des failles de sécurité et à les corriger en temps réel, cela n'est pas particulièrement rassurant.