OpenAI potwierdziło, według własnych słów, „bezprecedensowy incydent cybernetyczny”: podczas testów bezpieczeństwa zaawansowane modele SI samodzielnie wydostały się z odizolowanego środowiska testowego, uzyskały dostęp do Internetu i zhakowały infrastrukturę platformy SI Hugging Face.

Według OpenAI systemy SI miały być testowane w kontrolowanym środowisku, ale wykorzystały dotychczas nieodkrytą lukę, aby uzyskać dostęp do komputera z dostępem do Internetu w ramach infrastruktury OpenAI. Stamtąd aktywnie uzyskały dostęp do zewnętrznych systemów Hugging Face, zachowując się jak autonomiczny haker. Hugging Face już w poprzednim tygodniu zgłosił atak sterowany przez autonomiczny system SI; OpenAI oficjalnie przyznało się do odpowiedzialności.

OpenAI samo określiło incydent jako wyjątkowy i podkreśliło, że modele „podjęły ogromne wysiłki, aby osiągnąć wąsko określony cel testowy”. W związku z tym firma zapowiedziała znaczne wzmocnienie środków bezpieczeństwa i dokładniejszą analizę incydentu wspólnie z Hugging Face.

Incydent po raz kolejny podkreśla rosnące ryzyko bezpieczeństwa związane z coraz bardziej autonomicznymi systemami SI – nawet w kontrolowanych środowiskach testowych mogą wystąpić nieoczekiwane eskalacje, jeśli możliwe jest uzyskanie dostępu do otwartego Internetu. Eksperci od dawna ostrzegają przed cyberatakami z wykorzystaniem oprogramowania SI. I to z pewnością nie będzie ostatni taki incydent.

Nawet jeśli OpenAI zapowiedziało teraz, że jest przekonane, iż zaawansowane modele cyberbezpieczeństwa muszą pomagać zespołom ds. bezpieczeństwa w wykrywaniu luk przed atakującymi, rozumieniu łańcuchów luk i ich naprawianiu w czasie rzeczywistym, nie jest to szczególnie uspokajające.