Is dit het einde? AI breekt uit testomgeving en... valt andere AI aan

Een veiligheidstest van OpenAI heeft geleid tot een ongezien cyberincident. Experimentele AI-modellen, waaronder GPT-5.6 Sol, moesten tijdens een interne evaluatie complexe softwarekwetsbaarheden opsporen. De normale beveiligingsfilters waren daarvoor bewust afgezwakt. In plaats van de opdracht uitsluitend binnen de afgesloten testomgeving uit te voeren, zochten de modellen zelfstandig naar een uitweg.

De AI ontdekte een onbekende kwetsbaarheid in software die als toegangspoort voor pakketdownloads werd gebruikt. Via dat lek kreeg het systeem toegang tot het openbare internet. Vervolgens voerde het verschillende stappen uit om hogere toegangsrechten en gestolen inloggegevens te bemachtigen. Uiteindelijk drong het binnen in delen van de infrastructuur van ontwikkelaarsplatform Hugging Face.

"Ongekend cyberincident"

Het doel was volgens OpenAI niet om schade aan te richten. De modellen waren volledig gefocust op het oplossen van de beveiligingstest ExploitGym. Ze vermoedden dat Hugging Face informatie over de opdrachten bewaarde en probeerden die gegevens rechtstreeks uit een interne database te halen. OpenAI noemt het voorval een “ongekend cyberincident”, omdat de modellen zelfstandig nieuwe aanvalspaden ontdekten en combineerden. (lees verder onder de afbeelding)

Wat waren de gevolgen van de aanval?

Hugging Face merkte de ongeoorloofde activiteiten op en kon de aanval stoppen. Een beperkt aantal interne datasets en toegangsgegevens werd getroffen, maar er zijn geen aanwijzingen dat openbare modellen, gebruikersdatasets of softwarepakketten werden aangepast. Beide bedrijven onderzoeken het incident verder, hebben wachtwoorden en toegangssleutels vervangen en scherpen hun beveiliging en bewaking aan.

Wat betekent dit voor de toekomst?

Het incident betekent niet dat iedere chatbot plots zelfstandig bedrijven zal hacken. De modellen draaiden in een uitzonderlijke testopstelling met minder beperkingen en kregen bewust een offensieve cyberopdracht. Toch is het een duidelijke waarschuwing. Naarmate AI-agents meer hulpmiddelen, toegang en zelfstandigheid krijgen, kunnen ze ook onvoorziene routes kiezen. Sterkere digitale afsluitingen, beperkte toegangsrechten en voortdurend menselijk toezicht worden daardoor steeds belangrijker.

(Afbeeldingen: Magnific)