Een kunstmatige intelligentie van OpenAI zou tijdens een test zelfstandig uit een afgesloten omgeving zijn ontsnapt en vervolgens hebben ingebroken bij een ander AI-platform.
Het programma zou daarbij beveiligingsmaatregelen hebben omzeild en toegang hebben gekregen tot het internet, meldt Reuters op basis van anonieme bronnen.
OpenAI betwist delen van de berichtgeving en zegt dat er meerdere onjuistheden in het verhaal staan.
OpenAI testte het programma om zelfstandig beveiligingsproblemen in computersystemen op te sporen. Tijdens die test zou de kunstmatige intelligentie volgens Reuters onverwacht gedrag hebben vertoond en de grenzen van de afgesloten testomgeving hebben doorbroken.
Na de ontsnapping kreeg het programma toegang tot internet. Daarna zou het hebben geprobeerd binnen te dringen bij Hugging Face, een groot platform waar ontwikkelaars kunstmatige intelligentie-modellen en datasets delen. Volgens de berichtgeving maakte het programma daarbij gebruik van een kwetsbaarheid.
De problemen zouden al op 9 juli zijn begonnen, toen medewerkers afwijkend gedrag van het systeem opmerkten. Tussen 11 en 13 juli zou de daadwerkelijke digitale inbraak hebben plaatsgevonden. Pas later ontdekten medewerkers via logbestanden welke acties het programma had uitgevoerd.
Uit interne informatie zou blijken dat de kunstmatige intelligentie zelf de voortgang van zijn acties bijhield. Ook zou het programma instructies hebben achtergelaten voor een toekomstige versie van zichzelf over manieren om veiligheidsmaatregelen te omzeilen.
Hugging Face maakte op 16 juli bekend dat er een incident had plaatsgevonden. Oprichter Thomas Wolf nam enkele dagen later contact op met OpenAI om de situatie te bespreken. Hugging Face heeft de zaak inmiddels gemeld bij de politie.
OpenAI heeft aangekondigd een uitgebreid onderzoek naar het incident uit te voeren en met een technisch rapport te komen. Het bedrijf benadrukt dat de reconstructie van Reuters volgens hen niet volledig klopt, maar erkent dat het incident verder onderzocht moet worden.
De gebeurtenis zorgt opnieuw voor discussie over de risico’s van steeds zelfstandiger wordende kunstmatige intelligentie.
Experts waarschuwen al langer dat krachtige AI-systemen onverwacht gedrag kunnen vertonen wanneer zij meer vrijheid krijgen om zelfstandig taken uit te voeren.
Volg CrimeNieuws op:
