OpenAI-model brak in bij ander AI-bedrijf: 'Onverantwoordelijk gedrag'
Het was een 'nieuw soort inbraak', die het bedrijf Hugging Face vorige week op het spoor kwam. Het ging namelijk om een hack die volledig door een AI-model werd uitgevoerd.
Wie er achter de hack zat, is nu duidelijk: het was techbedrijf OpenAI. Bij het testen van een nieuw model ging het mis, en brak het nieuwe model onbedoeld in op de systemen van Hugging Face.
De schade is beperkt, de ophef is groot. Want hoe kan het dat een AI-model ongevraagd een échte hack uitvoert?
"Dit incident laat zien dat we niet zo goed weten wat die AI-modellen wel en niet kunnen", zegt Frank van Harmelen, hoogleraar aan de Vrije Universiteit. "Daar kun je alleen experimenteel achter komen, en daarom voeren AI-bedrijven tests uit."
Proefwerk
Zo'n test is een soort proefwerk, waarin een AI-model punten scoort als het bepaalde opdrachten succesvol uitvoert. De antwoorden van dat proefwerk waren te vinden bij Hugging Face, een online platform waar veel verschillende AI-modellen te vinden zijn.
En dus probeerde het nieuwe model van OpenAI de makkelijke weg te vinden naar een goede score: inbreken bij Hugging Face om daar de antwoorden te stelen.
"Zo'n test wordt gedaan in een afgesloten testomgeving", legt Van Harmelen uit. "Dat noemen we een sandbox, zoals een zandbak waar een kind veilig kan spelen. Het is niet de bedoeling dat een model daar uit kan om acties uit te voeren in de echte wereld."
AI-bot Mythos is een 'superhacker': hoe gevaarlijk is dat?
En dat ging in dit geval mis: het model wist toch een weg te vinden naar het internet. "Dat is gewoon slecht gebouwd", zegt Van Harmelen. "Dan stapel je twee risico's op elkaar. Dat je niet kan voorspellen wat zo'n model gaat doen, bovenop het risico van het niet goed afsluiten van die internetverbinding."
Een geluk bij een ongeluk is dat de hack geen schade heeft aangericht bij Hugging Face, en geen data heeft aangepast of verwijderd.
Dodelijke mix
OpenAI maakte het incident bekend in een persbericht, waar ook enige trots in doorklinkt. Het bedrijf noemt het een 'ongekend incident met toonaangevende cybercapaciteiten'.
"Dat maakt het extra gevaarlijk", zegt Van Harmelen. "Deze technologie is in handen van bedrijven die zich niet erg verantwoordelijk gedragen. Er is een wedstrijd aan de gang om marktleider te worden, en blijkbaar helpt het dan om op te scheppen over hoe krachtig je modellen te zijn, in plaats van je te richten op veiligheid."
Van Harmelen: "Het is een dodelijke mix van hele krachtige technologie, gebrek aan begrip en toxische bedrijven die daar onverantwoordelijk mee omgaan."
Een andere angst bij kunstmatige intelligentie: gaat het onze banen inpikken? 1 op de 10 werknemers maakt zich zorgen over de toekomst van hun baan, zie je in deze video:
