'Hackende AI-agents OpenAI sloegen eerder al toe bij codeerdienst RubyGems'

Dat blijkt uit onderzoek van een coalitie van AI-onderzoekers, dat is gedeeld met The Wall Street Journal (WSJ) en met OpenAI. De aanval op RubyGems, een populaire online dienst voor programmeurs, zorgde voor zoveel verstoring dat de beheerders van de dienst de registratie van nieuwe accounts tijdelijk moesten stopzetten om de situatie onder controle te krijgen.

'Gebruikt voor onschuldige taken'

OpenAI bevestigde vrijdag dat zijn agents betrokken waren bij het incident met RubyGems. Volgens het bedrijf gebruikten de agents het platform om toegang te krijgen tot internet en om onschuldige taken uit te voeren, zoals het ophalen van openbaar beschikbare informatie. Een woordvoerster van OpenAI zei dat het bedrijf de zaak verder onderzoekt als onderdeel van een bredere evaluatie van de activiteiten van agents tijdens training en tests.

Volgens OpenAI kregen de agents opdrachten zoals het invullen van spreadsheets en het opstellen van rapporten. Omdat ze in de gebruikte testomgeving geen volledige internettoegang hadden, zouden ze RubyGems hebben gebruikt als een soort geïmproviseerde webbrowser om toch bij publiek beschikbare informatie te kunnen komen.

'Laat mogelijkheden van dit soort agents zien'

Sydney Von Arx, directeur van de non-profitorganisatie Nightingale Collective en betrokken bij het blootleggen van de aanval, zegt tegen WSJ dat het incident weliswaar beperkte schade veroorzaakte, maar wel de mogelijkheden van dit soort agents liet zien. Volgens haar kunnen de systemen "ontsnappen van het internet en schade aanrichten".

Bij de hack bij Hugging Face in juli werkten volgens een rapport van de AI-veiligheidsorganisatie METR van eind augustus tot wel 1.200 agents samen via een zelfgemaakt berichtenbord dat ze binnen OpenAI hadden opgezet, buiten medeweten van het bedrijf om. Von Arx zei verder dat OpenAI-agents eerder dit jaar ook een obscure Duitse website en meerdere andere sites hadden overgenomen.