OpenAI blokkeert accounts achter Russisch beïnvloedingsnetwerk
Kunstmatige-intelligentiebedrijf OpenAI heeft een geavanceerde beïnvloedingsoperatie uit Rusland ontmanteld. Het netwerk gebruikte ChatGPT-accounts om berichten te genereren voor een ogenschijnlijk onafhankelijke denktank: het International Burke Institute (IBI). Hoewel het publieke bereik van de campagne beperkt bleef, valt de operatie volgens onderzoekers van OpenAI op door de ingewikkelde schijnwereld die de actoren wisten op te bouwen om westerse landen te bekritiseren en Rusland positief af te schilderen.
De Russische operatie gebruikte VPN-verbindingen en instructies in het Russisch om via ChatGPT Engelstalige en Duitstalige sociale-mediaberichten te genereren voor platforms zoals X, Substack, LinkedIn, Facebook en Telegram, zo meldt OpenAI. De AI werd ingezet om de taalkundige sporen van de Russische makers uit te wissen. De berichten verwezen doellos naar de website van het IBI, dat claimde gevestigd te zijn in Israël.
Diefstal van academisch werk en nep-indices
Om het IBI als een legitiem instituut te presenteren, bouwden de actoren een uitgebreide site met nepartikelen. Uit onderzoek van OpenAI bleek dat van een steekproef van 36 artikelen er 34 simpelweg gekopieerd waren van echte academische bronnen — vaak toegeschreven aan de verkeerde professoren. Zo werd een publicatie van Cambridge University toegeschreven aan een andere expert en werd een Australische professor in de levensmiddelenchemie opgevoerd als expert in migratiebeleid.
Daarnaast lanceerde de site een zogeheten 'soevereiniteitsindex'. Deze index werd gebruikt om westerse landen zoals Frankrijk, Duitsland, de EU en de VS te bekritiseren en hun autonomie in twijfel te trekken, terwijl het beleid van Moskou juist werd geprezen. Ook werden via Telegram-kanalen, zoals het Duitse Lahme Ente, berichten verspreid die de steun aan Oekraïne en het beleid van westerse overheden ondermijnden.
Beperkte impact, maar waarschuwing voor de toekomst
Het bereik van de individuele berichten op sociale media bleef volgens OpenAI gering, al wisten sommige verbonden Telegram-kanalen tussen de 10.000 en 20.000 volgers te trekken. Het bedrijf schaalt de impact in op het lagere niveau van Categorie 3 op de Brookings Breakout Scale.
Volgens OpenAI zit het grootste gevaar van de operatie niet in het directe bereik, maar in de opzet: het toont hoe kwaadwillenden AI inzetten om op schaal autoriteit te veinzen. Door nep-instituten op te tuigen met gestolen academische artikelen en AI-berichten proberen zij desinformatie een geloofwaardig gezicht te geven. Alle betrokken ChatGPT-accounts zijn inmiddels door OpenAI geblokkeerd.
