AI-desinformatiecampagnes gevaar voor verkiezingen

Uit onderzoek van Microsoft blijkt dat aanvallers gelieerd aan de Chinese Communistische Partij onder andere controversiële vragen begonnen te stellen via social media over omstreden binnenlandse kwesties in de VS. Hiermee willen de aanvallers belangrijke thema’s identificeren die Amerikaanse kiezers verdelen, om hen beter te kunnen beïnvloeden. Uit hetzelfde onderzoek blijkt ook dat China AI-gegenereerde content had verspreid met als doel beïnvloeding van de verkiezingen.

Cybersecurity professionals waarschuwen al langer voor aanvallen met AI-gegenereerde content – vooral met verkiezingen in gedachte. ENISA, het Europees agentschap voor cybersecurity, schat zelfs in dat AI-gegenereerde desinformatiecampagnes de grootste dreiging zijn voor de Europese verkiezingen van dit jaar.

Gebrek aan specialisten maakt het ‘werk’ van aanvallers makkelijker

Desinformatiecampagnes vanuit China zijn vaak succesvol doordat degenen die verantwoordelijk zijn voor de verkiezingen onvoldoende voorbereid zijn op AI-gebaseerde aanvallen en/of doordat burgers vaak te weinig of geen vraagtekens zetten bij informatie die ze krijgen uit verschillende bronnen. Toch geeft, zo blijkt uit onderzoek naar de security van verkiezingen in de VS, meer dan de helft van de leidinggevenden in Amerikaanse staten en gemeenten aan dat cybersecurity en desinformatie hun grootste zorgen zijn. En terecht! Uit het onderzoek blijkt dat hun IT- en cybersecurityteams vaak onderbemand en overbelast zijn. En in een verkiezingsjaar zullen zij alleen maar meer taken krijgen.

Tegenstrijdigheid: China als handelspartner én politieke tegenstander

China zet vaak tactieken in die cybercriminelen normaliter gebruiken voor economische en politieke doeleinden. Het is dus geen verassing dat ook AI-methoden worden gebruikt. Het gebruik van geavanceerde technologie om verkiezingen te verstoren of te beïnvloeden is een logische volgende stap in politieke beïnvloeding. Het feit dat China een belangrijke handelspartner is (Nederlandse bedrijven importeerden bijvoorbeeld in 2023 voor ruim 59 miljard euro aan goederen uit China), is riskant – maar niet echt verassend. De Chinese regering staat haaks op het democratische staatsmodel van Westerse landen. Het manipuleren van democratische verkiezingen is een krachtig middel voor China.

Er worden AI-algoritmen specifiek getraind om verkiezingen te manipuleren en om desinformatiecampagnes te creëren. Ze analyseren enorme hoeveelheden data om opinietrends te bepalen en imiteren gebruikers op social media. Daarnaast worden AI-gebaseerde bots of deepfakes gebruikt om onjuiste informatie te verspreiden, verwarring te zaaien en zo de publieke opinie te beïnvloeden. Om dit soort manipulatie tegen te gaan, is het essentieel om het collectieve bewustzijn op het gebied van cybersecurity te vergroten. Hiernaast moeten mensen zich realiseren dat het belangrijk is om je bewust te zijn van alle informatie die je tot je neemt. Alleen door oplettendheid kan gemanipuleerde content worden herkend.

Geen dystopie, maar een reëel gevaar: succesvolle verkiezingsmanipulatie

De ervaring leert dat vooral landen als China door AI gegenereerde misleidende verhalen, manipulatieve informatie en nepcontent verspreiden. Deze AI-gegenereerde content is inmiddels van zo’n hoge kwaliteit dat op het eerste gezicht moeilijk als nep te herkennen is – dit zal alleen maar moeilijker worden naarmate technologie verder wordt verbeterd.

Om verkiezingsmanipulatie door China of andere politieke tegenstanders te voorkomen, moeten er uitgebreide verdedigingsmaatregelen en initiatieven worden genomen om kiezers meer over cybersecurity te leren. Voorbeelden hiervan zijn wetgeving om desinformatie en nepnieuws te bestrijden, zoals de Digital Services Act, of cyber awareness trainingen. Het beveiligen van verkiezingen tegen cyberaanvallen en het beschermen van kiezers tegen manipulatie waarborgt de democratie.

Door: Adam Marrè (foto), Chief Information Security Officer bij Arctic Wolf