24 mei 2024

AI-desinformatiecampagnes gevaar voor verkiezingen

In 2024 gaat ongeveer de helft van de wereld naar de stembus. Zo zijn er onder andere verkiezingen in Duitsland en Zuid-Korea, Europese verkiezingen en natuurlijk Amerikaanse presidentsverkiezingen. Cybercriminelen maken hiervan gebruik om desinformatie en manipulatieve informatie te verspreiden – iets dat makkelijker wordt door AI. Rusland doet actief aan het verspreiden van desinformatie, zo legde Tsjechië onlangs een Russisch desinformatienetwerk bloot waarvoor ook Nederlandse politici benaderd waren. Het is echter China dat voorop loopt als het gaat om desinformatie, manipulatie en AI.

AI-desinformatiecampagnes gevaar voor verkiezingen image

Uit onderzoek van Microsoft blijkt dat aanvallers gelieerd aan de Chinese Communistische Partij onder andere controversiële vragen begonnen te stellen via social media over omstreden binnenlandse kwesties in de VS. Hiermee willen de aanvallers belangrijke thema’s identificeren die Amerikaanse kiezers verdelen, om hen beter te kunnen beïnvloeden. Uit hetzelfde onderzoek blijkt ook dat China AI-gegenereerde content had verspreid met als doel beïnvloeding van de verkiezingen.

Cybersecurity professionals waarschuwen al langer voor aanvallen met AI-gegenereerde content – vooral met verkiezingen in gedachte. ENISA, het Europees agentschap voor cybersecurity, schat zelfs in dat AI-gegenereerde desinformatiecampagnes de grootste dreiging zijn voor de Europese verkiezingen van dit jaar.

Gebrek aan specialisten maakt het ‘werk’ van aanvallers makkelijker

Desinformatiecampagnes vanuit China zijn vaak succesvol doordat degenen die verantwoordelijk zijn voor de verkiezingen onvoldoende voorbereid zijn op AI-gebaseerde aanvallen en/of doordat burgers vaak te weinig of geen vraagtekens zetten bij informatie die ze krijgen uit verschillende bronnen. Toch geeft, zo blijkt uit onderzoek naar de security van verkiezingen in de VS, meer dan de helft van de leidinggevenden in Amerikaanse staten en gemeenten aan dat cybersecurity en desinformatie hun grootste zorgen zijn. En terecht! Uit het onderzoek blijkt dat hun IT- en cybersecurityteams vaak onderbemand en overbelast zijn. En in een verkiezingsjaar zullen zij alleen maar meer taken krijgen.

Tegenstrijdigheid: China als handelspartner én politieke tegenstander

China zet vaak tactieken in die cybercriminelen normaliter gebruiken voor economische en politieke doeleinden. Het is dus geen verassing dat ook AI-methoden worden gebruikt. Het gebruik van geavanceerde technologie om verkiezingen te verstoren of te beïnvloeden is een logische volgende stap in politieke beïnvloeding. Het feit dat China een belangrijke handelspartner is (Nederlandse bedrijven importeerden bijvoorbeeld in 2023 voor ruim 59 miljard euro aan goederen uit China), is riskant – maar niet echt verassend. De Chinese regering staat haaks op het democratische staatsmodel van Westerse landen. Het manipuleren van democratische verkiezingen is een krachtig middel voor China.

Er worden AI-algoritmen specifiek getraind om verkiezingen te manipuleren en om desinformatiecampagnes te creëren. Ze analyseren enorme hoeveelheden data om opinietrends te bepalen en imiteren gebruikers op social media. Daarnaast worden AI-gebaseerde bots of deepfakes gebruikt om onjuiste informatie te verspreiden, verwarring te zaaien en zo de publieke opinie te beïnvloeden. Om dit soort manipulatie tegen te gaan, is het essentieel om het collectieve bewustzijn op het gebied van cybersecurity te vergroten. Hiernaast moeten mensen zich realiseren dat het belangrijk is om je bewust te zijn van alle informatie die je tot je neemt. Alleen door oplettendheid kan gemanipuleerde content worden herkend.

Geen dystopie, maar een reëel gevaar: succesvolle verkiezingsmanipulatie

De ervaring leert dat vooral landen als China door AI gegenereerde misleidende verhalen, manipulatieve informatie en nepcontent verspreiden. Deze AI-gegenereerde content is inmiddels van zo’n hoge kwaliteit dat op het eerste gezicht moeilijk als nep te herkennen is – dit zal alleen maar moeilijker worden naarmate technologie verder wordt verbeterd.

Om verkiezingsmanipulatie door China of andere politieke tegenstanders te voorkomen, moeten er uitgebreide verdedigingsmaatregelen en initiatieven worden genomen om kiezers meer over cybersecurity te leren. Voorbeelden hiervan zijn wetgeving om desinformatie en nepnieuws te bestrijden, zoals de Digital Services Act, of cyber awareness trainingen. Het beveiligen van verkiezingen tegen cyberaanvallen en het beschermen van kiezers tegen manipulatie waarborgt de democratie.

Door: Adam Marrè (foto), Chief Information Security Officer bij Arctic Wolf

Zscaler BW 04-06 tm 18-06-2024 Darktrace BW 28-05 tm 18-06-2024
Darktrace BN en BW 04-06-2024 tm 18-06-2024