'Mensen en AI-agents moeten manipulatie leren herkennen om hacks te voorkomen'
Of er bij de Odido-hack een menselijke beller of een AI-gegenereerde deepfake een medewerker misleidde, is nog niet vastgesteld. Omdat de kwaliteit van deepfake-stemmen snel toeneemt, is het steeds moeilijker om op basis van een stem alleen de authenticiteit van een gesprekspartner te beoordelen. Daarom zouden medewerkers én AI-agents zich niet alleen moeten richten op het herkennen van deepfakes, maar op het signaleren van manipulatief gedrag. Denk aan onverwachte urgentie, druk om procedures te omzeilen of verzoeken om gevoelige informatie, inloggegevens of toegangsrechten te delen.
Eén gesprek is voldoende
Cybercriminelen richten hun aanvallen vaak op medewerkers, omdat één overtuigend telefoongesprek al voldoende kan zijn om beveiligingsmaatregelen te omzeilen. Ze doen zich voor als een collega, leverancier of IT-medewerker en creëren tijdsdruk of beroepen zich op hun vermeende autoriteit om slachtoffers tot snelle actie te verleiden. Dat wordt alleen maar lastiger nu AI overtuigend menselijke stemmen kan nabootsen. Uit recent onderzoek blijkt dat 90 procent van de Nederlandse medewerkers deepfakes inmiddels zo realistisch vindt dat het lastig is om nog te bepalen welke informatie te vertrouwen is. Twee op de drie medewerkers denkt zelfs slachtoffer te kunnen worden van deepfake-oplichting op de werkvloer.
Misleiding van AI-agents
Tegelijkertijd krijgen AI-agents binnen organisaties steeds vaker de bevoegdheid om informatie op te zoeken, processen uit te voeren of beslissingen voor te bereiden. Zonder duidelijke grenzen en verificatieregels kunnen ook zij een nieuw doelwit worden van manipulatie, bijvoorbeeld via misleidende instructies of prompt injections. Vertrouwen mag daarom nooit uitsluitend gebaseerd zijn op een stem, een tekst of een AI-opdracht.
Telefonische verificatie serieus nemen
Organisaties moeten telefonische verificatie daarom net zo serieus nemen als digitale beveiliging. Dat betekent: het instellen van duidelijke procedures, een verplichte tweede controle bij gevoelige verzoeken en doorlopende security awareness-trainingen voor medewerkers. Dit moet gecombineerd worden met duidelijke beperkingen voor AI-agents. Er moeten grenzen zijn voor welke informatie zij mogen gebruiken en welke acties zij zelfstandig mogen uitvoeren. Ook moet helder zijn wanneer een mens altijd de beslissing neemt.
Door: Martin Krämer (foto), Security Awareness Advocate bij KnowBe4
