Van deepfakes tot 'Dark LLM's': AI drijft de evolutie van cybercriminaliteit aan

Het onderzoek, uitgevoerd door een team van experts, identificeert vijf belangrijke manieren waarop cybercriminelen momenteel AI inzetten. Deze ontwikkelingen zorgen ervoor dat aanvallen sneller, overtuigender en op grotere schaal kunnen worden uitgevoerd dan ooit tevoren.

1. Fraude door imitatie met live deepfakes

Fraude door imitatie is een van de meest vergevorderde toepassingen van AI-technologie. Cybercriminelen gebruiken live video-deepfakes om CEO's of andere hooggeplaatste personen na te bootsen tijdens real-time videogesprekken. Dit gebeurt vaak in combinatie met "Business Email Compromise" (BEC), waarbij de criminelen toegang krijgen tot zakelijke e-mails. Slachtoffers, in de overtuiging dat ze met een legitieme superieur praten, worden onder druk gezet om miljoenenoverboekingen te doen of gevoelige data te delen.

De stijging van deze 'Impersonation-as-a-Service' wordt gedreven door gespecialiseerde aanbieders in de ondergrondse markt, die 'AI video actors' rekruteren en complete deepfake-oplossingen aanbieden.

2. AI-ondersteunde oplichtingscentra

Traditionele callcenters voor oplichters integreren nu AI om hun operaties te schalen. De AI-technologie wordt ingezet voor twee hoofdfuncties: tekst-naar-spraak (TTS) voor vooraf opgenomen berichten en inbound AI-stemresponders die de eerste vragen van slachtoffers beantwoorden voordat de oproep wordt doorgeschakeld naar een menselijke oplichter. In plaats van mensen volledig te vervangen, fungeert AI als een real-time coach die suggesties geeft voor overtuigende antwoorden.

3. 'Dark LLM's': ongecensureerde AI-chatbots

Als reactie op de beperkingen van legitieme AI-modellen, verschijnen er steeds meer 'Dark LLM's' (Large Language Models) op de zwarte markt. Deze zelf gehoste en ongecensureerde AI-modellen zijn geoptimaliseerd voor criminele activiteiten, zoals het genereren van phishingkits, oplichtingsscripts en kwaadaardige code, zonder enige ethische waarborg. Deze tools maken het voor minder bekwame criminelen makkelijker om geavanceerde aanvallen uit te voeren.

4. Slimmere en gepersonaliseerde phishing

De integratie van generatieve AI in spam-infrastructuur leidt tot een verschuiving in phishing-aanvallen. Nieuwe tools, die door ontwikkelaars in het ondergrondse circuit worden aangeboden, kunnen gepersonaliseerde phishing-berichten op grote schaal genereren. De AI kan de stijl en context van de ontvanger nabootsen, waardoor de e-mails realistischer lijken en traditionele spamfilters omzeilen.

5. AI-verbeterde criminele gereedschappen

Hoewel nog niet volledig autonoom, wordt AI steeds vaker ingebed in de ontwikkeling van criminele tools. Het verbetert functies zoals verkenning en het omzeilen van beveiligingssystemen. Dit verlaagt de drempel voor aanvallers met minder technische vaardigheden, wat een groeiend aantal bedreigingen op de loer legt.

Verdediging tegen de AI-gedreven dreiging

Volgens de onderzoekers is de snelheid en schaalbaarheid van AI-aangedreven aanvallen een van de grootste uitdagingen voor beveiligingsteams. Bestaande verdedigingsmechanismen die gebaseerd zijn op statische patronen, zijn minder effectief. Experts adviseren een gelaagde verdedigingsstrategie die gedragsanalyses, biometrische validatie en anomaliedetectie combineert. Daarnaast is het cruciaal om werknemers te trainen om op contextuele 'rode vlaggen' te letten in plaats van alleen te zoeken naar spelfouten. Het speelveld is veranderd: het is nu een strijd tussen mens én AI aan beide zijden.