Analyse van Group-IB: AI revolutioneert cybercriminaliteit

Het onderzoek benadrukt dat AI cybercriminelen in staat stelt om op ongekende schaal, snelheid en personalisatie te opereren. De bevindingen schetsen een verontrustend beeld van de huidige dreigingen:

Levende deepfakes omzeilen verificatie: Cybercriminelen gebruiken live deepfakes om traditionele verificatieprocedures te omzeilen. Dit heeft al geleid tot miljoenenfraudegevallen, waarbij daders zich voordoen als legitieme personen om gevoelige informatie of geld te verkrijgen.

AI-gestuurde oplichtersbureau's: Scammers maken tegenwoordig gebruik van callcenters die AI-gegenereerde stemmen combineren met menselijke operators. Deze hybride aanpak maakt het moeilijker voor slachtoffers om de zwendel te herkennen, aangezien de stemmen authentiek klinken.

Opkomst van "DarkLLM's": Group-IB heeft een toename geconstateerd van zelf gehoste "DarkLLM's" – ongecensureerde, voor misdaad geoptimaliseerde AI-modellen. Deze modellen worden gebruikt om schadelijke code te genereren, social engineering-tactieken te ontwikkelen en andere criminele activiteiten te ondersteunen.

Gepersonaliseerde phishing op schaal: Dankzij AI-gestuurde phishing- en spamtools kunnen aanvallers nu hyper-gepersonaliseerde lokmails genereren. Deze berichten zijn perfect afgestemd op hun doelwitten en worden op grote schaal verspreid, wat de kans op succes aanzienlijk vergroot.

Hybride mens-AI-operaties als de nieuwe norm: Het rapport benadrukt dat ondanks de afwezigheid van volledig autonome AI-aanvallen, de hybride mens-AI-operaties de dreiging al aanzienlijk hebben veranderd. Menselijke aanvallers gebruiken AI om de effectiviteit van hun campagnes te vergroten, waardoor traditionele verdedigingsmechanismen tekortschieten.

De analyse concludeert dat de toekomst van cybersecurity een strijd zal zijn van "mens plus AI versus mens plus AI." Om de evoluerende dreiging het hoofd te bieden, moeten verdedigers proactief zijn. Dit omvat onder meer het aannemen van meerlaagse verdedigingsstrategieën, het vergroten van inzicht in ondergrondse ecosystemen en het opnieuw inrichten van trainingen voor werknemers om zich te richten op contextgebaseerde waarschuwingssignalen. Het volledige rapport is te lezen op de blog van Group-IB.