Een nieuw tijdperk van op AI-gebaseerde aanvallen begint

In cyberbeveiliging heeft het gebruik van AI zowel voor- als nadelen. Aan de ene kant kan het gebruikt worden om beveiligingsinitiatieven nog sterker te maken, maar datzelfde geldt natuurlijk ook voor de initiatieven van cybercriminelen. De publieke beschikbaarheid van AI-tools zoals ChatGPT geeft aanvallers nog meer mogelijkheden om gepersonaliseerde aanvallen te genereren en deze te automatiseren. Volgens ons kan AI de kracht van cybercriminelen op drie gebieden in het bijzonder versterken: het vergroten van de geavanceerdheid van low-level dreigingsactoren, het versnellen van aanvallen dankzij automatisering en het vertrouwen onder gebruikers beschadigen.

Op dit moment zien we al de eerste tekenen van deze ontwikkeling.

Op AI-gebaseerde cyberaanvallen

In april 2023 ontdekte Darktrace dat ‘nieuwe social engineering-aanvallen’ – e-mailaanvallen die een sterke taalkundige afwijking vertonen ten opzichte van andere phishing e-mails – met 135% waren toegenomen tussen januari en februari 2023. De timing hiervan komt overeen met de brede beschikbaarheid van ChatGPT. Dit suggereert dat generatieve AI-tools cybercriminelen de mogelijkheid bieden om meer geavanceerde en gerichte aanvallen uit te voeren, op snelheid en schaal.

Daarnaast heeft ons Cyber AI Research Center tussen mei en juli van dit jaar waargenomen dat meerfasige payload-aanvallen met gemiddeld 59% zijn toegenomen. Dit zijn aanvallen waarbij een kwaadaardige e-mail de ontvanger aanmoedigt om een reeks stappen te volgen voordat een payload wordt afgeleverd, of probeert gevoelige informatie te verzamelen. Er werden in juli bijna 50.000 meer van dit soort aanvallen gedetecteerd dan in mei, wat wijst op de inzet van automatisering. De snelheid van dit soort aanvallen zal waarschijnlijk nog verder toenemen naarmate AI en automatisering vaker door aanvallers worden overgenomen en toegepast.

In dezelfde periode heeft Darktrace veranderingen geobserveerd in aanvallen die misbruik maken van vertrouwen. Terwijl het aantal phishing-e-mails die senior managers nabootsen met 11% daalde, nam het aantal pogingen tot het overnemen van individuele e-mailaccounts met 52% toe. Daarnaast nam het imiteren van het interne IT-team met 19% toe. Deze veranderingen suggereren dat werknemers de imitatie van senior executives beter kunnen identificeren, waardoor aanvallers zich zijn gaan richten op het nabootsen van IT-teams.

‘Nieuw’ is het nieuwe normaal

Hoewel het gebruikelijk is dat aanvallers hun technieken veranderen naarmate de effectiviteit afneemt, heeft generatieve AI (met name deepfakes) het potentieel om dit patroon te verstoren ten gunste van aanvallers. Factoren zoals toenemende taalkundige verfijning en zeer realistische stemvervalsingen zouden gemakkelijk kunnen worden ingezet om werknemers te misleiden.

Deze vroege tekenen geven ons een glimp van een nieuw tijdperk van ontwrichting en uitdagingen op het gebied van cyberbeveiliging. Een tijdperk waarin ‘nieuw’ het nieuwe normaal is. De enige manier om deze vorm van op AI-gebaseerde cybercriminaliteit te bestrijden, is met AI. Hier liggen dan ook kansen. Leveranciers kunnen zichzelf onderscheiden met hun aanbod en organisaties kunnen hun cyberbeveiliging snel versterken tegen dit soort nieuwe aanvallen.

Door: Jack Stockdale (foto), CTO bij Darktrace