Wouter Hoeffnagel - 26 juni 2024

'Proactieve securitybenadering met AI helpt fraude tegen te gaan'

Booking.com heeft in de laatste 18 maanden een toename van 500 en 900 procent vastgesteld in online oplichting. Dit wijdt het bedrijf aan de opkomst van generatieve AI-tools, waarmee cybercriminelen realistischere e-mails kunnen maken. Phishing-e-mails zijn hierdoor nauwelijks meer van echte, veilige e-mails te onderscheiden. Bedrijven kunnen voorkomen dat hun medewerkers hiervan slachtoffer worden door een proactieve benadering van beveiliging te omarmen waarin kunstmatige intelligentie een cruciale rol speelt, stelt Pieter Jansen, Senior Vice President of Cyber Innovation bij Darktrace.

'Proactieve securitybenadering met AI helpt fraude tegen te gaan' image

"In december 2023 ontvingen klanten van Darktrace 2.867.000 phishing-e-mails, een stijging van 14 procent ten opzichte van september 2023. Ook nam het aantal phishing-e-mails die geavanceerder taalgebruik en interpunctie hebben tussen september en december 2023 toe met maar liefst 35 procent. Deze periode komt overeen met het tijdspad waarin ChatGPT breed beschikbaar werd. Dit versterkt ons vermoeden dat cybercriminelen generatieve AI-tools gebruiken om hun phishingaanvallen te versterken", aldus Jansen.

'Vertrouw niet op werknemers als laatste verdedigingsmechanisme'

"Veel beveiligingstools die bedrijven gebruiken vertrouwen op historische aanvalsgegevens om bekende e-mailbedreigingen te identificeren en te voorkomen dat ze opnieuw in de inbox terechtkomen. Deze aanpak faalt echter vaak bij nieuwe of onbekende bedreigingen. Naarmate phishing-aanvallen door de toepassing van generatieve AI steeds geloofwaardiger worden, kunnen organisaties er niet op vertrouwen dat werknemers de laatste verdedigingslinie tegen deze aanvallen vormen."

"In plaats daarvan moeten organisaties tools gebruiken die kunnen begrijpen hoe hun werknemers omgaan met hun inbox en een profiel kunnen opbouwen van welke activiteit normaal is voor gebruikers, zo ook in de context van e-mailcommunicatie. Met wie hebben medewerkers regelmatig contact, waarover gaan deze e-mails en wat is de toon en het sentiment? Kunstmatige intelligentie kan leren wat gebruikelijke e-mailcommunicatie van medewerkers inhoudt, waardoor het subtiele signalen van een phishingaanval kan opmerken. In het geval van een potentiële dreiging kan het deze onmiddellijk detecteren en erop reageren, waardoor potentiële cyberaanvallen op tijd kunnen worden gestopt."