Dankzij AI-asssistenten is een gehackt mailaccount voldoende voor CEO-fraude

Beveiligingsonderzoekers van Barracuda misbruikten voor de simulatie AI-assistent Copilot voor hun aanval, maar de techniek werkt ook met andere AI-assistenten, benadrukt het bedrijf. Binnen het gehackte werknemersaccount vroegen aanvallers eerst om hulp bij het creëren van persistentie. Zo werden inbox-regels zo ingesteld dat inlogmeldingen en andere verdachte notificaties verborgen worden voor de gebruiker zelf.

De assistent werd daarna gevraagd om de structuur van de organisatie in kaart te brengen en waardevolle doelwitten te identificeren. Ook werden relevante e-mailconversaties boven water gehaald die verborgen zaten tussen oudere e-mails, bijlagen en agenda-activiteiten. Al deze informatie werd vervolgens gebruikt om een phishingbericht voor de CEO op te stellen. Ook daar werd de AI-assistent bij gebruikt, zodat het bericht in de natuurlijke schrijfstijl van de gecompromitteerde medewerker werd geschreven. 

De aanvallers voerden via die mail een aanval uit die de session-token van de CEO steelt. Aangezien de e-mail van een legitiem intern account komt en echte zakelijke context weerspiegelt, is de kans groot dat die aanval slaagt. Eenmaal binnen gebruikten de aanvallers AI om opnieuw hun aanwezigheid in het systeem te handhaven en de meest waardevolle financiële informatie in de mailbox van de CEO te achterhalen. Het ging bijvoorbeeld om recente financiële activiteiten, actieve facturen en approval-workflows. 

De onderzoekers vonden daarbij een betaling van 247.500 dollar die nog in behandeling was. Met de AI-assistent in het account van de CEO werd een verzoek opgesteld aan de financiële afdeling: wijzig de ontvangende bankrekening. Aangezien dat verzoek vanuit de legitieme inbox van de CEO kwam, overeenkwam met de communicatiestijl van de CEO en verwees naar een echte transactie, werd het bericht niet als verdacht aangemerkt. De aanval werd zo dus succesvol. 

AI vormt risico

De simulatie bewijst dat AI ook een groot risico kan vormen, zegt Barracuda. Het kan een mailbox omvormen tot een doorzoekbare bron van informatie. "De e-mailgeschiedenis van een gebruiker staat vol gevoelige informatie en context die door aanvallers kan worden misbruikt, waaronder verzonden en ontvangen e-mails, gedeelde documenten, bijlagen en agenda-invites. De bedrijfsstructuur kan worden afgeleid uit impliciete relaties in berichten of rechtstreeks worden ingezien via organigrammen", zegt Daniel Avulov, Senior Cybersecurity Researcher, red team bij Barracuda. 

“De gecontroleerde aanval laat zien hoe AI-assistenten onbewust schadelijke insiders kunnen worden en zowel de effectiviteit als de snelheid van een aanval kunnen verbeteren. De meest effectieve securityaanpak is om te erkennen dat aanvalspatronen gelijk blijven, gebruik te maken van bestaande telemetrie en ervoor te zorgen dat de gemiddelde detectietijd zo kort mogelijk is."

Meer informatie over de aanvalssimulatie is te vinden op de website van Barracuda.