Cybercriminelen automatiseren aanvalscampagne met aangepaste LLM's
Aangepaste taalmodellen, ook wel dark LLM’s genoemd, worden steeds vaker ingezet om cyberaanvallen te ontwikkelen en uit te voeren. Uit deze modellen zijn veiligheidsbeperkingen verwijderd, waardoor zij voor andere doelen kunnen worden ingezet dan vooraf beoogd.
Dit blijkt uit onderzoek van Unit 42, het dreigingsanalyseteam van Palo Alto Networks. Dark LLM's benadrukken volgens de onderzoekers het dual-use-dilemma van AI: technologie die zowel defensief als offensief kan worden gebruikt. Dit concept, bekend uit domeinen als kernfysica en biotechnologie, speelt nu ook een centrale rol in kunstmatige intelligentie.
Geautomatiseerde aanvalscampagne
Recent bleek dat hackers met banden met China een commercieel taalmodel gebruikten om een volledige aanvalscampagne te automatiseren. Het nieuwe rapport van Unit 42 laat zien dat dit geen geïsoleerd incident is, maar onderdeel van een groeiende trend waarin dark LLM’s actief worden gebouwd, verspreid en misbruikt voor kwaadwillende doeleinden.
Het onderzoek analyseert zowel de modellen als de kanalen waarop ze worden gedeeld, zoals Telegram-groepen en darkwebfora. Cybercriminelen zetten deze modellen in om phishingberichten, malware-structuren en geautomatiseerde aanvalsscripts te genereren, waardoor de drempel voor grootschalige operaties aanzienlijk daalt.
Belangrijkste inzichten
Op maat gemaakte modellen zoals WormGPT en FraudGPT worden actief verkocht via gesloten kanalen. Ze bieden functionaliteiten variërend van het genereren van phishingmateriaal en malware tot datadiefstal. Ontwikkelaars bieden toegang via maandelijkse abonnementen, inclusief ongefilterde output en klantenservice, vergelijkbaar met legale SaaS-diensten. Open-sourcevarianten zoals KawaiiGPT zijn binnen enkele minuten lokaal te installeren en vereisen geen geavanceerde programmeerkennis.
De modellen produceren vloeiende, foutloze phishingteksten en bruikbare malwarecode, waardoor criminelen complexe aanvallen op grote schaal kunnen uitvoeren. De brede beschikbaarheid van deze tools markeren een verschuiving: van experimenteel gebruik naar een georganiseerde ondergrondse markt waar AI-automatisering centraal staat.
Impact op cyberbeveiliging
De opkomst van dark LLM’s dwingt organisaties om hun verdedigingsstrategieën aan te passen. De combinatie van lage toegangsdrempels en geavanceerde mogelijkheden maakt deze modellen tot een groeiende bedreiging voor digitale veiligheid.
Lees het volledige rapport van Unit 42 hier.
Meer over Security
Over Wouter Hoeffnagel
