Aanvallers imiteren webadressen van bekende bedrijven met behulp van AI
Cybercriminelen zetten in op een nieuwe aanvalstechniek: phantom squatting. Hierbij verzinnen AI-modellen webadressen die lijken te behoren bij bekende bedrijven, maar in werkelijkheid niet bestaan. Hackers kunnen deze niet-bestaande domeinnamen registreren en zo het verkeer van gebruikers of AI-systemen omleiden naar hun eigen infrastructuur. Deze domeinen kunnen vervolgens worden misbruikt voor phishing, het verspreiden van malware of het onderscheppen van gegevens uit software- en AI-workflows.
Hiervoor waarschuwt Unit 42, het onderzoeksteam van Palo Alto Networks. Naarmate AI vaker wordt toegepast in softwareontwikkeling, groeit de kans op phantom squatting. Ontwikkelaars zetten AI-agents steeds vaker in om documentatie, API-endpoints, webhooks en externe diensten op te sporen. Autonome AI-agents kunnen zelf URL’s genereren, openen en verwerken, waardoor large language models (LLM’s) een steeds belangrijkere rol spelen in de software supply chain.
Vaak onopgemerkt
Volgens Unit 42 maakt dit phantom squatting extra gevaarlijk. AI-modellen kunnen geloofwaardige, maar niet-bestaande domeinnamen bedenken voor bijvoorbeeld een bedrijfsportaal, API of online dienst. Als een aanvaller zo’n domein vooraf registreert, kan verkeer ongemerkt bij de aanvaller terechtkomen. Omdat nieuw geregistreerde domeinen nog geen reputatie of dreigingshistorie hebben, blijven ze vaak onopgemerkt bij bestaande beveiligingssystemen.
Uit het onderzoek van Unit 42 blijkt dat bij een analyse van de output van twee verschillende LLM’s voor 913 internationale merken 685.339 URL-queries werden uitgevoerd. Dit resulteerde in 2,1 miljoen unieke URL’s, waarvan 13.229 kwaadaardig bleken te zijn. Daarnaast ontdekte Unit 42 ongeveer 250.000 door AI verzonnen domeinen die op dat moment nog niet waren geregistreerd.
Bij hogere creatieve instellingen genereerden de onderzochte modellen aanzienlijk meer niet-bestaande domeinen. Unit 42 kon het gebruik van dergelijke domeinen in meerdere sectoren 18 tot 51 dagen vóór registratie door aanvallers voorspellen.
Montana Empire
In een opvallende praktijkcase registreerde een aanvaller een domein dat Unit 42 23 dagen eerder al als risicovol had aangemerkt. Vervolgens gebruikte de aanvaller een AI-codingassistent om de phishingkit Montana Empire te ontwikkelen.
Traditionele beveiligingsmiddelen hebben moeite met deze dreiging, omdat nieuw geregistreerde domeinen nog geen reputatie, historie of vermeldingen op blocklists hebben. Hierdoor kunnen aanvallers tijdelijk onder de radar blijven.
Unit 42 adviseert organisaties om door AI gegenereerde URL’s niet automatisch te vertrouwen. Daarnaast moeten domeinen en eigenaarschap onafhankelijk worden geverifieerd en moeten er extra controles worden ingebouwd voordat AI-agents externe websites, downloads of API’s benaderen.
Meer over Security
Over Wouter Hoeffnagel
