Kaspersky waarschuwt voor risico’s van AI voor mentale privacy en cognitieve autonomie

Hiervoor waarschuwt Kaspersky Labs, dat tijdens zijn jaarlijkse Kaspersky HORIZONS-conferentie onderzocht wat de evolutie van AI betekent voor mentale privacy en cognitieve autonomie. Kunstmatige intelligentie (AI) ontwikkelt zich steeds verder om neurale signalen te analyseren, gedrag te modelleren en besluitvormingspatronen te voorspellen. Dit markeert een verschuiving van eenvoudige dataverwerking naar systemen die menselijke cognitie kunnen interpreteren en beïnvloeden. Volgens Kaspersky GReAT gaan vier opkomende beveiligingsrisico’s steeds duidelijker worden naarmate cognitieve AI-systemen zich verder ontwikkelen.

Social engineering wordt complexer en misleidender

Grote taalmodellen (LLM’s) veranderen social engineering al in een geavanceerdere en overtuigendere dreiging. Aanvallers kunnen nu overtuigendere e-mails en phishingpagina’s genereren. Met cognitieve AI kunnen ze mogelijk sociale platforms en grote datasets gebruiken om hooggerichte oplichting te creëren, met gedragsinzichten en psychologische profilering om de succespercentages te verhogen. Phishingpogingen kunnen dynamisch gegenereerd, contextbewust en emotioneel overtuigend zijn, waardoor ze aanzienlijk geloofwaardiger worden.

Dit kan zowel individuen als organisaties raken, via datadiefstal en financiële oplichting. Uit het laatste wereldwijde rapport van Kaspersky Security Services blijkt dat phishing ongeveer 15% (één op de zeven) uitmaakt van de meest gebruikte aanvalstechnieken. In deze context kan phishing dienen als een effectief startpunt voor geavanceerde aanvalstechnieken (APT’s) en andere geavanceerde vormen van crimeware die gericht zijn op bedrijven en overheidsinstanties.

Cognitieve manipulatie vormt de publieke opinie

Naast individuele aanvallen maakt AI grootschalige beïnvloedingsoperaties mogelijk die de publieke opinie kunnen vormgeven. Actoren zoals hacktivisten of geavanceerde aanhoudende dreigingsgroepen kunnen mogelijk cognitieve vooroordelen en emotionele triggers benutten bij hele bevolkingsgroepen. Sociale media platformen laten al zien hoe algoritmische systemen echokamers kunnen versterken en polarisatie kunnen vergroten, terwijl politieke campagnes en bedrijven microtargeting en gedragstechnieken kunnen inzetten om gebruikers te betrekken. Naarmate deze mogelijkheden zich ontwikkelen, wordt het onderscheid tussen het voorspellen van gedrag en het actief vormgeven ervan steeds onduidelijker. Dit creëert systemische risico’s, niet alleen voor individuele autonomie, maar ook voor het publieke vertrouwen.

Profilering mogelijk maakt voorspellend misbruik

AI-gestuurde profilering wordt een krachtig instrument voor misbruik. Door gegevens van sociale media, digitaal gedrag en andere bronnen te bundelen, kan AI zeer gedetailleerde psychologische en identiteitsprofielen van individuen opbouwen. Dit versterkt doxxing en technologie-gestuurd misbruik aanzienlijk. Informatie die voorheen gefragmenteerd was, kan nu automatisch met elkaar in verband worden gebracht, waardoor gevoelige details blootgelegd, identiteiten gekoppeld en gerichte pesterijen op grote schaal mogelijk worden. Aanvallen kunnen ook afgestemd worden op persoonlijke kwetsbaarheden, waardoor ze effectiever en moeilijker te verdedigen zijn.

Tegelijkertijd introduceren voorspellende modellen het risico dat individuen worden beoordeeld of het doelwit worden op basis van afgeleid gedrag in plaats van daadwerkelijke acties. Hierdoor verschuift de dreiging van een verlies van privacy naar een verlies van controle over de eigen identiteit en de manier waarop deze wordt geconstrueerd en tegen hen gebruikt.

Hersen-computerinterfaces convergeren met IoT

Hoewel nog grotendeels experimenteel, worden hersen-computerinterfaces (BCI’s) al gebruikt om communicatie voor patiënten mogelijk te maken door neurale signalen te interpreteren. Lopend onderzoek breidt hun mogelijkheden uit voorbij basisinteractie, waaronder het besturen van externe apparaten. Hier beginnen BCI’s te convergeren met het Internet of Things (IoT). In de praktijk kunnen neurale signalen worden gebruikt om opdrachten te sturen naar verbonden systemen zoals slimme huishoudelijke apparaten, ondersteunende technologieën of medische apparatuur.

Hoewel deze integratie aanzienlijke voordelen biedt, met name in de gezondheidszorg en toegankelijkheid, breidt het de cybersecurityrisico’s ook uit naar nieuwe domeinen. Gecompromitteerde systemen kunnen onbevoegde acties mogelijk maken via de neurale interface van de gebruiker, zoals het onttrekken van signalen, het manipuleren van apparatuurreacties of het uitbuiten van de koppeling tussen intentie en uitvoering. Als gevolg hiervan strekken beveiligingsrisico’s zich uit voorbij digitale infrastructuur tot in het domein van fysieke systemen en menselijk handelen.

'Naarmate de adoptie toeneemt, groeien ook de risico's'

“Hoewel cognitieve AI nog in een vroeg stadium verkeert en ver af staat van massale adoptie, ontwikkelt het zich snel”, aldus Noushin Shabab, hoofd beveiligingsonderzoeker bij Kaspersky Global Research and Analysis Team. “Geavanceerde mens-AI-interactiemodellen zullen naar verwachting in de komende decennia aanzienlijk wijdverspreider worden. Naarmate de adoptie toeneemt, zullen ook de bijbehorende risico’s groeien – en als dat gebeurt, moeten we paraat zijn.”

Het aanpakken van deze uitdagingen vereist proactieve samenwerking tussen de cybersecuritygemeenschap, AI-ontwikkelaars, wetenschappers en beleidsmakers. Teresa Potenza, journaliste en verantwoordelijk AI-educator die zich tijdens de conferentie met dit onderwerp bezighield, lichtte toe: “Het echte risico van cognitieve AI is dat het onze geest vormgeeft, stil en op grote schaal. We hebben geleerd dat systemen die geoptimaliseerd zijn voor betrokkenheid, ons oordeelsvermogen aantasten. Daarom is regulering nu een verdediging van menselijk handelen – maar die kan niet bijbenen met cognitieve AI als deze zich alleen richt op wat deze systemen vandaag doen. We hebben één afdwingbaar principe nodig: technologie moet de mens dienen, niet andersom. Autonomie is niet alleen een privacykwestie. Het is een democratiekwestie.”