10 juli 2023

AI gaat niet meer weg

Door de enorme populariteit en snelle ontwikkeling van AI-tools zoals ChatGPT en Bard, riepen bekende techprominenten zoals Elon Musk en Steve Wozniak op om de ontwikkeling van AI voor zes maanden te pauzeren. Met deze pauze zouden wet- en regelgevers de kans krijgen om regels en richtlijnen op stellen om ervoor te zorgen dat de snelle ontwikkeling van AI goed verloopt. Toch is er al – terecht – kritiek geuit op deze oproep. Zo kan het landen die zich niet aan deze pauze houden concurrentievoordelen opleveren en is het niet mogelijk om te stoppen het ontwikkelen van AI-tools m.b.t. cybersecurity. Cybercriminelen doen dit namelijk ook niet. Daarnaast is in Europa de AI-Act al in een vergevorderd stadium, waardoor een pauze overbodig zou zijn.

AI gaat niet meer weg image

Impact op de samenleving

Hoewel het onwaarschijnlijk is dat er daadwerkelijk een pauze komt in de ontwikkeling van AI, laat deze oproep wel de toenemende zorgen over AI zien. Zo denken een hoop mensen dat het de manier van werken in veel sectoren kan veranderen, van de technologie sector tot de medische sector en agrarische sector. Daarnaast zijn mensen door films zoals 'Terminator’ bang geworden voor AI. Deze angst leidt vervolgens tot meer realistische zorgen, bijvoorbeeld bij mensen die bang zijn hun baan verliezen omdat AI hun werk kan overnemen.

AI zal onze samenleving waarschijnlijk sterk veranderen. Het is nu misschien nog mogelijk om de ontwikkeling van AI even te pauzeren, maar het is zeker niet meer te stoppen. Dat is ook niet verstandig. Als we volledig stoppen met AI, dan worden we kwetsbaarder voor dreigingen van buitenaf, terwijl landen die gewoon doorgaan met AI zichzelf wel kunnen beschermen.

Wet- en regelgevers zijn niet gewend om te werken met de snelheid die nodig is om de razendsnelle ontwikkeling van AI bij te houden. Hierdoor loopt wetgeving vrijwel altijd achter, waardoor wet- en regelgeving die wordt aangenomen, niet meer effectief of relevant is.

Een ‘nucleaire wapenwedloop’

In China beweren hackers dat ze momenteel AI ontwikkelen of daar veel geld in investeren. Daarnaast hebben onderzoekers al aangetoond dat AI tools, zoals ChatGPT, gebruikt kunnen worden voor cyberaanvallen, bijvoorbeeld om phishingmails op te stellen. Hoe effectief deze methoden zijn en hoe ver andere landen zijn met hun AI tools is niet belangrijk, zolang we maar weten dat ze zich hiermee bezig houden. We moeten ons beseffen dat deze methoden en tools – vaak met slechte bedoelingen - worden ontwikkeld.

In cybersecurity hebben we ons vermogen om tools te ontwikkelen tegen cyberaanvallen altijd een ‘wapenwedloop’ genoemd, maar met geavanceerde AI-tools zoals ChatGPT is dit een soort ‘nucleaire wapenwedloop’ geworden. Aanvallers kunnen AI gebruiken om kwetsbaarheden en toegangspunten te vinden en phishing berichten genereren die nauwelijks verschillen van authentieke e-mails of chatberichten. Aan de andere kant kunnen cybersecurity bedrijven AI gebruiken om de security bij klanten te versterken. Zo kunnen ze patronen en afwijkingen in de system access records identificeren, testcode creëren of kan het gebruikt worden als natuurlijke taalverwerking (NLP) voor analisten om snel informatie te verzamelen zonder te hoeven programmeren. Het is belangrijk om te onthouden dat zowel de ‘good guys’ als de ‘bad guys’ continu hard werken om hun AI-arsenaal uit te breiden.

AI benaderen zoals genetische manipulatie

Dat wil niet zeggen dat we bedrijven simpelweg hun gang moeten laten gaan met AI. Een voorbeeld dat wet- en regelgevers zouden kunnen volgen, is het Amerikaanse model voor genetische manipulatie. In de tijd dat genetische manipulatie een opkomende technologie was in de gezondheidzorg, heeft de Amerikaanse overheid regels opgesteld waardoor effectievere geneeskunde mogelijk werd gemaakt, maar werd er ook erkend dat andere landen het zouden kunnen gebruiken voor schadelijke doeleinden.

Ik ben er van overtuigd dat we soortgelijke regels kunnen opstellen voor AI. We moeten regels opstellen voor ethisch gebruik, terwijl we tegelijkertijd erkennen dat anderen het niet op deze manier zullen gebruiken. Om zulke wet- en regelgeving op te kunnen stellen moeten we werken op dezelfde snelheid als waarmee AI zich ontwikkelt. De AI-Act is een stap in de goede richting, maar we moeten ons beseffen dat andere landen zich hier niet aan zullen houden. Het is daarom essentieel dat we concurrerend blijven op het gebied van AI.

Door: Dan Schiappa (foto), Chief Product Officer bij Arctic Wolf

BW Dutch IT Partner Day tm 11-06-2024 Datacollectief BW 13-05-2024 tm 03-06-2024
CompTIA Community Benelux BN 7-31 mei