Shaked Reiner, CyberArk Labs: 'Europese AI Act dwingt veilige AI-praktijken niet af'

De AI Act is deze week van kracht geworden. Reiner: "Hoewel de nieuwe wet betrouwbare en veilige AI-praktijken zal aanmoedigen, dwingt het deze technisch niet af en elimineert het ook niet alle beveiligingsrisico's die de technologie met zich meebrengt. Ja, de nieuwe richtlijnen bieden waardevolle ethische richtlijnen, maar helaas zullen leveranciers zich daar niet altijd aan houden en zullen criminelen altijd buiten de ethische en wettelijke grenzen opereren. AI-gebruikers kunnen helaas niet alleen vertrouwen op regelgevende kaders voor bescherming tegen cyberaanvallen. Ze moeten niet al te zeer vertrouwen op de AI-systemen die ze gebruiken.”

In het beleid van OpenAI staat onder andere dat ChatGPT bijna alle mogelijke informatie van gebruikers verzamelt om diensten te helpen onderhouden en verbeteren door bestaande modellen te verfijnen. Reiner: “Vanwege de complexe aard van ChatGPT en ons beperkte begrip van hoe en waarom LLM's in het algemeen werken zoals ze doen, is het bijna onmogelijk om te identificeren hoe een bepaald stukje informatie wordt gebruikt. Hoewel OpenAI nu onderworpen zal zijn aan de EU AI Act en de bijbehorende ethische regels, betekent die ondoorzichtigheid dat gebruikers OpenAI niet echt kunnen vertrouwen met hun privégegevens. LLM's zijn zeer vatbaar voor manipulatie dus gebruikers moeten uiterst voorzichtig blijven en nooit geheime informatie zoals wachtwoorden, financiële informatie of persoonlijke identificatiegegevens delen.”