Waarom AI-pilots mislukken: hoe organisaties datavervuiling kunnen aanpakken
AI is inmiddels in de meeste organisaties in enige vorm geïntegreerd. Of het nu gaat om bekende Large Language Models (LLM’s) of om op maat gemaakte pilots, AI wordt in toenemende mate beschouwd als een vertrouwde ‘medewerker’. Maar ook al lijkt het soms alsof AI alle antwoorden heeft, net als elke nieuwe medewerker weet AI niet direct alles. Resultaten kunnen op korte termijn efficiënter lijken, maar als het AI-model gebaseerd is op ‘rommelige data’, kan dat op lange termijn alleen maar tot meer werk en hogere kosten leiden.
Belangrijk om te blijven herhalen is dat AI op zichzelf niets kan creëren. De output van een AI-model is volledig afhankelijk van de toegang die het heeft tot geldige, onvervalste en relevante data. Het gevaar daarbij is dat wanneer die data niet relevant zijn, het AI-model grijpt naar alles wat het kan vinden. Dit leidt niet alleen tot onnauwkeurige resultaten, maar vormt ook een reëel risico voor beveiliging en compliance met wet- en regelgeving.
AI is wat het ‘eet’
Bestaande AI-modellen lijken heel simpel te werken: je stelt een vraag aan een LLM en voilà, er verschijnt een ogenschijnlijk intelligent en goed onderbouwd antwoord. Maar AI creëert niets uit het niets. En dat brengt ons bij het grote probleem: om accurate en bruikbare antwoorden te genereren, heeft een AI-model toegang nodig tot data die geldig, onvervalst en vooral relevant zijn.
Dit is precies de reden waarom 95% van de GenAI-pilots nog steeds mislukt. Organisaties putten uit een bron van data die is vervuild door redundante, verouderde of triviale data. De datagroei is, mede door AI, volledig uit de hand gelopen. Met als gevolg dat veel organisaties geen volledig beeld meer hebben van hun data, waardoor deze zich op de achtergrond onbeheerd kunnen ophopen. Nu willen organisaties die onbeheerde en niet-inzichtelijke data gaan gebruiken om hun AI-model te trainen. Dat leidt onvermijdelijk tot problemen en remt hun AI-ontwikkeling af.
Vooral op maat gemaakte, interne AI-modellen zijn hiervoor gevoelig. Deze modellen hebben vaak moeite met complexe bedrijfsregels en met de constante afstemming die nodig is om toegang te krijgen tot schone data. In plaats daarvan halen ze irrelevante data op. Dit vervuilt de output van een AI-model en leidt tot trage en onjuiste resultaten. De meeste pilotprojecten mislukken waarschijnlijk niet omdat de benodigde data ontbreken, maar omdat organisaties niet weten met welke schone data ze hun AI-model kunnen trainen. Bovendien sijpelen vervuilde data ook door naar bredere risicobeheerplatformen als dit probleem niet aangepakt wordt.
Organisaties kunnen door de AI-gegenereerde bomen het bos niet meer zien
De gebrekkige afstemming tussen wereldwijde of zelfs Europese AI-regelgeving heeft organisaties misschien het idee gegeven dat ze één zorg minder hebben. Regelgevende instanties zijn deze achterstand echter langzaam maar zeker aan het inhalen. Veel organisaties lopen daardoor achter op het gebied van compliance en governance, terwijl ze al wel regelmatig AI-projecten uitvoeren. Als gevolg daarvan heeft 92% van de organisaties geen inzicht in de identiteit van hun AI-systemen. Naarmate de regelgeving verder volwassen wordt, kan dat tot aanzienlijke problemen leiden.
Gebrekkig inzicht heeft bovendien grote gevolgen voor cybersecurity. Wanneer een AI-model zonder adequaat toezicht of beheer volledige toegang krijgt tot alle bedrijfsdata, resulteert dat niet alleen in trage en waarschijnlijk ineffectieve AI, maar ontstaat er ook een potentiële aanvalsvector voor cybercriminelen. Zodra aanvallers hun methoden om AI-tools aan te vallen hebben geperfectioneerd, hebben ze mogelijk toegang tot meer data dan je gedacht had: namelijk de data waarvan je niet wist dat jouw AI-model die verwerkt.
Wacht niet op incidenten of toekomstige regelgeving
Organisaties moeten deze uitdagingen nu aanpakken om te voorkomen dat ze later tot cybersecurity- en complianceproblemen leiden. Daarbij moet de huidige staat van de data in kaart worden gebracht en moet worden bepaald welke data kunnen worden verwijderd of ongeschikt zijn voor verwerking door een AI-model. Dit helpt niet alleen om de AI-output te verbeteren, maar beschermt het bedrijf ook tegen toekomstige problemen. Met een beter begrip van hun data kunnen bedrijven de juiste beheer- en beveiligingsmaatregelen implementeren voor al hun AI-projecten.
Naarmate regelgeving en governance de ontwikkeling van AI onvermijdelijk inhalen, wordt ‘verklaarbaarheid’ een kernbegrip. Zonder volledig inzicht in alle data en kennis ervan is niet uit te leggen hoe jouw AI-model precies werkt. Dit is geen gemakkelijke opgave. Alleen al vorig jaar werd wereldwijd 181 zettabytes aan data gecreëerd, vastgelegd, gekopieerd en gebruikt. Wanneer het overzicht ontbreekt, kan het helpen om rigoureus te snoeien in de complexiteit.
Door: Rick Vanover (foto), Vice President Product Strategy bij Veeam
