Gartner: AI zonder stevig fundament is uitvergrote onwetendheid

Volgens Gartner-analisten Jorg Heizenberg en Georgia O’Callaghan is er een opvallende blinde vlek ontstaan binnen organisaties. Waar zestig procent van de IT-directeuren zich grote zorgen maakt over onverwachte kosten door autonome AI-agenten, ligt dat percentage bij data- en AI-specialisten op slechts twintig procent. Heizenberg benadrukte dat data-leiders de verantwoordelijkheid hebben om echte waarde te leveren te midden van alle hype. "Zonder een stevig fundament is AI niets anders dan uitvergrote onwetenheid", aldus de analist. Rendement moet volgens Gartner niet alleen financieel worden gemeten, maar ook in 'integriteit' (sterke ethische fundamenten) en de mate waarin medewerkers de leiding behouden over de technologie.

De valkuil van 'agent washing'

Een belangrijk thema op de openingsdag was de opkomst van 'agentic AI': slimme software-agenten die zelfstandig processen kunnen uitvoeren. Analist Pieter den Hamer waarschuwde dat de markt momenteel overspoeld wordt door marketingpraat. Veel softwareleveranciers maken zich schuldig aan 'agent washing': het herlabelen van bestaande, simpele automatiseringsfuncties als geavanceerde AI-agenten, zonder dat deze systemen daadwerkelijk autonoom kunnen handelen.

Hoewel de belofte van deze technologie groot is, schieten huidige taalmodellen (LLM's) volgens Gartner nog tekort als het gaat om flexibiliteit en het nemen van beslissingen op basis van de juiste context. Bedrijven die hiermee willen experimenteren, kunnen volgens Den Hamer het beste beginnen met scenario's die vaak voorkomen maar weinig complex zijn. Daarnaast moeten er duidelijke kaders worden gesteld en moet het personeel worden bijgeschoold.

Bestaande platforms als basis

Wat betreft het beheer en de beveiliging van data (data governance) heeft de opkomst van generatieve AI grote impact. Analist Guido De Simoni voorspelt dat tachtig procent van de zakelijke GenAI-toepassingen gebouwd zal worden op reeds bestaande datamanagement-platforms. Dit vermindert de complexiteit van de implementatie en halveert de ontwikkeltijd.

Om AI op grote schaal succesvol te laten zijn, moeten organisaties er volgens De Simoni voor zorgen dat hun data en zogeheten 'metadata' (data die context geeft aan andere data) direct klaar zijn voor AI-gebruik. Door de democratisering van data — waarbij gewone werknemers steeds vaker zelf analyses maken — zal datagovernance de komende jaren een vast onderdeel moeten worden van de dagelijkse besluitvorming op de werkvloer.