Gartner: Organisaties ontwikkelen GenAI-applicaties op bestaande datamanagementplatforms

"Het bouwen van GenAI-bedrijfsapplicaties omvat tegenwoordig het integreren van grote taalmodellen (LLM's) met de interne gegevens van een organisatie en het aannemen van snel evoluerende technologieën zoals vectorzoekopdrachten, metadata-beheer, promptontwerp en embedding", licht Prasad Pore, Sr Director Analyst bij Gartner, toe. "Zonder een uniforme beheeraanpak leidt het aannemen van deze verspreide technologieën echter tot langere levertijden en potentiële verzopen kosten voor organisaties."

Naarmate organisaties streven naar het ontwikkelen van GenAI-gerichte oplossingen moeten datamanagementplatforms evolueren om nieuwe mogelijkheden of services voor GenAI-ontwikkeling te integreren, waardoor AI-klaarheid en succesvolle implementatie worden gegarandeerd.

Retrieval-augmented generation

Retrieval-augmented generation (RAG) wordt volgens Gartner een hoeksteen voor het implementeren van GenAI-applicaties, waardoor implementatieflexibiliteit, verbeterde verklaarbaarheid en samenstelbaarheid met LLM's wordt geboden. Door gegevens van zowel traditionele als niet-traditionele bronnen als context te integreren verrijkt RAG de LLM om downstream GenAI-systemen te ondersteunen.

"De meeste LLM's zijn getraind op openbaar beschikbare gegevens en zijn niet erg effectief op zichzelf om specifieke bedrijfsuitdagingen op te lossen", meldt Pore. "Wanneer deze LLM's echter worden gecombineerd met bedrijfseigen datasets met behulp van het RAG-architectuurpatroon, wordt hun nauwkeurigheid aanzienlijk verbeterd. Semantiek, met name metadata, speelt een cruciale rol in dit proces. Datacatalogi kunnen helpen om deze semantische informatie vast te leggen, kennisbanken te verrijken en de juiste context en traceerbaarheid te garanderen voor gegevens die in RAG-oplossingen worden gebruikt."

Om de complexiteiten van de implementatie van GenAI-applicaties effectief te beheersen, adviseert Gartner bedrijven de volgende aanbevelingen te overwegen:

• Evolueer datamanagementplatforms: Evalueer of de huidige datamanagementplatforms kunnen worden omgevormd tot een RAG-as-a-service-platform, waarbij zelfstandige documenten/gegevensopslagplaatsen worden vervangen als kennisbron voor bedrijfs-GenAI-applicaties.
• Geef prioriteit aan RAG-technologieën: Evalueer en integreer RAG-technologieën zoals vectorzoekopdrachten, grafieken en chunking van bestaande datamanagementoplossingen of hun ecosysteempartners bij het bouwen van GenAI-applicaties. Deze opties zijn beter bestand tegen technologische verstoringen en compatibel met organisatorische gegevens.
• Maak gebruik van metadata voor bescherming: Bedrijven moeten niet alleen gebruikmaken van technische metadata, maar ook van operationele metadata die tijdens runtime in datamanagementplatforms wordt gegenereerd. Deze aanpak helpt GenAI-applicaties te beschermen tegen kwaadwillig gebruik, privacyproblemen en lekken van intellectueel eigendom.

Meer informatie is voor klanten van Gartner beschikbaar in 'Predicts 2025: 4 Ways AI Will Disrupt Data Management Markets and Solutions'. Leer hoe u ervoor kunt zorgen dat uw gegevens klaar zijn voor gebruik in de specifieke AI-initiatieven die u van plan bent na te streven in de gratis 'Gartner AI-Ready Data Essentials Roadmap'.