B2Shift · Gepubliceerd op 27 augustus 2026 · Bijgewerkt op 27 augustus 2026
Dankzij Retrieval-Augmented Generation (RAG) kan een systeem antwoorden op basis van uw documenten in plaats van op de algemene trainingsgegevens van een model, met een verwijzing naar de bron. Het idee is simpel; het kostenverschil in de praktijk komt voort uit een klein aantal vroegtijdig genomen beslissingen.
Wat een RAG-pijplijn eigenlijk doet
Documenten worden in stukken gesplitst, omgezet in vectorinsluitingen en opgeslagen in een vectordatabase. Een vraag wordt op dezelfde manier ingebed, de dichtstbijzijnde overeenkomende delen worden opgehaald en het model antwoordt met alleen die delen als context – met een verwijzing naar het brondocument. Verwijder de citatiestap en je hebt een systeem dat niemand kan controleren als het fout is.
Wat de kosten belangrijker maakt dan de modelkeuze
Vier dingen beïnvloeden het getal meer dan welk taalmodel je kiest. Documentvolume en -indeling: gescande PDF's hebben OCR nodig voordat ze in delen kunnen worden opgedeeld, en OCR-fouten verspreiden zich stroomafwaarts in elk antwoord. Chunking-strategie: naïeve chunking met een vaste lengte is goedkoop om te bouwen en is vaak verkeerd bij gestructureerde documenten zoals contracten of tabellen. Ophaalkwaliteit: een vectordatabase heeft echte infrastructuur en querykosten op schaal die moeten worden afgestemd, en niet alleen maar moeten worden geïnstalleerd. En evaluatie: zonder een testset van echte vragen en bekende correcte antwoorden kun je niet zeggen of het systeem accuraat is; je kunt alleen zeggen of het zelfverzekerd klinkt, wat heel iets anders is.
Waar de nauwkeurigheid feitelijk breekt
Brondocumenten van slechte kwaliteit zijn de meest voorkomende fout, en niet modelbeperkingen; een RAG-systeem kan geen correct antwoord geven op basis van een document dat zelf verkeerd of dubbelzinnig is. Tabellen, gescand handschrift en lay-outs met meerdere kolommen vereisen een speciale behandeling; naïeve extractie laat ze stil vallen of door elkaar gooien. En toestemmingsbewust ophalen is net zo belangrijk als nauwkeurigheid: een systeem dat een document kan ophalen dat een gebruiker niet zou mogen zien, is een beveiligingsfout, geen nauwkeurigheidsfout.
Wat een realistische build inhoudt
Een productie-RAG-pijplijn heeft een gedefinieerde betrouwbaarheidsdrempel nodig waaronder het systeem zegt: "Ik heb geen betrouwbaar antwoord" in plaats van te raden, een beoordelingswachtrij voor gevallen met weinig vertrouwen en een nauwkeurigheidsrapport gemeten aan de hand van uw eigen testset - geen generieke benchmark, omdat uw documenten niet de documenten van de benchmark zijn. Zie Document Automation & RAG voor hoe we dit aanpakken.