Grounding is het proces waarbij gebruik wordt gemaakt van grote taalmodellen (LLMs) door deze aan te vullen met specifieke, relevante informatie die niet aanwezig is in de basiskennis van het model (de data waarmee het getrained is). Dit proces waarborgt de kwaliteit en nauwkeurigheid van de gegenereerde tekst, doordat de modellen vaak een brede, maar niet altijd toepassingsspecifieke kennisbasis hebben. Grounding voorziet de LLM van de juiste context om betere reacties te kunnen geven.

Reden voor Grounding

De kernreden voor Grounding is dat LLMs géén databases zijn. Hoewel ze over een grote hoeveelheid kennis beschikken, zijn ze ontworpen als algemene tekst- en redeneerengines. De kennis in LLMs is beperkt tot publieke en oudere informatie, vaak tot een bepaald tijdstip (bijvoorbeeld september 2021 voor recente GPT-modellen). Ze hebben geen toegang tot specifieke, afgeschermde bedrijfsgegevens of updates. Om die reden helpt Grounding ons om de capaciteiten van een LLM te combineren met actuele, specifieke informatie, cruciaal voor contextgebonden antwoorden.

Retrieval-Augmented Generation (RAG)

Een veelgebruikte Grounding-methode is Retrieval-Augmented Generation (RAG), waarbij een taalmodel wordt aangevuld met relevante informatie door middel van zoekacties. RAG wordt veel ingezet voor zoek- en vraag-antwoord-systemen, bijvoorbeeld in Google en Bing, waar het zoekresultaten gebruikt om accurate antwoorden te genereren. RAG is ook nuttig in toepassingen zoals Microsoft’s Copilot.

Praktische Toepassingen

Grounding heeft brede toepassingen, zoals in vraag-antwoord-systemen, en het genereren van content in apps en online toepassingen. Daarnaast kan het informatie uit eerdere interacties gebruiken om meer consistente antwoorden te bieden. Grounding-modellen beginnen meestal met een gebruikersquery, waarna deze query relevante informatie ophaalt en combineert met de oorspronkelijke opdracht/prompt.