Als je ooit een generatieve AI-tool hebt gebruikt, heeft deze wel eens tegen je gelogen. Waarschijnlijk meerdere keren.

Deze terugkerende verzinsels worden vaak AI-hallucinaties genoemd en ontwikkelaars werken koortsachtig om generatieve AI-tools betrouwbaarder te maken door deze leugens in toom te houden. Eén van de meest populaire benaderingen om AI-hallucinaties te verminderen – en een die snel populairder wordt in Silicon Valley – wordt Retrieval Augmented Generation (RAG) genoemd.

RAG is een techniek die wordt gebruikt bij het werken met Large Language Models (LLM’s). Hierbij wordt de kracht van een taalmodel gecombineerd met een zoekmachine om betere en nauwkeurigere antwoorden te geven. Hier is een eenvoudige beschrijving van hoe het werkt:

1. Vraag stellen: Een gebruiker stelt een vraag aan het systeem.
2. Zoeken naar informatie: In plaats van alleen op het taalmodel te vertrouwen, zoekt het systeem eerst naar relevante informatie in een grote database of op internet.
3. Verzamelen van gegevens: Het systeem haalt relevante documenten, artikelen of gegevens op die te maken hebben met de gestelde vraag.
4. Genereren van antwoord: Het taalmodel gebruikt deze opgehaalde informatie om een nauwkeurig en goed onderbouwd antwoord te formuleren.

Door deze aanpak kan het systeem antwoorden geven die beter zijn onderbouwd en gebaseerd op de meest recente informatie. Eigenlijk is het dus een, meestal  slimme, combinatie van een zoekmachine en een geavanceerd taalmodel, waardoor het systeem krachtiger en nuttiger wordt.

Het is echter van cruciaal belang dat wij als gebruikers de beperkingen van deze tools begrijpen en dat AI-gerichte bedrijven de nauwkeurigheid van hun antwoorden niet te veel van de daken schreeuwen. Wij als redactie zijn van mening dat de output van taalmodellen nooit volledig te vertrouwen zijn en dus met een gezond gevoel van scepsis benaderd moeten worden. Zelfs als het antwoord wordt verbeterd door RAG.

Hallucinaties zullen er altijd zijn en zullen nooit echt te elimineren zijn. Het menselijk oordeel staat altijd voorop. En dat is niet gelogen.