Category Archives: AI Term van de Dag

Inference is het moment waarop een getraind AI-model daadwerkelijk wordt gebruikt om een uitvoer te genereren. Terwijl training het leerproces is — het model past zijn parameters aan op basis van data — is inference het toepassen van wat het model heeft geleerd op een nieuw, onbekend verzoek.

In de praktijk is inference wat er gebeurt elke keer dat je een vraag stelt aan een chatbot, een afbeelding laat analyseren, of een tekst laat vertalen. Het model ontvangt de invoer, verwerkt deze door zijn neurale netwerk, en produceert een antwoord — dit alles binnen milliseconden tot seconden.

Inference vereist rekenkracht, maar veel minder dan training. Toch zijn de kosten van inference op grote schaal aanzienlijk, omdat populaire AI-diensten dagelijks miljoenen verzoeken verwerken.

Het context window is de maximale hoeveelheid tekst die een AI-model tegelijk kan verwerken in een enkel gesprek of verzoek. Alles wat je typt — inclusief de eerdere berichten in het gesprek en het antwoord dat het model geeft — telt mee voor dit venster. Als het venster vol is, valt de vroegste informatie weg.

De grootte van het context window wordt gemeten in tokens en varieert sterk per model. Sommige modellen hebben een context window van een paar duizend tokens, terwijl modernere modellen honderdduizenden tokens aankunnen — genoeg voor een heel boek.

Een groter context window betekent dat het model meer van een gesprek kan onthouden en langere documenten in een keer kan verwerken. Dit is cruciaal voor taken zoals het samenvatten van lange rapporten of het analyseren van volledige codebases.

RAG, voluit Retrieval-Augmented Generation, is een techniek waarbij een AI-model tijdens het genereren van een antwoord eerst externe informatie opzoekt en die informatie vervolgens als context gebruikt. In plaats van alleen te vertrouwen op wat het model tijdens de training heeft geleerd, raadpleegt het een externe kennisbron — zoals een database, documentenarchief of website.

Dit is bijzonder nuttig omdat taalmodellen een vaste kennisgrens hebben (de trainingsdatum). Met RAG kan een model toch antwoorden op vragen over recente gebeurtenissen of interne bedrijfsdocumenten die nooit deel uitmaakten van de training.

RAG wordt veel toegepast in zakelijke chatbots, klantenservicesystemen en juridische of medische zoekmachines waar nauwkeurigheid en actualiteit cruciaal zijn.

Embeddings zijn numerieke representaties van tekst, afbeeldingen of andere data in de vorm van een vector — een lijst met getallen. AI-modellen zetten woorden en zinnen om in deze vectoren zodat ze wiskundig kunnen worden vergeleken, doorzocht en gegroepeerd op basis van betekenis.

Het bijzondere aan embeddings is dat woorden of zinnen met een vergelijkbare betekenis ook dicht bij elkaar liggen in de vectorruimte. Zo liggen de embeddings van koningin en koning dicht bij elkaar, net als auto en voertuig. Dit maakt het mogelijk om semantisch te zoeken — niet op exacte woorden, maar op betekenis.

Embeddings vormen de basis van veel moderne AI-toepassingen: van zoekfuncties en aanbevelingssystemen tot chatbots die relevante documenten kunnen ophalen voordat ze antwoorden geven.

Fine-tuning is het proces waarbij een al getraind AI-model verder wordt bijgeschaafd met een kleinere, gerichte dataset. In plaats van een model helemaal opnieuw te trainen — wat enorm veel rekenkracht en data vereist — neem je een bestaand basismodel en train je het aanvullend op specifieke voorbeelden die passen bij jouw toepassing.

Het resultaat is een model dat de brede kennis van het basismodel behoudt, maar tegelijkertijd gespecialiseerd gedrag vertoont. Zo kan een algemeen taalmodel via fine-tuning worden omgevormd tot een klantenservice-assistent die altijd in de juiste toon en stijl communiceert.

Fine-tuning wordt ingezet door bedrijven die AI willen afstemmen op hun eigen domein, terminologie of schrijfstijl. Het vereist wel kwalitatieve trainingsdata — rommeldata leidt tot een slecht aangepast model.

Een token is de kleinste eenheid die een AI-taalmodel verwerkt. Tokens zijn geen hele woorden — ze zijn stukjes tekst die kunnen variëren van een enkel teken tot een heel woord, afhankelijk van hoe het model zijn vocabulaire heeft opgebouwd. Het woord onbegrijpelijk kan bijvoorbeeld worden opgesplitst in meerdere tokens.

De reden dat tokens belangrijk zijn, is dat AI-modellen alles meten in tokens: de lengte van je vraag, het antwoord dat ze genereren, en de totale capaciteit van het zogenaamde context window. Hoe meer tokens een model tegelijk kan verwerken, hoe langer en complexer de gesprekken kunnen zijn.

Bij het gebruik van AI via een API betaal je doorgaans per token — zowel de tokens die je instuurt (input) als de tokens die het model teruggeeft (output). Efficiënt formuleren bespaart dus letterlijk geld.

Prompt engineering is de praktijk van het zorgvuldig formuleren van instructies en vragen aan een AI-model om de best mogelijke uitkomst te krijgen. Het gaat niet alleen om wat je vraagt, maar ook om hoe je het vraagt: de structuur, het detailniveau, de context en de toon spelen allemaal een rol.

Een goed geschreven prompt kan het verschil maken tussen een vaag, onbruikbaar antwoord en een nauwkeurige, nuttige reactie. Prompt engineers leren technieken zoals het geven van voorbeelden (few-shot prompting), het stap voor stap laten redeneren van het model, en het specificeren van de gewenste opmaak of stijl.

Naarmate AI-modellen krachtiger worden, wordt prompt engineering steeds belangrijker. Grote bedrijven hebben zelfs gespecialiseerde functies gecreëerd voor mensen die volledig zijn toegewijd aan het optimaliseren van prompts voor productiesystemen.

Een hallucination (of hallucinatie) treedt op wanneer een AI-taalmodel een antwoord geeft dat feitelijk onjuist is, maar dat vol vertrouwen presenteert alsof het waar is. Het model verzint informatie — bronnen, namen, data, feiten — die simpelweg niet kloppen.

Dit gebeurt omdat taalmodellen werken op basis van statistische patronen in tekst, niet op basis van een echte kennisbank of begrip van de werkelijkheid. Het model kiest altijd het meest waarschijnlijke volgende woord, ook als dat leidt tot iets dat niet bestaat.

Hallucinations zijn een van de belangrijkste redenen waarom je AI-antwoorden altijd kritisch moet controleren, zeker als het gaat om feiten, cijfers of bronvermeldingen. Het besef dat AI kan hallucineren maakt je een betere en veiligere gebruiker.