Category Archives: AI Term van de Dag

Query Expansion is een informatieherwinning-techniek waarbij een initiële zoekopdracht wordt uitgebreid met aanverwante termen, synoniemen of verwante concepten. Dit helpt zoeksystemen beter en meer relevante resultaten te vinden door het zoekgebied intelligenter te verbreden.

Query Expansion verbetert de waarschijnlijkheid dat relevante documenten worden gevonden, vooral wanneer gebruikers niet precies de juiste terminologie gebruiken. Dit wordt bereikt door linguïstische databases, machine learning modellen of user-feedback.

Q-learning is een versterkingsleeralgoritme dat agenten leert optimale acties in verschillende situaties uit te voeren. Het algoritme leert de waarschijnlijkheid of bruikbaarheid van elke mogelijke actie in elke toestand, opgeslagen in een waardentabel of Q-tabel.

Q-learning is model-vrij, wat betekent dat het agenten toestaat te leren zonder volledig begrip van de omgeving. Het algoritme werkt door middel van trial-and-error, waarbij beloning signal aangeeft of acties goed of slecht waren. Dit maakt het zeer nuttig voor robotica en spelspelen.

Quantization is het proces van het omzetten van continue waarden in discrete stappen, meestal voor het comprimeren van machine learning modellen. Het meest gebruikelijk wordt dit toegepast om parameters (gewichten) van een model om te zetten van floating-point getallen naar lagere precisie-waarden.

Quantization vermindert de opslagvereisten en snelheid van computermemoria aanzienlijk, wat het mogelijk maakt modellen efficiënter op hardware uit te voeren. Dit is vooral waardevol voor het inzetten van grote modellen op mobiele apparaten, edge devices of datacenters.

Pruning is een techniek om machine learning modellen kleiner en efficiënter te maken door minder belangrijke verbindingen of parameters te verwijderen. Tijdens pruning worden delen van het netwerk verwijderd zonder dat de nauwkeurigheid aanzienlijk afneemt.

Pruning helpt modellen sneller te draaien, minder geheugen te gebruiken en gemakkelijker op mobiele apparaten of edge devices te implementeren. Het is een vorm van modelcompressie die essentieel is voor het praktisch inzetten van grote netwerken in real-world toepassingen.

Parameters zijn de aanpasbare gewichten en biases in een machine learning model die worden geleerd uit trainingsdagegen. Ze zijn in tegenstelling tot hyperparameters, die extern ingesteld worden en niet automatisch worden geoptimaliseerd.

Parameters worden bijgewerkt door optimalisatiealgoritmen zoals Gradient Descent op basis van het trainingsproces. Naarmate een model betere gegevens ziet en meer traint, worden parameters verfijnd om betere voorspellingen te doen. Het aantal parameters bepaalt grotendeels de capaciteit en complexiteit van een model.

Perplexity is een metriek die meet hoe goed een taalmodel in staat is om natuurlijke taal te voorspellen. Het geeft aan hoe verward het model is bij het maken van voorspellingen: lagere perplexity duidt op betere prestaties.

Perplexity wordt berekend uit de waarschijnlijkheid die het model aan de werkelijke gegevens toekent. Het is vooral nuttig voor het evalueren van taalmodellen en andere probabilistische modellen. Een perplexity van 1 betekent perfecte voorspelling, terwijl hogere waarden slechter prestatie aanduiden.

Pre-training is het eerste trainingsfase van een machine learning model waarbij het met grote hoeveelheden ongelabelde gegevens wordt getraind. Het model leert algemene patronen en kennis uit deze data voordat het wordt aangepast voor specifieke taken.

Pre-training is essentieel voor grote taalmodellen en andere deep learning systemen. Het getrainde model verkrijgt fundamentele kennis die later kan worden verfijnd voor specifieke toepassingen via fine-tuning op kleinere gelabelde datasets.

Een heuristiek is een praktische regel, richtlijn of strategie die snelle oplossingen biedt voor complexe problemen zonder garantie van optimaliteit. Heuristische methoden sacrifiëren volledige nauwkeurigheid voor snelheid en efficiëntie.

In AI worden heuristica veel gebruikt om zoekalgorithmes te geleiden, beslissingen sneller te nemen of grote probleemruimten voort efficiënter uit te verkennen. Ze zijn gebaseerd op praktische kennis en intuïtie in plaats van wiskundige optimalisatie.

Human-in-the-Loop is een machine learning aanpak waarbij mensen actief deelnemen aan het trainingsproces van AI-modellen. In plaats van dat systemen volledig autonoom leren, bieden mensen feedback, labels en correcties om het leerproces te verbeteren.

Dit is bijzonder nuttig wanneer gegevens schaars zijn, wanneer het lastig is om automatisch labels toe te kennen, of wanneer menselijke expertise essentieel is voor nauwkeurigheid. Het kombineert de kracht van machine learning met menselijke kennis en oordeel.

Hyperparameters zijn configuratievariabelen van een machine learning model die niet uit gegevens worden geleerd, maar vooraf door de onderzoeker worden ingesteld. Ze controleren aspecten van het trainingsproces en de modelarchitectuur.

In tegenstelling tot regelmatige parameters (gewichten in het netwerk) worden hyperparameters niet automatisch bijgewerkt tijdens training. Het vinden van de juiste hyperparameters is essentieel voor modelperformance en wordt vaak gedaan door experimenten of geavanceerde technieken als Bayesiaanse optimalisatie.