Category Archives: AI Term van de Dag

Een Frozen Model is een voorgetraind AI-model waarvan de gewichten niet meer worden gewijzigd. Het wordt gebruikt voor feature extraction of inference, maar niet verder getraind.

Freezing wordt gebruikt in transfer learning: een groot voorgetraind model blijft frozen, en alleen de laatste lagen worden getraind op nieuwe data. Dit bespaart tijd en data.

Model Evaluation is het proces van het beoordelen hoe goed een machine learning-model presteert op nieuwe, onzichtbare gegevens. Dit is cruciaal omdat goed trainingsresultaten niet per se goede echte prestatie betekenen.

Evaluatiemetrieken hangen af van het taaktype: voor classificatie gebruik je accuracy, precision, recall en F1-score. Voor regressie gebruik je MAE en RMSE. Een goede evaluatie vereist juiste trein-test splitsen en cross-validatie.

Function Calling (of tool use) is een techniek waarbij grote taalmodellen kunnen aangeven welke externe functies/APIs ze willen aanroepen en met welke parameters. Het model genereert gestructureerde output in plaats van vrije tekst.

Dit stelt LLMs in staat acties uit te voeren: weer opzoeken, berekeningen doen, databases opvragen. Function calling is essentieel voor autonomous agents.

Een word embedding is een manier om woorden als vectoren (lijsten van getallen) weer te geven zodat AI-modellen ze kunnen verwerken. In plaats van het woord “kat” op te slaan als een tekenreeks, representeer je het als iets als [0.2, -0.5, 0.8, …] – honderden of duizenden getallen die de “betekenis” of “context” van het woord vastleggen.

Het slimme ervan is dat woorden met vergelijkbare betekenissen gelijkaardige vectoren hebben. Het woord “kat” ligt dicht bij “hond” en “dier”, en het woord “koning” min het woord “man” plus het woord “vrouw” geeft ongeveer “koningin”. Dit stelt AI-modellen in staat om betekenis en relaties in taal te begrijpen.

Word embeddings zijn fundamenteel voor moderne NLP. Voorbeelden zijn Word2Vec, GloVe, en FastText. Ze maken het mogelijk voor modellen om de semantische relaties tussen woorden te leren en teksttaken veel efficiënter uit te voeren.

Evaluation Metrics zijn maatstaven om de prestatie van machine learning-modellen te meten. Voorbeelden zijn accuracy, precision, recall, F1-score, BLEU, ROUGE en AUC.

De keuze van de juiste metric hangt af van de taak. Voor imbalanced datasets is accuracy misleidend; precision en recall zijn beter. Voor NLP zijn BLEU en ROUGE standaard.

Threshold in AI is een kritische waarde die bepaalt wanneer een model een bepaalde beslissing neemt. Bij classificatie problemen geeft een model meestal een waarschijnlijkheid (bijv. 0.0 tot 1.0), en de threshold bepaalt wanneer deze als ‘ja’ of ‘nee’ wordt geclassificeerd.

Standaard is de threshold vaak 0.5: als het model zegt dat er 60 procent kans is dat dit spam is, en 60 procent groter is dan 50 procent, classificeert het dit als spam. Maar je kan de threshold aanpassen:

1. Lager threshold (bijv. 0.3): Meer false positives, minder false negatives. Handig wanneer u false negatives wil minimaliseren
2. Hoger threshold (bijv. 0.7): Minder false positives, meer false negatives. Handig wanneer u false positives wil minimaliseren

De juiste threshold hangt af van je use case en welke fouten kostbaar zijn. Bij medische diagnoses wil je laag threshold (beter vals alarmen dan gemiste ziektes). Bij spam-filters kun je hoger gaan.

Label Smoothing is een regularisatietechniek die de hardheid van labels verzacht door incorrecte klassen kleine waarschijnlijkheden toe te kennen. In plaats van een label van 1 voor de juiste klasse en 0 voor anderen, gebruik je bijvoorbeeld 0.9 en 0.05.

Dit helpt overfitting voorkomen en verbetert de generalisatie, vooral bij classificatieproblemen met veel klassen. Het maakt het model minder zeker van zijn voorspellingen, wat voorzichtiger en beter gebalanceerd gedrag oplevert.

K-nearest Neighbors (KNN) is een eenvoudig maar effectief machine learning-algoritme dat voorspellingen doet op basis van de k dichtste buren in de trainingsgegevens. Voor classificatie stemt het naar de meest voorkomende klasse onder de k buren. Voor regressie neemt het het gemiddelde.

Het is non-parametrisch, wat betekent dat het geen onderliggende aannames doet over de dataverdeling. Het is traag bij grote datasets omdat het elke voorspelling met alle trainingsgegevens moet vergelijken.

In een neuraal netwerk zijn weights de parameters die het netwerk “leert” tijdens training. Elke verbinding tussen neuronen heeft een gewicht dat bepaalt hoe sterk die verbinding is. Deze gewichten worden constant aangepast met het doel om de voorspellingsfouten te minimaliseren.

Weights zijn letterlijk getallen. Een neuraal netwerk met miljoenen parameters heeft miljoenen weights – denk aan Claude’s miljarden weights. Training een AI-model betekent eigenlijk: “vind de juiste combinatie van weights zodat het model goede voorspellingen doet.”. Dit gebeurt via een proces genaamd backpropagation, waar fouten teruggepropageerd worden en weights stap voor stap aangepast worden.

Soms praten mensen over “weight initialization” – hoe de gewichten aan het begin worden ingesteld – en “weight decay”, een regularisatietechniek die grote gewichten bestraft. Dit alles helpt het model algemener en robuuster te maken.

De Jackknife is een resampling-techniek in machine learning die wordt gebruikt voor statistische schatting en validatie. Het houdt in dat men systematisch elke observatie weglaat van de dataset en het model opnieuw traint op de resterende gegevens.

Dit levert een schatting van de prestatie op die minder gevoelig is voor outliers en geeft meer stabiele variantie-schatting dan andere methoden. Het is verwant aan cross-validation maar werkt op individueel niveau.