Category Archives: AI Term van de Dag

Uncertainty quantification (UQ) is het proces waarbij wordt gemeten hoe zeker of onzeker een AI-model is over zijn voorspellingen. Het gaat verder dan alleen een antwoord geven: het AI-model geeft ook aan hoe betrouwbaar dat antwoord is. Dit is cruciaal voor toepassingen waar fouten ernstige gevolgen kunnen hebben.

Bij medische diagnoses, zelfrijdende auto’s, of financiele prognoses wil je niet alleen weten wat het model denkt dat het antwoord is, maar ook hoe zeker het model van zichzelf is. Als het model zegt “dit is een tumor met 92 procent zekerheid”, is dat veel nuttiger dan alleen “dit is een tumor”.

Methoden voor uncertainty quantification omvatten Bayesiaanse methoden, ensemble-modellen die meerdere voorspellingen geven, en probabilistische netwerken. Dit helpt gebruikers vertrouwen in AI-systemen op te bouwen.

Recurrent Neural Networks (RNN’s) zijn een type neuraal netwerk dat ontworpen is voor het verwerken van sequentiële gegevens. In tegenstelling tot feedforward netwerken, hebben RNN’s interne feedback loops die informatie van vorige stappen kunnen doorgeven aan toekomstige stappen.

RNN’s werken door:

1. Input verwerken op elk moment in de sequentie
2. Een verborgen toestand bijwerken die informatie van vorige stappen bevat
3. Dit patroon voor elke stap in de sequentie herhalen

Dit maakt RNN’s ideaal voor taken waarbij context en volgorde belangrijk zijn. Moderne varianten zoals LSTM (Long Short-Term Memory) en GRU (Gated Recurrent Unit) lossen het probleem van het verdwijnende gradiënten op en kunnen langere-termijnafhankelijkheden beter vastleggen.

Z-score Normalization (of standardisatie) is een techniek om data te schalen zodat deze een gemiddelde van 0 en een standaarddeviatie van 1 heeft. Dit zorgt ervoor dat features op verschillende schalen (bijvoorbeeld leeftijd versus inkomsten) gelijk behandeld worden door het model.

De formule is eenvoudig: voor elk datapunt trek je het gemiddelde af en deel je door de standaarddeviatie. Dit is essentieel voor veel machine learning-algoritmes omdat ze anders beïnvloed worden door de relatieve grootte van features.

Unsupervised learning is een machine learning-benadering waarbij een model wordt getraind op data zonder gelabelde antwoorden. In tegenstelling tot supervised learning, waarbij het model leert van voorbeelden met juiste antwoorden, moet het model zelf patronen en structuren in de data ontdekken.

Veelgebruikte unsupervised learning-technieken zijn clustering (het groeperen van vergelijkbare items) en dimensionality reduction (het vereenvoudigen van gegevens door irrelevante informatie weg te gooien). Deze benadering is waardevol wanneer je geen gelabelde trainingsdata hebt, of wanneer je wilt ontdekken welke verborgde patronen in je data bestaan.

Het grote voordeel is dat je geen dure handmatige labeling hoeft uit te voeren. Het nadeel is dat het moeilijker is om te bepalen of het model het goed doet, omdat je geen “juiste antwoorden” hebt om tegen af te testen.

Robustness in AI verwijst naar de vermogen van een model om correct te functioneren ondanks verstoringen, onzekerheden of onverwachte invoer. Een robuust model geeft consistente, betrouwbare resultaten zelfs wanneer het te maken krijgt met inputs die verschillen van zijn trainingsgegevens.

Robust AI-modellen kunnen omgaan met afwijkingen zoals: licht vervorkte afbeeldingen (in computer vision), grammaticale fouten of ongewone woordschik in tekst, licht vervuilde sensor-data, of adversariale aanvallen. Robuustheid is essentieel voor real-world toepassingen waar perfecte inputs niet kunnen worden gegarandeerd.

Trainingsmethoden om robustness te vergroten zijn onder meer data augmentation (het trainen met licht vervormd data), adversariale training (het trainen tegen aanvallen), en het testen op een breed scala van edge cases. Benchmarks zoals ImageNet-C testen de robustness van computer vision modellen tegen veel verschillende verstoringen.

Zero-shot Prompting is een techniek om een AI-model een taak uit te voeren zonder voorbeelden of trainingsgegevens. Het model moet puur op basis van de vraag en zijn interne kennis het juiste antwoord geven. Dit onderscheidt zich van few-shot prompting, waar je wel enkele voorbeelden geeft.

Deze techniek werkt goed omdat grote taalmodellen veel algemene kennis hebben opgeslagen en kunnen generaliseren naar nieuwe situaties. Het is snel en vereist geen extra voorbeeldgegevens.

Underfitting is het tegenovergestelde van overfitting. Het treedt op wanneer een AI-model te simpel is om de complexiteit van de trainingsdata te begrijpen. Het model leert de onderliggende patronen niet goed genoeg en presteert daarom slecht, zowel op de trainingsdata als op nieuwe, onbekende data.

Underfitting ontstaat meestal wanneer: het model niet complex genoeg is (bijvoorbeeld een lineaire model voor niet-linaire data), de training niet lang genoeg duurt, of er te weinig trainingsdata is. Het model “geeft het op” voordat het de echte patronen heeft ontdekt.

In tegenstelling tot overfitting, waar het model te veel details onthout, kan underfitting zich voordoen bij modellen die te conservatief zijn. Het is een balanceringsprobleem: je wilt een model dat complex genoeg is om te leren, maar niet zo complex dat het ruis gaat onthouden.

RLHF (Reinforcement Learning from Human Feedback) is een trainingsmethode waarbij een AI-model leert van menselijk feedback in plaats van alleen van gegeven labels. Na de initiële training met supervised learning, wordt het model verder verfijnd door feedback van menselijke evaluatoren.

Het proces werkt als volgt: het model genereert meerdere mogelijke antwoorden op dezelfde vraag. Menselijke evaluatoren rangschikken deze antwoorden van beter naar slechter. Deze rangschikkingen worden gebruikt om een beloningsmodel te trainen. Vervolgens wordt het originele model met reinforcement learning bijgesteeld om antwoorden te genereren die een hogere beloning krijgen.

RLHF is cruciaal geweest voor het creëren van AI-assistenten die meer menselijke voorkeur volgen. Modellen als ChatGPT, Claude en andere state-of-the-art language models gebruiken RLHF om aanweziger, veiliger en nuttiger te zijn.

Een Yes-No Classifier is een binair classificatiemodel dat gegeven invoergegevens in twee categorieën indeelt: ja (positief) of nee (negatief). Dit is een van de fundamentaalste taken in machine learning, gebruikt voor alles van spamdetectie tot sentimentanalyse.

Het model leert during training om patronen in data te herkennen die corresponderen met deze twee klassen. De output is typisch een waarschijnlijkheid tussen 0 en 1, waarbij waarden dicht bij 1 ‘ja’ aangeven en waarden dicht bij 0 ‘nee’ aangeven.

Zero-shot Classification is een machine learning-techniek waarmee een model items kan classificeren zonder voorbeelden van die specifieke klasse in de trainingsgegevens te zien. Het model gebruikt semantische kennis en beschrijvingen van klassen om nieuwe items in te delen.

Dit is bijzonder nuttig wanneer er weinig of geen trainingsgegevens beschikbaar zijn voor bepaalde categorieën. Een groot taalmodel kan bijvoorbeeld artikelen classificeren in categorieën die het eerder niet heeft gezien, puur op basis van tekstbeschrijvingen.