Large Language Model

Large Language Model

Large Language Models (LLMs) zijn taalmodellen met miljarden parameters getraind op enorme tekstdatasets. Ze kunnen diverse taalgerichte taken uitvoeren en hebben een opvallende algemene intelligentie.

LLMs zoals GPT-4, Claude en Llama hebben de AI-industrie getransformeerd. Hun ability om van natuurlijke taal prompt te begrijpen en bruikbare output te genereren heeft vele praktische toepassingen mogelijk gemaakt.

K-means Clustering

K-means Clustering

K-means is een populair ongesuperviseerd clustering algoritme dat gegevenspunten in K verschillende clusters verdeelt. Elk cluster wordt vertegenwoordigd door een gemiddelde vector (centroid).

K-means is eenvoudig, snel en wordt veel gebruikt in praktische toepassingen. Het nadeel is dat je het aantal clusters moet opgeven en het gevoelig is voor initializatie.

Knowledge Distillation

Knowledge Distillation

Knowledge Distillation is het proces van het trainen van een kleiner (student) model om de gedrag van een groter (teacher) model na te bootsen. Dit stelt ons in staat kleinere, snellere modellen te maken.

Dit is zeer waardevol voor deployment op apparaten met beperkte resources. De student model kan bijna even goed presteren als de teacher, maar veel sneller en met minder geheugen.

Knowledge Graph

Knowledge Graph

Een Knowledge Graph is een gestructureerde representatie van kennis waarbij entiteiten en hun relaties expliciet zijn gemodelleerd. Dit maakt het gemakkelijk om complexe relaties en feiten op te vragen.

Bedrijven zoals Google gebruiken uitgebreide kennisgrafieken. Ze helpen AI-systemen beter begrijpen van contextuele relaties en maken grounding van informatie mogelijk.

Just-in-time Learning

Just-in-time Learning

Just-in-time Learning is een aanpak waarbij een systeem alleen relevant informatie laadt en verwerkt op het moment dat dit nodig is. Dit is voordelig voor efficiëntie en resources.

Dit concept is relevant in retrieval-augmented generation, waar grote kennisbanken niet allemaal in het model hoeven te zitten, maar kunnen worden opgehaald als nodig.

Joint Embedding

Joint Embedding

Joint Embedding is wanneer verschillende modaliteiten (tekstus, afbeeldingen, geluid) in dezelfde vectorruimte worden ingebed zodat ze kunnen worden vergeleken. Dit stelt modellen in staat over modaliteiten heen te redeneren.

Multimodale modellen maken intensief gebruik van joint embeddings. Dit staat toe dat afbeeldingen kunnen worden vergeleken met tekstbeschrijvingen, wat toepassingen als image-to-text search mogelijk maakt.

Jailbreaking

Jailbreaking

Jailbreaking verwijst naar het omzeilen van de veiligheids- en inhoudsbeperkingen van AI-modellen. Dit gebeurt door slimme prompting-technieken in te zetten om modellen dingen te laten doen die ze niet zouden moeten doen.

Jailbreaking is een belangrijk onderzoeksgebied vanuit beveiligingsperspectief. Onderzoekers proberen jailbreak-technieken te vinden om vervolgens verdedigingen te versterken. Dit helpt AI-systemen veiliger en betrouwbaarder te maken.

Instruct Tuning

Instruct Tuning

Instruct Tuning is een fine-tuning methode waarbij taalmodellen worden getraind op instructies en bijbehorende antwoorden. Dit stelt modellen in staat beter te volgen wat gebruikers vragen en bruikbaardere antwoorden te geven.

Dit is veel van wat groot taalmodellen als ChatGPT nuttig maakt. Door op diverse instructies te trainen, leren modellen een brede reeks taken aan te pakken en beter met gebruikersintentie om te gaan.

Interpretability

Interpretability

Interpretability verwijst naar het vermogen om te begrijpen hoe en waarom een AI-model bepaalde beslissingen neemt. Dit is essentieel voor vertrouwen in AI-systemen, vooral in gevoelige domeinen.

Machine learning modellen zijn vaak black boxes – het is moeilijk in te zien hoe inputfeatures tot outputs leiden. Interpretability technieken helpen dit op te lossen door inzichten te geven in modelgedrag.

Sentence Embedding

Term van de dag
Sentence Embedding

Een Sentence Embedding is een numerieke representatie van een volledige zin in vectorvorm. Het vat de semantische betekenis van de zin samen zodat gelijkaardige zinnen dichter bij elkaar liggen in de vectorruimte.

Sentence embeddings worden gegenereerd door modellen als Sentence-BERT, Universal Sentence Encoder en anderen. Ze zijn essentieel voor taken als semantic search, paraphrase detection, en clustering van documenten.

Voorbeeld: De zinnen “De kat zit op de mat” en “Er zit een kat op het tapijt” krijgen zeer gelijkaardige embeddings ondanks hun verschillende woorden.

📚
Term van de dag archief
Alle AI-termen op één plek. Blader door het volledige archief, gesorteerd op alfabet.