Term van de dag
Gradient Descent
Gradient Descent is een fundamenteel optimalisatiealgoritme dat wordt gebruikt om de waarden van parameters in machine learning modellen aan te passen. Het algoritme werkt door iteratief in de richting van de steilste daling te bewegen, waarbij het de foutwaardes stap voor stap verkleint.
Het algoritme berekent de gradiënt (afgeleide) van de verliesfunctie met betrekking tot elk parameter. Vervolgens worden de parameters bijgewerkt in de tegengestelde richting van deze gradiënt, met een stapgrootte die de leersnelheid wordt genoemd. Dit proces herhaalt zich totdat het algoritme convergentie bereikt.
Voorbeeld: Stel je voor dat je een berg afloopt in dichte mist. Je kunt niet het hele landschap zien, dus je voelt welke richting het steilst naar beneden gaat en zet een stap in die richting. Je herhaalt dit proces totdat je het laagste punt bereikt. Dit is essentieel hoe Gradient Descent werkt: het vindt iteratief de weg naar het optimale punt door altijd in de richting van de steilste helling te gaan.
Term van de dag archief
Alle AI-termen op één plek. Blader door het volledige archief, gesorteerd op alfabet.