Term van de dag
Batch Size

Batch Size is het aantal trainingsvoorbeelden dat in één iteratie van het trainingsproces aan het model wordt aangereikt voordat de gewichten worden bijgewerkt. Een groter batch size betekent meer voorbeelden tegelijk verwerken, wat efficiëntie en stabiliteit kan verbeteren, maar ook meer geheugen vereist.

Het kiezen van de juiste batch size is een belangrijk hyperparameter tuning-onderdeel. Te kleine batches kunnen leiden tot ruis in de training, terwijl te grote batches rekenkracht verspillen en minder generaliserend kunnen zijn.

Voorbeeld: Bij het trainen van een model met 10.000 voorbeelden en batch size 32, worden er ongeveer 312 updatestappen per trainingsepocha uitgevoerd.

📚
Term van de dag archief
Alle AI-termen op één plek. Blader door het volledige archief, gesorteerd op alfabet.