In een neuraal netwerk zijn weights de parameters die het netwerk “leert” tijdens training. Elke verbinding tussen neuronen heeft een gewicht dat bepaalt hoe sterk die verbinding is. Deze gewichten worden constant aangepast met het doel om de voorspellingsfouten te minimaliseren.

Weights zijn letterlijk getallen. Een neuraal netwerk met miljoenen parameters heeft miljoenen weights – denk aan Claude’s miljarden weights. Training een AI-model betekent eigenlijk: “vind de juiste combinatie van weights zodat het model goede voorspellingen doet.”. Dit gebeurt via een proces genaamd backpropagation, waar fouten teruggepropageerd worden en weights stap voor stap aangepast worden.

Soms praten mensen over “weight initialization” – hoe de gewichten aan het begin worden ingesteld – en “weight decay”, een regularisatietechniek die grote gewichten bestraft. Dit alles helpt het model algemener en robuuster te maken.