Quantization is het proces van het omzetten van continue waarden in discrete stappen, meestal voor het comprimeren van machine learning modellen. Het meest gebruikelijk wordt dit toegepast om parameters (gewichten) van een model om te zetten van floating-point getallen naar lagere precisie-waarden.

Quantization vermindert de opslagvereisten en snelheid van computermemoria aanzienlijk, wat het mogelijk maakt modellen efficiënter op hardware uit te voeren. Dit is vooral waardevol voor het inzetten van grote modellen op mobiele apparaten, edge devices of datacenters.