Reward Models zijn machine learning modellen die leren de kwaliteit of bruikbaarheid van outputs te evalueren. In plaats van expliciete regels, leren reward models door traininggegevens waarin menselijke beoordelaars hebben aangegeven welke outputs goed of slecht zijn.

Reward models zijn essentieel voor het africhten van grote AI-systemen om menselijke waarden uit te voeren. Ze worden gebruikt in reinforcement learning from human feedback (RLHF) om modellen als taalmodellen beter uit te lijnen met menselijke voorkeuren.