Alignment in AI verwijst naar het proces om ervoor te zorgen dat het gedrag en de doelen van AI-systemen aansluiten met menselijke waarden en verwachtingen. Dit is essentieel omdat AI-modellen anders onbedoelde of schadelijke resultaten kunnen produceren, zelfs wanneer ze technisch correct werken.

AI-alignment omvat verschillende benaderingen: het trainen van modellen met menselijk feedback, het stellen van duidelijke doelen en beperkingen, en het uitvoeren van grondige tests. Organisaties zoals Anthropic werken intensief aan alignment om ervoor te zorgen dat AI-systemen veilig en betrouwbaar blijven naarmate ze krachtiger worden.