Constitutional AI is een benadering van AI-alignment waarbij een AI-model wordt getraind om zich aan een set van beginselen of regels te houden, vergelijkbaar met een grondwet. Anthropic ontwikkelde deze methode om AI-systemen veiliger en meer betrouwbaar te maken.

In plaats van alleen op menselijk feedback te vertrouwen, kan Constitutional AI het model trainen om zelfstandig te evalueren of zijn antwoorden in lijn zijn met bepaalde waarden. Dit helpt AI-systemen ethischer en consistenter te handelen.