Bias in AI heeft twee betekenissen. De eerste is een technische: het is een parameter in neurale netwerken die helpt bij het aanpassen van voorspellingen. De tweede is meer kritiek: het verwijst naar discriminatie in AI-systemen, waarbij het model bepaalde groepen systematisch oneerlijk behandelt.

Algoritmische bias kan voorkomen wanneer trainingsgegevens onbalans bevatten of wanneer historische discriminatie in de data is ingebouwd. Dit kan leiden tot unfaire uitkomsten in personeelswerving, kredietverlening en strafjustice.