Interpretability

Interpretability verwijst naar het vermogen om te begrijpen hoe en waarom een AI-model bepaalde beslissingen neemt. Dit is essentieel voor vertrouwen in AI-systemen, vooral in gevoelige domeinen.

Machine learning modellen zijn vaak black boxes – het is moeilijk in te zien hoe inputfeatures tot outputs leiden. Interpretability technieken helpen dit op te lossen door inzichten te geven in modelgedrag.