Explainability verwijst naar het vermogen om uit te leggen hoe een AI-model zijn beslissingen neemt. Dit is cruciaal voor vertrouwen en verantwoordelijkheid, vooral in gevoelige domeinen zoals medische diagnostiek en juridische systemen.

Veel deep learning-modellen werken als ‘black boxes’, wat betekent dat het moeilijk is om te begrijpen waarom ze een bepaalde voorspelling doen. AI-explainability-technieken zoals LIME en SHAP helpen deze processen transparant te maken.