XAI, voluit Explainable AI of Interpretable AI, is het veld dat zich bezighoudt met het begrijpelijk maken van hoe AI-modellen tot hun besluiten komen. Veel moderne AI-modellen, vooral deep learning-netwerken, worden gezien als “black boxes” – ze produceren antwoorden, maar het is moeilijk om te begrijpen waarom ze die antwoorden geven.

XAI probeert dit gat te dichten door technologie n te entwickkelen die inzicht geven in welke features of inputs het model beïnvloed, welke delen van een afbeelding belangrijk waren voor een klassificatie, of hoe neurale netwerkgewichten samenwerken. Dit is cruciaal voor toepassingen met hoge inzetten, zoals medische diagnoses of juridische besluiten.

Methoden voor XAI omvatten LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations), attention visualisatie, en feature importance-analyse. Regelgeving zoals de GDPR stelt ook steeds meer eisen aan de “right to explanation”.