Robustness in AI verwijst naar de vermogen van een model om correct te functioneren ondanks verstoringen, onzekerheden of onverwachte invoer. Een robuust model geeft consistente, betrouwbare resultaten zelfs wanneer het te maken krijgt met inputs die verschillen van zijn trainingsgegevens.

Robust AI-modellen kunnen omgaan met afwijkingen zoals: licht vervorkte afbeeldingen (in computer vision), grammaticale fouten of ongewone woordschik in tekst, licht vervuilde sensor-data, of adversariale aanvallen. Robuustheid is essentieel voor real-world toepassingen waar perfecte inputs niet kunnen worden gegarandeerd.

Trainingsmethoden om robustness te vergroten zijn onder meer data augmentation (het trainen met licht vervormd data), adversariale training (het trainen tegen aanvallen), en het testen op een breed scala van edge cases. Benchmarks zoals ImageNet-C testen de robustness van computer vision modellen tegen veel verschillende verstoringen.