Adversarial Attack is een techniek waarbij aanvallers opzettelijk AI-modellen misleiden door subtiele veranderingen in invoergegevens aan te brengen. Deze aanvallen exploiteren de zwaktes van AI-systemen om onjuiste uitvoer te produceren, zonder dat het voor mensen opvallend is.

Adversarial attacks kunnen ernstige gevolgen hebben, vooral in kritieke toepassingen zoals autonome auto’s of medische diagnostiek. Onderzoek naar deze aanvallen helpt beveiligingsonderzoekers de robuustheid van AI-systemen te verbeteren en kwetsbaarheden op te sporen voordat ze kwaadwillig kunnen worden uitgebuit.