Model Collapse

Model Collapse is een phénoméne waarbij modellen getraind op synthetische gegevens (gegenereerd door andere AI-modellen) snel hun performantie verliezen. Dit is een potentieel belangrijk probleem in de toekomst van AI.

Naarmate steeds meer AI-gegenereerde inhoud online verschijnt, bestaat het risico dat nieuwe modellen op dit materiaal worden getraind, wat leidt tot degradatie. Dit is een actief onderzoeksgebied.