On-device AI betekent dat AI-modellen lokaal op je apparaat draaien in plaats van via het internet naar servers te sturen. Dit biedt voordelen op het gebied van privacy, snelheid en offline-beschikbaarheid.

In plaats van gegevens naar de cloud te sturen, wordt alles verwerkt op je telefoon, computer of ander apparaat. Dit is steeds gebruikelijker met quantized en meer efficiënte modellen.