Term van de dag
Guardrails (AI)
Guardrails zijn veiligheidsmaatregelen die ervoor zorgen dat AI-systemen geen schadelijke output produceren. Dit kan via prompt-filtering, output-validatie en fine-tuning gebeuren.
Guardrails voorkomen dat LLMs misbruikt worden voor desinformatie, scams of illegale activiteiten. Ze zijn essentieel voor verantwoorde AI-implementatie.
Voorbeeld: Een guardrail detecteert dat een LLM wordt geprompt hacking-instructies te geven en wacht dit tegen. Een ander guardrail controleert of medische adviezen factisch correct zijn voordat ze worden gegeven.
Term van de dag archief
Alle AI-termen op één plek. Blader door het volledige archief, gesorteerd op alfabet.