Gevorderd • Les 13

Structured output en JSON-mode in taalmodellen

Wanneer je een AI integreert in een applicatie, wil je geen vrije tekst maar gestructureerde data die je programmatisch kunt verwerken. Structured output en JSON-mode maken dit mogelijk en verhogen de betrouwbaarheid van AI-integraties sterk.

Waarom structured output?

Vrije tekst is moeilijk te parsen en inconsistent. Als je een AI vraagt een product te beoordelen, wil je liever een JSON-object met velden voor score, samenvatting en categorie dan een vrije alinea. Dit maakt de output direct bruikbaar in databases, dashboards en verdere verwerkingsstappen.

JSON-mode

Veel API’s bieden een JSON-mode waarbij het model gegarandeerd valide JSON produceert. Je stuurt een schema mee dat de verwachte structuur beschrijft, en het model vult de velden in. OpenAI’s structured outputs-functie en Claude’s tool use met schema-validatie zijn voorbeelden van deze aanpak.

Schema-ontwerp

Een goed schema is specifiek genoeg om de output te sturen maar flexibel genoeg om met variatie om te gaan. Gebruik duidelijke veldnamen, voeg beschrijvingen toe per veld, en markeer verplichte versus optionele velden. Slechte schema’s leiden tot inconsistente output, ook al genereert het model technisch valide JSON.

Beperkingen en tips

Structured output werkt goed voor gestructureerde extractie (entiteiten uit tekst halen), classificatie en data-transformatie. Het werkt minder goed voor open-ended creatieve taken. Als een schema te complex is, neemt de kans op fouten toe. Splits complexe schema’s op in meerdere kleinere aanroepen voor betere resultaten.