Begrippen

De woorden die op elke modelpagina staan, in gewone taal.

Agentisch	Een model dat in een lus werkt — plannen, tools aanroepen, resultaten lezen, doorgaan — in plaats van één keer antwoorden. Agentische prompts hebben duidelijke grenzen nodig voor wat het model zonder overleg mag doen.
Benchmark	Een standaardtestset om modellen te vergelijken. Bruikbaar voor een ruwe rangorde, zwak bewijs voor jouw specifieke taak — modellen worden vaak op populaire benchmarks afgestemd, en jouw werk is die benchmark niet.
Chatsjabloon	Het exacte tekstformaat waarop een model is getraind, inclusief de speciale tokens die de systeem-, gebruikers- en assistentbeurt markeren. Gehoste API’s doen dit voor je; host je zelf, dan moet het precies kloppen — fout toepassen geeft geen foutmelding maar stilletjes slechtere uitvoer.
Contextvenster	De hoeveelheid tekst die een model tegelijk kan vasthouden, prompt en antwoord samen, gemeten in tokens. Erover gaan laat het oudste materiaal stilzwijgend vallen.
Denkbudget / effort	Een instelling van de aanbieder voor hoeveel interne overweging er vóór het antwoord wordt besteed. Heet effort bij Claude en thinking_level bij Gemini.
Distillatie	Een kleiner model trainen op de uitvoer van een groter model, om veel van het gedrag te krijgen tegen een fractie van de omvang en kosten. De meeste kleine open modellen die je lokaal draait, zijn gedistilleerd uit iets groters.
Doorvoer en latency	Latency is hoe lang het duurt voor je een antwoord ziet; doorvoer is hoeveel verzoeken per seconde de opstelling aankan. Lokale opstellingen hebben vaak prima latency voor één persoon en slechte doorvoer voor een team.
Few-shot	Een klein aantal uitgewerkte voorbeelden meesturen in de prompt. Zero-shot betekent geen voorbeelden.
Fine-tunen	Een bestaand model verder trainen op je eigen voorbeelden, zodat gedrag ingebakken zit in plaats van in elke prompt beschreven. Pas de moeite waard als prompten echt niet meer volstaat — het kost data, geld en doorlopend onderhoud.
Gestructureerde uitvoer	Een model dwingen data in een vaste vorm terug te geven, meestal JSON volgens een schema, zodat een programma het kan lezen.
GGUF	Het bestandsformaat dat de meeste lokale runtimes verwachten. Één bestand met de gewichten, meestal gequantiseerd, plus de metadata die een runtime nodig heeft — inclusief het chatsjabloon.
Grounding	Een model bronmateriaal geven om uit te antwoorden, in plaats van te leunen op wat het tijdens training opnam.
Guardrails	Controles óm een model heen in plaats van erin: invoerfilters, uitvoervalidatie, geblokkeerde onderwerpen, menselijke goedkeuring vóór een actie. Een promptinstructie is een verzoek; een guardrail is handhaving.
Hallucinatie	Vloeiende uitvoer die feitelijk onjuist is — een verzonnen bron, wetsartikel, cijfer of citaat. Het leest precies als een correct antwoord, en dat maakt het gevaarlijk.
Inferentie	Een getraind model draaien om een antwoord te krijgen, in tegenstelling tot het trainen ervan. Alle kosten en wachttijd die je dagelijks ervaart, zijn inferentie.
Kennisdatum	De datum waarna een model geen betrouwbare kennis meer heeft. Vraag het de documentatie, niet het model — modellen zijn onbetrouwbare vertellers over zichzelf.
KV-cache	Werkgeheugen dat een model bijhoudt tijdens het genereren, zodat het niet bij elk token het hele gesprek hoeft te herlezen. Het groeit met de contextlengte en kost VRAM — daarom kost lange context meer geheugen dan de modelgewichten alleen doen vermoeden.
Lost in the middle	De neiging van modellen om goed te letten op het begin en einde van lange invoer, en minder op het midden. Een groot contextvenster is niet hetzelfde als gelijke aandacht overal — daarom hoort de instructie meestal achteraan.
Mixture of experts (MoE)	Een architectuur waarbij per token maar een deel van het model draait. Inferentie is zo snel als een veel kleiner model, maar je hebt nog steeds geheugen nodig voor alle gewichten — een 400B MoE met 17B actief moet nog altijd ergens in passen.
Model card	De eigen beschrijving van een model door de uitgever: waarvoor het is getraind, de licentie, het promptformaat, de bekende beperkingen. Het eerste wat je leest voor je iets zelf host, en de bron voor het chatsjabloon.
Multimodaal	Een model dat meer dan tekst aanneemt — beeld, audio of video — in dezelfde prompt. De ondersteuning verschilt sterk per model en zelfs per variant van dezelfde aanbieder, dus controleer het in plaats van het aan te nemen.
Open gewichten	Een model waarvan je de getrainde parameters kunt downloaden en zelf draaien. Niet hetzelfde als open source: veel licenties voor open gewichten stellen voorwaarden aan commercieel gebruik, gebruikersaantallen of naamgeving. Lees de licentie, niet het persbericht.
Prompt injection	Een aanval waarbij instructies verstopt in inhoud die het model leest — een webpagina, document of e-mail — worden opgevolgd alsof ze van de gebruiker kwamen.
Quantisatie	De getallen van een model met lagere precisie opslaan zodat het in minder geheugen past — een 8-bits of 4-bits versie van een 16-bits model. Halveert of kwart het geheugengebruik, met een kwaliteitsverlies dat bij 8 bits klein is en onder 4 bits merkbaar wordt.
RAG	Retrieval-augmented generation: een documentverzameling doorzoeken op relevante passages en die in de prompt zetten voordat het model antwoordt.
Redeneermodel	Een model dat interne overweging genereert vóór het zichtbare antwoord. De meeste frontier-modellen doen dit standaard, met een instelling voor hoeveel.
Runtime	De software die een modelbestand daadwerkelijk laadt en antwoorden levert — Ollama, llama.cpp, vLLM en andere. Die regelt het chatsjabloon, de sampling-instellingen en meestal een API die je eigen code kan aanroepen.
Speciale tokens	Gereserveerde markeringen in de woordenschat van een model die beurten en rollen afbakenen in plaats van als woord betekenis te dragen. Onderdeel van het chatsjabloon, en een van de dingen die je bij zelf hosten het makkelijkst subtiel fout doet.
Systeemprompt	Blijvende instructies die voor elke beurt van een gesprek gelden, apart van het bericht van de gebruiker.
Temperatuur	Een instelling die willekeur regelt. Lager is voorspelbaarder en herhalender; hoger is gevarieerder en foutgevoeliger.
Token	De eenheid waarin een model leest en factureert — ruwweg een kort woord of woorddeel. Contextvensters en prijzen worden in tokens genoemd, niet in woorden.
Top-p en top-k	Sampling-instellingen die beperken uit welke kandidaat-woorden een model mag kiezen. Samen met temperatuur ruilen ze voorspelbaarheid tegen variatie; laat ze met rust tenzij je een gemeten reden hebt.
Verbosity	Een OpenAI-instelling voor de standaardlengte van antwoorden, buiten de prompttekst om.
VRAM	Geheugen op een videokaart. De praktische bovengrens voor welke modellen je zelf kunt hosten: de gewichten plus de KV-cache moeten erin passen, anders valt het model terug op gewoon werkgeheugen en draait het veel trager.