Vector-Embedding

Wat is een Vector-Embedding?

Een vector-embedding is een lijst getallen die de betekenis van een stuk tekst, code, of een beeld representeert, geproduceerd door een machine-learning-model. Content met gelijkende betekenis krijgt getallen die dicht bij elkaar zitten in die numerieke ruimte, wat software laat verwante items vinden door afstand te meten in plaats van trefwoorden te matchen.

De belangrijkste punten

• Embeddings zetten betekenis om in geometrie. "Wachtwoord resetten" en "ik kan niet inloggen" landen dicht bij elkaar ook al delen ze geen woorden.
• Ze zijn de retrievallaag achter semantische zoekopdracht en retrieval-augmented generation, wat hoe agents relevante documenten en code vinden zonder alles in het contextvenster te proppen.
• Embeddings van verschillende modellen zijn niet uitwisselbaar. Van embedding-model wisselen betekent je hele corpus opnieuw embedden, dus begroot die migratie voordat je er een kiest.
• Embedding-aanroepen zijn goedkoop vergeleken met generatie, meestal een kleine fractie van de per-token-prijs van een chatmodel, dus de echte kosten zijn opslag, indexering, en opnieuw embedden wanneer content verandert.

Hoe het werkt

Een embedding-model leest een input, draait het door een neuraal netwerk, en geeft een vector van vaste lengte af, typisch ergens tussen 256 en 3.072 dimensies afhankelijk van het model. Het model was getraind zodat inputs die in gelijkende contexten verschijnen gelijkende vectoren produceren. De afstamming gaat terug naar Googles word2vec-paper van 2013, wiens architecturen hoogwaardige woordvectoren konden leren uit een dataset van 1,6 miljard woorden in minder dan een dag [1]. Gelijkenis tussen twee vectoren wordt meestal gemeten met cosinusgelijkenis: een score nabij 1 betekent dat de betekenissen dicht bij elkaar liggen, een score nabij 0 betekent dat ze ongerelateerd zijn.

Om dit nuttig te maken op schaal, embed je elk document, codebestand, of ticket eenmaal, sla je de vectoren op in een vectordatabase of een gewone index, en embed je dan elke binnenkomende query op verzoekmoment. De database geeft de dichtstbijzijnde opgeslagen vectoren terug, en die worden kandidaatresultaten. De meeste productiesystemen knippen lange documenten voor het embedden, want één vector voor een vijftig-pagina-PDF middelt de details weg waar een query daadwerkelijk om geeft.

Voor engineers die met agents bouwen is het praktische detail dat embeddings zijn hoe de tools van een agent beslissen wat op te halen. Wanneer een coding-agent een grote codebase doorzoekt of een supportagent het juiste beleidsdocument trekt, deed een embedding-lookup meestal het versmallen. De kwaliteit van chunking en de keuze van embedding-model doen er vaak meer toe voor outputkwaliteit dan het chatmodel erbovenop. Modelkeuze verdient een echte evaluatie in plaats van een standaard: de MTEB-benchmark van 2022, die 8 embeddingtaken omspant over 58 datasets en 112 talen, vond over 33 geëvalueerde modellen dat geen enkele embeddingmethode elke taak domineert [2].

Voorbeeld

Een team bedraadt een coding-agent aan een monorepo met 40.000 bestanden. Grep alleen faalt op vragen zoals "waar dempen we uitgaande webhooks", want de code zegt rateLimiter en dispatchQueue, nooit "dempen". Dus embedden ze elke functie met docstrings in een vectorindex. Nu embedt de agent de vraag, haalt de twaalf dichtstbijzijnde functies op, en leest alleen die bestanden. Retrieval duurt milliseconden, de context van de agent blijft klein, en antwoorden citeren de daadwerkelijke demp-code bij de eerste poging.

Veelvoorkomende misvattingen

De veelgemaakte fout is embedding-gelijkenis behandelen als relevantieoordeel. Nearest-neighbor-zoeken geeft terug wat het dichtst bij ligt, zelfs wanneer niets in het corpus de query daadwerkelijk beantwoordt. Een vraag over terugbetalingsbeleid geeft nog steeds twaalf chunks terug als het corpus nul terugbetalingscontent bevat, en een model stroomafwaarts zal zijn antwoord er bereidwillig op aarden. Productiesystemen hebben een gelijkenisdrempel nodig, een rerankingstap, of beide, zodat "dichtstbij" mag betekenen "niet goed genoeg".

FAQ

Wat is het verschil tussen embeddings en tokens? Tokens zijn hoe een model tekst leest: kleine stukken tekens verwerkt in sequentie. Embeddings zijn de output van een apart model: één numerieke vector die de betekenis van een hele passage samenvat. Tokenization is een inputstap, embedding is een representatie die je opslaat en vergelijkt.

Werken embeddings voor code? Ja, en moderne embedding-modellen zijn specifiek getraind op code. Ze mappen een natuurlijke-taal-vraag en de functie die hem beantwoordt naar nabije vectoren, wat waarom semantisch codezoeken keyword-zoeken verslaat in grote repo's waar naamgeving inconsistent is.

Hoe kies ik embedding-dimensies? Grotere vectoren vangen meer nuance maar kosten meer om op te slaan en te doorzoeken. Veel huidige modellen ondersteunen vectoren inkorten op querymoment, dus is een gangbare aanpak beginnen rond 512 tot 1.024 dimensies en alleen groter gaan als retrievalkwaliteit meetbaar verbetert in je evals.

Bronnen

1. Mikolov et al., Google. "word2vec-trainingssnelheid op een dataset van 1,6 miljard woorden." https://arxiv.org/abs/1301.3781. Geraadpleegd augustus 2026.
2. Muennighoff et al. "Bereik van de MTEB-benchmark en bevinding dat geen embeddingmethode domineert." https://arxiv.org/abs/2210.07316. Geraadpleegd augustus 2026.