Het trainingscorpus is de volledige verzameling teksten en data waarop een taalmodel is getraind. Het omvat doorgaans miljarden woorden afkomstig van webpagina's, boeken, wetenschappelijke artikelen, forumberichten, nieuws en andere tekstbronnen. Dit corpus vormt de feitenkennis, het taalbegrip en de redeneringscapaciteit van het model.
Wat een model weet over uw merk, uw sector of uw producten is rechtstreeks bepaald door wat er over u geschreven staat in zijn trainingscorpus. Als uw bedrijf nauwelijks aanwezig is in de bronnen die het model heeft geconsumeerd, kan het weinig betrouwbaars over u zeggen en vergroot u het risico op hallucinaties.
Begrip van het trainingscorpus is de basis van elke serieuze AI-zichtbaarheidsstrategie. U kunt immers niet beinvloeden wat een model over u zegt als u niet begrijpt hoe zijn kennis is opgebouwd. Meer over die strategie leest u in onze gids voor AI-optimalisatie.
Wat zit er in een typisch trainingscorpus
De grote publieke LLM's zijn getraind op varianten van Common Crawl, een archief van het publieke web dat maandelijks een aanzienlijk deel van het internet crawlt. Common Crawl vertegenwoordigt doorgaans 50 tot 70% van de trainingsdata. De rest bestaat uit gefilterde boekencorpora, Wikipedia (zwaar gewogen vanwege zijn encyclopedische kwaliteit), academische publicaties, coderepo's en selecties van nieuwsartikelen en blogs.
De kwaliteit en diversiteit van het corpus bepalen de kwaliteit van het model. Modellen getraind op ongefilterd web-data bevatten meer ruis en vooroordelen dan modellen getraind op zorgvuldig gecureerde bronnen. GPT-4, Claude en Gemini zijn getraind op meerdere biljoenen tokens.
Praktisch betekent dit: als uw website gecrawld wordt door Common Crawl, heeft u een kans om in toekomstige trainingsrondes opgenomen te worden. Technische toegankelijkheid (geen blokkades voor bots) en inhoudswaarde zijn bepalend.
De kennisgrens: wanneer stopt het corpus
Elk model heeft een trainingsgrens (knowledge cutoff): de datum waarop de verzameling van trainingsdata is stopgezet. Informatie gepubliceerd na die datum is niet aanwezig in het model tenzij het model beschikt over een RAG-component die realtime bronnen raadpleegt.
Voor uw merk heeft dit een directe implicatie. Als u een product hebt gelanceerd na de kennisgrens van een model, weet dat model niets over uw nieuwe product tenzij het via RAG uw huidige website raadpleegt. Dit is een van de redenen waarom RAG-compatibiliteit van uw site cruciaal is: het overbrugt de kennisgrens.
De meeste grote modellen worden regelmatig opnieuw getraind of bijgewerkt. Gemini en Perplexity combineren trainingsdata met realtime webzoekopdrachten. Uw strategie moet beide situaties afdekken.
Hoe u uw aanwezigheid in toekomstige corpora vergroot
U kunt het trainingscorpus van bestaande modellen niet wijzigen. Maar u kunt actief werken aan uw aanwezigheid in de data die toekomstige trainingsrondes zullen voeden. De hefbomen zijn: publicaties in geindexeerde media die Common Crawl crawlt, vermeldingen in Wikipedia of Wikidata (een van de meest gewogen bronnen), citaties in academische en gespecialiseerde publicaties, actieve aanwezigheid op platforms die frequent gecrawld worden en gastbijdragen in gezaghebbende sectorpublicaties.
Dit is de langetermijndimensie van E-E-A-T: niet alleen Google overtuigen van uw autoriteit, maar ook de datapipelines die toekomstige LLM's voeden. De twee strategieen overlappen sterk.
Wilt u weten hoe uw merk momenteel verschijnt in de grote modellen? Vraag een gratis audit aan. Ontdek ook hoe AI-zichtbaarheid verschilt van klassieke SEO.
Trainingscorpus en fine-tuning: de verbinding
Bij fine-tuning van een model op uw eigen data, wordt uw proprietary data het aanvullende trainingscorpus. De kwaliteit, diversiteit en representativiteit van uw fine-tuning-dataset zijn bepalend voor de kwaliteit van het resultaat.
Een goed samengesteld fine-tuning-corpus bevat een balans tussen positieve voorbeelden (gewenst gedrag) en negatieve voorbeelden (gedrag dat het model moet vermijden), voldoende diversiteit om overfitting te voorkomen en een volume dat volstaat om statistisch betekenisvolle gewichtsaanpassingen te produceren.
De principes van goed trainingscorpusbeheer zijn de professionele basis van elk AI-implementatieproject. Ons team bij AISOS begeleidt bedrijven bij zowel externe zichtbaarheidsoptimalisatie als interne AI-strategie.