Stel dat een nieuwe medewerker je een advies geeft, maar niet wil zeggen waar hij zijn kennis vandaan haalt. Zou je daarop een belangrijke beslissing durven baseren? Bij AI doen we het elke dag. We gebruiken modellen die meeschrijven, samenvatten en adviseren, zonder dat we weten waarop ze getraind zijn. En dat is geen detail, want een model is maar zo betrouwbaar en zo zuiver als de data waarop het gebouwd is. In deze blog lees je waarom die herkomst een blinde vlek is, welke risico’s dat meebrengt, en hoe je er grip op houdt.

Grote modellen zoals ChatGPT, Gemini en Copilot leren van enorme hoeveelheden tekst van het internet, aangevuld met gelicentieerde data. In grote lijnen is dat bekend, maar zodra je wilt weten wélke bronnen en datasets er precies gebruikt zijn, en of daar persoonsgegevens in zitten, houden de makers de deur dicht. De Foundation Model Transparency Index van Stanford meet hoe open AI-bedrijven zijn. In 2025 haalden ze samen gemiddeld 40 van de 100 punten, een daling ten opzichte van het jaar ervoor, en trainingsdata was een van de onderdelen waarover ze het minst transparant waren.¹

Dat is een ongemakkelijke combinatie. Het onderdeel dat het meeste zegt over hoe betrouwbaar een model is, is precies het onderdeel waar je het minst over te weten komt. Bij een gewone leverancier vraag je waar het materiaal vandaan komt en of het overeenkomt met wat je nodig hebt. Bij een AI-model beoordeel je meestal alleen de antwoorden die eruit komen, terwijl je het fundament eronder niet kunt zien. Je vertrouwt dus op iets wat je niet kunt controleren.

Waarom is dat jouw probleem en niet alleen dat van de aanbieder? Omdat je een model gebruikt of inkoopt zonder te weten waarop het gebouwd is. Data die op internetschaal wordt verzameld, bevat onvermijdelijk persoonlijke en gevoelige gegevens, en modellen kunnen die onthouden en later opnieuw naar buiten brengen.² Zit er in de basis van jouw AI informatie die daar niet hoort, dan erf je dat risico, ook al heb je het zelf nooit verzameld.

Concreet betekent dat het volgende: je AI-assistent kan in een antwoord aan een klant plots persoonsgegevens van iemand anders tonen die uit de trainingsdata komen, of je model kan gevoelige informatie reproduceren die je zelf nooit hebt ingevoerd. Op dat moment verwerk je persoonsgegevens zonder dat je daar toestemming of een geldige reden voor hebt, en dat is precies waar een toezichthouder of een gedupeerde je op kan aanspreken. Het wordt dan jouw klant, jouw dossier en jouw verantwoordelijkheid, ook al lag de oorzaak bij data die de aanbieder ooit heeft ingeladen.

Dat fundament ligt vast. Zodra persoonsgegevens eenmaal in een model verwerkt zijn, is ze eruit halen bijna onmogelijk zonder het hele model opnieuw te trainen, wat in de praktijk te duur en te complex is. Dat botst met het recht om vergeten te worden uit de AVG, dat mensen het recht geeft hun persoonsgegevens te laten wissen. Waar je bij een gewone database een record kunt verwijderen, zit de informatie in een model verweven in het geheel, zoals een vlek die in het beton is meegegoten voordat het uithardde.³

Daardoor kunnen de risico’s zich opstapelen, op drie vlakken tegelijk. Juridisch kan het wringen, want als er persoonsgegevens in je AI opduiken, verwerk je mogelijk gegevens die je helemaal niet mag gebruiken en een verzoek om die te wissen kun je niet zomaar waarmaken. Ook je reputatie staat op het spel, omdat gevoelige of persoonlijke gegevens onbedoeld in de antwoorden kunnen opduiken. En je grip staat onder druk, omdat je moeilijk kunt nagaan of corrigeren wat er in het model zit zolang de herkomst niet transparant is. Geen van die drie los je achteraf makkelijk op.

Je hoeft geen datawetenschapper te zijn om hier grip op te krijgen. Het begint met de omslag van blind vertrouwen naar gericht vragen, dezelfde zorgvuldigheid die je bij elke andere leverancier zou toepassen. Deze vier vragen brengen je al een heel eind:

• Waarop is dit model getraind en kun je de herkomst van die data aantonen?
• Wat gebeurt er als blijkt dat er persoonsgegevens in de trainingsdata zitten? Kunnen die eruit?
• Wie is aansprakelijk als mijn gebruik daardoor in strijd is met de AVG, ik of jij als leverancier?
• Wie binnen onze eigen organisatie bewaakt waarop onze AI-tools draaien?

Krijg je geen helder antwoord op de eerste vraag, dan is dat op zich al een antwoord. Leg vast wat je leverancier wél en niet kan aantonen en spreek intern af wie verantwoordelijk is voor de herkomst van je AI-data. Zo wordt het een bewuste keuze in plaats van iets wat ongemerkt je organisatie binnensluipt.

Bronnen

1. The Foundation Model Transparency Index
2. A Survey on Unlearning in Large Language Models
3. The Right to Be Forgotten Is Dead: Data Lives Forever in AI