Dit opiniestuk verscheen op 19 augustus 2026 in De Tijd: Om AI te vertrouwen moeten we de bouwstenen kennen.
De essentie
- De auteur: Wiebe Vandendriessche is PhD-researcher bij IDLab (Universiteit Gent en Imec). Dit opiniestuk is gebaseerd op zijn doctoraat in de industriële wetenschappen (informatica).
- De kwestie: Achter elk AI-model schuilt een onoverzichtelijke toeleveringsketen van opensourcesoftware, datasets, tools en cloudinfrastructuur. Als één schakel wordt gecompromitteerd, kan dat gevolgen hebben voor alle toepassingen die erop steunen.
- De conclusie: AI-ontwikkelaars moeten transparant zijn over de bouwstenen waarop hun systemen zijn gebaseerd.
Het maatschappelijke debat over AI focust bijna uitsluitend op AI-modellen aan het einde van de rit. Zijn de antwoorden correct? Zijn ze ethisch? Terechte vragen, maar ze vertrekken vanuit de misvatting dat het model de enige schakel is die ertoe doet.
Stel je voor dat een bank een AI-systeem gebruikt om fraude op te sporen. Het systeem lijkt betrouwbaar en helpt dagelijks verdachte transacties te identificeren. Maar zonder dat iemand het merkt, is de dataset waarmee het systeem werd getraind vervuild met foutieve voorbeelden. Fraudeurs slagen er daardoor in transacties onopgemerkt te laten passeren, terwijl het systeem aan de buitenkant normaal blijft functioneren. Het risico zit niet alleen in het model zelf, maar ook in de vele onzichtbare bouwstenen die bepalen hoe het tot stand komt.
Achter elk model schuilt een complexe, vaak onoverzichtelijke toeleveringsketen van opensourcesoftware, datasets, tools en cloudinfrastructuur. Samen bepalen die hoe een model wordt gebouwd, getraind, getest en uiteindelijk gebruikt. Zie het als een auto: de betrouwbaarheid van de motor zegt weinig als de remmen, de banden of de software niet veilig zijn.
Als één schakel in die keten wordt gecompromitteerd, kan dat gevolgen hebben voor alle toepassingen die erop steunen. Cybercriminelen spelen daar almaar meer op in en richten hun pijlen op de softwarecomponenten die duizenden organisaties tegelijk gebruiken. Zulke supplychainaanvallen behoren tot de grootste dreigingen in cybersecurity.
AI Bill of Materials#
De softwarewereld trok daar de voorbije jaren harde lessen uit. Bedrijven eisen almaar vaker een 'ingrediëntenlijst' van hun software, een Software Bill of Materials, zodat ze bij een lek meteen weten welke componenten getroffen zijn.
Bij AI ontbreekt die transparantie nog vaak. Ontwikkelaars combineren opensourcemodellen met tientallen softwarebibliotheken en trainen ze op datasets waarvan de herkomst vaak onduidelijk is. Dat versnelt innovatie, maar maakt het ook moeilijk om te weten welke componenten worden gebruikt, waar ze vandaan komen en of ze nog betrouwbaar zijn. Veel organisaties hebben onvoldoende zicht op de bouwstenen achter hun AI-systemen.
Dat blinde vertrouwen is onverantwoord. Vertrouwen in AI begint bij transparantie over de volledige keten erachter. Bedrijven die AI integreren, moeten van hun leveranciers een sluitende ingrediëntenlijst eisen, een AI-equivalent van de Software Bill of Materials.
Ontwikkelaars combineren opensourcemodellen met tientallen softwarebibliotheken en trainen ze op datasets waarvan de herkomst vaak onduidelijk is.
De Europese wetgever zet met de AI Act al een eerste stap: sinds 2 augustus moeten bedrijven met hoogrisico-AI-systemen technische documentatie kunnen voorleggen aan de toezichthouder. Die documentatie beschrijft het systeem op papier, maar volgt niet automatisch de herkomst van elke bouwsteen. Daarin moet de wetgeving nog een stap verder zetten, zodat elke schakel in de keten controleerbaar wordt.
Gelukkig is die transparantie al technisch haalbaar. Uit eigen onderzoek blijkt dat een AI Bill of Materials automatisch kan worden opgesteld, zonder de ontwikkeling of training van AI-systemen merkbaar te vertragen. Transparantie hoeft dus geen extra administratieve last te worden, maar kan grotendeels automatisch ingebouwd worden in het ontwikkelingsproces.
Dat automatische karakter is cruciaal. Transparantie mag niet afhangen van wat een leverancier zelf over zijn AI-systeem beweert. Een AI Bill of Materials moet automatisch kunnen worden gegenereerd en achteraf controleerbaar blijven. Met cryptografische technieken, zoals digitale handtekeningen, kan worden aangetoond dat de informatie authentiek is en achteraf niet ongemerkt kan worden gewijzigd. Bovendien werden die ingrediëntenlijsten in het onderzoek getest tegen mogelijke manipulatiepogingen. Conclusie: ze bleven betrouwbaar, ook onder druk van aanvallen.
AI-bouwstenen kunnen wel degelijk transparant zijn, zoals mijn doctoraatsonderzoek aantoont. Er is geen reden waarom die transparantie niet de norm zou worden.
