Als AI in een middag bouwt waar een team vroeger weken over deed, betekent dat dan dat je niet meer hoeft te begrijpen hoe het werkt? Steeds meer directies handelen ongemerkt alsof het antwoord ja is. Dat is een misvatting. Bouwsnelheid en begrip zijn twee verschillende dingen, en AI heeft vooral het eerste versneld. Wat er sneller uit rolt, moet nog steeds begrepen, onderhouden en gecontroleerd worden door mensen die weten wat ze doen. AI is geen wondermachine die dat vanzelf regelt. Het is een gereedschap, en net zo goed als de kennis van degene die het bedient.
Kennis die met iemand meeloopt
Iedere organisatie kent een variant van dit verhaal. Ergens in een spreadsheet zit een cel die al jaren onderdeel is van een keten van formules. Niemand weet meer precies waarom, maar zodra iemand hem verwijdert, kloppen de uitkomsten niet meer. De persoon die begreep waarom, is allang vertrokken.
Met AI-systemen dreigt hetzelfde probleem, alleen sneller en op grotere schaal. Denk aan een forecastmodel dat al twee jaar goede voorspellingen doet, gebouwd door iemand die inmiddels weg is, waarbij niemand meer weet welke uitzonderingen erin zijn verwerkt voor bijvoorbeeld seizoenspieken. Vertrekt de bouwer, dan kun je relatief snel iemand inwerken, mits de organisatie haar kennis al heeft vastgelegd. Zonder die vastlegging kost het inwerken juist veel langer dan verwacht, en blijft de vervanger gissen naar de oorspronkelijke redenering.
Dat is geen reden om AI te wantrouwen. Het is wel een reden om kennis niet alleen in iemands hoofd te laten zitten, maar vast te leggen in documentatie en governance, zodat de organisatie zelf blijft begrijpen waarom haar systemen doen wat ze doen, ook als de mensen wisselen.
Een goed antwoord is niet altijd een juist antwoord
Taalmodellen zijn in de kern gebouwd op het voorspellen van het volgende meest waarschijnlijke woord, aangevuld met instructietraining en de mogelijkheid om externe tools te raadplegen. Dat werkt verrassend goed. Maar verrassend goed is niet hetzelfde als gegarandeerd correct. Denk aan een AI-tool die een churnvoorspelling doet die plausibel oogt, maar stiekem is gebaseerd op een verouderde definitie van een actieve klant. Was de aanpassing precies waar je hem wilde hebben, of ergens net ernaast?
Zolang niemand het antwoord kan controleren, kun je die vraag niet beantwoorden. Een black box die alleen een uitkomst laat zien, zonder de weg ernaartoe, is voor een directie oncomfortabel. Niet omdat de uitkomst per definitie fout is, maar omdat er geen mogelijkheid tot toetsing bestaat. Geen inzicht in het proces betekent geen due diligence.
De oplossing is niet ingewikkeld, wel disciplinerend: eis dat de uitkomst controleerbaar is, en het liefst ook het pad ernaartoe. Laat het werk zien, klinkt als een schoolse eis, maar het is precies wat een organisatie in staat stelt om AI te vertrouwen zonder blind te varen op wat er wordt gepresenteerd.
Snel gebouwd kan een verkeerd startpunt zijn
Er is nog een derde patroon dat we steeds terugzien. Een organisatie laat snel een eerste versie bouwen, bijvoorbeeld een dashboard, een datamodel of een kleine AI-toepassing. Het werkt, het probleem van dat moment is opgelost, en niemand staat stil bij de vraag of dit ook een goed fundament is voor wat daarna komt.
Het risico zit niet in starheid van het eindresultaat. Het zit erin dat een snelle eerste keuze, zoals hoe data wordt gestructureerd of welke aannames stilzwijgend zijn ingebakken, de basis wordt waarop alles daarna verder bouwt. Is die basis net iets scheef, dan merk je dat niet meteen. Je merkt het pas bij de volgende uitbreiding, en de uitbreiding daarna, waarbij iedere stap een beetje meer moeite kost, omdat er steeds omheen gebouwd moet worden in plaats van erop voort.
Dit voorkom je niet door trager te bouwen, maar door bij het eerste ontwerp expliciet stil te staan bij de vraag welke aannames je nu vastlegt, en of iemand in de organisatie dat kan beoordelen voordat het de nieuwe standaard wordt.
Waar het op neerkomt
AI heeft het bouwen goedkoper en sneller gemaakt, maar de rekening voor onderhoud en kwaliteit is daarmee niet verdwenen. Die verschuift alleen naar later. Het heeft niet opgelost wie de kennis vasthoudt als mensen vertrekken, hoe je een uitkomst controleert voordat je erop vertrouwt, en of een eerste snelle versie een goed fundament is of juist een startpunt dat elke volgende stap zwaarder maakt. Dat zijn geen technische details die je er later bij regelt. Het zijn keuzes die vooraf gemaakt worden, en dat vraagt om mensen in je eigen organisatie die begrijpen wat er precies gebeurt onder de motorkap.
Organisaties die deze drie punten serieus nemen, merken dat AI hen sneller maakt zonder dat ze de grip verliezen. Organisaties die ze overslaan, ontdekken het meestal pas op het moment dat het al pijn doet.
Wil je weten waar jouw organisatie op deze drie punten staat? Wij helpen organisaties niet alleen met het bouwen van een solide dataplatform, maar ook om zelf beter grip te krijgen op hun data en de tools waarmee ze werken, van data engineering tot analytics, met AI daarin gewoon als een van de gereedschappen. Plan een vrijblijvende intake van 30 minuten, dan denken we met je mee.
