Vlog 37 Black box
"Dat zit in het systeem." "Dat is hoe het algoritme werkt." Hoe vaak hoor jij dat soort antwoorden als je vraagt waar een cijfer vandaan komt? Een black box was al een probleem, en met AI erbij wordt de black box niet doorzichtiger. Bij InfoReports geloven we niet in black boxes. Hoe we dat wel doen zie je in de vlog.
Transcript
Stel je voor: je hebt een rapportage in handen, en de cijfers kloppen. Het ziet er goed uit. Maar als je vraagt hoe ze tot stand komen, krijg je een vaag antwoord. “Dat zit in het systeem.” “Dat is hoe het algoritme werkt.” “Dat heeft de leverancier zo ingericht.”
En daar zit een probleem. Want zodra niemand kan uitleggen hoe een cijfer is opgebouwd, is het geen stuurinformatie meer. Het is een mening met cijfers eromheen.
Dit speelt al jaren bij leveranciers die hun werk niet inzichtelijk maken. Een dashboard wordt gebouwd, de data klopt, maar de logica eronder blijft een black box. En het speelt nu opnieuw, en harder, bij AI. Want een AI-toepassing geeft een aanbeveling zonder dat altijd duidelijk is waar die op gebaseerd is. Hetzelfde patroon, een nieuwe verschijningsvorm.
Wij geloven dat het anders moet. Wat wij bouwen is volledig inzichtelijk: de logica, de keuzes, de onderbouwing. En dezelfde houding nemen we mee bij AI. Wie AI inzet zonder grip op het proces, ruilt snelheid in voor onzichtbaarheid. En onzichtbaarheid is geen fundament om op te sturen.
Een goed antwoord verdient een uitlegbaar verhaal. Of dat antwoord nu uit een query komt of uit een AI-tool.
Zit jij met een black box in je informatievoorziening, of wil je AI inzetten op een manier die wel uitlegbaar is? Neem contact met ons op voor meer informatie.