Analytics en AI staan nog aan het begin van hun ontwikkeling. Organisaties waren niet zo lang geleden over het algemeen huiverig om zich te laten leiden door algoritmes, deels vanwege een vermeend verlies van controle, een gevoel van ongrijpbaarheid, maar grotendeels omdat het vertrouwen er nog niet was.
Dat is al sterk veranderd, nu er meer ervaringen zijn opgedaan met analytics. Financials zien in de praktijk hoe data driven beslissingen hun concurrentiepositie verbetert ten opzichte van onderbuikgevoel gebaseerd op ervaringen en intuïtie. Ondanks die resultaten is niet iedereen overtuigd. Algoritmes maken soms fouten, net als mensen. Maar waar we mensen wat meer vertrouwen, is het gevoelsmatiger lastiger om datzelfde vertrouwen te schenken aan een algoritme.
Net als een houdbaarheidsdatum
Hoe verbeteren we dat vertrouwen? “Ervaring is een belangrijke factor”, legt prof. dr. Sander Klous, hoogleraar (UvA) op het gebied van big data ecosystemen en docent bij de Collegereeks Data Driven Finance, uit. “Vergelijk het met een melkpak. Daarop staat een houdbaarheidsdatum en daar vertrouwen we op omdat we al veertig jaar melk drinken en de ervaring leert dat de datum meestal wel klopt. We weten niet hoe de datum wordt vastgesteld, maar in ons achterhoofd hebben we ook nog dat er iets met de Voedsel en Warenautoriteit is.”
We kunnen dus niet precies uitleggen hoe het werkt, maar weten dát het werkt. Hetzelfde principe gaat op voor bijvoorbeeld financiële algoritmes. We hoeven niet precies te weten hoe het op de achtergrond werkt, maar moeten vertrouwen hebben dat erover wordt nagedacht en dat iemand erop toeziet dat de informatie betrouwbaar is en blijft.
Drie soorten van uitlegbaarheid
De crux is het aanpassen van de boodschap aan het publiek. “Je hebt te maken met verschillende soorten uitlegbaarheid. De eerste vorm is de uitleg richting de datascientist of auditor. Dat is een bijna wetenschappelijke benadering waarin je uitlegt welke modelkeuzes er zijn gemaakt, welke dataselectie er heeft plaatsgevonden en hoe het model getraind is. Een andere datascientist moet dit precies kunnen nadoen en op dezelfde resultaten uitkomen.” Dat is de uitlegbaarheid waar inhoudelijke deskundigen zich mee bezighouden, maar die voor de financial minder relevant is.
Welke waarborgen zijn er ingebouwd?
“De tweede vorm is procesuitlegbaarheid”, gaat Klous verder. “Dat is belangrijk als je bijvoorbeeld voor de rechter komt te staan omdat je algoritme gefaald heeft. Welke waarborgen zijn er ingebouwd, welke controle, welke beveiligingsmiddelen – allemaal om te zien waar het misging en wie daar verantwoordelijk voor is.” Bij de rechtbank is de technische uitleg minder relevant, maar gaat het om de implementatie in de context van een juridisch framework. Deze uitleg van het proces is, samen met de volgende vorm, relevant voor de financial.
Waarom is de regel er?
En ten slotte, is er de uitlegbaarheid voor de persoon die wordt geraakt door de uitkomst. “Als een aanvraag voor een lening wordt afgewezen, wil je weten waarom, zodat je het kunt aanvechten. Harde regels zijn duidelijk, zoals: ‘je hebt een jaarinkomen van minstens 30.000 euro nodig’. Maar waarom is die regel er? Negen van de tien keer is die ook gebaseerd op statistiek: de bank heeft ooit gemerkt dat de kans dat iemand een lening terugbetaalt onder dat drempelinkomen een stuk lager is.”
Meer weten?
Lees het volledige interview met prof. dr. Sander Klous op Executive Finance
Collegereeks Data Driven Finance
Tijdens de collegereeks Data Driven Finance gaat prof. dr. Klous uitgebreid in op wat er nodig is om ervoor te zorgen dat algoritmen van de slimme samenleving voldoen aan de normen en waarden die we als samenleving koesteren. Vertrouwen in onze systemen is cruciaal voor het succes ervan. Klous legt uit wat de invloed van AI en big data op de maatschappij is en hoe u de organisatie inricht om data-analyse verantwoord te gebruiken.