Vertrouwen bevorderen in AI en Analytics - KPMG Belgium
Human hand touches robot hand

Vertrouwen bevorderen in AI en Analytics

Vertrouwen bevorderen in AI en Analytics

Vertrouwen bevorderen in AI en Analytics

Peter Van den Spiegel | Author,

In de vorige blog van de reeks hebben we uitgelegd welke problemen er bestaan bij het gebruik van AI en analytics. Op basis van onze ervaring geloven we dat organisaties een systematische aanpak moeten hanteren om vertrouwen te krijgen in hun gegevensanalyses. Deze benadering berust op vier belangrijke pijlers van vertrouwen: kwaliteit, doeltreffendheid, integriteit en veerkracht.

Gegevens van slechte kwaliteit kunnen dramatische gevolgen met zich meebrengen. Neem bijvoorbeeld een Europese reisorganisatie met een marketingcampagne op basis van foto's die niet goed gelabeld waren. Als gevolg daarvan stonden er op de website foto's van grote hotels met marmer en airconditioning in plaats van foto's van een 'droomvakantie'. De foto's waren handmatig gelabeld door mensen met een ander beeld van de 'ideale vakantie' dan de gemiddelde Europeaan. De kwaliteit van de gegevens én de processen om deze gegevens te verzamelen zijn dus doorslaggevend. Daarom is het belangrijk om kwaliteitscontroles te implementeren. Uit een KPMG-studie blijkt echter dat minder dan de helft van organisaties wereldwijd vandaag dergelijke kwaliteitscontroles uitvoeren.

Bewijs hebben van de doeltreffendheid van analytics is bepalend om het vertrouwen te versterken. Doeltreffendheid meten kan echter een enorme uitdaging blijken. Kijken we bijvoorbeeld naar een voorspellingsmodel voor klantenverloop. Hoe kunnen we correct beoordelen of het model doeltreffend is, of enkel de acties die u hebt ondernomen? Bovendien, zoals we al zagen in de vorige blogpost, kan het afhankelijk van de context (medische wereld vs. alcoholtests) interessanter zijn om het aantal foutpositieve resultaten te optimaliseren ten koste van de foutnegatieve (of omgekeerd).

Aandeelhouders zullen niet in een bedrijf beleggen indien ze geen vertrouwen hebben in de integriteit van de AI-oplossingen die het bedrijf heeft uitgewerkt. Denk bijvoorbeeld aan een gps-toestel dat u niet via de kortste route stuurt maar via wegen met tankstations van een bepaald merk. Organisaties moeten verder ook rekening houden met verschillende vragen: hoe transparant zijn de processen? Is alles in overeenstemming met de wetgeving? Worden ethische grenzen overschreden?

En tot slot is ook de veerkracht van het systeem en de modellen een kritiek punt. Klanten zullen geen model gebruiken als het niet flexibel genoeg is en op lange termijn niet optimaal werkt. Een traditionele gps in een auto zal snel worden overtroffen door een gps-app op een smartphone die zich snel aanpast aan een nieuwe context en veranderingen op de weg. Een vertrouwd model moet zijn functie snel kunnen veranderen en aanpassen met de komst van nieuwe technologieën, veranderingen in de wetgeving, maatschappelijke evoluties, enz.

We stellen daarom meerdere ideeën voor om de vertrouwenskloof in D&A te dichten. Een eerste idee is dat organisaties hun vertrouwen in D&A moeten beoordelen. Op basis van deze beoordeling kunnen ze bepalen waar, voor hun activiteit, betrouwbare analyses het belangrijkst zijn en op deze gebieden focussen. Daarna moeten ze hun doelen verduidelijken en op elkaar afstemmen: waarom verzamelen we gegevens? Waarom voeren we analyses uit? De antwoorden op deze vragen moeten helder zijn. Twee andere ideeën vergroten de interne betrokkenheid en ontwikkelen een interne D&A-cultuur. De vertrouwenskloof kan worden gedicht door multidisciplinaire teams met IT, datawetenschappers en stakeholders te ondersteunen die samenwerken om de belangrijkste bedrijfsdoelstellingen in de uitbouw van analytics op elkaar af te stemmen. Transparantie in D&A stimuleren en een portefeuillebenadering aannemen zijn twee andere mogelijke werkwijzen. En tot slot het belangrijkste advies: wees innovatief, moedig experimenten aan zonder angst voor mislukking.

"Only those who dare to fail greatly can ever achieve greatly."
-- Robert F. Kennedy

Auteurs: Peter Van den Spiegel en Annelies De Corte