Consument zet vraagtekens bij eerlijke algoritmes - KPMG Nederland
close
Share with your friends

KPMG: “Consument zet vraagtekens bij eerlijke algoritmes”

Consument zet vraagtekens bij eerlijke algoritmes

Nederlandse consumenten zetten vraagtekens bij een eerlijk gebruik van algoritmes. In de Nederlandse samenleving wordt het nemen van beslissingen in toenemende mate toevertrouwd aan geautomatiseerde systemen die gebruik maken van algoritmes.

Gerelateerde content

Zo laten verzekeraars claims steeds vaker geautomatiseerd en zonder menselijke tussenkomst afhandelen, laten ziekenhuizen in sommige gevallen medische onderzoeksresultaten niet beoordelen door mensen maar computers en zet de politie een algoritme in om etnisch profileren tegen te gaan.

“Algoritmes spelen een steeds grotere rol in de beslissingen die voor mensen worden genomen, in de zorg, in de financiële dienstverlening en in het publieke domein”, zegt Frank van Praat van KPMG’s AI in Control. Van Praat: “Maar veel Nederlanders hebben twijfels over de eerlijke toepassing en vinden dat het gebruik door bedrijven en instellingen onvoldoende transparant is.”

Digitale tweedeling

Uit onderzoek van KPMG onder Nederlandse burgers blijkt dat niet meer dan 11% denkt dat algoritmes alleen worden gebruikt als dat goed is voor mens en maatschappij. En 9% vindt dat algoritmes zorgen voor een eerlijke en rechtvaardige wereld. Ruim 30% is van mening dat algoritmes kunnen helpen bij het nemen van de juiste beslissingen.

Van Praat: “Overigens bestaat er in de samenleving veel onbekendheid met het begrip algoritme, vooral bij mensen die lager opgeleid zijn. Mensen die aangeven bekend te zijn met het begrip en de toepassing van algoritmes in de samenleving zijn vooral jonge hoogopgeleiden. En onbekend maakt onbemind, want de groep mensen die bekend zijn met algoritmes laten ook blijken meer vertrouwen te hebben in de werking ervan.

Het verschil duidt op een duidelijke tweedeling in de maatschappij als het gaat om het ‘digitale bewustzijn’ van mensen. Dat betekent dat veel meer aandacht besteed moet worden aan het waarom van het gebruik van een algoritme, dan alleen de vraag of het ethisch verantwoord is en de betrouwbaarheid van het gebruik.” 

KPMG: “Consument zet vraagtekens bij eerlijke algoritmes”

Weerstand bij banken en verzekeraars

Uit het onderzoek van KPMG blijkt dat Nederlanders zich vooral in beperkte mate comfortabel voelen bij de inzet van algoritmes door banken en verzekeringsmaatschappijen. Mensen vinden vooral dat financiële dienstverleners onvoldoende transparant zijn over het gebruik van een geautomatiseerde afhandeling van de contacten die zij met hun bank of verzekeraar hebben.

Van Praat: “Het is voor veel Nederlanders in het algemeen niet duidelijk wanneer een advies of een beslissing afkomstig is van een robot of van een medewerker. Driekwart van de mensen is dan ook negatief over het gebruik van algoritmes door banken en verzekeraars. Bij banken en verzekeraars is de teneur duidelijk negatiever dan in andere branches. Het is goed mogelijk dat het ‘big data’ effect hierbij een rol speelt. Er bestaat maatschappelijke weerstand tegen financiële instellingen die ‘alles van je willen weten’. Mensen hebben klaarblijkelijk het gevoel dat computersysteem hiervan vooral misbruik maken.

In andere sectoren is het beeld aanmerkelijk positiever. In de reisbranche bijvoorbeeld, maar ook bij boekingswebsites en in de retailsector. Burgers maken duidelijk onderscheid tussen sectoren bij de vraag of ze vertrouwen hebben in de vraag of algoritmes leiden tot betere beslissingen.”

Voordelen in het publieke domein

In het publieke domein ziet de burger volgens Van Praat wél een duidelijke bijdrage van algoritmes. Van Praat: “Zo is er bij de vraag of de politie en de overheid met algoritmes tot betere beslissingen komen een duidelijk positiever beeld dan in andere sectoren. Zo vindt bijna 92% dat de overheid algoritmes mag gebruiken om fraude met uitkeringen te voorkomen. En in het veiligheidsdomein is het nog aansprekender.

Zo vindt in alle gevallen een ruime meerderheid dat de Politie algoritmes mag gebruiken voor het bepalen van flitslocaties, het voorkomen van georganiseerde criminaliteit en het assisteren bij de keuze of er preventief gefouilleerd dient te worden of niet. Dit suggereert dat mensen de inzet van algoritmes vooral vanuit het oogpunt van sociale controle gerechtvaardigd vinden.”

Meer toezicht op algoritmes

Een meerderheid van de Nederlanders vindt dat het in het algemeen schort aan voldoende transparantie over het gebruik van algoritmes. Van Praat: “Dit geldt eigenlijk over de hele linie. De behoefte aan meer controle is bovendien groot. Bijna 80% geeft aan dat toezicht op een verantwoord gebruik van algoritmes gewenst is. Volgens de meeste Nederlanders moet deze taak in handen worden gelegd van een combinatie van overheid en onafhankelijke deskundigen.”

Meer informatie

Neem contact op met Andy Bellm, (020) 656 7039.

Lees ons onderzoek Vertrouwen in algoritmes.

Kijk op onze pagina Vertrouwen in Algoritmes met AI in control.

Neem contact met ons op

 

Wilt u een offerte van ons ontvangen?

 

Offerteaanvraag (RFP)