close
Share with your friends

Op dinsdag 16 februari vond een interessante uitspraak plaats in een langlopend geschil tussen FNV en Deliveroo. De rechter constateert in de uitspraak[i] dat bezorgers werknemers zijn en dat de direct leidinggevende van de bezorgers van Deliveroo dus een algoritme genaamd Frank is. Frank deelt taken en bonussen uit, en de meeste bezorgers van Deliveroo hebben nooit een menselijke leidinggevende ontmoet. Frank is daardoor feitelijk het operationele middenmanagement van Deliveroo.

Dit doet denken aan het science fiction verhaal Manna[ii], waarin de vervanging van de manager door een algoritme begint in de Fast Food sector. Uiteindelijk stuurt Manna het gedrag van de meerderheid van de bevolking tot in detail, met doorlopend dreigende uitzichtloze werkloosheid als schrikbeeld:

Auteur

Alexander Boer

Senior manager Trusted Analytics
KPMG Nederland                         
+31 (020) 426 2643                         
Boer.Alexander@kpmg.nl

"The way it makes me walk, I never run into anyone else. I can go for a full shift and never see another employee. Even our breaks are staggered. Everyone takes their breaks alone. We all arrive at staggered times. It’s like Manna is trying to totally eliminate human interaction on the job.”

“That’s spooky. Why would it do that?” I asked.

Brian looked down, “I’m guessing that talking with co-workers wastes time, and Manna is eliminating waste everywhere it can.”

Frank klinkt best vriendelijk. Het woord roept het idee van openhartigheid op, en wordt vaak in één adem gekoppeld aan vrijheid. Openhartig is het algoritme – en Deliveroo – echter niet. Het algoritme ontleent zijn feitelijke macht namelijk grotendeels aan het niet inzichtelijk maken van zijn informatiepositie. Als bezorger heb je zonder Frank geen werk. En inzicht in het werk dat je collega’s toebedeeld krijgen heb je ook niet. Teamoverleg over de taken is er niet. Functioneringsgesprekken ook niet. Als je je dan oneerlijk behandeld voelt door Frank, kan het voor de bezorger gaan lijken op dat verhaal.

Uitlegbaarheid

Een algoritme als Frank roept twee interessante toezichtvragen op. De eerste gaat over uitlegbaarheid. Tegen de impact van beslissingen van algoritmes hoor je bezwaar te kunnen maken. Als klant, maar ook als werknemer. En een effectieve bezwaarmogelijkheid vraagt om een relevante uitleg.

Vaak is de beslissing alleen gebaseerd op een informatiepositie die het algoritme over jou heeft. Het prijsgeven van die informatiepositie ten behoeve van een effectieve uitleg is dan vaak redelijk. In het geval van een scheduling algoritme als Frank is het lastiger: de uitleg zou moeten gaan over het geheel aan taken dat Frank te verdelen had, en hoe de toebedeling precies tot stand kwam. Daarmee zou Deliveroo haar informatiepositie en de werking van het algoritme prijsgeven. Dat heeft Deliveroo getuige de uitspraak niet gedaan.

Als toezichtvraag is dit gebrek aan uitleg in de praktijk wel oplosbaar: Je kunt een trusted third party inschakelen om concrete vragen die spelen over het algoritme met gezag te laten beantwoorden. Om een voorbeeld te nemen dat in de rechtbank de revue passeerde: Weegt het nemen van pauzes wel of niet mee in het algoritme? Kun je de financiële uitkomstenongelijkheden voor wel of niet nemen van pauzes op een inzichtelijke manier becijferen?

Becijfering en interpretatie van uitkomstenongelijkheden

De tweede toezichtvraag gaat over de becijfering en interpretatie van uitkomstenongelijkheden zelf. Over oneerlijkheid. Meestal passen we de technieken die we daarvoor in onze gereedschapskist hebben zitten toe op wettelijk beschermde groepen. Bijvoorbeeld op basis van het kenmerk tweede nationaliteit. Zelfs in die concrete context zien we dat de cijfers alleen niet zoveel zeggen over oorzaak van uitkomstenongelijkheid. En cijfers ook ethische dilemma’s niet automatisch oplossen.

In dit geval gaat het over de vraag hoever de controle van Frank over de bezorgers strekt. Een verbreding naar impact op menselijke autonomie dus. De technieken zijn er wel. Als we uit de data kunnen halen hoeveel pauzes bezorgers nemen, kunnen we becijferen hoeveel inkomen ze dit kost. Bovendien kunnen we becijferen of het algoritme voldoende accuraat de impact van deze vrijheid op de bezorgprestaties voorspelt. Om daar vervolgens een oordeel over te kunnen vormen, zonder de werking van het algoritme prijs te geven, moeten we de gemeten waarden af kunnen zetten tegen criteria. En daar zit een probleem. Meetbare criteria voor het onderscheid tussen “vrije” zzp-ers en minder vrije maar beter beschermde werknemers zijn er niet. Wat is té veel controle op een zzp-er? En kan een rechtbank wel iets met het kennen van de cijfers zonder referentiecijfers voor een hele bedrijfssector?

Wij zien dit vraagstuk – werknemer of zzp-er – als een kans om het begrip autonomie concreet in te vullen. We horen vaak dat algoritmes de autonomie van de burger ernstig kunnen aantasten. Maar de empirische bewijsvoering voor die stelling is zwak. Dat komt vooral doordat autonomie al snel als een onmeetbaar goed gezien wordt. Het lijkt ons maatschappelijk gezien verstandig een instrumentarium te ontwikkelen voor het inzichtelijk maken van de impact van data-gedreven algoritmes op menselijke autonomie. Want dit vraagstuk doet zich in allerlei vormen vaker voor.

Contact

Wilt u meer weten, of met mij van gedachten wisselen, neem dan contact met mij op.

Dr. Alexander Boer werkt bij KPMG en adviseert bedrijven en instellingen over de betrouwbaarheid van algoritmes.

Alexander Boer

Senior manager Trusted Analytics                                                                
KPMG Nederland                                                                                                
+31 (020) 426 2643                                                                
Boer.Alexander@kpmg.nl