close
Share with your friends

SyRI-uitspraak door rechter had voorkomen kunnen worden

SyRI-uitspraak door rechter had voorkomen kunnen worden

De tekortkomingen van SyRI hadden voorkomen kunnen worden door effectieve risicobeheersing’

Gerelateerde content

Frank van Praat en Alexander Boer van KPMG Trusted Analytics

Het gebruik van SyRI (systeem risico indicatie) is vorige week gedwongen aan banden gelegd door een uitspraak van de rechter. SyRI werd door lokale overheden gebruikt om fraude met sociale voorzieningen op te sporen, maar is volgens de rechter in strijd met het Europees Verdrag voor de Rechten voor de Mens. De uitspraak roept twee interessante vragen op. Hoe moeten voor systemen als SyRI, en in bredere zin algoritmes, de Europese privacyregels (AVG) worden geïnterpreteerd? En hadden we SyRI zo kunnen ontwerpen dat het wél rechtmatig is en zijn doel op een effectieve manier dient?

Ondanks dat de overheid voor de AVG wettelijk een uitzonderingspositie heeft, blijkt nu alsnog dat zij zich volgens de rechter via het begrip rechtmatig handelen aan AVG-rechtsbeginselen moet houden. In de belangenafweging tussen de overheid en de burgers die in het SyRI-sleepnet belanden, spelen het gebrek aan transparantie, uitlegbaarheid en de onbewezen effectiviteit van het systeem een belangrijke rol. De uitspraak van de rechtbank is in dit licht interessant. Want als je schade veroorzaakt door onrechtmatig handelen, dan leidt dat tot een recht op schadevergoeding voor de slachtoffers. De AVG krijgt in die zin sluipenderwijs een bredere impact dan velen voorzagen.

Had SyRI zo ontworpen kunnen worden dat zij wél rechtmatig is en haar doel op een effectieve manier dient? De tekortkomingen van SyRI hadden voorkomen kunnen worden door effectieve risicobeheersing. Hierbij worden de risico’s in kaart gebracht en maatregelen vastgesteld die herhaling van de risico’s moeten voorkomen. Tevens bestaat de mogelijkheid een algoritme te auditen. In het geval van SyRI hadden tekortkomingen via beide wegen gesignaleerd kunnen worden, mits de auditor zich op het gebied van privacy en de effectiviteit van het systeem streng opstelt. Daarnaast kan de auditor de rol vervullen van trusted third party, als transparantie juist niet gewenst is. De organisatie blijft wel eindverantwoordelijk.

Na een gedegen risicoanalyse kún je ook tot de conclusie kunnen komen dat het uiteindelijke doel, het opsporen van fraudeurs, niet realiseerbaar is. Dan is het raadzaam de stekker uit het project te trekken. Zo voorkom je roekeloosheid en schending van mensenrechten.

Frank van Praat en Alexander Boer schreven dit opiniestuk in het FD op 11 februari 2020.

Wilt u weten wat KPMG voor u kan betekenen op het gebied van AI? Neem dan contact op met Frank van Praat, senior manager AI In Control.

© 2020 KPMG N.V., registered with the trade register in the Netherlands under number 34153857, is a member firm of the KPMG network of independent member firms affiliated with KPMG International Cooperative ('KPMG International'), a Swiss entity. All rights reserved. KPMG International Cooperative ('KPMG International') is a Swiss entity. Member firms of the KPMG network of independent firms are affiliated with KPMG International. KPMG International provides no client services. No member firm has any authority to obligate or bind KPMG International or any other member firm vis-à-vis third parties, nor does KPMG International have any such authority to obligate or bind any member firm.

Neem contact met ons op

 

Wilt u een offerte van ons ontvangen?

 

loading image Offerteaanvraag (RFP)