website creation software
Mobirise
Bijdrage van de Faculteit der Rechtsgeleerdheid
Robotrechter komt tot ander oordeel dan mens
In het kader van mijn op 8 juni 2018 uitgesproken oratie onderzocht ik de kansen en risico's van een rechtspraak waarin de computer daadwerkelijk (mede-) beslist, dus ofwel een advies geeft aan de rechter ofwel de beslissing zelf neemt. Op basis van dat onderzoek concludeer ik dat het de vraag is of computers wel het recht kunnen spreken dat wij nu kennen. Zelfs als je aanneemt dat het rechtstheoretisch en technisch mogelijk is een computer het werk van een rechter te laten doen, dan nog liggen vele gevaren op de loer.
Mobirise
Zo zijn computers te manipuleren. Onderzoek uit de computerwetenschappen toont aan dat algoritmes niet zo neutraal en objectief hoeven te zijn als ze worden gepresenteerd. Denk bijvoorbeeld aan de resolution centers waarvan platforms als eBay, PayPal en Bol.com gebruikmaken. Daar wordt 90% van de geschillen zonder menselijke tussenkomst opgelost. De kans is groot dat die algoritmes zo zijn ingericht dat zij in het voordeel werken van vooral één partij: de exploitant van het platform. Dat is nog los daarvan dat de data op basis waarvan computers beslissingen nemen ook zeker niet objectief of neutraal te noemen zijn. Er is veel onderzoek waaruit blijkt dat beslissingen in het kader van migratie- of uitkeringsproblematiek door een computer net zo goed bepaalde bevolkingsgroepen benadelen als wanneer mensen die beslissing nemen. Dat is een punt van zorg.

Het verbaast dan ook dat er zo’n groot vertrouwen bestaat in de alwetendheid van computers. Uit onderzoek uit de sociale wetenschappen blijkt dat mensen het moeilijk vinden met automatisering om te gaan. Mensen hebben al snel het idee dat wat de computer concludeert juist is. Ze controleren dan onvoldoende de door de computer gegenereerde uitkomst. Die problemen worden nog eens versterkt doordat het moeilijk is om tegen een gecomputeriseerd oordeel in hoger beroep te gaan. Anders gezegd: als je al zou kunnen achterhalen en begrijpen waarom een computer tot een bepaalde (voor jou ongunstige) uitkomst is gekomen, hoe ga je aan de hoger beroep-rechter uitleggen dat je wél gelijk hebt? 

Het verlies van het menselijke aspect baart mij daarnaast om een andere reden zorgen: Je verhaal kunnen doen tegenover een objectief iemand die alle partijen op voet van gelijkheid behandelt is een belangrijk element in ons rechtsstelsel. Die menselijke maat zou wel eens grote invloed kunnen hebben op de acceptatie en naleving van rechterlijke uitspraken. En dat is essentieel voor een goed functionerend rechtssysteem. 

De voorgaande opmerkingen zijn slechts enkele voorbeelden van de vele aspecten van robotrechtspraak die we nog onvoldoende begrijpen. Ik pleit dan ook voor meer en interdisciplinair onderzoek. Niemand stapt in een automatisch bestuurd vliegtuig, zeker niet wanneer de werking ervan nog niet is getest. Als maatschappij moeten wij de werking van de geautomatiseerde rechter ook testen. Het gaat er niet om wat de computer allemaal kan, maar wat we willen dat hij doet. Het is dan ook mooi te zien dat aan onze faculteit diverse (interdisciplinaire) initiatieven bestaan om de kansen en de problemen van gecomputeriseerde rechtspraak beter te leren begrijpen. 

Bas van Zelst
Hoogleraar Dispute Resolution & Arbitration aan Maastricht University 

Copyright (c) | Forum Romanum is een samenwerkingsverband tussen de Rechtbank Limburg, het Openbaar Ministerie Limburg en de Faculteit der Rechtsgeleerdheid van de UM. Deze samenwerking beoogt een onderlinge dienstverlening, waarbij wordt gedacht aan cursussen, congressen, deelname aan de oefenrechtbank, stages etc. Het doel van Forum Romanum? Delen van kennis en kunde!

Contact Redactieraad Forum Romanum

Archiefoverzicht Forum Romanum