null 'We creëren bewustzijn over verantwoorde inzet van legal technologies'

RW_ReijerPasschier_LegalTechnologiesprogram_22569_head_large.jpg

'We creëren bewustzijn over verantwoorde inzet van legal technologies'

Reijer Passchier, hoogleraar Digitalisering en de democratische rechtsstaat aan de Open Universiteit en docent aan de Universiteit Leiden, is programmaleider van het Joint Legal Technologies Program (JLTP). Vijf vragen over het onderwijsprogramma dat juridische- en ICT-professionals helpt om de digitale transitie in goede banen te leiden.

Wat houdt het Joint Legal Technologies Program in?

'In dit onderwijsprogramma onderzoeken studenten de betekenis van legal technologies voor het werk van juridische professionals, ICT-professionals, beleidsmakers en bestuurders. Wat zijn legal technologies eigenlijk? Welke mogelijkheden en consequenties hebben technische tools die het werk van advocaten, rechters en juristen efficiënter kunnen maken? Daarnaast bestuderen we hoe machtsverhoudingen kunnen verschuiven door digitalisering, en hoe belangrijke democratische, ethische en rechtstatelijke waarden onder druk komen te staan. Denk aan de onafhankelijkheid van de rechtspraak of de mogelijkheid van ambtenaren op de vloer om menselijk maatwerk te creëren.’

Waarom is het zo belangrijk om dit programma nu aan te bieden?

'AI en legal technologies worden op steeds grotere schaal gebruikt door de overheid, rechters, advocaten, rechtsbijstandsverzekeraars, juristen noem maar op. Maar er is nog onvoldoende bewustzijn over de ethische en rechtstatelijke vragen die legal tech oproept. Dat is onwenselijk, want voordat je het weet verzamel je gegevens die je helemaal niet mag verwerken. Of verlies je autonomie over processen. Of sluipen er codes in algoritmes die gevolgen hebben voor duizenden mensen. Kijk naar de toeslagenaffaire. En onlangs is het ministerie van Buitenlandse zaken op de vingers getikt voor discriminerende algoritmes bij het verstrekken van visums. Dit programma maakt cursisten ervan bewust dat legal technologies alleen verantwoord gebruikt kunnen worden als ethische en staatsrechtelijke waarden voldoende worden geborgd. Wij leiden professionals op die de kennis hebben om dat te kunnen beoordelen, en die de brug weten te slaan tussen tech en recht.'

JLTP is multidisciplinair en gaat over recht én technologie. Hoe werkt dat in de praktijk?

'We laten juristen, ICT-professionals en alle andere alfa’s en bèta’s die met dit thema te maken hebben samen reflecteren op verantwoorde inzet van legal technologies. Natuurlijk is er kennisoverdracht. Maar studenten en onderzoekers wisselen ook perspectieven, ervaringen en best practices met elkaar uit. Zo leren ICT-professionals en juristen elkaars taal en denkwijze begrijpen. We stimuleren studenten ook om digitaliseringsprojecten vanuit hun werk in te brengen en daar met anderen op te reflecteren. Door te leren van elkaars situaties en oplossingen wordt een kennisnetwerk gevormd en ontstaat debat dat kan bijdragen aan beleidsontwikkeling.'

Kun je voorbeelden geven van vragen die jullie behandelen?

'Zeker. Rechter en gastdocent Manuella van der Put besteedt aandacht aan de vraag: kan een computer rechtspreken? AI kan rechters helpen bij ondersteunende taken. Of bij het signaleren van bias of patronen. Maar we kunnen zeker niet uitsluiten dat AI in de toekomst zelfs beter kan rechtspreken dan een mens, zoals professor Jaap van den Herik al in 1991 zei. Een andere vraag die we beantwoorden is hoe je algoritmes niet alleen transparant maakt, maar ook juridisch en ethisch verdedigbaar. Als je dat niet goed doet, dan loop je het risico dat je geen deugdelijk programma schrijft en door de rechter of Autoriteit Persoonsgegevens wordt teruggefloten omdat er bijvoorbeeld sprake is van discriminatie of schending van privacy.'

Wat motiveert jou om dit programma te leiden?

'Ik zie dat technologie enorme mogelijkheden biedt om het leven van mensen te verbeteren. Tegelijkertijd staat de democratische rechtsstaat op het spel, omdat digitalisering zorgt voor machtsverschuivingen. Bijvoorbeeld van de ambtenaren op de grond naar programmeurs, private systeemontwikkelaars of machines in het geval van AI. Die nemen beslissingen met grote gevolgen voor heel veel burgers. Als we daar niet adequaat op reageren door het recht en het systeem aan te passen, en nieuwe instituties op te richten, lukt het niet meer om democratische en rechtstatelijke waarden te borgen. Ik zie het als dé uitdaging van deze tijd om de digitale transitie in goede banen te leiden. En beleef er veel plezier aan om na te denken over hoe we klassieke, democratische en rechtstatelijke waarden nog beter kunnen borgen in de digitale toekomst, misschien zelfs wel met behulp van technologie.'