ALG_Privacy_en_digitale_opsporing_head_large.jpg

Privacy en digitale opsporing, een lastig parket

Digitale opsporingsmiddelen zijn hard nodig in de strijd tegen cybercriminaliteit. Zelf tienduizenden foto’s bekijken op zoek naar kindermisbruik is ondoenlijk, maar met de inzet van artificial intelligence (AI) gaat dit veel sneller. Maar wat als AI ook foto’s selecteert die niets met kindermisbruik te maken hebben en onschuldigen als verdachten bestempelen? Drie hoogleraren van de Open Universiteit met expertise in dit veld gaan in gesprek over het spanningsveld tussen digitale opsporing en privacy.

Toen de Europese Commissie in 2022 een wetsvoorstel indiende om grote techbedrijven te dwingen beelden van misbruik actief op te sporen, publiceerden 250 cybercrimespecialisten, wetenschappers en onderzoekers een open brief. Hun boodschap: ze waren tegen dit voorstel, want hiermee kwam de privacy van personen in het geding. Hoogleraar Harald Vranken Cyber Security aan de Open Universiteit juichte de open brief toe. 'Vooropgesteld: verspreiding van foto’s van kindermisbruik moet worden aangepakt. Vaak gaat dat via smartphones. Alle communicatie tussen zender en ontvanger wordt versleuteld met cryptografie, zodat beelden onderweg niet onderschept kunnen worden. Daarmee is de privacy gewaarborgd.' Ondanks het protest werd de Europese wet aangenomen. 'Opsporingsdiensten kunnen nu via een achterdeur in het systeem om die beelden te onderscheppen, nog voordat ze versleuteld zijn. Daarmee kunnen ze daders opsporen. De kans is alleen groot dat ze veel meer beeldmateriaal ophalen dan nodig is, en dat is in strijd met de privacywetgeving. Daarbij: elke digitale achterdeur die je voor opsporingsambtenaren creëert, kan ook gebruikt worden door criminelen of anderen.'

Geen bataljon aan opsporingsambtenaren

Ook in de ogen van hoogleraar Digital Forensics aan de Open Universiteit Harm van Beek spreekt het voor zich dat we kindermisbruik moeten bestrijden. 'Maar als je daarvoor techniek inzet, moet je ook bedenken dat criminelen meteen nieuwe technieken zoeken om die te omzeilen. Als je bijvoorbeeld in WhatsApp kindermisbruik gaat opsporen, dan kiezen ze een andere app om beelden te delen. Bovendien zijn er de valspositieve beelden. Als ik een foto naar mijn moeder stuur van mijn kinderen die in bad spelen, dan is dat geen afbeelding van kindermisbruik. De vraag is of geautomatiseerde technieken zoals artificial intelligence (AI) dat onderscheid kunnen maken. Je zult altijd bijvangst hebben. Ter controle moet een opsporingsambtenaar de beelden beoordelen. Maar er is geen capaciteit om dat door een bataljon aan opsporingsambtenaren te laten doen.'

Kan de wetenschap hierin een rol spelen? Vranken: 'De wetenschap doet onderzoek, belicht een probleem van verschillende kanten en doet vervolgens een aanbeveling. Dan is het daarna aan de politiek of beslissingsnemers.' Van Beek vult aan: 'Bij het Nederlands Forensisch Instituut (NFI), waar ik ook werk, doen we aan waarheidsvinding. En wat is de waarheid? Nou ja, dat wat de wetenschap ons leert. Alle onderzoeken van het NFI zijn dus gebaseerd op wetenschap. Dat is ook waarom ik als bijzonder hoogleraar een aanstelling heb bij de Open Universiteit. Als onderzoeker weet ik hoe snel de criminaliteit verandert, in de wetenschap kunnen we uitvinden hoe we bij kunnen blijven.'

Niet alleen boeven vangen

Maar zelfs als we dankzij de wetenschap de criminaliteit beter bijhouden, zijn we er nog niet. Dat stelt rechter-plaatsvervanger en hoogleraar Straf- en strafprocesrecht aan de Open Universiteit Wilma Dreissen: 'Voordat die snelle ontwikkelingen in het juridische domein doordringen, zijn we een heel eind verder. Dat gaat niet alleen over de rechtspraak, ook over de wetgever. De bevoegdheden van politie en justitie om op digitaal terrein opsporingsonderzoek te verrichten, zijn er, maar die lopen eigenlijk continu achter. Er zit ook een andere kant aan. Want we willen niet alleen maar boeven vangen, we willen ook voorkomen dat opsporingsambtenaren zonder geldige reden in onze computers, laptops of telefoons duiken om berichten te onderscheppen. De privacy moet gewaarborgd worden. In het nieuwe Wetboek van Strafvordering zullen die bevoegdheden al wat beter zijn gestructureerd. Maar los daarvan blijft de vraag: hoe ver gaan die bevoegdheden?' Dreissen schetst nog een zorg. 'Ik heb als rechter- plaatsvervanger best veel moeite met digitaal bewijs. En ik vrees dat dit voor meer van mijn collega’s geldt. Waar komen die data precies vandaan, hoe betrouwbaar zijn die, wat gebeurt ermee na onderschepping, zijn die gegevens authentiek? We hebben collega’s als Harm nodig om dat uit te leggen. Dus die samenwerking tussen rechtspraak en wetenschap is belangrijk. Ook om uit te vinden hoe die gegevens verwerkt en beveiligd moeten worden.'

Eerlijk proces

Volgens Van Beek hebben we veel te maken met recht van de Europese Unie (EU) als het om bescherming van persoonsgegevens gaat. 'Maar ook met het Europees Verdrag van de Rechten van de Mens, dat bijvoorbeeld bepaalt dat je als verdachte in een strafzaak recht hebt op dezelfde informatie als de opsporingsdienst.' Dreissen: 'In dat verdrag is bovendien een aantal rechten opgenomen die relevant zijn voor het gebruik van gegevens, ook voor digitale gegevens. Maar denk ook aan het recht op privacy en het recht op een eerlijk proces, wat tevens in onze eigen grondwet is vastgelegd. Door dat recht heeft de verdediging bijvoorbeeld toegang tot belastend bewijsmateriaal. En je kunt je voorstellen dat het lastig is om enorme hoeveelheden digitaal bewijsmateriaal beschikbaar te maken. Althans, ik zou niet weten hoe. Dus ja, hoe moet je dat doen?'

AI: kansrijk, maar met haken en ogen

Vranken: 'AI kan daarbij zeker helpen, al heeft AI het soms bij het verkeerde eind. Maar het is niet de oplossing die de criminaliteit uit de wereld gaat helpen. Daarnaast heb je te maken met de beveiliging van AI zelf. AI kan misbruikt of gemanipuleerd worden, waardoor de verkregen informatie niet klopt. En AI kan zoals gezegd privacygevoelige data binnenhalen. Dus er zitten nog haken en ogen aan.' Van Beek beaamt dat. 'Toch wordt AI nu al veel ingezet, om alle informatie die op de opsporingsdiensten afkomt te filteren. Neem de aanslagen met vuurwerk, die in 2024 meer dan duizend keer plaatsvonden. De politie wil voor de opsporing weten welke explosieven gebruikt zijn. Dus heeft het NFI een app ontwikkeld waarmee je dat kunt onderzoeken. Daarvoor hebben we een AI-model getraind met talloze foto’s van flarden en snippers vuurwerk. Via de app kun je een foto maken van zo’n flard van de verpakking. Vervolgens zie je meteen of het een Cobra 6 is of een Cobra 8.'

Gesprekken afluisteren

Ook op andere manieren kan de technologie helpen in de strijd tegen criminaliteit, vertelt Van Beek. 'Via een bepaalde techniek luistert de politie mee met cryptophones, smartphones die volledige discretie garanderen en die criminelen gebruiken om met elkaar te kunnen communiceren. Daar moet uiteraard wel aanleiding voor zijn. De politie heeft toestemming nodig van een rechter om een tijdje mee te luisteren. Als blijkt dat het om levensbedreigende delicten gaat, zoals de voorbereiding van een aanslag, dan kan de politie ingrijpen zonder eerst toestemming te moeten vragen.' Kan AI levensbedreigende situaties herkennen? 'Daarvoor hebben opsporingsambtenaren eerst duizenden berichten of chats als zodanig gelabeld. Zo’n AI-model wordt getraind op basis van typische communicatie die gebruikelijk is tussen criminelen. Die zeggen of schrijven niet: 'We gaan morgen iemand doodschieten.' Maar: 'Iemand moet slapen.' Techniek inzetten is dan soms de enige manier om misdaden op te sporen en te voorkomen.'

Privacygevoelige bijvangst

Naast belastende beelden verzamelt de politie onbedoeld ook ander materiaal. Wat doe je met die privacygevoelige bijvangst? Dreissen: 'Dat is lastig. In eerste instantie bepaalt de wetgever welke opsporingsmethode gebruikt mag worden, in welke gevallen en wie daarover mag oordelen. Daardoor mag de politie soms, bij minder privacygevoelige zaken, zelf beoordelen welke methode ze gebruikt. In andere gevallen zal dat de officier van justitie of de rechter-commissaris zijn. Daarbij is er een relatie met de aard van de feiten: hoe ernstiger die is, met daaraan gekoppeld een hogere gevangenisstraf, hoe meer er wordt toegelaten.'

Hoe lastig is het om die bijvangst te beperken? Van Beek: 'Het zal altijd zo zijn dat je informatie vindt waarnaar je op zoek was, en informatie die niet relevant is. Ook worden er dingen niet gevonden. Er is geen perfecte filter die kunt toepassen op data. Vanwege die toenemende valse bijvangst zie je wel de tendens dat de bevoegdheden voor de politie kleiner worden, de rechter-commissaris komt er steeds vaker aan te pas. Er is nu veel discussie over wie wanneer in het proces betrokken moet worden en of bepaalde gegevens wel of niet bij de opsporingsdiensten terecht mogen komen. Onlangs is er een uitspraak geweest van het Hof van Justitie van de EU, die stelt dat onderzoeken naar gegevens in een mobiele telefoon moeten worden beoordeeld door een rechter of onafhankelijke autoriteit. Het kan dus zomaar dat je voor het uitlezen van een telefoon toestemming moet vragen bij de rechter.'

Rondneuzen in chatgroepen

Dreissen is er een voorstander van dat de rechter hierover beslist. 'Kijk, we hebben veel bevoegdheden best goed geregeld. Dat wordt straks in het nieuwe Wetboek van Strafvordering nóg iets beter. Er zijn heel specifieke bevoegdheden over bijvoorbeeld het vorderen en uitlezen van gegevens, en het live meekijken met gesprekken of chats. In artikel 3 van de Politiewet staat dat de politie belast is met rechtshandhaving. Ik lees daar geen bevoegdheid in om in te grijpen, maar ons hoogste rechtscollege doet dat wel. En dat betekent: als er geen sprake is van al te vergaande inbreuk op de privacy, dan mag de politie het zelf regelen. Dan is er dus geen officier van justitie of rechter-commissaris nodig. Daar ben ik bezorgd over. Want kan de politie dan ook in chatgroepen van actiegroepen rondneuzen of er een openbare ordeverstoring op til is? Dat gaat niet om strafbare feiten. Ik snap dat de politie daarvan op de hoogte wil zijn, maar hoe doe je dat zonder vergaande inbreuk op de privacy? Dat is een grijs gebied. Zeker, we willen criminelen pakken en incidenten voorkomen, maar we moeten ook aandacht hebben voor de andere kant van het verhaal.'

Op zoek naar de gulden middenweg

Volgens Vranken is het de vraag hoe we de gulden middenweg kunnen vinden bij digitale opsporing en met oog voor privacy. 'Als het om data-onderzoek gaat, moet je kijken hoe je die data kunt verkrijgen. Als dat alleen kan via een achterdeurtje in het systeem, dan loop je het risico dat je én te veel data én te veel privacygevoelige data meeneemt.' Vranken verwijst naar 'human-in-the- loop'.

'Dat concept is in de wereld van AI gangbaar en wil zeggen dat AI wordt aangevuld met menselijke expertise. Zeker bij zo’n gevoelig onderwerp als misdaadbestrijding. Dus naast de inzet van AI komt er altijd nog een mens aan te pas die dingen controleert. Dat is een manier om de valspositieven te onderscheppen.'

Dreissen zou wel blij zijn met zo’n human-in-the-loop, hoe arbeidsintensief ook. 'Ik mag hopen dat het niet zo is dat men uit een hit door een AI-model zonder meer een redelijk vermoeden van schuld afleidt. Dat zou ik heel akelig vinden. Als iemand door AI betrokken raakt bij een strafrechtelijk onderzoek, dan kan dat heel ingrijpend zijn. Mensen kunnen worden uitgenodigd voor een verhoor, aangehouden worden of voor langere tijd vastgehouden. Je wilt dus hoe dan ook voorkomen dat iemand onterecht bij zo’n onderzoek wordt betrokken.'

Van Beek: 'Natuurlijk, ik wil ook voorkomen dat ik betrokken raak bij een strafzaak omdat ik een foto van mijn kinderen die in bad spelen naar mijn moeder heb gestuurd. Het probleem is alleen dat het aantal mensen dat dit soort foto’s met elkaar deelt, vele malen groter is dan mensen die foto’s van kindermisbruik met elkaar delen. Het moet wel helder gedefinieerd zijn waar kindermisbruik begint op dat soort afbeeldingen.'

Harald Vranken is hoogleraar Cyber Security bij de vakgroep Informatica aan de faculteit Bètawetenschappen van de Open Universiteit. Sinds 2014 is hij ook werkzaam bij de Digital Security groep aan de Radboud Universiteit.

Wilma Dreissen is hoogleraar Straf- en strafprocesrecht aan de Open Universiteit en rechter-plaatsvervanger in de rechtbank Limburg.

Harm van Beek is bijzonder hoogleraar Digital Forensics aan de Open Universiteit. Sinds 2009 is hij senior digitaal-forensisch onderzoeker bij het Nederlands Forensisch Instituut (NFI). Hij is een van de grondleggers van onderzoekplatform Hansken, dat een tool heeft ontwikkeld om snel
en efficiënt te zoeken in grote hoeveelheden data.

Lees meer artikelen

Tekst: Emille Hollman
Fotografie: Laurent Stevens