Nadert AI het menselijk redeneervermogen?
Sinds het ontstaan in 1956 heeft AI gezorgd voor een enorme hoeveelheid aansprekende resultaten. Zo helpt deze wetenschap tegenwoordig om patronen te herkennen in de ontwikkeling van kankercellen, waardoor een betere diagnostiek mogelijk is. Meteorologische instituten gebruiken AI om het weer nog beter te voorspellen en in de tuinbouw monitort AI voortdurend de kwaliteit van bloemen en planten.
Black boxes
Heyninck: 'De meeste AI-successen tot nu toe zijn zogenoemde black boxes. Dit betekent dat we niet precies weten hoe een computer de informatie verwerkt die we een AI-systeem geven en die tot een bepaalde output leidt. We weten dus niet wat er in een AI-systeem, ofwel de 'zwarte doos' gebeurt. Ik vergelijk dat wel eens met een auto waarbij je niet onder de motorkap kunt kijken. Je ziet wel dat de auto rijdt, maar niet hoe de motor werkt.'
Verschillende en specifieke informatie
Heyninck onderzoekt met collega’s hoe je AI-systemen kunt laten redeneren en argumenteren zoals mensen. Denk aan de ontwikkeling van een app die mensen stimuleert om meer te bewegen. Dan moet de computer eerst volledig op de hoogte zijn van alle verschillende en specifieke informatie waarop mensen hun keuze baseren om dat ook echt te gaan doen. Hierdoor verschuift de focus van dataverzameling naar meer inzicht in de manier waarop computers al die data gebruiken. Het redeneervermogen van de computers staat dus voorop.
Verklaarbaar, transparant, objectief
Heyninck: 'Als het verborgen redeneervermogen van computers aan de oppervlakte komt, maak je de output verklaarbaarder, transparanter en objectiever. Stel je zet AI in om te bepalen of iemand in aanmerking komt voor een lening. Dan wil je vermijden dat voorspellende algoritmen ofwel wiskundige formules iemand achterstellen op basis van onder meer sekse, leeftijd of huidskleur. Dat kan gebeuren als een AI-systeem leert van menselijke beslissingen waarvan een discriminerende werking uitgaat. De toeslagenaffaire is daar een voorbeeld van. Daarom moeten we vooroordelen eerst uit de mens en vervolgens uit AI-systemen halen. Maar als een AI-systeem een black box vormt, is het moeilijker om die vooroordelen op te sporen.'
Praktijkvoorbeeld politie
'Een praktijkvoorbeeld van een AI-systeem dat geen black box is en dat gebruikmaakt van AI-technieken waarnaar ik ook onderzoek heb gedaan, is het Nationaal Politielab AI in Utrecht. Daar zijn de vele aangiften van slachtoffers van frauduleuze webshops inmiddels geautomatiseerd. Je vult online een klachtenformulier in en tijdens dat invullen redeneert AI als het ware met je mee door tussentijds vragen te stellen en feedback te geven. Dit om te bepalen of je genoeg goede argumenten hebt om je klacht voldoende draagvlak te geven, zodat die ook in behandeling wordt genomen. Deze aanpak werkt tegelijkertijd in het voordeel van de politie. In deze tijden van structurele onderbezetting hoeven politiemensen dergelijke aangiften niet meer van persoon tot persoon of telefonisch in behandeling te nemen. Daardoor kunnen de medewerkers zich eerder bezighouden met zaken die moeilijker te automatiseren zijn.'
Extra kracht toekennen
'Het gaat er nu vooral om dat we extra kracht toekennen aan het redeneervermogen van AI. Zodat AI door het aanreiken van argumenten en tegenargumenten de mens beter ondersteunt om de juiste beslissingen te nemen. Dat is het overkoepelende doel. Om nog even terug te komen op de aangiften tegen frauduleuze webshops: het is evengoed belangrijk dat AI kennis heeft van de juridische haalbaarheid van een klacht binnen de Nederlandse wetgeving. Of bij uitbreiding en in meer complexe scenario’s in een Europese wettelijke context. Daarbij moet AI in sommige gevallen ook in staat zijn om deze wetgevingen tegen elkaar af te wegen.'
Draaiend cirkeltje
'Mede in dat verband wacht nog een flinke uitdaging om een groter redeneervermogen van AI te koppelen aan meer efficiëntie. Bij ingewikkelde vraagstukken vergen veel AI-systemen namelijk nog te veel rekenkracht. Dat leidt vaak tot lange wachttijden. Dit ondanks het gegeven dat computers vele malen sneller dan de mens in staat zijn om grote datahoeveelheden op te slaan en te verwerken. Anders gezegd: je wilt voorkomen dat mensen online minutenlang naar een draaiend cirkeltje kijken.'
Mensen leren van computers
'In grote lijnen nadert AI steeds meer het menselijk redeneervermogen. Soms is al daadwerkelijk sprake van een match, zoals blijkt uit het politievoorbeeld dat ik gaf. Er komt zelfs een tijd dat mensen kunnen leren van de manier waarop computers redeneren. Maar dat is iets voor de toekomst. Laten we ons eerst verder concentreren op het omgekeerde.'
Menselijk redeneren van AI komt aan de orde in de cursus Model-based artificial intelligence van de Master Artificial Intelligence.