null We bedenken de verkeerde regels. Want het echte probleem van AI is niet AI

RW_Opiniestuk_ReijerPasschier_EchteProbleemAI_NietAI_22923_head_large.jpg

We bedenken de verkeerde regels. Want het echte probleem van AI is niet AI

Webcolumn Rechtswetenschappen - opiniestuk door prof. mr. dr. Reijer Passchier - november 2023

Vorige week kwamen politici, wetenschappers en leiders van techbedrijven in het Britse Bletchley Park bijeen om de risico’s van artificiële intelligentie (AI) te bespreken. Daarbij discussieerden zij vooral over nepnieuws, cyberaanvallen en de (overigens waarschijnlijk kleine) kans dat AI op korte termijn een grens zal overgaan en een bedreiging zal worden voor al het leven op aarde. Daarmee bleef, zoals vaker bij dit soort gelegenheden, het echte probleem van AI onbesproken: de beschikkingsmacht over deze technologie is vooral in handen van enkele zeer grote commerciële ondernemingen - waarbinnen bovendien slechts enkele CEO’s of grootaandeelhouders de dienst uitmaken. Die bepalen, als eigenaren van AI en de infrastructuur die AI nodig heeft, vrijwel eenzijdig welke AI zich verder ontwikkelt, in welk tempo dat gebeurt, welke risico’s daarbij aanvaardbaar zijn, welke waarden AI moet dienen en onder welke voorwaarden anderen AI mogen gebruiken. Daarbij staan meestal hun eigen, private belangen (of waanideeën) voorop. Niet het algemene belang.

Hoe zijn we in deze 'feodale' situatie beland? Voor een antwoord op die vragen moeten we in eerste instantie niet kijken naar AI zelf, maar naar de sociale, politieke en juridische omstandigheden waar die technologie uit voortkomt. Misschien wel het meest bepalende instituut voor AI is ons eigendomsrecht. Dat werd ruim twee eeuwen geleden uitgevonden en introduceerde de mogelijkheid voor individuen om, als eigenaar, in beginsel onbeperkte hoeveelheden exclusieve beschikkingsmacht over technologie te concentreren. En ook om het naar eigen goeddunken te exploiteren - hoe belangrijk die technologie ook was voor de rest van de maatschappij. Vervolgens introduceerden staten zo rond 1860 de private onderneming. De kapitaalvennootschap, in juridische termen. Die maakte van bedrijven onder andere zelfstandige rechtspersonen en gaf hen de mogelijkheid om aandelen uit te geven. Die innovaties werkten de concentratie van beschikkingsmacht over technologie verder in de hand. Al snel werd de megaonderneming in het Westen de dominante technologische speler. Denk aan olie, auto’s, medicijnen, voedsel en wapens.

Multinationals

Natuurlijk konden staten de megaonderneming in theorie 'reguleren'. Maar in de praktijk was dat in verband met bijvoorbeeld disproportionele lobby’s, afhankelijkheid van banen, oorlogen en zogenaamde 'liberale' ideologieën makkelijker gezegd dan gedaan. Met de globalisering van de wereldeconomie gedurende de 20ste eeuw werden mega-eigenaren van technologie zeer grote multinationals. Die waren pas écht moeilijk te temmen. Multinationals konden hun onderdelen dankzij het internationale privaatrecht immers van land naar land verplaatsen. Zo konden zij hun onwelgevallige regels ontwijken of staten tegen elkaar uitspelen om gunstige regelingen af te dwingen. Wat volgde was een race to the bottom tussen staten waarin democratie, milieu en de zwaksten in de wereld het kind van de rekening werden. Zo werkte technologische vooruitgang niet bepaald voor iedereen.

Met digitalisering komt de race to the bottom tussen staten en de verdere consolidatie van technologische macht bij enkele megaondernemingen in een stroomversnelling. Wie al technologie heeft, kan AI verder ontwikkelen. Wie AI verder ontwikkelt, heeft meer gebruikers, data en dus mogelijkheden om daar een schepje bovenop te doen. Wie de beste AI heeft, trekt vervolgens weer meer gebruikers, kan meer data verzamelen, enzovoort. Met zulke sterke netwerkeffecten is het niet alleen 'de rijken worden rijker - en de armen armer', maar ook the winner takes it all. Digitale technologie maakt megaondernemingen vervolgens nog mobieler dan zij al waren (zelfs tot in de ruimte, denk aan Starlink van Musk). Daardoor kunnen zij regels van staten eventueel nog gemakkelijker ontwijken dan eerdere generaties megaondernemingen en staten nog effectiever tegen elkaar uitspelen om een voor hen gunstig vestigingsklimaat. Niet voor niets krijgen bigtech bedrijven - de allergrootste en rijkste bedrijven op aarde - enorme subsidies van staten om zich op hun territorium te vestigen.

Daarbij verweeft de digitale technologie van megaondernemingen zich, als systeemtechnologie, met andere technologie en het sociale weefsel van de samenleving. Zelfs de overheid gaat inmiddels over op de bigtech-cloud, gebruikt één bigtech-e-mailserver, één bigtechbesturingssysteem, enzovoort. Die afhankelijkheid maakt het beschermen van het algemene belang er niet gemakkelijker op.

Averechtse regulering

Inmiddels zijn technologische machtsverhoudingen zó scheef dat specifieke 'techregulering' een averechts effect kan hebben. Megaondernemingen hebben de middelen om nieuwe regels te ontwijken of die, met inzet van de duurste advocaten, naar hun hand te zetten. Kleinere bedrijven, start-ups en zelfs staten hebben die mogelijkheid vaak niet.

Kortom, het echte probleem van AI is niet zozeer AI zelf, laat staan de AI-massaextinctie waarmee big tech ons ook in Bletchley Park weer van de echte problemen rondom AI probeerde af te leiden. Veel acuter is de maatschappelijke ongelijkheid die de huidige AI reflecteert en verder vergroot. De regulator die dáár niets aan verandert, werkt een verdere concentratie van technologische macht bij enkele private spelers waarschijnlijk alleen maar verder in de hand - met alle negatieve gevolgen van dien. AI vraagt om een ander rechtsstelsel. Dat project is er echter een van de lange termijn. Op de korte termijn is het cruciaal dat landen hun afhankelijkheid van de allergrootste techbedrijven en hun AI terugdringen. Zolang de overheid en de rest van de samenleving niet langer zonder enkele commerciële mega-eigenaren kunnen functioneren - en hen als helden ontvangt op conferenties als Bletchley Park -, kan AI onmogelijk voor ons allemaal gaan werken.

Dit opiniestuk is op 7 november 2023 gepubliceerd in De Volkskrant en op 8 november 2023 in De Morgen.