AI: de creatie van een monster

In vroegere culturen werd het leven van de mens in belangrijke mate bepaald door ‘het hogere’, door de wereld van de goden. Farao’s en andere priesterkoningen, bijgestaan door profeten en priesters, brachten de boodschappen uit de godenwereld naar die van de mensen, in de vorm van geboden, gebeden, gebruiken.
In de loop van de ontwikkeling nam de mens de dingen meer in eigen hand, ontwikkelde een eigen gedachteleven dat eerder de aardse wereld dan die van de goden als uitgangspunt nam en kwam zo tot nieuwe gebruiken en wetten. De wereld van de goden trad terug, was niet meer een door de mens ervaren ‘werkelijke wereld’ maar werd iets waar je al dan niet in gelooft.

Vanuit het menselijk denken ontwikkelde zich ook de wetenschap, in de afgelopen eeuwen met een alsmaar toenemende snelheid en impact. En vanaf een afstandje bekeken zou je de indruk krijgen dat de wetenschappelijke wereld stuivertje heeft gewisseld met de wereld van de goden. Nu wordt ons dagelijks leven sterk bepaald door wat de wetenschap mogelijk maakt, terwijl die wetenschap ons ook in allerlei zaken aangeeft welke keuzes we moeten maken en wat ons te doen staat. De wetenschap geeft aan wat ‘waar’, ‘werkelijkheid’ en daaruit volgend ‘wenselijk’ is.
Met het oog op allerlei ontwikkelingen in wetenschap en techniek is dat pikant en feitelijk meer dan onrustbarend: ook wat niet waar is, of wat geen werkelijkheid is, kan ‘waar’ of ‘werkelijkheid’ worden wanneer voldoende mensen daar lang genoeg en met voldoende inzet naar handelen. Het ondenkbare kan worden gedacht en wat gedacht is kan zich waar maken.

Inmiddels kan het niemand ontgaan zijn dat de wetenschappelijke ontwikkelingen op het gebied van kunstmatige intelligentie, AI, met sneltreinvaart verder razen. Dat kunnen we bijvoorbeeld aflezen aan berichten waarin wetenschappers, of politici, opmerken dat het tijd is voor een breed maatschappelijk gesprek over de ontwikkeling, toepassing en mogelijke risico’s van AI. – Wanneer die oproep gedaan wordt, zo leert de ervaring, weten we dat het daarvoor dan meestal al te laat is. Die trein heeft het station al verlaten.

Geoffry Hinton, hij wordt de “godfather van de AI” genoemd, vraagt zich af (NRC 3 mei 2023) of hij meegeholpen heeft “een monster te creëren”. In een interview met het Amerikaanse CBS in maart j.l. noemde hij het “niet ondenkbaar” dat AI “de mensheid zal wegvagen”. Om vrijuit te kunnen spreken over de gevaren van AI en de ethische vragen die de toepassing van AI oproept, heeft hij ontslag genomen bij Google, dat met Microsoft en anderen in een felle wedloop is verwikkeld om tot verdere toepassingen van AI te komen.
Hinton, 75 jaar, kijkt nu met gemengde gevoelens terug op zijn levenswerk, maar: “Ik troost mezelf met het gebruikelijke excuus: als ik het niet gedaan had, was het een ander geweest”.

Bij dat laatste kunnen we een vraagteken zetten. De ontwikkeling die de wetenschap gaat is geen natuurverschijnsel maar mensenwerk.
Onderzoek en ontwikkeling van AI kosten miljarden. Die miljarden worden daarin gestoken door de grote tech-bedrijven, die daarmee ‘de wetenschap’ inpassen in hun verdienmodel (en winststreven). In steeds belangrijker mate bepalen zij (en andere kapitaalkrachtige bedrijven, investeerders en aan economische en politieke belangen gelieerde foundations) de richting waarin de wetenschap gaat.
Het is van belang dat we helder zien hoe het is: deze opeenhoping van kapitaal (bij bedrijven, investeringsfondsen e.d.) is alleen mogelijk omdat grond en bedrijven privé-eigendom (kunnen) zijn.

Het wordt daarom tijd dat we in gesprek gaan over de vraag of het wenselijk is dat deze situatie blijft voortbestaan: de situatie dat het “niet ondenkbaar” is dat de mensheid wordt weggevaagd door ongeremd eigenbelang dat zich via het privé-eigendom van grond en bedrijven tot een monster heeft ontwikkeld.

Oorspronkelijk gepubliceerd in Driegonaal, jrg.39, nr.1/2 (augustus 2023)