De toekomst is nu

COLUMN - Wat gebeurt er wanneer computers slimmer worden, en een zelfstandige vorm van intelligentie ontwikkelen? Hoeveel vrijheid houden wij mensen dan over? Willen ze ons dan overheersen of ons juist dienen? Heeft kunstmatige intelligentie (KI) het beste met ons voor, of zullen ze ons beschouwen als grondstof voor hun eigen plannen?

Tussen die twee uitersten beweegt het debat over KI zich ongeveer. Enerzijds de waarschuwers die stellen dat we met zulke slimme computers vrijwel krachten losmaken die we niet kunnen beheersen, die mogelijk onze ondergang inluiden. Anderzijds de optimisten die verwachten dat computers met intelligentie ook een besef van ethiek en moraal zullen ontwikkelen, en dat ze mogelijk zelfs fijner besnaard zullen raken dan onszelf ooit is gelukt. In dat geval zou KI juist onze redding betekenen.

Het is een heerlijk debat – vooral omdat het zo hopeloos futiel is. Alsof het ontwerp en het coderen van technologie een soort waardenvrije kern heeft, die even makkelijk linksom als rechtsom kan uitpakken. De crux met technologie is dat die nooit neutraal is: het gaat altijd om de vraag hoe die technologie is gestructureerd en ingebed, met welk doel hij wordt ingezet, en hoeveel waarde we aan de aldus vergaarde informatie toekennen.

En dan word je nu al niet vrolijk. We zijn als maatschappij enorm op computers en hun verwerking van aan ons gedrag onttrokken datasets gaan leunen om risico en fraude te identificeren, zelfs in die mate dat simpele mutaties een paar dagen te laat aan de bevoegde instantie doorgeven je al als fraudeur kan aanmerken. (En zie dan nog maar eens van dat label af te komen: wat eenmaal in de computer zit, kan er doorgaans niet makkelijk meer uit.) De systemen die we bouwen, zijn soms zo wrak dat er duizenden mensen zijn die na viereneenhalve maand het hun toekomende PGB nog steeds niet uitbetaald hebben gekregen. Het lukt ze, ondanks hun verwoede pogingen, niet om correct in het systeem te worden opgenomen. Wanneer KI later geen rekening met mensen houdt, is dat omdat we computers precies dát nu al leren.

Erger: het lukt ons niet om instituties of bedrijven – die toch door mensen van vlees en bloed gedragen en geleid worden – een acceptabele moraal bij te brengen. Na jaren van berispingen en zware boetes versus mooie beloftes levert Zara nog steeds kleding gemaakt door kinderen en uitgebuite volwassenen. Mijnbedrijven blazen hele bergenketens in de Appalachen weg en laten een kaal, kapot landschap achter. Schaliegasdelving zorgt overal voor vervuild grondwater en een schrikbarende toename van aardbevingen. Zakenbanken plunderen de reserves van fondsen, overheden en burgers. De zucht naar net iets goedkopere arbeid en winstmaximalisatie schept massawerkloosheid.

Wanneer instanties, bedrijven en overheden mensen al zo makkelijk afschrijven, is het naïef te verwachten dat intelligente computers dat niet zullen doen.