De toekomst is nu

COLUMN - Wat gebeurt er wanneer computers slimmer worden, en een zelfstandige vorm van intelligentie ontwikkelen? Hoeveel vrijheid houden wij mensen dan over? Willen ze ons dan overheersen of ons juist dienen? Heeft kunstmatige intelligentie (KI) het beste met ons voor, of zullen ze ons beschouwen als grondstof voor hun eigen plannen?

Tussen die twee uitersten beweegt het debat over KI zich ongeveer. Enerzijds de waarschuwers die stellen dat we met zulke slimme computers vrijwel krachten losmaken die we niet kunnen beheersen, die mogelijk onze ondergang inluiden. Anderzijds de optimisten die verwachten dat computers met intelligentie ook een besef van ethiek en moraal zullen ontwikkelen, en dat ze mogelijk zelfs fijner besnaard zullen raken dan onszelf ooit is gelukt. In dat geval zou KI juist onze redding betekenen.

Het is een heerlijk debat – vooral omdat het zo hopeloos futiel is. Alsof het ontwerp en het coderen van technologie een soort waardenvrije kern heeft, die even makkelijk linksom als rechtsom kan uitpakken. De crux met technologie is dat die nooit neutraal is: het gaat altijd om de vraag hoe die technologie is gestructureerd en ingebed, met welk doel hij wordt ingezet, en hoeveel waarde we aan de aldus vergaarde informatie toekennen.

En dan word je nu al niet vrolijk. We zijn als maatschappij enorm op computers en hun verwerking van aan ons gedrag onttrokken datasets gaan leunen om risico en fraude te identificeren, zelfs in die mate dat simpele mutaties een paar dagen te laat aan de bevoegde instantie doorgeven je al als fraudeur kan aanmerken. (En zie dan nog maar eens van dat label af te komen: wat eenmaal in de computer zit, kan er doorgaans niet makkelijk meer uit.) De systemen die we bouwen, zijn soms zo wrak dat er duizenden mensen zijn die na viereneenhalve maand het hun toekomende PGB nog steeds niet uitbetaald hebben gekregen. Het lukt ze, ondanks hun verwoede pogingen, niet om correct in het systeem te worden opgenomen. Wanneer KI later geen rekening met mensen houdt, is dat omdat we computers precies dát nu al leren.

Erger: het lukt ons niet om instituties of bedrijven – die toch door mensen van vlees en bloed gedragen en geleid worden – een acceptabele moraal bij te brengen. Na jaren van berispingen en zware boetes versus mooie beloftes levert Zara nog steeds kleding gemaakt door kinderen en uitgebuite volwassenen. Mijnbedrijven blazen hele bergenketens in de Appalachen weg en laten een kaal, kapot landschap achter. Schaliegasdelving zorgt overal voor vervuild grondwater en een schrikbarende toename van aardbevingen. Zakenbanken plunderen de reserves van fondsen, overheden en burgers. De zucht naar net iets goedkopere arbeid en winstmaximalisatie schept massawerkloosheid.

Wanneer instanties, bedrijven en overheden mensen al zo makkelijk afschrijven, is het naïef te verwachten dat intelligente computers dat niet zullen doen.

  1. 1

    Het is inderdaad een futiel debat. Niemand kan namelijk theoretiseren wat een kunstmatige intelligentie (een die beter is dan de onze) zal doen met ons en met de wereld. Daarom wordt het ook wel de singulariteit genoemd.

    The technological singularity is the hypothetical advent of artificial general intelligence (also known as “strong AI”). Such a computer, computer network, or robot would theoretically be capable of recursive self-improvement (redesigning itself), or of designing and building computers or robots better than itself. Repetitions of this cycle would likely result in a runaway effect — an intelligence explosion — where smart machines design successive generations of increasingly powerful minds, creating intelligence far exceeding human intellectual capacity and control. Because the capabilities of such a superintelligence may be impossible for a human to comprehend, the technological singularity is an occurrence beyond which events may become unpredictable, unfavorable, or even unfathomable.

    http://en.wikipedia.org/wiki/Technological_singularity

    Luchtvervuiling, moraal, privacy, zelfs het concept van ethiek en de complete mensheid, ze worden allemaal futiel na zo’n run away effect. De mensheid is waarschijnlijk een mierenkolonie of nog minder, in de ogen van hogere intelligenties. We worden wellicht weggestopt in een reservaat, als curiositeit, of een museumstuk als tastbaar bewijs van hoe het allemaal begon.

    (Verder snap ik de titel niet. De toekomst is per definite niet nu.)

  2. 3

    Sssst, niet verder vertellen, maar:

    Wij, de mensheid, zijn al kunstmatige intelligentie.
    We zijn een kunstmatig (on)intelligentiespelletje van een nerd even verderop in het heelal ;-)

    pardon, soms heb ik zin om ergens de draak mee te steken

  3. 4

    Alleen al al die marketing erachter verraad een hopeloze toekomst, omdat menigeen nu al zwaar onder de indruk is van die magische handige apps op een flutbeeldschermpje. Succes verzekerd. Maar als je wat verder kijkt en ziet dat alles dat aan een netwerk hangt niet echt goed beveiligd kan worden, dan zal ook die KI gekraakt, gemanipuleerd en geïnfecteerd worden. En de robots? Dat zijn wij, naarstig op zoek naar het achterdeurtje.