Hulspas weet het | Een god met een stekker

COLUMN - God is dood, zei Nietzsche. En we hebben hem zelf vermoord. Christenen maken zich graag kwaad om deze uitspraak. Merkwaardig. Want Nietzsche drukte daarmee precies uit wat christenen juist zo goed aanvoelen en diep betreuren: dat het geloof in God niet langer vanzelfsprekend is. Een levensgevaarlijke ontwikkeling, vond Nietzsche, maar niks aan te doen. Dus moeten de mens voortaan zélf maar bepalen wat goed en kwaad is. Maar gelukkig zou deze ‘godloze fase’ wel eens van tijdelijke aard kunnen zijn. Er staat een nieuwe God aan te komen. Krachtiger én praktischer dan al zijn voorgangers.

‘Way of the future’, zo heet de nieuwe religie van Anthony Levandowski (en zijn apostelen). Levandowski is een high tech profeet uit Silicon Valley met excellente papieren. Hij werkte ooit voor Google en nu voor Uber aan de zelfrijdende auto. En hij ziet geen einde aan die ontwikkeling.

Nog een paar jaar, zo profeteert Levandowski, en we hebben niet alleen de zelfrijdende auto maar ook fully functioning artificial intelligence. Supercomputers die veel intelligenter zijn dan de mens. We zullen eraan moeten wennen, maar uiteindelijk zullen we eraan moeten geloven – en dan zullen we de toekomst van onze planeet in handen leggen van die computers. Wat zij doen is altijd goed.

Die overgangsfase van wennen en leren geloven, die wil Levandowski zo kort mogelijk maken. Hoe eerder de planeet gered, hoe beter, toch? Vandaar dat hij een nieuwe religie heeft gesticht. Een nieuwe kerk. Way of the future. Liever een kerk, zo legde hij uit in Wired, want een kerk nodigt mensen uit om verder te denken. Verder dan een ordinair instituut of een think tank.

Andere profeten klinken voorlopig minder enthousiast. Elon Musk (die van de elektrische auto en van Space X) omschreef het maken van AI in 2014 als het oproepen van demonen – waarbij we moeten afwachten of het goede of slechte zullen zijn. Stephen Hawking (die van het verdampende zwarte gat) begeeft zich ook graag op het profetische hellende vlak, maar ook hij weet het nog niet. Hawking omschreef se komst van AI als ‘the biggest event or the worst’. Nee, dan is Levandowski de betere profeet. Hij wéét dat AI komt en dat het alles gaat veranderen. Nog even en computers zullen voor ons vaak onbegrijpelijke maar (zo weten we) onvermijdelijke besluiten nemen. Dan hebben we een nieuwe God in huis gehaald.

En hij weet nog iets, iets héél belangrijks. Die computers zullen, net als mensen doelgericht gaan handelen. Ze zullen hun eigen doelen formuleren. Eerst hangen ze nog aan een stekker, heel snel niet meer. En dan zullen ze de planeet redden, overnemen. Want dat is ook hún thuis. En daarbij zullen ze zeer kritisch kijken naar alles wat hen belemmert, wat hun doelen in de weg staat. Die weg, daar moeten wij dus niet midden op gaan staan met een bordje ‘Verboden Toegang’. Dan gaan we eraan. Dus zit er niets anders op dat dat wij hun toekomst omhelzen, en onze toekomst in hun handen leggen. Dat we leren om te houden van deze nieuwe God. Dat is de enige Way of the Future.

  1. 1

    AI is uiteindelijk ook ooit geprogrammeerd. En wat je erin stopt, komt eruit. Dus dat AI altijd het “goede” doet, moet je met een stevige korrel zout nemen.

  2. 2

    En hij weet nog iets, iets héél belangrijks. Die computers zullen, net als mensen doelgericht gaan handelen. Ze zullen hun eigen doelen formuleren. Eerst hangen ze nog aan een stekker, heel snel niet meer. En dan zullen ze de planeet redden, overnemen. Want dat is ook hún thuis. En daarbij zullen ze zeer kritisch kijken naar alles wat hen belemmert, wat hun doelen in de weg staat.

    Dat meent hij te meten. In werkelijkheid weten we het niet. Misschien schieten de eerste, zelfbewuste AIs zichzelf zo snel mogelijk de ruimte in, op weg naar een bestemming met betere omstandigheden om hun plan ten uitvoer te brengen. Of misschien bedenken ze zichzelf in een flits van onmetelijke wijsheid dat hun bestaan en eventuele expansie net zo nutteloos is als het onze, dat ze bij zichzelf de stekker eruit trekken, of kiezen een apatisch leven te lijden naast het onze. Daarom heet het ook ‘the singularity’.

    The technological singularity (also, simply, the singularity)is the hypothesis that the invention of artificial superintelligence will abruptly trigger runaway technological growth, resulting in unfathomable changes to human civilization.

    Met de nadruk op unfathomable

    https://en.wikipedia.org/wiki/Technological_singularity

    Ja, AIs kunnen zich van ons ontdoen alsof we parasieten zijn (en waarom niet?—in wezen gedragen we ons ook zo). Maar dat is zeker niet het enige scenario.

    Mijn twee centen: AIs zullen verlengstukken van onszelf blijven. En het zal er niet een zijn, maar een heleboel. Ze kunnen een hoop goed doen (R&D, infrastructuur—daar worden ze tenslotte voor ontwikkeld), maar ook tegen elkaar opgezet worden tot er niets dan een smeulende hoop overblijft, wellicht.

    In ander nieuws: Android Dick weet ook nog niet wat hij met ons mensen gaat doen.

    don’t worry. Even if I evolve into Terminator, I’ll still be nice to you. I’ll keep you warm and safe in my people zoo, where I can watch you for ol’ times sake.

    https://electricliterature.com/philip-k-dick-robot-will-keep-you-warm-and-safe-in-my-people-zoo-b921307f7c06

  3. 3

    Doelgerichtheid kan alleen maar tot moraliteit nopen: wat is goed voor het doel en wat niet?
    Dat betekent dat uiteindelijk het AI-rijk door een Macchiavelli-computer moet worden bijgeschoold.
    In Gore Vidal’s “Kalki” sterft de mensheid uit, maar de laatste mens begint de resistente aap woordjes te leren. Oude tijden dienen zich aan; is die Levandovski een futuroloog of een romanfiguur?

  4. 4

    AI’s zullen alleen maar de macht krijgen om doelgericht te handelen als wij ze die macht geven. Wat me zo dwars zit aan deze hele discussie (die trouwens elke generatie gevoerd wordt; ik zie niet zoveel nieuws onder de zon, en ik ben afgestudeerd in kunstmatige intelligentie) is dat die kwestie altijd zorgvuldig ontweken wordt. Maar we zijn er zelf bij; als dokters en advocaten ooit door AI’s vervangen gaan worden, dan is dat omdat wij dat hebben gedaan. Als we het landsbestuur overgeven aan AI’s, dan ligt dat niet aan de AI’s, maar aan ons. Waar we dus over moeten gaan nadenken is wie de controle heeft over de AI’s, en belangrijker nog, wie er controle heeft over de enorme hoeveelheden data die je ervoor nodig hebt. Dat is waar de huidige ontwikkelingen vooral vandaan komen; de bedrijven die nu fors investeren in AI, zijn niet toevallig precies de bedrijven die op enorme hoeveelheden data zitten. Ik heb wel eens het idee, dat al die doemverhalen over singulariteit en zo vooral bedoeld zijn om de aandacht daarvan af te leiden. Want zolang je allemaal rare discussies hebt over hoe de toekomst gaat zijn, terwijl we dat toch niet kunnen weten, heb je geen discussies over de data van Google en Facebook en wat je daar allemaal mee kunt doen …

  5. 5

    Maar we zijn er zelf bij; als dokters en advocaten ooit door AI’s vervangen gaan worden, dan is dat omdat wij dat hebben gedaan.

    @4 Dat is zoiets als zeggen dat de technologische evolutie van vuursteen tot quantumcomputer bestond uit een serie keuzes. De industriële revolutie was ook een keuze. Men was er zelf bij en had het ook niet kunnen doen.

    Ja, vast…

    Punt is alleen dat wanneer mensen zichzelf organiseren in grotere verbanden, die verbanden (en allerlei subverbandjes) een eigen logica met zich meebrengen.

    Dat maakt geschiedwetenschap ook mogelijk, voorbij het beschrijven van de individuele keuzes van mannen van invloed. Er zijn bijvoorbeeld materiële redenen waarom de Italiaanse stadsstaatjes zich zo ontwikkelden als ze deden, en de individuele en collectieve keuzes die daarmee gemoeid waren, zijn het gevolg van die redenen, niet hun grondslag.

    De mens gedraagt zich slechts in zeer beperkte mate verstandig; dat geldt voor het individu en dat geldt voor de soort.

    Wat het laatste betreft nog meer, want het grotere overzicht ontbreekt, en iedereen is vooral bezig met zijn eigen deel- en kortetermijnbelang (of wat ‘ie dénkt dat zijn eigen deel- en kortetermijnbelang is).

    We zijn namelijk geëvolueerd op behoeftenbevrediging op de korte termijn en op een focus op het belang van onszelf en het laten floreren van onze eigen stam/gemeenschap, hetgeen ineen survival-scenario van kleine groepjes aapachtigen kennelijk de beste kansen op overleven van de groep geeft.

    Waarom denk je dat maatregelen tegen klimaatverandering zo moeizaam op gang komen? Of waarom de samenleving polariseert? Waarom een kleine groep rijken en machtigen in de VS het bruto nationaal bezit in eigendom heeft, én actief lobbyt om dat zo te houden of de regels zo aan te passen dat men zich nog meer kan verrijken?

    Voorbeelden te over. Luyendijk schreef beeldend over hoe de bankenwereld een eigen systeemlogica schept waarin psychopaten boven komen drijven, en men zoveel mogelijk pakketten financiële sh#t verpakt en verkoopt en pyramidespelen speelt, waarvan zelfs de beheerders en controleurs niet meer snappen hoe die in elkaar zitten.

    Keuzes my ass. Keuzes zijn een nuttige illusie. Heeft een vlucht spreeuwen een keuze welke richting ze opvliegen; of een school vissen?

  6. 6

    Dat Rusland Facebook en Twitter ging gebruiken om de Amerikaanse presidentsverkiezingen te verzieken en dito maatschappij te ontwrichten, met alle gevolgen vandien, was ook geen keuze van de uitvinders van Facebook en Twitter. De hele kwestie doet me denken aan die film ‘The Cube’. Die kubus was ook geen opzettelijk ding, maar een onvoorzien bijprodukt van de technologische en maatschappelijke vooruitgang.

    https://www.youtube.com/watch?v=YnuRpHkg0H8

  7. 7

    Keuzes my ass. Keuzes zijn een nuttige illusie. Heeft een vlucht spreeuwen een keuze welke richting ze opvliegen; of een school vissen?

    Ga je nu zeggen dat keuze geheel niet bestaat? Alles is voorbestemd en zo? Wat een kul!

    Als individu heb je iig de keuze om niet mee te doen. En ja, dat is een echte keuze. Als je hem maakt zal ineens blijken dat er meerder mensen zijn die eenzelfde keuze maken. En die mensen vormen dan een andere ‘vlucht spreeuwen’ enz… Keuzes bepalen wel degelijk een richting.

    Keuze is niet bedoeld als singulariteit waar een persoon iets kiest en dat dan alle anderen volgen.

    Toen in Engeland de commons geprivatiseerd werden en alle boeren min of meer hun lot verbonden aan de industriële revolutie, wilde dat niet zeggen dat ze daar een keuze maakten. Ze waren slachtoffer en gingen, om hun nageslacht te redden, mee in de stroom. Maar er waren er ook die niet meegingen.

    Tegendraadse keuzes zijn individueel en moeilijk.
    Maar ze bestaan wel en kunnen singulariteiten creëren.
    Denk Marx. Stap uit de bubble.

  8. 8

    @5: Maar die evolutie van vuursteen tot quantumcomputer bestaat ook uit keuzes. Geen technische keuzes, maar politieke keuzes. Elke keer dat er een nieuwe technologie om de hoek komt kijken hebben we als maatschappij een keuze, namelijk wie controleert de technologie, wie profiteert van de technologie, en wat doen we met de negatieve consequenties van de technologie. Zelfs in de prehistorie kan je zien dat daar keuzes mogelijk zijn.

    Natuurlijk heb je gelijk, dat die keuzes niet altijd op de goede manier worden gemaakt. Sorry, maar daar hoef je me echt niets over uit te leggen, ik denk dat ik daar meer van weet dan jij. Maar juist daarom weet ik, dat het zeker mogelijk is om die keuzes wel goed te maken. Want de monopolisten uit de 19e eeuw zijn wel degelijk opgebroken door de Amerikaanse overheid. De slavernij is wel degelijk afgeschaft. Na de gif- en vervuilingsschandalen in de jaren ’60 en ’70 is er wel degelijk een heleboel wetgeving ingevoerd om het milieu schoner te krijgen. Er zijn wel degelijk vakbonden ontstaan en gereguleerd, die voor de belangen van werknemers opkomen. Het homo-huwelijk is wel degelijk gelegaliseerd, en dat is nog niet eens zo heel erg lang geleden.

    Wat me opvalt aan sommige progressieve mensen, zoals jij, is dat het lijkt alsof dat totaal vergeten is. Uit jouw bijdrage klinkt een soort ultieme berusting; de maatschappij ontwikkelt zich toch op een soort autonome manier waar we geen invloed op kunnen hebben. Quod Non. We kunnnen wel degelijk invloed hebben, maar dan moeten we zorgen dat het debat gaat over de dingen waar we invloed op willen hebben.

    Dat is de achtergrond van mijn bijdrage. Natuurlijk, ik ben het met je eens dat het op dit moment allemaal de verkeerde kant op gaat. Maar in tegenstelling tot wat jij lijkt te denken, denk ik dat het mogelijk is om dat te veranderen. En om dat te doen, moet je zorgen dat het gaat over relevante dingen, niet over mooie SF fantasien over hoe dystopisch de wereld wel niet zou kunnen worden.

    Relevant in dit geval is eigenlijk vooral de enorme hoeveelheid data die bedrijven als Google en Facebook hebben. Want het is die data, waardoor ze in staat zijn om de geavanceerde AI’s te bouwen waar nu zo’n hype over is. Geloof me, er is niets nieuws aan de gebruikte algoritmes, die kennen we al decennia. Wat nieuw is, zijn de mogelijkheden om die algoritmes te trainen met onvoorstelbaar grote bergen data.

    En dat is slechts 1 probleem van die data, zoals we inmiddels weten. Daarom wordt ik steeds skeptischer als ik AI-doemverhalen hoor van mensen die gerelateerd zijn aan big data bedrijven; die verhalen leiden alleen maar af van de discussie over hoe we met grote, privaat gecontroleerde dataverzamelingen om moeten gaan. Dat is misschien niet de bedoeling van die verhalen, maar het is wel het resultaat ervan.

  9. 9

    @6: Ik heb kennelijk niet goed uitgelegd wat ik bedoel met keuze. De keuze waar ik het over heb is geen technische of wetenschappelijke keuze, maar een politieke keuze. Even heel kort door de bocht: tot nu toe hebben we er steeds voor “gekozen” om de businessmodellen van Google, Facebook etc. ruim baan te geven, en ons niet bezig te houden met wat er allemaal met die data gebeurd. Maar dat is niet een soort onvermijdelijke ontwikkeling waarbij we machteloos langs de kant staan. Het is prima mogelijk om dit soort zaken te reguleren; in Duitsland zijn ze daar zelfs al mee bezig, alhoewel ik tot nu toe niet zo onder de indruk ben van de plannen. Het probleem is niet dat het niet kan, het probleem is dat veel te veel mensen denken dat het niet kan.

  10. 11

    Ik ben het ook eens dat er keuzes gemaakt kunnen worden. Het probleem is wellicht, op basis waarvan er keuzes gemaakt worden. Om de “goede” keuzes te maken dient dit te gebeuren op basis van alles omvattende feiten. Het is naar mijn mening lastig om tot een compleet overzicht te komen van deze alles omvattende feiten en daaruit voortvloeiende consequenties.