Droomt Erik Puik van elektrische schapen?

robotZaterdag 8 augustus jl. publiceerde Erik Puik, lector microsysteemtechnologie aan de Hogeschool Utrecht, in de Volkskrant een artikel in de rubriek Opinie. In dit artikel schetst hij een somber beeld van de samensmelting van hyperintelligente computers en de mensheid. Uiteindelijk zullen we volgens Puik zelfs ten prooi vallen aan de computer. Het is erop of eronder. Puik denkt dat als we niet alert zijn, ‘onze young professionals slaven zijn van een door ons gecreëerde meester.’ Kijk, dat wekt mijn nieuwsgierigheid.

Het artikel is een ingekorte versie van een essay dat Puik schreef in het kader van het debat over ‘de identiteit van de hbo-professional’, eind augustus. Puik bekijkt de technologische ontwikkelingen met argusogen. ‘Met de moderne communicatie, die ‘24/7’ doorgaat, vervaagt de grens tussen werk en privé. […] Dit is misschien nog even wennen voor mijn generatie maar is geheel vanzelfsprekend voor mijn studenten. Voor hen zijn ‘plaats’ en ‘tijd’ relatieve begrippen in een leven waarin alles door elkaar loopt. […] met enige bezorgdheid zie ik ook dat de snelheid waarmee de technologie voortschrijdt steeds hoger wordt. Is die straks voor mensen nog wel bij te benen of zullen we slaven worden van onze computers? Als politici en wetenschappers als ikzelf er niet bovenop zitten, vrees ik het laatste.’

Erik Puik (1964) is niet van gisteren. Hij studeerde af aan de HTS in Eindhoven in werktuigbouwkunde en elektrotechniek. Hij werkte bij Océ Technologies. Hij was projectleider bij TNO. Sinds juni 2006 is hij lector aan de Hogeschool Utrecht. Geen leek dus.

Maar welke ‘computers’ ons nu volgens Puik de baas worden, wordt me niet duidelijk na lezing van het artikel. Wel schrijft Puik over de prognose dat in 2025 computers even veel geheugencapaciteit en denkkracht bezitten als mensen, en dat dit in 2055 is gestegen tot evenveel geheugencapaciteit en denkkracht als alle mensen op aarde bij elkaar op dat moment. ‘Met name bij dat laatste krijgt menigeen een onaangenaam gevoel,’ schrijft Puik. Dat onaangename gevoel is niet vreemd, want direct zullen we ons afvragen wat het met de identiteit zal doen: zijn we dan nog wel ‘menselijk’ of ‘echt’?

moderniteitStef Aupers zegt in het boek In de ban van de moderniteit, de sacralisering van het zelf en de computertechnologie (2005): ‘Wat ‘echt’ en wat ‘onecht’ is valt niet wetenschappelijk vast stellen. Er zijn meerdere posities mogelijk.’ Ook Plato filosofeerde al over schijn en wezen.

Mens als boosdoener

In de wereldliteratuur is over een barbaarse computerdictatuur en de vrees voor een ‘gesimuleerde’ werkelijkheid al sinds de industriële revolutie geschreven. Aldous Huxley, George Orwell, William Gibson, JG Ballard, Jean Baudrillard en bibliotheken vol met SF-literatuur. Dat anno 2099 de wereld er anders uit zal zien dan nu, geloof ik graag. Maar met automatisering verdwijnt nog niet de emotie, het intellect, de creativiteit of de sociale component bij de mens. Er is geen enkel wetenschappelijk bewijs voor dat een kind van 7 minder ‘voelt’ dan een mens van 77 omdat hij is opgegroeid in een wereld vol technologie, terwijl de bejaarde het pinautomaat te veel gedoe vindt.

Juist de hierboven genoemde schrijvers (zij behoren tot mijn favorieten!) noemen als grote boosdoener echter nog altijd de mens, niet de machine. Zoals de Britse schrijver Anthony Burgess begin jaren negentig in een interview met Snoecks zei dat televisie ooit is uitgevonden om mensen iets te leren – en zie wat er van geworden is. Dat ben ik met Burgess eens: ik heb niets tegen het fenomeen televisie, wel wat er – vaak – mee wordt gedaan. Door mensen.

Maar het is nogal pessimistisch om te stellen dat de megaslimme computers alleen maar misbruikt worden en ons uiteindelijk ook zullen misbruiken. Erik Puik vindt zelfs dat de impact van ‘deze ontwikkelingen maatschappelijk wordt onderschat. Waar wij ons druk maken over het klimaat, experimenten met dna van mensen en dieren, hebben we een veel machtigere concurrent in het leven geroepen. Wij zullen door de steeds potentere computer in onze rol, van meest intelligente deelnemer op aarde, van de troon verstoten worden.’

De illustratie bij het artikel toont de Japanse robotlerares Saya. Dat ziet er revolutionair uit, Japan is tuk op robots, maar ondertussen heeft de hele wereld nog steeds een hijgende labrador en geen android als huisdier. Ook wordt door Puik een captain van een verkeersvliegtuig aangehaald die zich omringt met technologische middelen, maar niet in staat is al die systemen te doorzien. Ik denk dat de bestuurder van de verongelukte zeppelin Hindenburg (1937) de systemen ook niet doorzag. De kapitein van de Titanic (1912) evenmin. En bij het uitvinden van het vuur zal menig vuursteen in mensenogen zijn gevlogen. Alle technologische blunders zijn onderdeel van de menselijke evolutie.

Ik begrijp de angst voor privacy-schendingen en het klakkeloos registreren van persoonlijke informatie door de almaar groeiende digitale databases. En inderdaad, daar moeten we altijd kritisch over zijn. Maar in de tijd van de Koude Oorlog kon men ook al prima zijn buurman schaduwen en verklikken. Dat ging allemaal spijkerhard met buizenpost, dieselmotor, verrekijker, afluisterapparatuur, schrijfmachine en papier. Dat de gevolgen dankzij ict-technologie dramatisch zullen zijn in geval van misbruik, wil ik geloven. Maar ook wil ik geloven dat evenveel positiefs te zeggen is over een verregaande ict-infrastructuur.

daftpunk

Werktijden van de aardappelboer
Digitale wijsheid zorgt ervoor dat we veel meer kunnen doen in een korte tijd. En ja, Puik lijkt zich voorzichtig te beklagen over die attitude. ‘Vijftien jaar geleden had ik een relaxed baantje […]. Zo bleef werk en privé gescheiden, wat voor iemand in loondienst vrij normaal was’. Maar misschien is het hele gegeven ‘loondienst’ wel niet meer normaal? Moeten we ons perse aan de werktijden van de aardappelboer houden terwijl onze banen totaal veranderd zijn? Daar denkt een nieuwe generatie anders over. Het maakt hen tot de ‘homo digitalis’ of ‘homo zappiens’.

Dat Puik geen technofoob is, blijkt uit zijn werk bij TNO rond 2005. Puik in het TNO Magazine van december 2005: ‘Uitgangspunt van ‘Assembly By Wire’ is dat arbeidshandelingen op beeldschermen worden weergegeven op een andere plaats dan waar zij uitgevoerd worden. Het zou bijvoorbeeld zo kunnen zijn dat een productielocatie in Nederland bediend wordt door operators die in China werkzaam zijn. Op deze wijze maken we gebruik van lage-lonenhanden. De communicatie wordt verzorgd via internet. Zo worden mensen en processen geografisch ontkoppeld.’ Heeft Puik inmiddels zijn mening herzien? Is het gebruik van lage-loonlanden toevallig geen uitwas van het door Puik omschreven schrikbeeld van grensoverschrijdende technologie?

De angst voor verregaande ict-technologie op zich is niet reëel, wel een eventuele naargeestige ideologie erachter. Dat maakt het verschil. Het primaire doel van wapentuig is altijd het onschadelijk maken van een vijand, maar dat is niet het primaire doel van ict-technologie. Wat dat betreft kan je ook bezwaren hebben tegen een goed ontwikkeld wegenstelsel. Stel dat een dictator de weg bezet en inneemt!

Volgens Puik moeten politici en wetenschappers de vinger aan de pols houden en ‘er bovenop zitten’. Laat China nu net zo’n land zijn waar de politiek er bovenop zit. Censuur, noemen we dat. En hoe de wetenschap over verregaande technologische innovatie dacht? Nou, het lijkt mij dat zij het toejuichen. Professor Wim Veen van de TU Delft ziet de ‘digitale’ wereld als een verlengstuk van het fysieke bestaan. Toen ik hem vorig jaar interviewde voor Volkskrant Banen zei hij: ‘Hoe dacht je dat de eerste reacties waren op de telefoon? Veel te onpersoonlijk, door zo’n raar apparaat praten. Het werd pas volledig geaccepteerd toen de buurvrouw met Tante Miep over haar gordijnen ging praten door de telefoon.’

  1. 1

    “Japan is tuk op robots”

    Zie hier de reden waarom het land al 20 jaar in een economische crisis verkeerd. Ze houden vast aan een automatiserings/robot idee van 30 jaar geleden. Een robot heeft 2 armen, 2 benen, 2 ogen en vooral een glimlach kunnen tonen opdat het net lijkt of die emotie heeft.

  2. 3

    Nah, eigenlijk is Puik bang voor onszelf. We hebben al vergelijkbare ‘ratraces’ als het gaat om ‘wie steekt zichzelf het diepste in de schulden’, ‘wie geeft z’n kinderen de beste drugs, pardon, ADHD-medicatie’. Humanoide uitbreidingen zijn niet zo gek veel anders.

    Maar inderdaad, ze veranderen de mensheid. Maar boekdrukkunst deed dat ook; voor die tijd werd kennis vooral mondeling doorverteld, en moest je een goed geheugen hebben. Daarna hoefde je niet perse meer alles te onthouden — je kon het opzoeken in een boek. En de ouderen spraken er schande van, dat de jeugd geen parate kennis meer had.

  3. 5

    …of zullen we slaven worden van onze computers

    Het is maar of je dat letterlijk neemt of niet. Als ik jeugd met spelcomputertjes in de weer zie denk: dat is verslavend! Zij zijn slaven dus. Maar de computer is hen nog niet de baas in de zin zoals altijd wordt bedoeld door de Huxleys, de Orwells en de Asimovs. En de vraag is of dat ooit gaat gebeuren.

    Aardige man verder hoor die Puik.
    Maar hebben we die waarschuwingen niet al eerder gehoord?

  4. 7

    @5 je hebt gelijk, die computerspelletjes zullen verslavend zijn… maar klaverjas en advocaat kan dat ook zijn. De werkelijkheid is nu eenmaal platter dan we zouden willen.

    Door camera’s vastgelegd, door Echelon gevolgd, door databestanden gefilterd, een relevante angst. Maar in de dagelijkse realiteit (een sportcentrum in Ridderkerk of een snackbar in Heiloo, een braderie in Tilburg) is die science fiction ineens verdwenen. Dan gaat het gewoon om het probleem of het broodje beenham wel voordelig is geprijsd.

  5. 8

    Leuk voorbeeld: de OV-chip-kaart. Monsterlijk vehikel. Doet allerlei dingen wat je niet wilt als reiziger. Maar wie voert dat ding in? Een AI? Een cyborg? Een duistere organisatie die voor werelddominantie gaat?

    Ouderwetse bureaucratie. Waar Puik bang voor is, bestond al veel eerder. Laat-ie nog maar eens nalezen hoe ’t er aan toeging tijdens de franse revolutie, of de beeldenstorm.

  6. 9

    Grappige hobby; nieuwe angsten ontdekken. Wel eens een computer met gevoel, emoties en intuïtie gezien? Zolang ze dat niet hebben en niemand die ze bediend, blijft het niet meer als een uiterst handig hulpmiddel. Ach en alles valt te misbruiken.

  7. 11

    Marshall Brain heeft een behoorlijk vermakelijk verhaal (fictie) over deze materie geschreven. Met name het “slaaf van de machine” aspect komt daarin zeer realistisch aan de orde. Het is volgens mij alweer 10 jaar oud en is hier te lezen:

    http://marshallbrain.com/manna1.htm

    En veel mensen zijn al slaaf van een computer. Outbound callcenter medewerkers bijvoorbeeld doen gewoon precies wat hun computer zegt. Software engineers die bugs oplossen doen dat niet ongeregelmatig onder de regie van een complex computersysteem. Pakketbezorgers bepalen al lang niet meer zelf hun route en velen van ons kiezen ervoor om dat zelf ook niet meer te doen.

    Hoe dan ook, leest Manna!

  8. 13

    @ Thomas: goed geschreven stuk. Complimenten!

    Desondanks kan ik me wel enigszins vinden in de angsten van Puik en consorten. Mensen zijn uiteraard altijd de schuldigen bij het misbruiken van nieuwe technologie. Maar daarbij maakt de impact van die nieuwe technologie wel degelijk verschil. Met een kernwapen leg je nu eemaal meer mensen om dan met een katapult…

  9. 14

    Ik geloof vast dat Puik deskundig is als het om computers gaat, echter als er zonder blikken of blozen menselijke denkkracht en geheugencapciteit met computers vergeleken wordt, dan blijkt dat hij niets weet van het menselijk denken. Hoeveel geheugencapaciteit en proccesorsnelheid het ding ook heeft, eenvoudige propositielogica is genoeg om te kunnen voorspellen wat het ding in welk geval doet.
    De impact van nieuwe technologie ontstaat niet door de technische specificaties, maar door het gebruik en vooral de invloed op sociale interacties en sociale druk. Het is met name het laatste dat mensen slaaf van de machine dreigt te maken. Van groot belang is dat de keuze blijft om geen gebruik te maken van een bepaald informatiesysteem, maar zelf na te denken. Hoe minder het laatste gebeurd hoe minder bepaalde vaardigheden en capaciteiten zich ontwikkelen. b.v. de tomtom is heel praktisch, maar verhindert ontwikkeling van orientatievermogen.

  10. 15

    De intelligente computer bestaat al lang, alleen vereist zij een dagtaak van vele mensen aan onderhoud, geeft zij soms verschrikkelijk misleidende antwoorden, en kan zij niet reproduceren omdat zij een singulariteit is: een kloon zou al snel worden geassimileerd. Niemand weet waar zij begint, maar ik weet waar zij eindigt. Hier:

    http://www.shibumi.org/eoti.htm

  11. 16

    Leest die link van zmc!
    Luister ook niet naar het-in-hun-bol-geslagen hbo’ers… Meneer Puik is niet van gisteren, eerder eergisteren.

  12. 18

    Dit topic heeft een hoog Chriet Titulaer-gehalte. Die had het eind jaren 70 al over robots die ons huishoudelijk werk etc. zouden overnemen.