Niet zomaar lichaam en brein weggeven

OPINIE - Hoe we bij een steeds intiemere band met technologie, toch nog enige mate van eigen levenssfeer over kunnen houden, schrijft Rinie van Est.

Technologie nestelt  zich in hoog tempo tussen ons en in ons. Ze weet steeds meer over ons en  wordt meer ‘als ons’ – pardon, als wij. Een voorbeeld is de steeds kleinere computer: van desktop via laptop naar tablet en mobiel, binnenkort als bril (Google Glass), op termijn mogelijkerwijs als contactlens. Die verschuiving, van tafel via schoot en hand  naar neus en zelfs oog, laat zien hoe technologie in ons kruipt.

Via onze mobiel en straks onze computerbril, informeren we de buitenwereld voortdurend over onszelf: via GSM en GPS over waar we zijn, via sociale media over wat we doen, voelen, willen en vinden. Ooit was die informatie privé; nu is ze toegankelijk voor de hele wereld.

Niet zo lang geleden waren wetenschap en techniek vooral bezig de natuur buiten ons te doorgronden en te onderwerpen. De onderwerping van de  mens lieten ze grotendeels over aan  heersers en priesters. Dat is veranderd.

Die accentverschuiving van naar buiten gerichte naar op de mens gerichte technologie is voortgekomen uit een opmerkelijke ontwikkeling in de onderzoekswereld: de vervlechting van natuur- en levenswetenschappen.  De biologie en de cognitieve neurowetenschap hebben een ‘taal’ ontwikkeld om menselijke eigenschappen en  gedragingen op een natuurwetenschappelijke, kwantitatieve manier te beschrijven. Tegelijkertijd hebben nano- en informatietechnologie allerlei voorheen dure, bonkige apparaten, onder andere voor gegevensopslag, veel kleiner en goedkoper gemaakt. De rekenkracht die in 1969 mensen op de maan zette, dragen wij nu elke dag in onze broekzakken en handtassen, en staat straks op onze neus.

Biologie wordt technologie

Door de vervlechting van nanotechnologie, biologie, IT en cognitieve kennis (ook wel NBIC-convergentie genoemd) wordt biologie steeds meer technologie, en omgekeerd. Daardoor worden we steeds meer als machines gezien, die dus voor onderhoudsbeurten en reparatiewerk uit elkaar kunnen worden gehaald, en wie weet ook geüpgraded of anderszins verbeterd. Daardoor ook verandert de interactie tussen mensen, juist doordat machines zich steeds meer in onze privésfeer en ons sociale leven nestelen. En ten slotte worden machines almaar menselijker – of in ieder geval doen ingenieurs hun best om er menselijke trekjes in te  bouwen, zodat ze sociaal, emotioneel en wie weet zelfs moreel en liefdevol worden (de machines, niet de ingenieurs).

Maar hoe dichtbij mag technologie komen? Wanneer is technologie nog prettig intiem, wanneer wordt ze intimiderend en waar zouden we dus een grens moeten trekken?

Doofheid, evenwichtsstoornissen, depressiviteit, angsttrauma’s: voor steeds meer fysieke en mentale on-vermogens en kwalen bestaan er implantaten en pillen. Een opmerkelijk voorbeeld is de eyeborg, het im-plantaat van de kleurenblinde kunstenaar Neil Harbisson dat elke tint omzet in een geluid, met als gevolg dat hij nu kleuren hóórt. Overigens zijn de eyeborg en veel andere remedies ook bruikbaar om puntgave lichamen verder ‘op te voeren’. Zo gebruiken studenten ADHD-medicijnen als breindoping.

Berichtenstroom

Onze intieme relaties dreven van oudsher op praten: oog in oog, later ook per brief of telefonisch. Alleen in die contacten deelden we intimiteiten. Thans is praten nog maar één ontmoetingsvorm naast vele digitale varianten – met alle verwarring van dien. De berichtenstroom in de sociale media kan ons bovendien gemakkelijk van elk rustmoment beroven en ons het gevoel geven dat we nooit op de juiste plek zijn – we zien het beste altijd elders gebeuren.

Er komen consumenten-apps die gezichten herkennen, emoties analyseren en zulke gegevens koppelen aan onze Facebookprofielen. Als die straks in Google Glass zitten, worden we dus zélf van glas: computerbril-dragers kunnen zien wie we zijn, wat we doen, wie onze vrienden zijn en hoe we ons voelen. De commerciële  strijd om onze aandacht zal verhevigen. En aangezien aandacht een schaars goed is, gaat elk commercieel beslag daarop ten koste van andere aandachtsbestedingen. Het zakelijke zal ten koste gaan van nadenken over onze eigen zaken.

Effectief beïnvloeden

Applicaties en apparaten vervullen een toenemend aantal rollen die traditioneel aan de mens voorbehouden  waren: aan onszelf of aan een gespecialiseerde ander. Ik tuur meer naar buienradar dan naar de wolkenlucht. Pedoseksuele chatters menen een echt, tienjarig Filippijns meisje te zien in het ‘lokmeisje’ Sweetie, dat in werkelijkheid een geavanceerde avatar is. En dan is er nog Roxxxy, de vrouwvormige seksrobot met hartslag, vlotte babbel en vijf instelbare gedragsstijlen. Al deze producten zetten we nu nog aan en uit. Want naarmate apparaten toegang hebben tot meer data, onze fysieke signalen beter interpreteren en ons effectiever kunnen beïnvloeden, zullen ze beter in staat zijn ons bij te sturen. We hoeven onze reis niet meer te plannen met de OV- of navigatie-app. Immers, houden we tijd en plaats van onze afspraken netjes in onze agenda bij, dan zoekt Google Now automatisch de reisroute en geeft ons een seintje als de vertrektijd nadert. Het wachten is nog op de digitale assistent die bezorgd vraagt of we niet te moe zijn voor zo’n late afspraak.

Die ontwikkeling weerspiegelt tevens de trend naar apparaten met meer autonomie. Het Amerikaanse leger wil uiteindelijk drones bouwen die zélf het besluit tot doden nemen. En auto’s zonder chauffeur hebben, bij wijze van proef, al vele duizenden mijlen gereden op de openbare weg in Californië.

Bovenstaande veranderingen vormen een nieuwe stap in de ‘informatierevolutie’: de fase waarin informatietechnologie zich als intieme technologie ontpopt. Die ontwikkeling zal grote gevolgen hebben. Dat nu nog niemand kan zeggen wélke, is niet erg. Verontrustend is wel, dat we ook niet lijken te weten welke gevolgen we willen en welke juist niet.

De nieuwe grondstof voor de ‘informatierevolutie’, en dan met name in de ‘intiem- technologische revolutie’, zijn wij. Onze lijven, gedachten, gevoelens, voorkeuren, gesprekken; dát is waar intieme technologie gebruik van maakt.

Kind van de rekening

Toen de industriële revolutie als een stoomwals over Engeland en verder rolde, richtte ze enorme verwoestingen aan in twee productiefactoren: arbeid en land (natuur). Nu de informatierevolutie net zo snel en onstuitbaar over ons heen dendert, is er dan ook alle reden om te voorkomen dat háár belangrijkste productiefactor het nieuwe kind van de rekening wordt. Want nogmaals: dat zijn wij, met ons hele intieme hebben en houden.

Het is daarom van levensbelang dat we ditmaal wél bijtijds morele principes ontwikkelen om de nieuwe revolutie te kunnen –  nee, niet bestrijden, zeker niet. Maar wel bijsturen, in humane banen leiden, hier afremmen en daar juist aanjagen. Want dat is waar een moraal toe dient.

Tot nu toe doen we dat niet. We laten de zaken op hun beloop. We leggen ons lot argeloos, als naïeve marionetten, in de handen van de drijvende krachten achter intieme technologie.

In handen van de ‘techniekmakers’; de wetenschappers die alles onderzoeken wat ze willen weten, en de ingenieurs die alles bouwen wat ze kunnen bouwen. Als dat leidt tot autonome technologie (zelfstandig dodende drones), zullen zij niet uit zichzelf daarvan afzien.

In handen van de ‘winstmakers’; de besluitnemers bij bedrijven die zich hoofdzakelijk laten leiden door kwartaalcijfers, oftewel winstmaximalisatie en kortetermijndenken. Van adverteerders tot zorgverzekeraars, allemaal kunnen ze er geld mee verdienen.

In handen, ten slotte, van ‘de veiligheidsbewakers’. Heeft klokkenluider Edward Snowden niet weer eens bewezen dat de schijn van paranoia nog niet betekent dat ze in werkelijkheid niet achter je aan zitten?

Regisseur worden

Maar hoe worden we van marionetten tot regisseur? Dan moeten we erkennen dat de intiem-technologische revolutie niet alleen prettige kanten heeft. Want nu beseffen we ons alleen de kleine ongemakken, waar vooral beginners last van hebben: de spam en phishingmailtjes in onze postbus, de begripsverwarring tussen ‘vrienden’ en ‘Facebookvrienden’. Voor het overige zijn de meesten van ons toch vooral opgetogen over hoe handig en leuk het allemaal is, al die sociale media en apps en mogelijkheden.

Dat die tezamen een fundamentele verandering betekenen, een technologische revolutie die ons intieme leven bijna letterlijk binnenstebuiten keert en om een moreel antwoord vraagt, dát inzicht is nog geen gemeengoed. Niet bij de gebruikers, niet bij onze Nederlandse of Europese bestuurders. Maar zonder dat inzicht komt er geen debat en geen beleid. En zonder debat en beleid zijn we overgeleverd aan de grillen en visies van de techniekmakers, de winstmakers en de veiligheidsbewakers.

Daarom, laten we aanvaarden dat we cyborgs worden. Laten we erop toezien dat menselijke contacten waar machines ‘tussen zitten’, hun menselijke karakter behouden. En laten we machines met menselijke eigen-schappen zodanig inzetten dat de authentieke lichamelijke en geestelijke behoeften van mensen niet tekortkomen.

Let wel, acceptatie is geen blinde omarming. In veel gevallen hangt het van de toepassing af of een technologie mensen nieuwe, wenselijke keuzes geeft of hen juist inperkt en schaadt. Het verstandige gebruik van (intieme) technologieën kan vaak pas in een maatschappelijke praktijk ontstaan, op basis van debat en conflict.

Eigenwijs

Sensoren die een gevaarlijke emotionele ontlading van een psychiatrische patiënt zien aankomen, zodat hij tijdelijk geïsoleerd kan worden, kunnen veel narigheid voorkomen, ook voor de patiënt zelf. Waarom zou je dat afwijzen? Maar pas diezelfde technologie toe op kinderen met driftbuien, en het morele oordeel valt heel anders uit. Want in dat geval zijn we bezig kinderen in een keurslijf te stoppen, hen te domesticeren. Kinderen, en gezonde volwassenen in een democratie net zo goed, moeten juist een zekere mate van ‘wildheid’, van eigenwijsheid en speelsheid en lastige autonomie behouden.

Door ‘cyborg’-ontwikkelingen zonder meer af te wijzen, lopen we mogelijkheden mis die ons meer greep op  ons eigen leven kunnen geven. Maar door alle ontwikkelingen onnadenkend te omarmen, worden we tot brave hightech-marionetten die menen zichzelf te vervolmaken, maar vooral volmaakt uniform worden. Wilde cyborgs, dát moeten we worden.

Ook de media verdienen onze kritische aandacht. We zijn op minstens één punt ongelooflijk onnozel: we beseffen amper hoe grondig we worden bespioneerd. Privacy is een illusie aan het worden. De grootdatabezitters zeggen dat dat niet erg is, en veel gebruikers zeggen het ze na, ‘omdat ze toch niets te verbergen hebben’. Maar elke filosoof en psycholoog kan uitleggen dat dat onzin is; diezelfde mensen doen trouwens de wc-deur op slot en hangen (behalve in Amerika) hun inkomen niet aan de grote klok.

Er is de laatste jaren al te veel privacy verloren gegaan. In het nog jonge digitale tijdperk zijn we tot dusverre allemaal opgroeiende kinderen. Het wordt tijd dat we grote mensen worden, en onze kinderlijke aanvaarding van privacy- en autonomieverlies verruilen voor volwassen verzet.

Bovendien, door al dat spioneren kunnen adverteerders, sociale media en zoekmachines ons informatie aanbieden die ‘bij ons past’. Maar mogen we misschien zelf uitmaken wat bij ons past? Was keuzevrijheid  trouwens niet een centrale waarde van zowel de markteconomie als de democratie?

Always on

‘Informatie die bij ons past’ leidt onze aandacht van de alledaagse werkelijkheid naar een commerciële omgeving, waar elke contentaanbieder hem zo goed mogelijk probeert te monopoliseren. Op internet zijn commerciële uitingen al toegesneden op de gebruiker. Maar straks is internet always on. In de nabije toekomst zullen bedrijven via slimme telefoons, horloges en brillen – gewenst en ongewenst – steeds meer onze aandacht opeisen tijdens dagelijkse activiteiten, zoals shoppen, koken of hardlopen.

Het derde punt zijn machines met menselijke eigenschappen, zoals digitale coaches, realistische avatars  en – met name – robots. Is de virtuele wereld niet meer van echt te onderscheiden, dan dienen de wetten en  normen van de echte wereld daarin een plek te krijgen. Daarom is virtuele kinderporno in Nederland verboden en roept het Rode Kruis in oorlogsgames als Call of Duty de gamers op het oorlogsrecht na te leven. De  seksrobot en de zelfstandig dodende drone werden al genoemd, maar robots zullen op zeker moment ook zorgtaken aankunnen. Althans, in strikt praktische zin. Ik ben ervan overtuigd dat ze, bij gebrek aan authentieke aandacht en medeleven, de menselijke behoefte aan echte verzorging nooit zullen kunnen vervullen. Net zomin als Roxxxy, hoe ver ook doorontwikkeld, ooit de emotionele bevrediging kan geven van een vrijpartij met een mens.

Zulke individuele en maatschappelijke behoeften moeten altijd het uitgangspunt blijven. Voor alle vormen van intieme technologie.

Rinie van Est is coördinator Technology Assessment bij het Rathenau Instituut. Van zijn hand verscheen onlangs het essay Intieme technologie – de slag om ons lichaam en gedrag.

  1. 1

    Daarom, laten we aanvaarden dat we cyborgs worden.

    Ik weet dat nog niet.
    Je hebt me niet overtuigd.

    Overigens is deze problematiek natuurlijk in het verleden al vaker overdacht zij het dan in meestal symbolische termen. Het is niet voor niets dat het symbolisme als stroming zo na 1850 ontstond als reactie op de krachten die waren losgemaakt door de industriële revolutie.

    En als voorbeelden kun je zien : Faust (Goethe), Ring des Nibelungen (Wagner), Mariken van Nimwegen (Anonymous – die naam mag je vandaag de dag interpreteren :).

    Het pakt met de duivel komt vaker voor natuurlijk. Als je daar de religieuze schil vanaf haalt kun je dat eenvoudig vertalen naar mens versus technologie.

    En last but not least : de boeken van Isaac Asimov.

    Och och, er is al zoveel gedacht en geschreven. Moeten we dat nou allemaal over gaan doen? Eerst even kijken wat ze ooit gedacht hebben over dit soort problematiek.

  2. 2

    Virtuele kinderporno is niet verboden omdat het niet van echt zou zijn te onderscheiden maar omdat het tegen de ‘beschermwaardigheid’ van kinderen ingaat.

    Daarmee wordt bedoeld dat kinderen moeten worden beschermd tegen beeldmateriaal dat seksueel misbruik suggereert, tegen gedrag dat kan worden gebruikt om kinderen aan te moedigen of te verleiden om deel te nemen aan seksueel gedrag en tegen gedrag dat deel kan uit gaan maken van een subcultuur die seksueel misbruik van kinderen bevordert.

    http://wetten.overheid.nl/BWBR0029009/geldigheidsdatum_22-08-2011

    5.2.1. Beschermd belang

    Uit de wetsgeschiedenis rondom de jaren 2001 en 2002 lijkt op te maken te zijn dat de wetgever destijds het oog had op het beperken van de strafbaarstelling van virtuele kinderporno totrealistische, niet van echt te onderscheiden afbeeldingen en daarbij overduidelijke ‘schilderijen, tekeningen, cartoons en strips’ van strafbaarheid heeft willen uitzonderen. Het ging de wetgever er om dat de ‘creatieve uitingen van de menselijke geest niet onnodig gebreideld’ werden en geen inbreuk gemaakt werd op de grondrechten op de persoonlijke levenssfeer en vrijheid van meningsuiting.

    Deze beperking raakt evenwel het eveneens in de wetsgeschiedenis geformuleerde uitgangspunt van de beschermwaardigheid van kinderen in zijn algemeenheid tegen beeldmateriaal dat seksueel misbruik suggereert, gedrag dat kan worden gebruikt om kinderen aan te moedigen of te verleiden om deel te nemen aan seksueel gedrag en gedrag dat deel kan gaan uitmaken van een subcultuur die seksueel misbruik van kinderen bevordert. Het aldus omschreven belang van kinderen is onverminderd groot in gevallen waarin de virtuele afbeeldingen in mindere mate realistisch zijn. Ook afbeeldingen die niet evident levensecht zijn, kunnen bijvoorbeeld seksueel misbruik van kinderen suggereren of deel uitmaken van een subcultuur die seksueel misbruik van kinderen bevordert.

  3. 3

    “Via onze mobiel en straks onze computerbril, informeren we de buitenwereld voortdurend over onszelf: via GSM en GPS over waar we zijn, via sociale media over wat we doen, voelen, willen en vinden.”

    Dara ben je zelf bij; schaf de apparatuur simpelweg niet aan en het gebeurt niet. Zolang de bevolking braaf in de rij staat om aan te schaffen, wat de machthebbers ze voorschrijven, komt dit toekomstscenario uit; anders niet.

    Een interessant boek over deze materie is overigens “From Gondishapur to Silicon Valley” van Paul T. Emerson. Hij beschrijft hoe de informatisering en digitalisering al eeuwen an de gang is en dat bijvoorbeeld het automatisch weefgetouw ook al een voorbode is daarvan.

  4. 4

    Als docent sociale media krijg ik nog wel eens de opmerking: ‘Ja maar, ik wil niet dat mensen via Facebook alles kunnen lezen wat ik doe!’ Het antwoord is eenvoudig: zet niet alles wat je doet op Facebook. Bang dat je dmv GPS in je mobiel gevonden wordt? Zet het on/off schuifje bij de instellingen op ‘off’. Bang dat je mobieltje in de toiletpot valt? Neem je mobiel niet mee het toilet in! ;-)

  5. 5

    @3:

    Dat is nu nog een keuze, maar dat kan veranderen. 15 jaar geleden kon je al getraceerd worden via je mobieltje. “Gewoon uitzetten wanneer je hem niet gebruikt of gewoon helemaal niet kopen” kon je toen nog denken, maar probeer tegenwoordig maar eens een baan te houden zonder mobieltje…

    Het is niet de technologie zelf die het probleem is en ook niet een idnividuele gebruiker. Als maatschappij moet je maatregelen nemen om te zorgen dat niet meteen iedere technologie die het leven makkelijker maakt wordt aangegrepen door de markt om de productiviteit te verhogen, tenminste als dat de wil van het volk is. Natuurlijk moeten we nu wel de productiviteit opvoeren omdat anders alle banen uit Nederland verdwijnen, maar over een paar decennia vervalt dat probleem en moeten politici, vakbondsleiders, etc… duidelijk het volk de keuze geven tussen meer gemak (meer vrije tijd, rustiger leefritme, meer privacy, minder stress en stress-gerelateerde problemen) en meer productiviteit (dus meer goederen en diensten, minder privacy, meer geavanceerde medische zorg) en ook benadrukken dat het een ten koste gaat van het ander.

  6. 6

    @0

    “Overigens zijn de eyeborg en veel andere remedies ook bruikbaar om puntgave lichamen verder ‘op te voeren’.”

    Dat wordt hier tussendoor even genoemd maar is een fundamenteel probleem waar we straks tegen aan zullen lopen. Wat doen we als de rijken zichzelf gaan upgraden? Zullen gewelddadige bendes van criminelen of wanhopige armen upgrades stelen? Kunnen we verbieden dat de rijken zichzelf tot een superras maken en kunnen we dat verbod handhaven, of kunnen we ervoor zorgen dat de verschillen in inkomen klein genoeg worden om het probleem binnen de perken te houden?

  7. 7

    @0: Met ‘we’ en ‘ons’ bedoel je toch zeker iedereen bij het Rathenau Instituut? Ik zou zo zeggen: wordt eerst mens, en daarna pas cyborg als het echt niet anders kan. Trouwens ook nog aan de energiekosten gedacht? En als al die informatie naar je toe wordt gebracht, is het dan ook nog de bedoeling dat je die informatie moet gaan onthouden? Ik denk dat ik die robots het bos in stuur. Ik heb al vrienden.

    En dan: ‘Sensoren die een gevaarlijke emotionele ontlading van een psychiatrische patiënt zien aankomen, zodat hij tijdelijk geïsoleerd kan worden, kunnen veel narigheid voorkomen, ook voor de patiënt zelf.’
    En daar heb jij precies de spijker op zijn kop geslagen. Mensen zijn eng en moeten geautomatiseerd ertussenuit geplukt kunnen worden. Knikker ze maar in een isolatiecel, dan ben je er vanaf. Wel eens met een psychiater gesproken? Want ik vrees dat al die gedroomde techno-oplossingen de voortekenen van schizofrenie zijn. Je hebt al een aardig inkijkje in je bovenkamer getoond en dat wordt in de toekomst alleen maar erger. Bestel maar vast wat nieuwe onderdelen. Dat kan een boel narigheid voorkomen.

  8. 8

    Ik vind het een warrig stuk over een veel te breed onderwerp. Schrijver doet veel aannames en legt erg makkelijk verbanden die er misschien helemaal niet zijn of alleen in zijn hoofd. Meer discussie graag en minder conclusie.
    Wél een belangrijk thema, daar niet van. Overigens vind ik naar bovenstaanden gekeken hebbende, zo’n beetje hetzelfde. Eigen keus, Als iemand met zo’n bril voor je staat, deze persoon aanspreken en een beroep doen op moraliteit. “Ik wil dit niet” en “waarom doe jij dit bij mij ?”
    Als dit allemaal niet meer kan ivm mindcontrol en zo, dan hebben we idd een probleem.