Niet zomaar lichaam en brein weggeven

OPINIE - Hoe we bij een steeds intiemere band met technologie, toch nog enige mate van eigen levenssfeer over kunnen houden, schrijft Rinie van Est.

Technologie nestelt  zich in hoog tempo tussen ons en in ons. Ze weet steeds meer over ons en  wordt meer ‘als ons’ – pardon, als wij. Een voorbeeld is de steeds kleinere computer: van desktop via laptop naar tablet en mobiel, binnenkort als bril (Google Glass), op termijn mogelijkerwijs als contactlens. Die verschuiving, van tafel via schoot en hand  naar neus en zelfs oog, laat zien hoe technologie in ons kruipt.

Via onze mobiel en straks onze computerbril, informeren we de buitenwereld voortdurend over onszelf: via GSM en GPS over waar we zijn, via sociale media over wat we doen, voelen, willen en vinden. Ooit was die informatie privé; nu is ze toegankelijk voor de hele wereld.

Niet zo lang geleden waren wetenschap en techniek vooral bezig de natuur buiten ons te doorgronden en te onderwerpen. De onderwerping van de  mens lieten ze grotendeels over aan  heersers en priesters. Dat is veranderd.

Die accentverschuiving van naar buiten gerichte naar op de mens gerichte technologie is voortgekomen uit een opmerkelijke ontwikkeling in de onderzoekswereld: de vervlechting van natuur- en levenswetenschappen.  De biologie en de cognitieve neurowetenschap hebben een ‘taal’ ontwikkeld om menselijke eigenschappen en  gedragingen op een natuurwetenschappelijke, kwantitatieve manier te beschrijven. Tegelijkertijd hebben nano- en informatietechnologie allerlei voorheen dure, bonkige apparaten, onder andere voor gegevensopslag, veel kleiner en goedkoper gemaakt. De rekenkracht die in 1969 mensen op de maan zette, dragen wij nu elke dag in onze broekzakken en handtassen, en staat straks op onze neus.

Biologie wordt technologie

Door de vervlechting van nanotechnologie, biologie, IT en cognitieve kennis (ook wel NBIC-convergentie genoemd) wordt biologie steeds meer technologie, en omgekeerd. Daardoor worden we steeds meer als machines gezien, die dus voor onderhoudsbeurten en reparatiewerk uit elkaar kunnen worden gehaald, en wie weet ook geüpgraded of anderszins verbeterd. Daardoor ook verandert de interactie tussen mensen, juist doordat machines zich steeds meer in onze privésfeer en ons sociale leven nestelen. En ten slotte worden machines almaar menselijker – of in ieder geval doen ingenieurs hun best om er menselijke trekjes in te  bouwen, zodat ze sociaal, emotioneel en wie weet zelfs moreel en liefdevol worden (de machines, niet de ingenieurs).

Maar hoe dichtbij mag technologie komen? Wanneer is technologie nog prettig intiem, wanneer wordt ze intimiderend en waar zouden we dus een grens moeten trekken?

Doofheid, evenwichtsstoornissen, depressiviteit, angsttrauma’s: voor steeds meer fysieke en mentale on-vermogens en kwalen bestaan er implantaten en pillen. Een opmerkelijk voorbeeld is de eyeborg, het im-plantaat van de kleurenblinde kunstenaar Neil Harbisson dat elke tint omzet in een geluid, met als gevolg dat hij nu kleuren hóórt. Overigens zijn de eyeborg en veel andere remedies ook bruikbaar om puntgave lichamen verder ‘op te voeren’. Zo gebruiken studenten ADHD-medicijnen als breindoping.

Berichtenstroom

Onze intieme relaties dreven van oudsher op praten: oog in oog, later ook per brief of telefonisch. Alleen in die contacten deelden we intimiteiten. Thans is praten nog maar één ontmoetingsvorm naast vele digitale varianten – met alle verwarring van dien. De berichtenstroom in de sociale media kan ons bovendien gemakkelijk van elk rustmoment beroven en ons het gevoel geven dat we nooit op de juiste plek zijn – we zien het beste altijd elders gebeuren.

Er komen consumenten-apps die gezichten herkennen, emoties analyseren en zulke gegevens koppelen aan onze Facebookprofielen. Als die straks in Google Glass zitten, worden we dus zélf van glas: computerbril-dragers kunnen zien wie we zijn, wat we doen, wie onze vrienden zijn en hoe we ons voelen. De commerciële  strijd om onze aandacht zal verhevigen. En aangezien aandacht een schaars goed is, gaat elk commercieel beslag daarop ten koste van andere aandachtsbestedingen. Het zakelijke zal ten koste gaan van nadenken over onze eigen zaken.

Effectief beïnvloeden

Applicaties en apparaten vervullen een toenemend aantal rollen die traditioneel aan de mens voorbehouden  waren: aan onszelf of aan een gespecialiseerde ander. Ik tuur meer naar buienradar dan naar de wolkenlucht. Pedoseksuele chatters menen een echt, tienjarig Filippijns meisje te zien in het ‘lokmeisje’ Sweetie, dat in werkelijkheid een geavanceerde avatar is. En dan is er nog Roxxxy, de vrouwvormige seksrobot met hartslag, vlotte babbel en vijf instelbare gedragsstijlen. Al deze producten zetten we nu nog aan en uit. Want naarmate apparaten toegang hebben tot meer data, onze fysieke signalen beter interpreteren en ons effectiever kunnen beïnvloeden, zullen ze beter in staat zijn ons bij te sturen. We hoeven onze reis niet meer te plannen met de OV- of navigatie-app. Immers, houden we tijd en plaats van onze afspraken netjes in onze agenda bij, dan zoekt Google Now automatisch de reisroute en geeft ons een seintje als de vertrektijd nadert. Het wachten is nog op de digitale assistent die bezorgd vraagt of we niet te moe zijn voor zo’n late afspraak.

Die ontwikkeling weerspiegelt tevens de trend naar apparaten met meer autonomie. Het Amerikaanse leger wil uiteindelijk drones bouwen die zélf het besluit tot doden nemen. En auto’s zonder chauffeur hebben, bij wijze van proef, al vele duizenden mijlen gereden op de openbare weg in Californië.

Bovenstaande veranderingen vormen een nieuwe stap in de ‘informatierevolutie’: de fase waarin informatietechnologie zich als intieme technologie ontpopt. Die ontwikkeling zal grote gevolgen hebben. Dat nu nog niemand kan zeggen wélke, is niet erg. Verontrustend is wel, dat we ook niet lijken te weten welke gevolgen we willen en welke juist niet.

De nieuwe grondstof voor de ‘informatierevolutie’, en dan met name in de ‘intiem- technologische revolutie’, zijn wij. Onze lijven, gedachten, gevoelens, voorkeuren, gesprekken; dát is waar intieme technologie gebruik van maakt.

Kind van de rekening

Toen de industriële revolutie als een stoomwals over Engeland en verder rolde, richtte ze enorme verwoestingen aan in twee productiefactoren: arbeid en land (natuur). Nu de informatierevolutie net zo snel en onstuitbaar over ons heen dendert, is er dan ook alle reden om te voorkomen dat háár belangrijkste productiefactor het nieuwe kind van de rekening wordt. Want nogmaals: dat zijn wij, met ons hele intieme hebben en houden.

Het is daarom van levensbelang dat we ditmaal wél bijtijds morele principes ontwikkelen om de nieuwe revolutie te kunnen –  nee, niet bestrijden, zeker niet. Maar wel bijsturen, in humane banen leiden, hier afremmen en daar juist aanjagen. Want dat is waar een moraal toe dient.

Tot nu toe doen we dat niet. We laten de zaken op hun beloop. We leggen ons lot argeloos, als naïeve marionetten, in de handen van de drijvende krachten achter intieme technologie.

In handen van de ‘techniekmakers’; de wetenschappers die alles onderzoeken wat ze willen weten, en de ingenieurs die alles bouwen wat ze kunnen bouwen. Als dat leidt tot autonome technologie (zelfstandig dodende drones), zullen zij niet uit zichzelf daarvan afzien.

In handen van de ‘winstmakers’; de besluitnemers bij bedrijven die zich hoofdzakelijk laten leiden door kwartaalcijfers, oftewel winstmaximalisatie en kortetermijndenken. Van adverteerders tot zorgverzekeraars, allemaal kunnen ze er geld mee verdienen.

In handen, ten slotte, van ‘de veiligheidsbewakers’. Heeft klokkenluider Edward Snowden niet weer eens bewezen dat de schijn van paranoia nog niet betekent dat ze in werkelijkheid niet achter je aan zitten?

Regisseur worden

Maar hoe worden we van marionetten tot regisseur? Dan moeten we erkennen dat de intiem-technologische revolutie niet alleen prettige kanten heeft. Want nu beseffen we ons alleen de kleine ongemakken, waar vooral beginners last van hebben: de spam en phishingmailtjes in onze postbus, de begripsverwarring tussen ‘vrienden’ en ‘Facebookvrienden’. Voor het overige zijn de meesten van ons toch vooral opgetogen over hoe handig en leuk het allemaal is, al die sociale media en apps en mogelijkheden.

Dat die tezamen een fundamentele verandering betekenen, een technologische revolutie die ons intieme leven bijna letterlijk binnenstebuiten keert en om een moreel antwoord vraagt, dát inzicht is nog geen gemeengoed. Niet bij de gebruikers, niet bij onze Nederlandse of Europese bestuurders. Maar zonder dat inzicht komt er geen debat en geen beleid. En zonder debat en beleid zijn we overgeleverd aan de grillen en visies van de techniekmakers, de winstmakers en de veiligheidsbewakers.

Daarom, laten we aanvaarden dat we cyborgs worden. Laten we erop toezien dat menselijke contacten waar machines ‘tussen zitten’, hun menselijke karakter behouden. En laten we machines met menselijke eigen-schappen zodanig inzetten dat de authentieke lichamelijke en geestelijke behoeften van mensen niet tekortkomen.

Let wel, acceptatie is geen blinde omarming. In veel gevallen hangt het van de toepassing af of een technologie mensen nieuwe, wenselijke keuzes geeft of hen juist inperkt en schaadt. Het verstandige gebruik van (intieme) technologieën kan vaak pas in een maatschappelijke praktijk ontstaan, op basis van debat en conflict.

Eigenwijs

Sensoren die een gevaarlijke emotionele ontlading van een psychiatrische patiënt zien aankomen, zodat hij tijdelijk geïsoleerd kan worden, kunnen veel narigheid voorkomen, ook voor de patiënt zelf. Waarom zou je dat afwijzen? Maar pas diezelfde technologie toe op kinderen met driftbuien, en het morele oordeel valt heel anders uit. Want in dat geval zijn we bezig kinderen in een keurslijf te stoppen, hen te domesticeren. Kinderen, en gezonde volwassenen in een democratie net zo goed, moeten juist een zekere mate van ‘wildheid’, van eigenwijsheid en speelsheid en lastige autonomie behouden.

Door ‘cyborg’-ontwikkelingen zonder meer af te wijzen, lopen we mogelijkheden mis die ons meer greep op  ons eigen leven kunnen geven. Maar door alle ontwikkelingen onnadenkend te omarmen, worden we tot brave hightech-marionetten die menen zichzelf te vervolmaken, maar vooral volmaakt uniform worden. Wilde cyborgs, dát moeten we worden.

Ook de media verdienen onze kritische aandacht. We zijn op minstens één punt ongelooflijk onnozel: we beseffen amper hoe grondig we worden bespioneerd. Privacy is een illusie aan het worden. De grootdatabezitters zeggen dat dat niet erg is, en veel gebruikers zeggen het ze na, ‘omdat ze toch niets te verbergen hebben’. Maar elke filosoof en psycholoog kan uitleggen dat dat onzin is; diezelfde mensen doen trouwens de wc-deur op slot en hangen (behalve in Amerika) hun inkomen niet aan de grote klok.

Er is de laatste jaren al te veel privacy verloren gegaan. In het nog jonge digitale tijdperk zijn we tot dusverre allemaal opgroeiende kinderen. Het wordt tijd dat we grote mensen worden, en onze kinderlijke aanvaarding van privacy- en autonomieverlies verruilen voor volwassen verzet.

Bovendien, door al dat spioneren kunnen adverteerders, sociale media en zoekmachines ons informatie aanbieden die ‘bij ons past’. Maar mogen we misschien zelf uitmaken wat bij ons past? Was keuzevrijheid  trouwens niet een centrale waarde van zowel de markteconomie als de democratie?

Always on

‘Informatie die bij ons past’ leidt onze aandacht van de alledaagse werkelijkheid naar een commerciële omgeving, waar elke contentaanbieder hem zo goed mogelijk probeert te monopoliseren. Op internet zijn commerciële uitingen al toegesneden op de gebruiker. Maar straks is internet always on. In de nabije toekomst zullen bedrijven via slimme telefoons, horloges en brillen – gewenst en ongewenst – steeds meer onze aandacht opeisen tijdens dagelijkse activiteiten, zoals shoppen, koken of hardlopen.

Het derde punt zijn machines met menselijke eigenschappen, zoals digitale coaches, realistische avatars  en – met name – robots. Is de virtuele wereld niet meer van echt te onderscheiden, dan dienen de wetten en  normen van de echte wereld daarin een plek te krijgen. Daarom is virtuele kinderporno in Nederland verboden en roept het Rode Kruis in oorlogsgames als Call of Duty de gamers op het oorlogsrecht na te leven. De  seksrobot en de zelfstandig dodende drone werden al genoemd, maar robots zullen op zeker moment ook zorgtaken aankunnen. Althans, in strikt praktische zin. Ik ben ervan overtuigd dat ze, bij gebrek aan authentieke aandacht en medeleven, de menselijke behoefte aan echte verzorging nooit zullen kunnen vervullen. Net zomin als Roxxxy, hoe ver ook doorontwikkeld, ooit de emotionele bevrediging kan geven van een vrijpartij met een mens.

Zulke individuele en maatschappelijke behoeften moeten altijd het uitgangspunt blijven. Voor alle vormen van intieme technologie.

Rinie van Est is coördinator Technology Assessment bij het Rathenau Instituut. Van zijn hand verscheen onlangs het essay Intieme technologie – de slag om ons lichaam en gedrag.