Nieuwe techniek, nieuwe kwetsbaarheden

ANALYSE - Nieuwe technologiën brengen nieuwe risico’s met zich mee. We worden dus niet minder kwetsbaar, maar anders kwetsbaar, betoogt filosoof Mark Coeckelbergh. Dat is geen reden om op te houden met wetenschap en het ontwikkelen van techniek. Wel is ethische en politieke reflectie gewenst.

Mensen hebben altijd pogingen gedaan om met wetenschap en techniek risico’s te verminderen en zich minder kwetsbaar te maken. Om ons te beschermen hebben we huizen gebouwd en wapens ontwikkeld. Om minder afhankelijk te zijn van jagen en verzamelen zijn we met landbouw begonnen. Nieuwe manieren om ons voedsel te bereiden bleken veiliger te zijn. We zijn gaan sparen en hebben verzekeringen ontwikkeld om ons in te dekken tegen risico’s. Met de geneeskunde proberen we ons minder kwetsbaar te maken voor ziektes. Onze auto’s proberen we niet alleen zuiniger, maar ook steeds veiliger te maken. Onze materiële cultuur is erop gericht om de kwetsbaarheid van het menselijke bestaan te verminderen.

In mijn recente boek Human Being @ Risk beargumenteer ik echter dat deze pogingen nooit helemaal slagen omdat ze telkens opnieuw nieuwe kwetsbaarheden creëren. De contingenties van de jacht zijn vervangen door de wisselvalligheden waarvan de landbouw afhankelijk is. Nieuwe voedingspatronen brengen nieuwe (welvaarts)ziektes met zich mee. Nieuwe wapens brengen ook weer nieuwe antiwapens voort, waardoor een wedloop ontstaat die tot nieuwe risico’s leidt. Financiële systemen zijn ook bijzonder kwetsbaar: er blijkt weinig nodig te zijn om het vertrouwen waarop deze systemen zijn gebouwd te laten instorten, en hedendaagse financiële transacties zijn volledig afhankelijk van altijd kwetsbare computersystemen en netwerken. Antibiotica brengt met zich mee dat bacteriën er resistent tegen worden. Auto’s krijgen wel meer veiligheidsvoorzieningen, maar nodigen ook weer uit tot sneller rijden.

De moderne mens is niet noodzakelijk minder, maar wel ánders kwetsbaar

Uiteindelijk worden oude risico’s dus vervangen door nieuwe risico’s. We zijn daardoor wellicht minder overgeleverd aan de wispelturigheden van wat we ‘de natuur’ zijn gaan noemen, maar de antikwetsbaarheidsstructuren die ons moesten beschermen blijken zelf ook weer nieuwe problemen te creëren. Hierdoor is ons bestaan aan nieuwe, door wetenschap en technologie tot stand gebrachte risico’s blootgesteld. De moderne mens is dus niet noodzakelijk minder, maar wel ánders kwetsbaar.

Dit geldt ook voor nieuwe ontwikkelingen in de informatica, de biogenetica en de nanotechnologie, die de belofte inhouden dat ze de mens zouden kunnen veranderen – ‘human enhancement’ – in een minder kwetsbaar wezen. Het lijkt alsof we door informatietechnologie kunnen ontsnappen naar een risicoloze wereld, waar onze geest verlost is van de lichamelijke beperkingen en fysieke risico’s die ons huidige bestaan met zich meebrengt. Het lijkt alsof de genetica in staat zal zijn een nieuwe mens te creëren die minder vatbaar is voor de enge ziektes die ons nu boven het hoofd hangen. De nanotechnologen beloven ons dat als we ons lichaam maar openstellen voor de kleinste technologie er dan veel meer mogelijkheden zijn om ziektes op te sporen en te lijf te gaan.

In cyberspace worden biologische virussen vervangen door computervirussen

Het zijn beloftes die niet alleen doen denken aan de moderne idee van de  (volledig) maakbare mens, maar ook appelleren aan het Platonische verlangen om ons te bevrijden van het lichaam en het oude verlangen naar onkwetsbaarheid en onsterfelijkheid dat ook in onze religies leeft. Uiteraard hoeden de meeste wetenschappers zich ervoor om zich aan deze doelen te verbinden en zelfs diegene die ze onderschrijven zullen terecht wijzen op de beperkingen van wat nu en in de nabije toekomst mogelijk is. Het gaat hier om een interpretatie van de bredere culturele betekenis van hedendaagse wetenschap en techniek.

Maar zelfs als in de toekomst ook maar een klein gedeelte van deze beloftes kunnen worden waargemaakt, zullen er altijd weer nieuwe kwetsbaarheden ontstaan. Ook nu al gaan we steeds meer op in de elektronische netwerken en informatiestromen die ons bestaan vormgeven, maar dit heeft vooralsnog niet geleid tot minder kwetsbaarheid. In cyberspace worden biologische virussen vervangen door computervirussen. Criminele organisaties en overheden (in de politieke filosofie maken sommigen weinig verschil tussen beide, maar dit terzijde) kunnen ons veel schade berokkenen door onze groeiende afhankelijkheid van het internet uit te buiten. Wat we op het internet doen blijkt zichtbaar te zijn voor mensen die we niet kennen en die zichzelf onzichtbaar maken. Het sparen in een oude sok is vervangen door e-bankieren, dat kwetsbaarder blijkt dan we dachten. Het pesten in de ‘echte’ sociale omgeving is vervangen door pesten via sociale netwerken. Alle systemen die van levensbelang zijn voor onze samenleving en onze economie blijken totaal afhankelijk van informatietechnologie, denk maar aan water- en energievoorziening of communicatie. In het begin van de 21ste eeuw zijn we nog bang voor bommen, maar in het licht van ontwikkelingen in de informatica lijkt het erop dat het meest afschrikwekkende nog moet komen: cyberterrorisme. Hoe meer we verweven raken met en in het web, hoe meer deze nieuwe antikwetsbaarheidsstructuur ook weer nieuwe risico’s en kwetsbaarheden genereert.

Als er iets misgaat met de techniek, dan gaat er ook iets mis met ons

Hetzelfde staat te gebeuren met de in het vooruitzicht gestelde genetische en nanotechnologische verbouwingen van ons lichaam. Terwijl we onze biologische huid uitbreiden met een digitale buitenkant – een minstens even kwetsbare ‘grens’, ‘poort’ en ‘gezicht’ – gaan we ook steeds meer de binnenkant aanpakken, tot we een genetisch sterkere soort worden en misschien wel in de richting opschuiven van een soort ‘cyborg’: half mens, half machine. Ook nu al heeft de geneeskunde onze levensverwachting verlengd en biedt de medische technologie allerlei apparaten aan die ons biologische lichaam herstellen en ‘updaten’. De nieuwe mens is er al. Maar als we meer afhankelijk worden van de techno-sociale structuren van de geneeskunde, als we niet meer zonder de pillen en de hightech kunnen, dan zijn we niet noodzakelijk minder kwetsbaar.

Onze kwetsbaarheid wordt nu al vormgegeven door de wetenschappelijke en technologische krukken waarmee we proberen om wat langer door het leven te strompelen, zoals medicatie en apparaten die ons doorlichten. Deze zijn niet zonder risico: we worden er afhankelijk van en als er iets misgaat met de techniek, dan gaat er ook iets mis met ons. In de toekomst zal dit risico waarschijnlijk enkel toenemen. Draadloos verbonden met het internet zullen onze met Wi-Fi toegeruste breinen en door nanobots onderhouden lijven dan wellicht nog heel wat meer jaren voortschuifelen en mogelijk een graad van verwevenheid met techniek bereiken waarbij pacemakers en beenprothesen ons als prehistorisch voorkomen. Maar dat zou dan ook betekenen dat dat er nieuwe risico’s zijn, risico’s die te maken hebben met bijvoorbeeld software en systeembeheer. We zijn dan niet minder kwetsbaar, maar op een andere wijze kwetsbaar. Deze evolutie is op zich niet nieuw: het lijkt onvermijdelijk verbonden te zijn met de ontwikkeling van techniek. Er zijn steeds weer nieuwe Achilleshielen.

Het liefst willen we dat wetenschap en techniek ons leven en samenleven verbeteren. We moeten echter niet de illusie hebben dat dit verbeteren ons bestaan als geheel minder kwetsbaar maakt. We zullen steeds weer nieuwe risico’s creëren. Dat is geen reden om op te houden met wetenschap en met het ontwikkelen van techniek. Wel is het een aansporen om voor, tijdens en na dat onderzoeken, ontwikkelen en innoveren ook steeds aandacht te hebben voor de ethische en sociale aspecten ervan, en met name na te denken over de mogelijke nieuwe risico’s die een welbepaalde techniek zou kunnen hebben en met elkaar te praten over welke soort kwetsbaarheid – dat wil zeggen welk soort mens – we willen.

Mark Coeckelbergh is als filosoof verbonden aan de Universiteit Twente en hij is managing director van het 3TU Centre for Ethics and Technology. In zijn nieuwe boek Human Being @ Risk onderzoekt hij de relatie tussen kwetsbaarheid en technologie en gaat hij in op de discussie over ‘human enhancement’.

Dit artikel verscheen eerder op Sociale Vraagstukken.

  1. 1

    Of neem de zich steeds verder ontwikkelende technologie van 3D- printing. Kan op termijn misschien zelfs het voedselprobleem oplossen maar kan daarnaast allerlei neveneffecten genereren (zoals het eenvoudig printen van handvuurwapens); defensie zit er al vuistdiep in overigens:

    3D Systems — the world’s largest 3D printing technology company — has a grant from the U.S. Air Force to help get the service’s next jet, the F-35, to 900 3D printed parts.

    Op het moment dat ik deze comment opsla zie ik in de waan van de dag hier zelfs een post van. (“succesvolle 3D print van wapen”

  2. 2

    @2:

    Kwetsbaarheden definiëren is altijd nog beter dan het betuigen van Dankbaar(heid) toen “we” allemaal nog tot de huig in de religieuze sector zaten en ons alles maar lieten aanpraten.

    Ik zou er reuze Dankbaar van kunnen worden als dat tot je zou doordringen…weerzinwekkende klootzak.

  3. 3

    “Mensen hebben altijd pogingen gedaan om .. zich minder kwetsbaar te maken”

    De schrijver geeft een onjuist beeld van de gedrevenheid naar (de toepassing van) nieuwe techniek. Toenemende mobiliteit vergroot juist de kwetsbaarheid om sneller en dus verder te reizen.

  4. 4

    Tja, als je je afhankelijk laat maken van al die moderne technieken, ben je per definitie kwetsbaar. Als je niet leert lopen door vallen en opstaan maar met allerlei hulpmiddeltjes dat vallen voorkomt en de stroom valt plotseling uit, ligt de hele wereld op zijn gat inclusief jij. En wie helpt wie dan overeind? En als je last hebt van doodsangst, zul je je dag in dag uit realiseren dat magere Hein op iedere hoek van de straat op je staat te wachten. Uiteindelijk is er geen ontkomen aan. En zo trok je leven aan je voorbij zonder ook maar een moment er van te hebben kunnen genieten. Oh, ik wil de straat oversteken, even mijn wifi-implantaat raadplegen of dit wel het goede moment is. Oh, stak ik wel snel genoeg over? Wellicht even een paar bionische benen bestellen.
    Kortom, we kunnen ons beter afvragen of we al die troep wel nodig hebben om te kunnen bestaan en/of een goed leven te leven. Echte verbetering zit er inderdaad niet in en kwetsbaarheid is onvermijdelijk. En dat wat we ‘social media’ noemen maakt ons echt niet socialer. Oh wacht, asociaal is ook een soort sociaal toch? Al die prachtige technologische produkten en vergezichten hebben een uitstraling die de werkelijkheid niet dekken. Gisteren niet, vandaag niet en morgen niet. Alleen voor fetisjisten die op cyborg geilen is een gouden toekomst weggelegd.

  5. 6

    In mijn boek ‘De voordelen van technologie’ kunt u lezen hoe technologie ervoor heeft gezorgd dat de levensverwachting van de mens bijna verdrievoudigd is.

  6. 7

    @1: Iedereen kan thuis wapens maken, zo bijzonder is dat niet. Het is zelfs al sinds mensenheugenis mogelijk om iemand met een steen de hersens in te slaan.
    Overigens is het wapen waar je het over hebt geprint met een printer zo duur als een huis. Het is dus makkelijker en goedkoper en sneller (een 3D print duurt uren) om naar de winkel (of een vage kennis) te gaan en daar een wapen te kopen.
    De succesvolle print van een wapen is dus vooral waan van de dag maar niet iets om je druk over te maken.

    Techniek op het gebied van biologie en privacy(schending) lijken me eerder punten van aandacht.

  7. 8

    @11: Mmm in een ander artikel lees ik dat de printer $8000 kost. Maar ook dat het wapen ontploft is bij een volgende test.