We hebben nederige technologieën nodig

ANALYSE - Hoe zorgen we dat een nieuwe technologie zo veel mogelijk de mens ten goede komt? Bij elke nieuwe technologie moeten we de tijd nemen om deze vraag te stellen. We vinden het antwoord alleen door kritisch te zijn. En door te laten zien dat een nederige houding ten opzichte van innovatie de kracht van overheden, markten, ethische experts en burgers kan versterken.

Disruptieve innovaties zijn innovaties die de samenleving ontwrichten. Ons leven verandert er radicaal door. Veel mensen zien zulke innovaties niet aankomen. Dat is gek, omdat we ons juist heel goed kunnen voorstellen wat er kan gebeuren wanneer nieuwe technologieën de wereld veroveren. Dat tonen sciencefictionfilms wel aan.

In Forbidden Planet bijvoorbeeld, uit 1956, heeft een kwaadaardige supermacht op een verre planeet aardse ontdekkingsreizigers weggevaagd. Slechts twee mensen en een enorm technologisch complex overleven de ramp. En in 2001: A Space Odyssee uit 1968, speelt een slimme supercomputer de hoofdrol. Die kan liplezen – iets dat computers inmiddels ook echt kunnen.

Zulke films laten zien dat mensen het voorstellingsvermogen hebben om na te denken over de sociale gevolgen van nieuwe technologie. En dat we ons er dus ook op kunnen voorbereiden.

Ieder-voor-zich-filosofie uit Silicon Valley

De smartphone is zo’n disruptieve innovatie. Smartphones veranderen ons gedrag op een manier die we nog niet eerder hebben gezien. Op zowel positieve als negatieve manier veranderen ze ons sociale leven, ons consumptiegedrag, onze databeveiliging en onze mobiliteit.

Wat mij opvalt aan de digitale technologie op onder meer die telefoons, is dat ze de ieder-voor-zich-filosofie uit Silicon Valley verspreiden. De betaal-app Venmo bijvoorbeeld is heel populair in de VS. Die zorgt ervoor dat een avondje uit eindigt in op maat gemaakte rekeningen voor alle aanwezigen. Niemand betaalt meer een rondje, of schiet iets voor vanuit de gedachte dat goede vrienden elkaar altijd zullen terugbetalen. Zo kunnen waarden ondermijnd worden die we lang hebben gekoesterd; zoals dat we gul zijn, en op alledaagse manieren voor elkaar zorgen.

Manieren om onze waarden te beschermen

Gelukkig kunnen we nieuwe technologie op allerlei manieren temmen: de overheid kan wetten maken, consumenten kunnen met hun gedrag de markt reguleren en ethische experts kunnen verontrustende ontwikkelingen bijsturen. Maar al deze oplossingen hebben ook beperkingen.

Allereerst beïnvloeden twee paradigma’s ons denken: we kunnen over technologie denken in termen van risico’s, of in termen van rechten.

Waarom regels voor technologie niet genoeg zijn

Als we alleen naar risico’s kijken, proberen we de schade die technologie kan aanrichten zo veel mogelijk te beperken. We bekijken statistieken en rapportages van experts. Dat is waardevol, maar ook beperkt: in risicoanalyses accepteren we nieuwe technologie eigenlijk altijd, zonder ons af te vragen waarom we haar überhaupt nodig hebben. Bovendien zijn de inspraakmogelijkheden beperkt, omdat we veel van de afwegingen en beslissingen aan experts overlaten.

Als we focussen op rechten, vragen we ons af hoe goed nieuwe technologie aansluit op onze rechten en vrijheden. Dit juridische perspectief vult de risicoanalyse goed aan. In Amerika hebben rechters bijvoorbeeld onze omgang met telefooncellen en mobieltjes bijgestuurd toen mensen verwachtten dat ze ook daar, net als thuis en in hun gedachten, privacy hadden.

Juridische normen zijn echter niet voldoende. Overheidsregulering is vaak langzaam, en geneigd marktontwikkelingen te volgen, in plaats van te sturen. Bovendien komen er zoveel nieuwe technologische ontwikkelingen op ons af, dat wetgevers in de praktijk slechts aan ‘damage control’ kunnen doen en niet aan ‘social shaping’ doen: aan sociale vormgeving van die technologie.

De markt reageert daarentegen vrij snel op consumentenvoorkeuren. Toch is ook de markt door haar karakter niet geschikt als regulerend mechanisme. In sommige sectoren, zoals in de biotechnologie, creëert de nieuwe economie bijvoorbeeld helemaal geen innovatieve markt. Daar wordt de markt gedomineerd door enkele megabedrijven, die innovatie inzetten om hun bestaande marktpositie te beschermen. Bovendien wint de roep om winst op korte termijn het maar al te vaak van ecologisch bewustzijn.

Zelfs een ethische bril is niet genoeg

Dit brengt ons bij ethische commissies. Kan meer ethische expertise overheden bewegen om bedrijven aan te zetten tot verantwoordelijk gedrag, in het bijzonder ten opzichte van minder gehoorde groepen? Helaas vormt ook ethische expertise maar een stukje van de puzzel. Al te vaak benadrukken ethische commissies individualistische waarden, zoals lichamelijke integriteit, boven collectieve waarden, zoals gelijkheid. En uiteindelijk is het juist zaak iedere persoon aan te moedigen tot ethische reflectie, in plaats van die reflectie te parkeren bij groepen experts die op een ondoorzichtige en mogelijk ondemocratische manier zijn geselecteerd.

Hoe moeten we dan wel omgaan met nieuwe technologie?

Al deze kritische kanttekeningen moeten ons natuurlijk niet ontmoedigen. Risicoanalyse, regelgeving, marktwerking en ethiek zijn allemaal nuttige kaders bij het vormgeven van de introductie van een nieuwe technologie. Maar elk kader voor zich is niet voldoende. Bij elke nieuwe technologie moeten we op tijd stilstaan bij de vraag welke sociale gevolgen ze kan hebben. Daarbij moeten we een nederige houding innemen ten opzichte van technologie en  proberen antwoord te geven op deze vier vragen:

• Kunnen we op een andere manier vaststellen in welke behoefte deze technologie voorziet?
• Wie zal er waarschijnlijk de meeste schade ondervinden van deze technologie?
• Wie zal er verliezen en wie zal er baat hebben bij de omarming van deze technologie?
• Hoe kunnen we ons begrip van deze technologie verbeteren en hoe kunnen we ervan leren?

Wanneer we de negatieve disruptieve aspecten van technologie beheersen, en de alternatieven die minder impact hebben als noodzakelijk beschouwen, kunnen we technologie inzetten om de wereld niet te schaden of vernietigen, maar om haar er ook echt mee te verbeteren.

Verscheen eerder op het blog van het Rathenau Instituut. Sheila Jasanoff is Professor of Science and Technology Studies (STS) aan de Harvard Kennedy School. Eerder dit jaar schreef ze The Ethics of Invention – Technology and the Human Future. Dit blog is een samenvatting van een lezing die ze in november gaf in Den Haag op uitnodiging van het Rathenau Instituut.