Hulspas weet het | Mijn robot-arm heeft het gedaan!

COLUMN - Het is de eerste van de drie ‘Wetten van de robotica’,  bedacht door SF-schrijver Isaac Asimov. Een robot mag een mens geen letsel toebrengen (of door niks te doen, toestaan dat een mens letsel oploopt). De tweede wet luidt dat een robot een mens altijd moet gehoorzamen (tenzij de robot daarmee de Eerste Wet schendt).

Asimov klinkt logisch, maar in de praktijk zijn deze vaak geciteerde wetten natuurlijk onbruikbaar. Zo wordt een (intelligente) operatierobot hiermee onmogelijk. Want ook al opereert hij tien keer beter dan een mens, letsel zal hij altijd kunnen veroorzaken. En wat dat gehoorzamen aan de mens betreft: daar ga je toch anders over nadenken wanneer een buitenstaander jouw robot (of bionische arm) probeert te commanderen.

De ontwikkeling van robots gaat dan ook een heel andere kant op. Het worden geen individuen die door hun programmeurs van een rudimentaire ethiek moeten worden voorzien. Het worden louter verlengstukken van managers, generaals, dokters en mensen met (zonder robot) een beperking. En het is aan hen dat robots absolute gehoorzaamheid verschuldigd zijn, anders heeft de ‘eigenaar’ er immers niets aan. De generaal wil een robot die kan doden; de dokter een robot die durft te snijden, de ‘mens met beperking’ een been dat flink kan schoppen, et cetera.

De ethiek van de robot wordt de ethiek van de eigenaar. En de eigenaar is verantwoordelijk voor het gedrag van ‘zijn’ robot. Een robot die in staat is om zelfstandig beslissingen te nemen (die over een eigen inzicht in goed en fout beschikt) is een slechte robot.

Maar wat als je robot-arm je verkeerd begrijpt? Dat is het onderwerp van een artikel van Jens Clausen et al. in Science van 30 juni. Stel, u heeft een robot-arm, die verbonden is met uw brein. U denkt: ik wil die hond aaien, en uw robot-arm aait die hond. So far so good. Dan ziet u een knappe donkere man met een ontblote borstkast, en u denkt: bij hem wil ik graag even door zijn borstharen kroelen (of iets anders ongepast). De robotsensoren in uw brein pikken die gedachte op, en de arm voert het uit. Kortom, zo schrijven de auteurs, met een aan het brein verbonden robot-arm kunnen spontane gedachten heel onaangename (en strafbare) gevolgen hebben.

In antwoord hierop komen ze met een merkwaardig voorstel voor een ‘noodrem’ die ervoor zou moeten zorgen dat er toch sprake is van human accountability:

Human accountability for injuries caused in the use of such a symbiotic robot might occur in several ways. First, where there is a form of “veto” built into the system [e.g., override through voluntary ocular movements, a person could be held liable for failing to exercise the veto, just as a driver may be responsible for failing to apply brakes.

Met andere woorden: op het moment dat u ziet dat uw robot-arm, gestuurd door een ondeugende gedachte, richting al dat aantrekkelijke borsthaar beweegt, is het niet genoeg om alleen maar te denken ‘NEE, NIET DOEN!’ De robot kan dat ongetwijfeld oppikken, maar dat moet hij negeren. De eigenaar moet een aantal curieuze oogbewegingen maken (zó curieus dat je dat ‘signaal’ normaal nooit zou geven) om aan de robot-arm door te geven dat je het meent: ‘NEE, NIET DOEN!’.

Wie dat niet doet, is volgens de auteurs alsnog verantwoordelijk de daden van de arm. Als een automobilist die niet op tijd remt. De hier achterliggende ratio is: wie niks doet en er daardoor voor zorgt dat een ander letsel oploopt, is net zo goed schuldig als iemand die (met zijn daad) letsel veroorzaakt. En met je ogen knipperen is dan al genoeg ‘bewijs’ dat je wilt ingrijpen.

De robot-arm zit hiermee op de stoel van de rechter. In de rechtspraak geldt immers dat iedere verdachte tijdens de rechtszaak kan zeggen dat hij het goede voorhad, dat hij het zo niet meende, et cetera, maar de rechter kan die intentie niet toetsen; hij kan slechts oordelen op basis van het gedrag van de verdachte. Dat doet de robot hier ook – en gaat nog een stap verder: een rechter kan niets met de uitgesproken intentie van de verdachte; de robot-arm verwerpt zelfs de gemeten intentie van de verdachte. (En we mogen er van uitgaan dat de arm in staat is om intenties accuraat te meten.) Maar dergelijk gedrag is natuurlijk volkomen in tegenspraak met zijn primaire opdracht: het zonder aarzelen (zonder ‘nadenken’) uitvoeren van de intenties van de eigenaar. Hij moet doen wat de eigenaar wil (doen). Op deze wijze geprogrammeerd beschikt de robot-arm plotseling over een eigen ethiek.

Om te voorkomen dat de bezitters van robot-armen hun intentie voortdurend moet bevestigen door gek met hun ogen te knipperen (als ze naast hun lichamelijke beperking ook nog last hebben van een merkwaardige tic), kan het niet anders of we verwerpen dit idee, en programmeren de arm zodanig dat hij elke intentie direct opvolgt – en dus ook direct gehoorzaamt wanneer hij plotseling een volkomen tegengestelde intentie registreert. Komt deze te laat, dan is dat maar zo. Wie achteraf met het schaamrood op de kaken zegt ‘dat heb ik niet gewild!’,  zal dan het nuttige advies krijgen om in de software van zijn arm aan te vinken dat er tussen intentie en uitvoering een kwart seconde ‘bedenktijd’ moet zijn.