Vertel de mannen en vrouwen die onze vrijheid verdedigen in de Oekraïense loopgraven niet dat er geen AI-race gaande is. Hun leven hangt af van door AI bestuurde drones. Zijn de critici van AI daarmee af? Nee, ze helpen ons de juiste race te kiezen. Een gastbijdrage van Richard Wouters.
Ik behoor tot de snel slinkende groep Nederlanders die nog nooit ChatGPT heeft gebruikt. Denken en communiceren wil ik niet uitbesteden aan een stochastische papegaai, die woorden aan elkaar plakt op basis van kansberekening. Ik troost me met de voorspelling van een Amerikaanse hoogleraar computerwetenschap dat mensen die boeken lezen en zélf schrijven van waarde zullen blijken tegen de tijd dat alle anderen hun brein gefrituurd hebben in AI-drab.
Mijn weerzin tegen AI wordt goed verwoord door de kritische techdenkers die ons waarschuwen om niet in het frame van een AI-race te stappen. Want dan worden alle spelregels voor AI een blok aan het been.
Maar telkens wanneer het over AI gaat, dwalen mijn gedachten af naar Oekraïne. Ruim vier jaar na de start van zijn grootschalige invasie is het Poetin nog altijd niet gelukt om het land te onderwerpen. Dat komt door de moed en veerkracht van de Oekraïners, maar ook door het vernuft waarmee zij een dronerevolutie hebben ontketend.
Dankzij de massale inzet van drones houden de Oekraïense frontsoldaten stand tegen een overmacht aan Russische soldaten, tanks, houwitsers en raketten. Het gebruik van onbemenste vlieg- en voertuigen – voor verkenning, aanval en verdediging, maar ook voor bevoorrading en evacuatie – spaart levens van Oekraïense soldaten. Aan de kant van de agressor valt inmiddels driekwart van de doden en gewonden door dronegeweld. Achter de frontlinie leggen drones voor de middellange afstand de Russische militaire logistiek lam. Lange-afstandsdrones slopen allengs de infrastructuur voor de olie- en gasexport waarmee Poetin zijn oorlogsmachine financiert.
AI speelt een steeds grotere rol in de drone-oorlog. Door AI ondersteunde software geeft commandanten een actueel overzicht van het slagveld. AI helpt dronepiloten om doelwitten te selecteren. Dankzij AI worden drones ongevoelig voor de stoorzenders van de vijand: zij vinden zelf hun weg naar het mikpunt. Drones vliegen nu ook in zwermen, waarbij zij onderling afstemmen welke drone zich op het doelwit stort – ook weer dankzij AI.
Ook de Russische drones worden slimmer en sneller. Dat dwingt Oekraïne om te blijven innoveren. Daarbij zullen drones almaar zelfstandiger opereren, met steeds minder menselijke controle – alleen al omdat Oekraïne dronepiloten tekort komt.
Moeten we ons er nu bij neerleggen dat anything goes bij de inzet van AI op het slagveld? Nee, maar de Oekraïners zijn de laatsten die we mogen verwijten dat ze AI in de strijd gooien. Verraden door Trump en alleen op afstand gesteund door Europese bondgenoten, zetten zij alles op alles om hun recht op zelfbeschikking te verdedigen. Hun vindingrijkheid en sneuvelbereidheid bepalen niet alleen of Oekraïne blijft voortbestaan, maar ook of democratie en recht kunnen overleven in een wereld vol agressieve autocraten.
Stempelmachine
“De toekomst van oorlog is autonoom”, voorspelt de Oekraïense defensieminister Mykhailo Fedorov. Maar vooralsnog staat de regering van Oekraïne de krijgsmacht niet toe om volledig autonome drones in te zetten, behalve voor testdoeleinden. In VN-verband erkennen Kyivs diplomaten de risico’s van dit soort drones, alleen al voor de eigen troepen en de burgerbevolking. Wanneer de VN spreken over het aan banden leggen van autonome wapens en van AI op het krijgstoneel, ligt Oekraïne niet dwars.
Israël doet dat wel. Tijdens zijn genocidale oorlog tegen Gaza gebruikte het Israëlische leger een AI-systeem, Lavender, dat duizenden doelwitten kon identificeren en lokaliseren. Bij het doden van één vermeend Hamas-lid nam het systeem tientallen burgerslachtoffers voor lief. Een van de militairen die Lavender gebruikte, zei daarover: “Ik besteedde aan elk doelwit 20 seconden, en dat deed ik elke dag tientallen keren. Als mens had ik geen enkele toegevoegde waarde, behalve als stempelmachine. Het bespaarde me veel tijd.”
Het afvuren van dodelijke wapens zonder betekenisvolle menselijke controle is een schending van het internationaal humanitair recht, zo wordt breed erkend. Daarom mag bijvoorbeeld het Defensiefonds van de Europese Unie niet worden aangewend voor de ontwikkeling van volledig autonome dodelijke wapens. Pakweg 130 landen hebben zich uitgesproken voor een mondiaal verdrag dat de inzet van autonome wapens aan nadere regels bindt. Maar naast Israël liggen ook de VS en Rusland dwars binnen de VN. Vooralsnog lijken niet-bindende richtsnoeren het hoogst haalbare voor de statengemeenschap.
Zulke richtsnoeren zijn niet per se krachteloos. Want niet alleen mensenrechtenactivisten en juristen maken zich zorgen over killer robots en AI-systemen zoals Lavender. Ook veel militairen die met AI werken, snakken naar maatstaven voor rechtmatig gebruik. Ze willen niet het risico lopen dat ze ooit ter verantwoording worden geroepen vanwege dodelijke missers van een AI-systeem dat voor zijn gebruikers een black box is – onnavolgbaar in zijn beslissingen.
Datzelfde geldt voor de ontwikkelaars van AI-modellen. “Stel je voor dat een drone een schoolbus vernietigt, en de enige verklaring die we voor die fout kunnen geven, is dat een AI-systeem hem daarheen heeft gestuurd”, zo verwoordt de New York Times hun nachtmerrie. Juist in de VS, waar de civiele rechtszaken over door chatbots veroorzaakte schade zich opstapelen, zou het verzet tegen ongebreidelde AI-oorlogsvoering wel eens kunnen groeien.
Daarmee zijn de dilemma’s nog niet de wereld uit. Wat te doen met een tegenstander zoals Rusland, die lak heeft aan recht en ethiek? Bij Helsing, een Duitse dronefabrikant die zich expliciet ten doel stelt om de democratie te verdedigen, zijn ze daarover duidelijk: “Democratieën moeten niet streven naar volledig autonome wapensystemen. Er moet altijd een mens bij betrokken blijven. Dat betekent soms dat de besluitvorming enigszins wordt vertraagd. Dat moet je compenseren met superieure technologie. Misschien een hogere hit rate, misschien snellere algoritmen.”
Superieure technologie blijft alleen superieur als je sneller innoveert dan je tegenstander. Dus toch een AI-race…
Kies de juiste race
Zijn de critici van de AI-race nu af? Nee. Zonder spelregels, zonder vertraging en bezinning, dreigt AI veel kapot te maken. “AI-gebruik verhindert aantoonbaar het leren van studenten en tast het vermogen tot kritisch denken aan”, zo waarschuwen 1700 academici. Dat ligt niet anders voor scholieren en oudere leeftijdsgroepen.
AI-chatbots praten ons naar de mond en geven zelden tegengas. Daardoor worden we asocialer, zo blijkt uit onderzoek.
Chatbots willen onze aandacht vasthouden, net als sociale media, maar dagen ons niet uit. De moeite die het kost om informatie te ordenen en te toetsen, een samenhangend betoog te schrijven, een onderbouwde mening te formuleren, je te verplaatsen in een gesprekspartner of geliefde en verschillen te overbruggen, die frictie neemt AI weg. AI dreigt ons gemakzuchtig, goedgelovig en narcistisch te maken. Dat ondermijnt onze menselijke creativiteit, onze democratie, ons sociale weefsel, onze veerkracht en daarmee onze veiligheid. Zie hoeveel ellende één onbesuisde narcist in het Witte Huis kan aanrichten.
Voor onze militaire veiligheid hebben we niet per se gigantische AI-modellen nodig, à la ChatGPT, die hun data uit alle hoeken van het internet bijeenschrapen en met hun onstilbare energiehonger bijdragen aan een kokende planeet. Zulke modellen zijn kwetsbaar voor vervuiling, hallucinaties en manipulatie – een schoolbus wordt dan bijvoorbeeld een legervoertuig. De meest waardevolle data voor onze krijgsmacht zijn die welke Oekraïne op het slagveld verzamelt. Laat Europa een betrouwbare bondgenoot van Oekraïne blijven, zodat Kyiv die data met ons blijft delen.
De ene AI-race is de andere niet. We hoeven niet aan alle races mee te doen. De AI tools die onze militairen nodig hebben, moeten we onze kids niet in handen geven, of aanroepen voor relatieadvies. We moeten de juiste race kiezen.
Richard Wouters is projectleider bij Wetenschappelijk Bureau GroenLinks (binnenkort: Wetenschappelijk Instituut voor Solidariteit). Dit artikel verscheen eerder in De Helling.
