De bazen van de grootste AI-bedrijven waarschuwen inmiddels zelf dat hun technologie uit de hand kan lopen. Dario Amodei van Anthropic wil dat de ontwikkeling wordt afgeremd. Sam Altman en Elon Musk vallen hem bij. Opvallend genoeg beschouwen deze bedrijven het uitsterven van de mensheid door AI inmiddels niet meer als een statistische onmogelijkheid, maar als een risico waarmee serieus rekening moet worden gehouden.
De reden dat hun bedrijven ondertussen gewoon doorgaan, is minstens zo kaakzakkend als de waarschuwing: want wie als enige remt, verliest de race. Daarmee beschrijven ze vrijwel perfect het failliet van marktzelfregulering. De drijvende kracht daarachter is het aandeelhouderskapitalisme. Bedrijven worden structureel beloond voor groei, rendement en marktaandeel, en afgestraft wanneer ze vrijwillig kansen laten liggen die een concurrent wel benut. Zelfs wanneer de mogelijke schade volgens de ondernemers zélf neerkomt op het einde van de mensheid, blijft doorgaan bedrijfseconomisch rationeel.
Musk belichaamt die spagaat komisch goed. In 2023 ondertekende hij een oproep om de ontwikkeling van krachtige AI zes maanden stil te leggen vanwege de mogelijke gevaren. Enkele maanden later richtte hij xAI op om zelf de concurrentie met OpenAI aan te gaan. Nog mooier: Musk is tegelijk een van de luidste pleitbezorgers van een veel kleinere overheid en minder regulering. Uitgerekend bij AI laat hij vervolgens zien waarom zo’n overheid noodzakelijk is, en roept op tot ingrijpen.
Musk kan werkelijk geloven dat AI levensgevaarlijk wordt en tegelijk miljarden in nóg krachtiger AI pompen. Binnen het aandeelhouderskapitalisme is dat nauwelijks tegenstrijdig. Zolang zijn concurrenten doorgaan, kost zelfstandig stoppen hem investeerders, personeel, technologische voorsprong en uiteindelijk marktwaarde.
Daarmee wordt zichtbaar hoe een amoreel systeem eigenlijk per definitie immorele uitkomsten produceert. De markt kent geen variabele ‘voortbestaan mensheid’. Zij beloont degene die sneller groeit en eerder de volgende voorsprong bereikt. Wie als eerste remt, wordt gestraft. Precies voor zulke situaties bestaat een overheid: om grenzen op te leggen die individuele bedrijven door de prikkels van het systeem zelf niet kunnen stellen.
Dat grote AI-bedrijven regulering ook kunnen gebruiken om nieuwe concurrenten buiten de deur te houden, blijft reden om ze vooral niet zelf die regels te laten schrijven. De ironie is moeilijk te missen. Musk wil de overheid zo klein mogelijk maken, terwijl zijn eigen gedrag laat zien waarom een machtige markt zonder krachtige tegenmacht zelfs bij existentiële risico’s gewoon blijft doordenderen en juist een sterke overheid noodzakelijk is.
Reacties (5)
Allemaal marketing. Geen van allen geven ze een plausibele verklaring voor hoe KI tot de vernietiging van de mens zal leiden. Er zullen ongetwijfeld ongevallen met grote consequenties plaatsvinden. En die zullen dan leiden tot een vorm van politieke discussie over regulering. De regulering zal, zoals te doen gebruikelijk, te laat en ontoereikend zijn maar wel voor enige vorm van beteugeling zorgen.
Uiteindelijk is de volledige destructie van de mensheid geen aanlokkelijk perspectief voor aandeelhouders.
Ja, marketing of beïnvloeding van de politiek, dat is wat ik ook denk. Het gevaar van AI, en hoe zij daar anders dan anderen wel verantwoordelijk mee omgaan, is altijd al het verkoopverhaal geweest van OpenAI en Anthropic.
Het blijft raden naar wat er precies achter zit. Zouden ze een vergoeding willen van overheden voor het “vrijwillig” afremmen van hun ontwikkelingen? Dreigt de bubbel te barsten, omdat het moeilijker wordt geld los te krijgen van de investeerders? Of door fysieke grenzen en toenemende weerstand, waardoor het tempo waarin ze datacenters kunnen bouwen wordt afgeremd?
“Uiteindelijk is de volledige destructie van de mensheid geen aanlokkelijk perspectief voor aandeelhouders.”
Natuurlijk niet, maar op de korte termijn is het ook geen aandachtspunt. Zie ook de klimaatcrisis.
Maar de klimaatcrisis is anders. Aandeelhouders zijn daar niet op uit, maar het boeit ze ook niet. Niet genoeg om er dividend voor in te leveren in ieder geval. Het mechanisme is bekend en bewezen, maar de negatieve gevolgen liggen te ver in de toekomst om zich er zorgen over te maken. En hoe meer dividend er aan ze wordt uitgekeerd, hoe meer ze zich persoonlijk aan de kortere-termijngevolgen kunnen onttrekken.
Bij de AI-apocalyps is het mechanisme onbekend en onbewezen. En als geen bedrijf er actief op uit is (en niet door overheden wordt beteugeld), is het onwaarschijnlijk dat het er überhaupt ooit van komt.
Toch is er wel een overeenkomst. In de aandeelhouderseconomie eisen de verstrekkers van kapitaal simpelweg rendement. En dat kapitaal loopt vaak via een intermediair, zoals een vermogensbeheerder. Zodat de verstrekker zelf weg kan kijken van wat er eigenlijk met dat geld gebeurt. En de intermediair zich kan verschuilen achter de klanten die rendement willen. En zo zijn er meer excuses om geen verantwoordelijkheid te nemen. Het verhaaltje van Anthropic of OpenAI dat zij de good guys zijn, die we nodig hebben om ons te beschermen tegen bad guys, bijvoorbeeld.