De bazen van de grootste AI-bedrijven waarschuwen inmiddels zelf dat hun technologie uit de hand kan lopen. Dario Amodei van Anthropic wil dat de ontwikkeling wordt afgeremd. Sam Altman en Elon Musk vallen hem bij. Opvallend genoeg beschouwen deze bedrijven het uitsterven van de mensheid door AI inmiddels niet meer als een statistische onmogelijkheid, maar als een risico waarmee serieus rekening moet worden gehouden.
De reden dat hun bedrijven ondertussen gewoon doorgaan, is minstens zo kaakzakkend als de waarschuwing: want wie als enige remt, verliest de race. Daarmee beschrijven ze vrijwel perfect het failliet van marktzelfregulering. De drijvende kracht daarachter is het aandeelhouderskapitalisme. Bedrijven worden structureel beloond voor groei, rendement en marktaandeel, en afgestraft wanneer ze vrijwillig kansen laten liggen die een concurrent wel benut. Zelfs wanneer de mogelijke schade volgens de ondernemers zélf neerkomt op het einde van de mensheid, blijft doorgaan bedrijfseconomisch rationeel.
Musk belichaamt die spagaat komisch goed. In 2023 ondertekende hij een oproep om de ontwikkeling van krachtige AI zes maanden stil te leggen vanwege de mogelijke gevaren. Enkele maanden later richtte hij xAI op om zelf de concurrentie met OpenAI aan te gaan. Nog mooier: Musk is tegelijk een van de luidste pleitbezorgers van een veel kleinere overheid en minder regulering. Uitgerekend bij AI laat hij vervolgens zien waarom zo’n overheid noodzakelijk is, en roept op tot ingrijpen.
Musk kan werkelijk geloven dat AI levensgevaarlijk wordt en tegelijk miljarden in nóg krachtiger AI pompen. Binnen het aandeelhouderskapitalisme is dat nauwelijks tegenstrijdig. Zolang zijn concurrenten doorgaan, kost zelfstandig stoppen hem investeerders, personeel, technologische voorsprong en uiteindelijk marktwaarde.
Daarmee wordt zichtbaar hoe een amoreel systeem eigenlijk per definitie immorele uitkomsten produceert. De markt kent geen variabele ‘voortbestaan mensheid’. Zij beloont degene die sneller groeit en eerder de volgende voorsprong bereikt. Wie als eerste remt, wordt gestraft. Precies voor zulke situaties bestaat een overheid: om grenzen op te leggen die individuele bedrijven door de prikkels van het systeem zelf niet kunnen stellen.
Dat grote AI-bedrijven regulering ook kunnen gebruiken om nieuwe concurrenten buiten de deur te houden, blijft reden om ze vooral niet zelf die regels te laten schrijven. De ironie is moeilijk te missen. Musk wil de overheid zo klein mogelijk maken, terwijl zijn eigen gedrag laat zien waarom een machtige markt zonder krachtige tegenmacht zelfs bij existentiële risico’s gewoon blijft doordenderen en juist een sterke overheid noodzakelijk is.