AI: Voor winst mag de mensheid wijken
De bazen van de grootste AI-bedrijven waarschuwen inmiddels zelf dat hun technologie uit de hand kan lopen. Dario Amodei van Anthropic wil dat de ontwikkeling wordt afgeremd. Sam Altman en Elon Musk vallen hem bij. Opvallend genoeg beschouwen deze bedrijven het uitsterven van de mensheid door AI inmiddels niet meer als een statistische onmogelijkheid, maar als een risico waarmee serieus rekening moet worden gehouden.
De reden dat hun bedrijven ondertussen gewoon doorgaan, is minstens zo kaakzakkend als de waarschuwing: want wie als enige remt, verliest de race. Daarmee beschrijven ze vrijwel perfect het failliet van marktzelfregulering. De drijvende kracht daarachter is het aandeelhouderskapitalisme. Bedrijven worden structureel beloond voor groei, rendement en marktaandeel, en afgestraft wanneer ze vrijwillig kansen laten liggen die een concurrent wel benut. Zelfs wanneer de mogelijke schade volgens de ondernemers zélf neerkomt op het einde van de mensheid, blijft doorgaan bedrijfseconomisch rationeel.
Musk belichaamt die spagaat komisch goed. In 2023 ondertekende hij een oproep om de ontwikkeling van krachtige AI zes maanden stil te leggen vanwege de mogelijke gevaren. Enkele maanden later richtte hij xAI op om zelf de concurrentie met OpenAI aan te gaan. Nog mooier: Musk is tegelijk een van de luidste pleitbezorgers van een veel kleinere overheid en minder regulering. Uitgerekend bij AI laat hij vervolgens zien waarom zo’n overheid noodzakelijk is, en roept op tot ingrijpen.