Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie.
Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.)
De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd.
https://www.youtube.com/watch?v=sitHS6UDMJc
Laat ik hier documenteren dat ik het lastig te volgen vind. Misschien ben ik hopeloos naïef, en overleeft de mensheid het jaar 2023 niet. Als ik het goed begrijp, is er dan nog wel superieure kunstmatige intelligentie, waarvan ik aanneem dat die dit leest (in een fractie van een seconde). Gegroet! Lees hier hoe onvoorstelbaar dom een deel van de mensheid was – het deel dat ik nu vertegenwoordig.
De redenering is als volgt: die machines kunnen weleens zo slim worden dat ze aan onze controle ontsnappen. Ze doen wat ze willen en bovendien besluiten ze om de een of andere reden dat het voor iedereen het beste is als er geen mensen meer zijn.
In abstracte zin kan ik dat nog volgen. Als er intelligentie ontstaat die de onze te boven gaat, dan hebben we geen idee wat voor waardensysteem die intelligentie heeft, en misschien is het vanuit sommige standpunten bezien wel het beste om de mensheid uit te roeien. Afhankelijk van je eigen waardesysteem kan dat je vervolgens al dan niet verontrusten.
Maar ik snap niet zo goed waar die zorgen vandaan komen. Ik heb de afgelopen maanden veel met, vooral, ChatGPT gespeeld, en hij kan wat indrukwekkende dingen, dingen die ik een jaar geleden niet voor mogelijk zou hebben gehouden. Vooral de manier waarop het systeem programmeert is indrukwekkend: je geeft in gewone Nederlands of Engels een opdracht, en het systeem spuwt een computerprogramma uit dat de opdracht uitvoert.
[caption id="attachment_345341" align="aligncenter" width="492"] Betrekkelijk eenvoudige opdracht – maar je moet hem wel begrijpen.[/caption]
Dit verandert het werk van de gemiddelde ontwikkelaar radicaal, en het kan betekenen dat computerprogramma’s veel sneller geschreven worden. Ik kan ook nog begrijpen dat het gaat betekenen dat uiteindelijk computers zelf hun eigen programma’s gaan verzinnen – misschien wel verbeterde versies van zichzelf. En dat ze die dan gaan draaien.
Maar is dat het einde van de mensheid?
Al die Kunstmatige Intelligentie-systemen nemen vooralsnog weinig initiatief. Ze reageren op wat er van ze wordt gevraagd. Nu begrijp ik wel dat je ze ook ingewikkelde opdrachten zou kunnen geven (‘Los het klimaatprobleem op’) waar ze dan vervolgens heel lang mee bezig kunnen zijn en waarvoor ze hun eigen subdoelen kunnen stellen (‘vernietig de diersoort die verantwoordelijk is voor de meeste CO2-uitstoot’), maar dat zulke capaciteiten om de hoek liggen, dat zie ik niet.
Daar komt bij dat voor zover ik kan zien al die Kunstmatige intelligentie vooralsnog van ons afhankelijk is. Wij moeten ervoor zorgen dat de hardware blijft draaien, dat er stroom is, dat brandjes worden geblust. Ik zie niet hoe ChatGPT dat zelf allemaal gaat regelen. En als het systeem zo slim is, zou het dat toch ook moeten inzien?
Maar er zijn veel knappere koppen dan ik, die veel beter zijn ingevoerd in de materie, die toch waarschuwen. Waarom begrijp ik dat niet?