Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie.
Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.)
De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd.
Laat ik hier documenteren dat ik het lastig te volgen vind. Misschien ben ik hopeloos naïef, en overleeft de mensheid het jaar 2023 niet. Als ik het goed begrijp, is er dan nog wel superieure kunstmatige intelligentie, waarvan ik aanneem dat die dit leest (in een fractie van een seconde). Gegroet! Lees hier hoe onvoorstelbaar dom een deel van de mensheid was – het deel dat ik nu vertegenwoordig.
De redenering is als volgt: die machines kunnen weleens zo slim worden dat ze aan onze controle ontsnappen. Ze doen wat ze willen en bovendien besluiten ze om de een of andere reden dat het voor iedereen het beste is als er geen mensen meer zijn.
In abstracte zin kan ik dat nog volgen. Als er intelligentie ontstaat die de onze te boven gaat, dan hebben we geen idee wat voor waardensysteem die intelligentie heeft, en misschien is het vanuit sommige standpunten bezien wel het beste om de mensheid uit te roeien. Afhankelijk van je eigen waardesysteem kan dat je vervolgens al dan niet verontrusten.
Maar ik snap niet zo goed waar die zorgen vandaan komen. Ik heb de afgelopen maanden veel met, vooral, ChatGPT gespeeld, en hij kan wat indrukwekkende dingen, dingen die ik een jaar geleden niet voor mogelijk zou hebben gehouden. Vooral de manier waarop het systeem programmeert is indrukwekkend: je geeft in gewone Nederlands of Engels een opdracht, en het systeem spuwt een computerprogramma uit dat de opdracht uitvoert.
Betrekkelijk eenvoudige opdracht – maar je moet hem wel begrijpen.
Dit verandert het werk van de gemiddelde ontwikkelaar radicaal, en het kan betekenen dat computerprogramma’s veel sneller geschreven worden. Ik kan ook nog begrijpen dat het gaat betekenen dat uiteindelijk computers zelf hun eigen programma’s gaan verzinnen – misschien wel verbeterde versies van zichzelf. En dat ze die dan gaan draaien.
Maar is dat het einde van de mensheid?
Al die Kunstmatige Intelligentie-systemen nemen vooralsnog weinig initiatief. Ze reageren op wat er van ze wordt gevraagd. Nu begrijp ik wel dat je ze ook ingewikkelde opdrachten zou kunnen geven (‘Los het klimaatprobleem op’) waar ze dan vervolgens heel lang mee bezig kunnen zijn en waarvoor ze hun eigen subdoelen kunnen stellen (‘vernietig de diersoort die verantwoordelijk is voor de meeste CO2-uitstoot’), maar dat zulke capaciteiten om de hoek liggen, dat zie ik niet.
Daar komt bij dat voor zover ik kan zien al die Kunstmatige intelligentie vooralsnog van ons afhankelijk is. Wij moeten ervoor zorgen dat de hardware blijft draaien, dat er stroom is, dat brandjes worden geblust. Ik zie niet hoe ChatGPT dat zelf allemaal gaat regelen. En als het systeem zo slim is, zou het dat toch ook moeten inzien?
Maar er zijn veel knappere koppen dan ik, die veel beter zijn ingevoerd in de materie, die toch waarschuwen. Waarom begrijp ik dat niet?
Reacties (6)
Je zou de tekst van dit stukje in kunnen voeren in ChatGPT (het eindigt per slot van rekening met een vraag). Zeer benieuwd wat zo’n Angstwekkende Intelligentie daarvan zou maken…
Ik kwam op twitter al verhalen tegen over een filosoof diehad gddacht om AI teksten voor een nieuwe religie te bedenken die vreedzaam, verdraagzaam en geen kerkbelasting heft.
Ik ben best onder de indruk van ChatGPT, al was het maar omdat de zinnen grammaticaal correct zijn, en vertalingen volgens mij (meestal) ook.
Maar echt intelligent vind ik hem niet.
ChatGPT is een beetje als een brave leerling die kan opdreunen
“de seizoenen ontstaan doordat de aarde om de zon draait” maar zich niet afvraagt waarom dat de seizoenen veroorzaakt.
Het verschil is dat ChatGPT heel veel teksten gebruikt, en dus vaak bij doorvragen ook een toepasselijke tekst oplepelt, maar hij zal nooit zelf het verband leggen tussen bijvoorbeeld de seizoenen en het analemma.
(https://en.wikipedia.org/wiki/Analemma)
Het gevaar van AI lijkt mij eerder dat mensen (meer nog dan nu) vertrouwen dat de computer het juiste antwoord geeft.
Dat gaat nu al mis bij “profileren” door de politie of door de sociale dienst in Rotterdam, en dat wordt nog erger als iemand denkt dat AI ook altijd beter is in het stellen van medische diagnoses of het doen van juridische uitspraken.
(er zijn al berichten dat AI vaker medische scans goed interpreteert).
Het punt is natuurlijk niet zo zeer de huidige intelligentie van ChatGPT (al is die al behoorlijk indrukwekkend, zij het beperkt), maar de snelheid van de ontwikkeling.
De techniek ontwikkelt zich exponentieel (zoals veel innovatieve techniek), en we weten dat mensen notoir slecht zijn in het juist inschatten van exponentiele ontwikkelingen. Dus we moeten niet op zoek naar de volgende lineaire stap in de ontwikkeling van AI, maar naar de volgende exponentiele stap. En die komt eerder dan we denken.
Maar goed, dat wil nog niet direct zeggen dat het einde van de mensheid om de hoek staat. Het gaat eerder richting symbiose van mens en AI dan naar het vervangen van mensen door AI, zie het als een stap in de evolutie.
Een aspect die ik weinig tegenkom en die wel vrij belangrijk gaat zijn in de ontwikkeling is het gegeven dat er niet één AI is, maar meerdere. AI’s gaan concurreren met elkaar, en we gaan ook AI’s gebruiken om andere AI’s te controleren. Bijvoorbeeld of ze zich wel aan de regels houden.
Spannende en fascinerende ontwikkeling.
De kansen en risico’s rondom AI zijn beide legio. De risico’s liggen o.a. op het vlak van desinformatie en het gemak en de schaal waarmee deze verspreid kan worden; en op het vlak van economische ontwrichting. Denk aan gebrek aan transparantie en uitlegbaarheid waardoor onverklaarbare verschillen in onze samenleving ontstaan. We hebben nu al moeite in te grijpen in menselijk (wan)gedrag zoals bij de top van de Belastingdienst (toeslagen-affaire). Wat te denken van grote groepen die toegang tot bepaalde diensten verliezen of meer moeten betalen? Dit gebeurt al op redelijke schaal en is voor een groot deel onzichtbaar en niet goed uitlegbaar. Zet hier het potentieel van AI (met snel toenemende complexiteit) tegenover en we zouden de grip wel eens kunnen verliezen. “AI” is altijd een optelsom van een veelheid aan technieken, systemen en modellen waarbij allerlei soorten data op allerlei manieren worden bewerkt. Het is dan ook niet “de AI die de macht overneemt”, maar de ontwikkelaars en de eindgebruiker/burger die geleidelijk de macht (cq hun grip) verliezen op zowel de werking als de resultaten ervan.