De gevaren van AI

Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie. Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.) De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd. https://www.youtube.com/watch?v=sitHS6UDMJc Laat ik hier documenteren dat ik het lastig te volgen vind. Misschien ben ik hopeloos naïef, en overleeft de mensheid het jaar 2023 niet. Als ik het goed begrijp, is er dan nog wel superieure kunstmatige intelligentie, waarvan ik aanneem dat die dit leest (in een fractie van een seconde). Gegroet! Lees hier hoe onvoorstelbaar dom een deel van de mensheid was – het deel dat ik nu vertegenwoordig. De redenering is als volgt: die machines kunnen weleens zo slim worden dat ze aan onze controle ontsnappen. Ze doen wat ze willen en bovendien besluiten ze om de een of andere reden dat het voor iedereen het beste is als er geen mensen meer zijn. In abstracte zin kan ik dat nog volgen. Als er intelligentie ontstaat die de onze te boven gaat, dan hebben we geen idee wat voor waardensysteem die intelligentie heeft, en misschien is het vanuit sommige standpunten bezien wel het beste om de mensheid uit te roeien. Afhankelijk van je eigen waardesysteem kan dat je vervolgens al dan niet verontrusten. Maar ik snap niet zo goed waar die zorgen vandaan komen. Ik heb de afgelopen maanden veel met, vooral, ChatGPT gespeeld, en hij kan wat indrukwekkende dingen, dingen die ik een jaar geleden niet voor mogelijk zou hebben gehouden. Vooral de manier waarop het systeem programmeert is indrukwekkend: je geeft in gewone Nederlands of Engels een opdracht, en het systeem spuwt een computerprogramma uit dat de opdracht uitvoert. [caption id="attachment_345341" align="aligncenter" width="492"] Betrekkelijk eenvoudige opdracht – maar je moet hem wel begrijpen.[/caption] Dit verandert het werk van de gemiddelde ontwikkelaar radicaal, en het kan betekenen dat computerprogramma’s veel sneller geschreven worden. Ik kan ook nog begrijpen dat het gaat betekenen dat uiteindelijk computers zelf hun eigen programma’s gaan verzinnen – misschien wel verbeterde versies van zichzelf. En dat ze die dan gaan draaien. Maar is dat het einde van de mensheid? Al die Kunstmatige Intelligentie-systemen nemen vooralsnog weinig initiatief. Ze reageren op wat er van ze wordt gevraagd. Nu begrijp ik wel dat je ze ook ingewikkelde opdrachten zou kunnen geven (‘Los het klimaatprobleem op’) waar ze dan vervolgens heel lang mee bezig kunnen zijn en waarvoor ze hun eigen subdoelen kunnen stellen (‘vernietig de diersoort die verantwoordelijk is voor de meeste CO2-uitstoot’), maar dat zulke capaciteiten om de hoek liggen, dat zie ik niet. Daar komt bij dat voor zover ik kan zien al die Kunstmatige intelligentie vooralsnog van ons afhankelijk is. Wij moeten ervoor zorgen dat de hardware blijft draaien, dat er stroom is, dat brandjes worden geblust. Ik zie niet hoe ChatGPT dat zelf allemaal gaat regelen. En als het systeem zo slim is, zou het dat toch ook moeten inzien? Maar er zijn veel knappere koppen dan ik, die veel beter zijn ingevoerd in de materie, die toch waarschuwen. Waarom begrijp ik dat niet?

Door: Foto: The Dangers of AI, Stable Diffusion, via Marc van Oostendorp.
Foto: Paul Keller (cc)

Taalpolitiek in tijden van Kunstmatige Intelligentie

, door

Taalpolitieke kwesties hebben mij altijd meer geïnteresseerd dan de gemiddelde mens: hoe stellen we vast in welke omstandigheden welke taal of talen gebruikt mogen of moeten worden? Moeten alle kinderen op het schoolplein altijd Nederlands praten? Welke talen moeten worden gesproken in het Europese Parlement om alles tegelijk efficiënt en democratisch te laten verlopen? Moeten we ons verweren tegen het Engels in het hoger onderwijs of die taal juist omarmen?

De laatste tijd dringt tot me door dat in de toekomst die vragen weleens allemaal zouden kunnen verdwijnen, of in ieder geval een heel andere vorm zouden kunnen krijgen. Dat komt door Kunstmatige Intelligentie, systemen als ChatGPT maar vooral Google Translate en DeepL, automatische vertalers. Steeds beter worden die dingen: als je weleens iets moet vertalen, doen die systemen dat voor je in een handomdraai. Vaak is hooguit nog een lichte redactieslag nodig.

Genoeg

Het moment lijkt niet ver meer dat die systemen niet alleen voor geschreven tekst werken, maar ook in staat zijn de gesproken taal te begrijpen en voort te brengen. Ik bedoel niet dat zulke systemen er over vijf jaar zijn, maar wel dat ik niet verbaasd zou zijn als we ze in pakweg 2045 overal hebben. Dat je tegen die tijd een knopje in je oor kunt doen die alles wat de ander zegt in diens eigen stem maar in jouw taal laat klinken.

Lezen: Bedrieglijk echt, door Jona Lendering

Mededeling

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Quote du Jour

Quote du Jour | Maakt AI een eind aan de Verlichting?

, door

The Enlightenment started with essentially philosophical insights spread by a new technology. Our period is moving in the opposite direction. It has generated a potentially dominating technology in search of a guiding philosophy.

Vooropgesteld dat Henry Kissinger in een rechtvaardige wereld inmiddels achter de tralies had gezeten vanwege de bombardementen op Cambodja en wat dies meer zij – hij heeft wel een punt dat zelflerende algoritmen de komende decennia steeds meer ons leven gaan bepalen.

Foto: Mike MacKenzie (cc)

Investeren in intelligentie

, door

COLUMN - Met het Strategisch Actieplan voor Artificiële Intelligentie wil staatssecretaris Mona Keijzer er voor zorgen dat Nederland door samenwerking tussen publieke en private instellingen koploper wordt op het gebied van kunstmatige intelligentie.

AI verandert nu al onze wereld ingrijpend. We moeten zorgen dat we niet geleefd worden door deze technologie, maar die voor ons laten werken. Met deze gecoördineerde kabinetsaanpak leggen we de basis voor een goede bijdrage van AI aan onze maatschappij, banen en inkomsten en zorgen we dat Nederland een innovatieve koploper blijft.

Echter, zonder menselijke intelligentie heeft investeren in AI het risico dat niet de gewenste resultaten worden behaald. Wellicht dat Mona Keijzer dus eens kan gaan praten met haar collega’s bij het ministerie van OCW. Die zijn tenslotte daarvoor verantwoordelijk. En dat loopt niet echt lekker op dit moment.

Daarnaast is AI momenteel nogal een hype. Dus enige nuance is wel op z’n plaats:

When we raise money it’s AI, when we hire it’s machine learning, and when we do the work it’s logistic regression.

Zoals Sanne Blauw terecht zegt, is het verstandiger om voorbij de hype te kijken:

In plaats van AI een doel op zich te maken, bedenk eerst wat je wil veranderen (zorg, klimaat, onderwijs…) en ga dan pas bedenken *hoe* dat te behalen. AI is dan misschien de oplossing, misschien ook niet. Investeer in een doel, niet in een toolkit.

Foto: Sean Welton (cc)

Damesoffer

, door

COLUMN - Vandaag wint de kunstmatige intelligentie. AlphaGo, een project van het Brits-Amerikaanse bedrijf DeepMind, speelt vandaag in Seoul zijn vijfde en laatste partij Go in een match tegen de beste speler ter wereld, Lee Sedol. De stand tot nu toe: drie-een. Zelfs als Sedol vandaag wint, gaat de match naar AlphaGo.

Kenners zijn overrompeld. ‘Ik had niet verwacht dat hij zo’n perfecte partij zou spelen,’ zei Lee na zijn eerste verlies. Andere Go-experts roemen AlphaGo’s intuïtie, zijn verrassende zetten en zijn capaciteit om te leren.

AlphaGo is gebouwd rond een nieuw type kunstmatige intelligentie. Oudere spelcomputers, zoals Deep Blue die in 1997 de befaamde match van schaakkampioen Gary Kasparov won, werkte met een rijk geheugen aan gespeelde partijen, een gigantische botte rekenkracht en een ingewikkelde boomstructuur. Op basis van die drie elementen kon Deep Blue uitrekenen wat de meest voordelige zet zou zijn. AlphaGo werkt met een neuraal netwerk, is zelflerend, en speelt voortdurend tegen oude versies van zichzelf teneinde zijn spel te verbeteren. Geheid dat AlphaGo de vierde partij, die hij van Sedol verloor, inmiddels grondig heeft geïncorporeerd in zijn systeem.

Dat het ding Go op zulk hoog niveau weet te spelen, is ongekend. De mogelijke zetten bij dat spel zijn absurd veel groter dan bij schaak; meer dan er atomen in het universum zijn, zoals liefhebbers van het spel graag zeggen. Met brute rekenkracht kom je er niet, evenmin als met een bibliotheek aan oude partijen in je chips. Intuïtie, inzicht en elegantie zijn belangrijker.

Quote du Jour

Quote du Jour | Geen wezenlijke doorbraken

, door

‘Er is heel veel bereikt,’ zegt Steels. ‘Maar de laatste dertig jaar zijn er geen wezenlijke doorbraken meer geweest. Natuurlijk, de nieuwe toepassingen zijn indrukwekkend. Dat komt doordat computers veel krachtiger zijn geworden, verbonden zijn met elkaar, en veel meer data tot hun beschikking hebben. Daardoor is nu van alles mogelijk. Maar als je kijkt naar de onderliggende intelligentie: die is hetzelfde gebleven. Die is gebaseerd op algoritmen (instructies, programma’s, red.) die er dertig jaar geleden ook al waren.’

Waar veel nieuwe toepassingen op neerkomen: patronen herkennen in grote hoeveelheden data. Dankzij het zogeheten machine learning kunnen computers die patronen zelf ontdekken, zonder dat programmeurs aangeven hoe een patroon eruit ziet.

Foto: DLR German Aerospace Center (cc)

De toekomst is nu

, door

COLUMN - Wat gebeurt er wanneer computers slimmer worden, en een zelfstandige vorm van intelligentie ontwikkelen? Hoeveel vrijheid houden wij mensen dan over? Willen ze ons dan overheersen of ons juist dienen? Heeft kunstmatige intelligentie (KI) het beste met ons voor, of zullen ze ons beschouwen als grondstof voor hun eigen plannen?

Tussen die twee uitersten beweegt het debat over KI zich ongeveer. Enerzijds de waarschuwers die stellen dat we met zulke slimme computers vrijwel krachten losmaken die we niet kunnen beheersen, die mogelijk onze ondergang inluiden. Anderzijds de optimisten die verwachten dat computers met intelligentie ook een besef van ethiek en moraal zullen ontwikkelen, en dat ze mogelijk zelfs fijner besnaard zullen raken dan onszelf ooit is gelukt. In dat geval zou KI juist onze redding betekenen.

Het is een heerlijk debat – vooral omdat het zo hopeloos futiel is. Alsof het ontwerp en het coderen van technologie een soort waardenvrije kern heeft, die even makkelijk linksom als rechtsom kan uitpakken. De crux met technologie is dat die nooit neutraal is: het gaat altijd om de vraag hoe die technologie is gestructureerd en ingebed, met welk doel hij wordt ingezet, en hoeveel waarde we aan de aldus vergaarde informatie toekennen.

Foto: Sargasso achtergrond wereldbol

WW: Emily Howells muziek

, door

De woensdagmiddag is op GeenCommentaar Wondere Woensdagmiddag. Met extra aandacht voor de nieuwste ontwikkelingen in Wetenschap- en Techniekland.

Voor de liefhebbers van moderne klassieke muziek, luister even met de ogen dicht naar de volgende twee muziekstukken:

Zoals te zien is zijn beide stukken gecomponeerd door ene Emily Howell. Deze naam zal zelfs bij grote muziekliefhebbers geen belletje doen rinkelen en ook een Google search levert weinig persoonlijke informatie over deze mysterieuze componist op. De reden is al snel duidelijk: het gaat hier om een computerprogramma.

Emeritus professor David Cope begon zijn eigen carriere als componist al op jonge leeftijd. Hij bekleedde posities aan verschillende conservatoria en universiteiten en componeerde vele stukken. Maar in 1980 raakte Cope een creatieve muur toen hij gevraagd was om een opera te schrijven. Het resultaat van dit writers block was dat Cope zich tot de computer wendde. Nu had hij al eerder de computer gebruikt bij het schrijven van muziek, maar het echte componeren gebeurde tot dan toe in zijn hoofd.

In de geschiedenis van de muziek waren er wel eerder vergelijkbare initiatieven genomen: Het interessantste voorbeeld is misschien wel dat van het Musikalisches Würfelspiel dat aan Mozart wordt toegeschreven. Hierbij werd een stuk gecomponeerd door dobbelstenen te rollen. De uitkomsten van de worpen waren gerelateerd aan muziekfrasen, die aaneengeschakeld een nieuw, uniek stuk vormden.

Waan van de dag

Stephen Hawking et al.: ‘We nemen AI niet serieus genoeg’

, door

Aldus dit opiniestuk in The Independent:

Looking further ahead, there are no fundamental limits to what can be achieved: there is no physical law precluding particles from being organised in ways that perform even more advanced computations than the arrangements of particles in human brains. An explosive transition is possible […]

One can imagine such technology outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand. Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.

So, facing possible futures of incalculable benefits and risks, the experts are surely doing everything possible to ensure the best outcome, right? Wrong.

Steun ons!

Mededeling

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Vorige Volgende