De toverkracht van AI

door Els Aarts. 2023 is het jaar van de doorbraak van ‘generatieve’ AI. Kunstmatige intelligentie die getraind is om tekst, beeld of geluid te maken. De reacties variëren van verwondering tot totale paniek. Hoe revolutionair is de nieuwste generatie AI? Kunstmatige Intelligentie (AI) is dit jaar niet uit de kranten weg te slaan. Sinds het bedrijf OpenAI eind 2022 chatbot ChatGPT gratis toegankelijk maakte, houdt zijn bedwelmende taalvermogen iedereen in zijn greep. Taalwetenschapper prof. Antal van den Bosch (UU) bouwt al zo’n dertig jaar aan het type taalmodellen waar ChatGPT op gebaseerd is, en kijkt met verbazing naar de hype die zich plotseling rond zijn vakgebied afspeelt. Voor de reeks ‘Wie is er bang voor AI?’ spreken we hem over de angst voor AI, wat AI ons kan brengen, en of je dat als taaltechnoloog überhaupt kan voorspellen. AI is niet intelligent Van den Bosch is stellig: de intelligentie in AI heeft weinig te maken met menselijke intelligentie. “Taalmodellen als ChatGPT kunnen letterlijk niets anders dan het volgende woord voorspellen. Ze hebben geen enkele kennis van de echte wereld, maar maken plausibele teksten en daarom klinkt het alsof er heel veel meer achter zit dan in werkelijkheid het geval is.” Toch spreken veel experts van een revolutie. Volgens Van den Bosch zijn er twee belangrijke aspecten die ChatGPT uniek maakt. Ten eerste heeft de chatbot een actief en zelflerend intern geheugen. Hij kan op lange en complexe opdrachten reageren, onthoudt wat er eerder gezegd is en kan bijvoorbeeld een conclusie of clou helemaal aan het einde van de tekst toevoegen, zonder te vergeten dat dat ook bij de opdracht hoorde. Hierdoor is het niet, zoals vorige taalmodellen, alleen een soort ‘autocomplete’ zoals we van onze telefoons kennen, maar kunnen we er langere teksten mee maken, ermee plannen of de chatbot laten meedenken over ingewikkelde vraagstukken. Het tweede aspect is dat het gratis toegankelijk is voor iedereen. En daarin schuilt ook meteen het gevaar. Volgens Van den Bosch is de technologie op zichzelf niet gevaarlijk, maar kan ze mensen helpen om op grotere schaal schade aan te richten dan voorheen, omdat ze door haar actieve interne geheugen op autonomere manier de plannen van haar opdrachtgever kan uitvoeren:  AI kan zelf code schrijven en die zelfstandig op internet, databases of apparaten uitvoeren. Als deze bots ingezet worden om op grote schaal huishoudelijke apparaten te hacken, zouden we misschien afgeluisterd kunnen worden door onze slimme tv. Al is het ook voor AI moeilijk om door beveiliging heen te breken. AI tegen polarisering en eenzaamheid Gelukkig zijn de slechteriken in de minderheid en kan AI ook gebruikt worden om onze levens op een positieve manier te veranderen. Van den Bosch werkt voor nieuwssite nu.nl aan een taalalgoritme dat helpt het publieke debat te depolariseren. Lezers kunnen nu onder artikelen reageren, maar dat verzandt snel in gescheld tussen trollen. Het algoritme helpt om reacties te herkennen die een positieve bijdrage leveren aan het debat. En zorgt er dan voor dat deze teksten bovenaan komen te staan, waardoor ze meer gelezen worden. AI kan volgens Van den Bosch ook bijdragen aan het tegengaan van eenzaamheid. Hij noemt de film Her (2013) als realistisch toekomstscenario. Daarin gaat de hoofdrolspeler een intieme relatie aan met een chatbot. De AI met de stem van Scarlett Johansson lijkt ergens op de persoonlijke taalmodellen die Van den Bosch zelf maakt. Deze interactieve computerstemmen wekken veel empathie op, waardoor het denkbaaris dat je er een hechte band mee opbouwt. Is het niet wat dystopisch om menselijk contact te vervangen door een algoritme? Van den Bosch vindt dat te cynisch. “We laten ons altijd al raken door dingen: denk aan Mariabeeldjes of een urn met foto van een dierbare. Ik denk dat mensen eerst moeten wennen aan dit soort relaties met robots, maar dat ze het uiteindelijk leuk gaan vinden.” De toekomst van AI Voorspellingen over wat de volgende ontwikkelingen in AI-land gaan zijn, daar wil Van den Bosch zich niet aan wagen. Ook al zit hij al dertig jaar in het vak, hij had nooit gedacht dat een bedrijf ooit iets als ChatGPT zou durven uitbrengen, met zo veel computerkracht en data. “Ik wist dat Microsoft en Google ertoe in staat waren. Maar ik dacht dat ze het niet zouden durven, vanwege de enorme risico’s op fouten, de rechtszaken die ze daardoor aan hun broek kunnen krijgen, en dus de reputatieschade die ze ermee zouden oplopen. Wat dat betreft is OpenAI een soort zwarte zwaan. Dat bedrijf heeft een heel riskante gok gewaagd en nu blijkt dat mensen door de bijna toverachtige kracht die ChatGPT heeft, bereid zijn om zijn fouten te vergeven.” Dit artikel van Els Aarts verscheen eerder bij Studium Generale Utrecht.

Door: Foto: Duncan Rawlinson - Duncan.co (cc)
Foto: The Dangers of AI, Stable Diffusion, via Marc van Oostendorp.

De gevaren van AI

, door

Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie.

Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.)

De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd.

Steun ons!

Mededeling

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Quote du Jour

Quote du Jour | Maakt AI een eind aan de Verlichting?

, door

The Enlightenment started with essentially philosophical insights spread by a new technology. Our period is moving in the opposite direction. It has generated a potentially dominating technology in search of a guiding philosophy.

Vooropgesteld dat Henry Kissinger in een rechtvaardige wereld inmiddels achter de tralies had gezeten vanwege de bombardementen op Cambodja en wat dies meer zij – hij heeft wel een punt dat zelflerende algoritmen de komende decennia steeds meer ons leven gaan bepalen.

Foto: Paul Keller (cc)

Taalpolitiek in tijden van Kunstmatige Intelligentie

, door

Taalpolitieke kwesties hebben mij altijd meer geïnteresseerd dan de gemiddelde mens: hoe stellen we vast in welke omstandigheden welke taal of talen gebruikt mogen of moeten worden? Moeten alle kinderen op het schoolplein altijd Nederlands praten? Welke talen moeten worden gesproken in het Europese Parlement om alles tegelijk efficiënt en democratisch te laten verlopen? Moeten we ons verweren tegen het Engels in het hoger onderwijs of die taal juist omarmen?

De laatste tijd dringt tot me door dat in de toekomst die vragen weleens allemaal zouden kunnen verdwijnen, of in ieder geval een heel andere vorm zouden kunnen krijgen. Dat komt door Kunstmatige Intelligentie, systemen als ChatGPT maar vooral Google Translate en DeepL, automatische vertalers. Steeds beter worden die dingen: als je weleens iets moet vertalen, doen die systemen dat voor je in een handomdraai. Vaak is hooguit nog een lichte redactieslag nodig.

Genoeg

Het moment lijkt niet ver meer dat die systemen niet alleen voor geschreven tekst werken, maar ook in staat zijn de gesproken taal te begrijpen en voort te brengen. Ik bedoel niet dat zulke systemen er over vijf jaar zijn, maar wel dat ik niet verbaasd zou zijn als we ze in pakweg 2045 overal hebben. Dat je tegen die tijd een knopje in je oor kunt doen die alles wat de ander zegt in diens eigen stem maar in jouw taal laat klinken.

Foto: Mike MacKenzie (cc)

Investeren in intelligentie

, door

COLUMN - Met het Strategisch Actieplan voor Artificiële Intelligentie wil staatssecretaris Mona Keijzer er voor zorgen dat Nederland door samenwerking tussen publieke en private instellingen koploper wordt op het gebied van kunstmatige intelligentie.

AI verandert nu al onze wereld ingrijpend. We moeten zorgen dat we niet geleefd worden door deze technologie, maar die voor ons laten werken. Met deze gecoördineerde kabinetsaanpak leggen we de basis voor een goede bijdrage van AI aan onze maatschappij, banen en inkomsten en zorgen we dat Nederland een innovatieve koploper blijft.

Echter, zonder menselijke intelligentie heeft investeren in AI het risico dat niet de gewenste resultaten worden behaald. Wellicht dat Mona Keijzer dus eens kan gaan praten met haar collega’s bij het ministerie van OCW. Die zijn tenslotte daarvoor verantwoordelijk. En dat loopt niet echt lekker op dit moment.

Daarnaast is AI momenteel nogal een hype. Dus enige nuance is wel op z’n plaats:

When we raise money it’s AI, when we hire it’s machine learning, and when we do the work it’s logistic regression.

Zoals Sanne Blauw terecht zegt, is het verstandiger om voorbij de hype te kijken:

In plaats van AI een doel op zich te maken, bedenk eerst wat je wil veranderen (zorg, klimaat, onderwijs…) en ga dan pas bedenken *hoe* dat te behalen. AI is dan misschien de oplossing, misschien ook niet. Investeer in een doel, niet in een toolkit.

Doe het veilig met NordVPN

Mededeling

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Quote du Jour

Quote du Jour | Geen wezenlijke doorbraken

, door

‘Er is heel veel bereikt,’ zegt Steels. ‘Maar de laatste dertig jaar zijn er geen wezenlijke doorbraken meer geweest. Natuurlijk, de nieuwe toepassingen zijn indrukwekkend. Dat komt doordat computers veel krachtiger zijn geworden, verbonden zijn met elkaar, en veel meer data tot hun beschikking hebben. Daardoor is nu van alles mogelijk. Maar als je kijkt naar de onderliggende intelligentie: die is hetzelfde gebleven. Die is gebaseerd op algoritmen (instructies, programma’s, red.) die er dertig jaar geleden ook al waren.’

Waar veel nieuwe toepassingen op neerkomen: patronen herkennen in grote hoeveelheden data. Dankzij het zogeheten machine learning kunnen computers die patronen zelf ontdekken, zonder dat programmeurs aangeven hoe een patroon eruit ziet.

Foto: Sean Welton (cc)

Damesoffer

, door

COLUMN - Vandaag wint de kunstmatige intelligentie. AlphaGo, een project van het Brits-Amerikaanse bedrijf DeepMind, speelt vandaag in Seoul zijn vijfde en laatste partij Go in een match tegen de beste speler ter wereld, Lee Sedol. De stand tot nu toe: drie-een. Zelfs als Sedol vandaag wint, gaat de match naar AlphaGo.

Kenners zijn overrompeld. ‘Ik had niet verwacht dat hij zo’n perfecte partij zou spelen,’ zei Lee na zijn eerste verlies. Andere Go-experts roemen AlphaGo’s intuïtie, zijn verrassende zetten en zijn capaciteit om te leren.

AlphaGo is gebouwd rond een nieuw type kunstmatige intelligentie. Oudere spelcomputers, zoals Deep Blue die in 1997 de befaamde match van schaakkampioen Gary Kasparov won, werkte met een rijk geheugen aan gespeelde partijen, een gigantische botte rekenkracht en een ingewikkelde boomstructuur. Op basis van die drie elementen kon Deep Blue uitrekenen wat de meest voordelige zet zou zijn. AlphaGo werkt met een neuraal netwerk, is zelflerend, en speelt voortdurend tegen oude versies van zichzelf teneinde zijn spel te verbeteren. Geheid dat AlphaGo de vierde partij, die hij van Sedol verloor, inmiddels grondig heeft geïncorporeerd in zijn systeem.

Dat het ding Go op zulk hoog niveau weet te spelen, is ongekend. De mogelijke zetten bij dat spel zijn absurd veel groter dan bij schaak; meer dan er atomen in het universum zijn, zoals liefhebbers van het spel graag zeggen. Met brute rekenkracht kom je er niet, evenmin als met een bibliotheek aan oude partijen in je chips. Intuïtie, inzicht en elegantie zijn belangrijker.

Foto: DLR German Aerospace Center (cc)

De toekomst is nu

, door

COLUMN - Wat gebeurt er wanneer computers slimmer worden, en een zelfstandige vorm van intelligentie ontwikkelen? Hoeveel vrijheid houden wij mensen dan over? Willen ze ons dan overheersen of ons juist dienen? Heeft kunstmatige intelligentie (KI) het beste met ons voor, of zullen ze ons beschouwen als grondstof voor hun eigen plannen?

Tussen die twee uitersten beweegt het debat over KI zich ongeveer. Enerzijds de waarschuwers die stellen dat we met zulke slimme computers vrijwel krachten losmaken die we niet kunnen beheersen, die mogelijk onze ondergang inluiden. Anderzijds de optimisten die verwachten dat computers met intelligentie ook een besef van ethiek en moraal zullen ontwikkelen, en dat ze mogelijk zelfs fijner besnaard zullen raken dan onszelf ooit is gelukt. In dat geval zou KI juist onze redding betekenen.

Het is een heerlijk debat – vooral omdat het zo hopeloos futiel is. Alsof het ontwerp en het coderen van technologie een soort waardenvrije kern heeft, die even makkelijk linksom als rechtsom kan uitpakken. De crux met technologie is dat die nooit neutraal is: het gaat altijd om de vraag hoe die technologie is gestructureerd en ingebed, met welk doel hij wordt ingezet, en hoeveel waarde we aan de aldus vergaarde informatie toekennen.

Waan van de dag

Stephen Hawking et al.: ‘We nemen AI niet serieus genoeg’

, door

Aldus dit opiniestuk in The Independent:

Looking further ahead, there are no fundamental limits to what can be achieved: there is no physical law precluding particles from being organised in ways that perform even more advanced computations than the arrangements of particles in human brains. An explosive transition is possible […]

One can imagine such technology outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand. Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.

So, facing possible futures of incalculable benefits and risks, the experts are surely doing everything possible to ensure the best outcome, right? Wrong.

Foto: Sargasso achtergrond wereldbol

WW: Emily Howells muziek

, door

De woensdagmiddag is op GeenCommentaar Wondere Woensdagmiddag. Met extra aandacht voor de nieuwste ontwikkelingen in Wetenschap- en Techniekland.

Voor de liefhebbers van moderne klassieke muziek, luister even met de ogen dicht naar de volgende twee muziekstukken:

Zoals te zien is zijn beide stukken gecomponeerd door ene Emily Howell. Deze naam zal zelfs bij grote muziekliefhebbers geen belletje doen rinkelen en ook een Google search levert weinig persoonlijke informatie over deze mysterieuze componist op. De reden is al snel duidelijk: het gaat hier om een computerprogramma.

Emeritus professor David Cope begon zijn eigen carriere als componist al op jonge leeftijd. Hij bekleedde posities aan verschillende conservatoria en universiteiten en componeerde vele stukken. Maar in 1980 raakte Cope een creatieve muur toen hij gevraagd was om een opera te schrijven. Het resultaat van dit writers block was dat Cope zich tot de computer wendde. Nu had hij al eerder de computer gebruikt bij het schrijven van muziek, maar het echte componeren gebeurde tot dan toe in zijn hoofd.

In de geschiedenis van de muziek waren er wel eerder vergelijkbare initiatieven genomen: Het interessantste voorbeeld is misschien wel dat van het Musikalisches Würfelspiel dat aan Mozart wordt toegeschreven. Hierbij werd een stuk gecomponeerd door dobbelstenen te rollen. De uitkomsten van de worpen waren gerelateerd aan muziekfrasen, die aaneengeschakeld een nieuw, uniek stuk vormden.

Foto: Sargasso achtergrond wereldbol

WW: Rijdend brein in een vat

, door

De woensdagmiddag is op GeenCommentaar Wondere Woensdagmiddag. Met extra aandacht voor de nieuwste ontwikkelingen in Wetenschap- en Techniekland.

Brein in een vat (Foto: Flickr/Gaetan Lee)

Eén van de meest nare filosofische ideeën is dat van het Solipsisme. Kort samengevat stelt het Solipsisme dat er maar één enkele bewustzijn is in het universum en dat is die van jouzelf, de waarnemer. Alle kennis over de buitenwereld is vals, een door jezelf gecreëerde illusie. Erg vervelend natuurlijk, omdat het het bestaan nogal eenzaam maakt. Problematisch is ook dat er weinig tegen het Solipsisme in te brengen valt omdat hij eigenlijk niet falsificeerbaar is. Tegen allerlei tegenwerpingen blijken solipsistische gedachtenexperimenten overeind te blijven.

Het bekendste, en meest tot de verbeelding sprekende gedachtenexperiment is dat van het ‘Brein in een Vat‘. Het idee is hier dat een ‘mad scientist’ een brein uit iemands hersenpan heeft gelepeld en het in een met vloeistof gevuld vat in leven houdt. Het brein is aangesloten op een supercomputer die het brein prikkels geeft. Door middel van deze prikkels worden waarnemingen gesimuleerd die door het brein niet van ‘echt’ te onderscheiden zijn. Het brein denkt dus dat het nog steeds buiten rondloopt, bloemen ruikt en vogels hoort, terwijl het in werkelijkheid in het vat ronddobbert. Veel filosofen hebben grote problemen gehad met dit gruwelijke gedachtenexperiment en de conclusies die hieruit voortvloeien over de onkenbaarheid van het bewustzijn. Iedereen was dan ook blij dat het bij een gedachtenexperiment bleef. Tot deze week.

Want wat deden Mark Hammond en co. van de Universiteit van Reading? Ze stopten een prutje van 300.000 ratneuronen in een vaatje en lieten ze connecties maken. Op die manier vormde zich een (primitief) breintje. Dat breintje werd gekoppeld aan, je raadt het al, elektroden waarmee door middel van voltages prikkels toegediend werden. Hammond en zijn collega’s proberen de boel door te meten om zo meer inzicht te krijgen in de werking van het brein en zo eventueel tot nieuwe behandelingen voor aandoeningen als Alzheimers en epilepsie te komen.

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Vorige Volgende