De toverkracht van AI

door Els Aarts. 2023 is het jaar van de doorbraak van ‘generatieve’ AI. Kunstmatige intelligentie die getraind is om tekst, beeld of geluid te maken. De reacties variëren van verwondering tot totale paniek. Hoe revolutionair is de nieuwste generatie AI? Kunstmatige Intelligentie (AI) is dit jaar niet uit de kranten weg te slaan. Sinds het bedrijf OpenAI eind 2022 chatbot ChatGPT gratis toegankelijk maakte, houdt zijn bedwelmende taalvermogen iedereen in zijn greep. Taalwetenschapper prof. Antal van den Bosch (UU) bouwt al zo’n dertig jaar aan het type taalmodellen waar ChatGPT op gebaseerd is, en kijkt met verbazing naar de hype die zich plotseling rond zijn vakgebied afspeelt. Voor de reeks ‘Wie is er bang voor AI?’ spreken we hem over de angst voor AI, wat AI ons kan brengen, en of je dat als taaltechnoloog überhaupt kan voorspellen. AI is niet intelligent Van den Bosch is stellig: de intelligentie in AI heeft weinig te maken met menselijke intelligentie. “Taalmodellen als ChatGPT kunnen letterlijk niets anders dan het volgende woord voorspellen. Ze hebben geen enkele kennis van de echte wereld, maar maken plausibele teksten en daarom klinkt het alsof er heel veel meer achter zit dan in werkelijkheid het geval is.” Toch spreken veel experts van een revolutie. Volgens Van den Bosch zijn er twee belangrijke aspecten die ChatGPT uniek maakt. Ten eerste heeft de chatbot een actief en zelflerend intern geheugen. Hij kan op lange en complexe opdrachten reageren, onthoudt wat er eerder gezegd is en kan bijvoorbeeld een conclusie of clou helemaal aan het einde van de tekst toevoegen, zonder te vergeten dat dat ook bij de opdracht hoorde. Hierdoor is het niet, zoals vorige taalmodellen, alleen een soort ‘autocomplete’ zoals we van onze telefoons kennen, maar kunnen we er langere teksten mee maken, ermee plannen of de chatbot laten meedenken over ingewikkelde vraagstukken. Het tweede aspect is dat het gratis toegankelijk is voor iedereen. En daarin schuilt ook meteen het gevaar. Volgens Van den Bosch is de technologie op zichzelf niet gevaarlijk, maar kan ze mensen helpen om op grotere schaal schade aan te richten dan voorheen, omdat ze door haar actieve interne geheugen op autonomere manier de plannen van haar opdrachtgever kan uitvoeren:  AI kan zelf code schrijven en die zelfstandig op internet, databases of apparaten uitvoeren. Als deze bots ingezet worden om op grote schaal huishoudelijke apparaten te hacken, zouden we misschien afgeluisterd kunnen worden door onze slimme tv. Al is het ook voor AI moeilijk om door beveiliging heen te breken. AI tegen polarisering en eenzaamheid Gelukkig zijn de slechteriken in de minderheid en kan AI ook gebruikt worden om onze levens op een positieve manier te veranderen. Van den Bosch werkt voor nieuwssite nu.nl aan een taalalgoritme dat helpt het publieke debat te depolariseren. Lezers kunnen nu onder artikelen reageren, maar dat verzandt snel in gescheld tussen trollen. Het algoritme helpt om reacties te herkennen die een positieve bijdrage leveren aan het debat. En zorgt er dan voor dat deze teksten bovenaan komen te staan, waardoor ze meer gelezen worden. AI kan volgens Van den Bosch ook bijdragen aan het tegengaan van eenzaamheid. Hij noemt de film Her (2013) als realistisch toekomstscenario. Daarin gaat de hoofdrolspeler een intieme relatie aan met een chatbot. De AI met de stem van Scarlett Johansson lijkt ergens op de persoonlijke taalmodellen die Van den Bosch zelf maakt. Deze interactieve computerstemmen wekken veel empathie op, waardoor het denkbaaris dat je er een hechte band mee opbouwt. Is het niet wat dystopisch om menselijk contact te vervangen door een algoritme? Van den Bosch vindt dat te cynisch. “We laten ons altijd al raken door dingen: denk aan Mariabeeldjes of een urn met foto van een dierbare. Ik denk dat mensen eerst moeten wennen aan dit soort relaties met robots, maar dat ze het uiteindelijk leuk gaan vinden.” De toekomst van AI Voorspellingen over wat de volgende ontwikkelingen in AI-land gaan zijn, daar wil Van den Bosch zich niet aan wagen. Ook al zit hij al dertig jaar in het vak, hij had nooit gedacht dat een bedrijf ooit iets als ChatGPT zou durven uitbrengen, met zo veel computerkracht en data. “Ik wist dat Microsoft en Google ertoe in staat waren. Maar ik dacht dat ze het niet zouden durven, vanwege de enorme risico’s op fouten, de rechtszaken die ze daardoor aan hun broek kunnen krijgen, en dus de reputatieschade die ze ermee zouden oplopen. Wat dat betreft is OpenAI een soort zwarte zwaan. Dat bedrijf heeft een heel riskante gok gewaagd en nu blijkt dat mensen door de bijna toverachtige kracht die ChatGPT heeft, bereid zijn om zijn fouten te vergeven.” Dit artikel van Els Aarts verscheen eerder bij Studium Generale Utrecht.

Foto: The Dangers of AI, Stable Diffusion, via Marc van Oostendorp.

De gevaren van AI

Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie.

Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.)

De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd.

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

“Karakter topbankier bepaalt risico’s”

De Volkskrant bericht over Brits onderzoek waaruit blijkt dat niet bonussen, maar het karakter van bankiers bepalend is voor risicovol gedrag van banken. Koren op onze molen natuurlijk, want ha, dat wist iedereen al van die schurken…

Dat de hoogte van de bonus an sich niet bepalend is verbaast me niet zo. Ik denk wel dat de hoogte van de bonus ten opzichte van de bonus van anderen wel bepalend is, want daarmee wordt het competitie om status.

Foto: PanaTomix (cc)

De marktkansen van nieuwe kerncentrales

ANALYSE - Met de oplopende energieprijzen zwelt de roep om nieuwe kerncentrales weer aan als aanvulling op hernieuwbare elektriciteit. Waarbij sommigen, zoals Ted Nordhaus, zo ver gaan om de huidige problemen te wijten aan een de afkeer van kerncentrales. In Nederland groeit de roep om kerncentrales al een tijd. In de landelijke politiek betonen onder andere de VVD en het CDA zich warm voorstander hiervan. Tijd om marktconsultatie die KPMG heeft uitgevoerd in opdracht van het Ministerie van Economische Zaken langs de vijf grootste risico’s te halen, zoals Citigroup die beschreef in hun paper ‘New nuclear? The economics say no.‘ Het gaat daarbij om de volgende vijf risico’s: planningsrisico, risico’s tijdens het bouwproces, elektriciteitsprijs, exploitatierisico’s en het risico bij ontmanteling & van het afval. Volgens Citigroup betreft het vijf risico’s die ieder voor zich groot genoeg zijn om zelfs de grootste energiebedrijven financieel zodanig te beschadigen dat er geen redden meer aan is. Met een nieuwe marktconsultatie van KMPG is het aardig om te bezien of de bouw van kerncentrales zich de afgelopen 15 jaar zodanig heeft ontwikkeld dat de markt nu wel in staat is om deze risico’s te dragen. En om te bezien of de marktkansen voor nieuwe kerncentrales verbeterd zijn.

Foto: Sargasso achtergrond wereldbol

Wereld ‘ernstig’ onvoorbereid op effecten van klimaatcrisis

NIEUWS - Volgens een nieuw rapport van de Global Center on Adaptation is de wereld niet voorbereid op de gevolgen van klimaatverandering. In het voorwoord stellen de opstellers van het rapport, waaronder Ban Ki-moon en Bill Gates:

the climate crisis is here, now: wildfires ravage fragile habitats, city taps run dry, droughts scorch the land, and floods destroy people’s homes and livelihoods.

Klimaatverandering is volgens de opstellers van het rapport een van de grootste bedreigingen voor de mensheid, met verstrekkende en verwoestende effecten op mensen, het milieu en de economie. Klimaatverandering heeft effect op alle regio’s van de wereld en alle delen van de samenleving. Degene die het minst hebben bijgedragen aan het probleem – vooral degene die in arme en kwetsbare gebieden leven – lopen de grootste risico’s. En de risico’s nemen toe:

Climate change is upon us, and its impacts are getting more severe with each passing year. Global actions to slow climate change are promising but insufficient. We must invest in a massive effort to adapt to conditions that are now inevitable: higher temperatures, rising seas, fiercer storms, more unpredictable rainfall, and more acidic oceans.

Zonder adaptatie zorgt klimaatverandering voor een verlies van 30% van de groei van agrarische productie tot 2050. De 500 miljoen kleinste boeren in de wereld zullen hierdoor het hardst geraakt worden. Het aantal mensen met tenminste een maand per jaar gebrek aan water stijgt van 3,6 miljard nu naar 5 miljard in 2050. De stijgende zeespiegel en grotere stormvloeden hebben effect op honderden miljoenen mensen die in kustgebieden leven. Met een totale kostenpost van $1 triljoen dollar in 2050. Op de kortere termijn zorgt klimaatverandering ervoor dat meer dan 100 miljoen mensen in ontwikkelingslanden in 2030 onder de armoedegrens belanden.

Lezen: De wereld vóór God, door Kees Alders

De wereld vóór God – Filosofie van de oudheid, geschreven door Kees Alders, op Sargasso beter bekend als Klokwerk, biedt een levendig en compleet overzicht van de filosofie van de oudheid, de filosofen van vóór het christendom. Geschikt voor de reeds gevorderde filosoof, maar ook zeker voor de ‘absolute beginner’.

In deze levendige en buitengewoon toegankelijke introductie in de filosofie ligt de nadruk op Griekse en Romeinse denkers. Bekende filosofen als Plato en Cicero passeren de revue, maar ook meer onbekende namen als Aristippos en Carneades komen uitgebreid aan bod.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Foto: Christoph Scholz (cc)

5G heeft consequenties voor het milieu

ACHTERGROND - Waar denk jij aan als je ‘5G’ hoort? Misschien aan lekker snel internet, of Chinese spionage met Huawei-apparatuur. Maar er is één belangrijk onderwerp dat achterwege blijft: het milieu. Hoe zit het met de impact van 5G op het klimaat en waarom blijft dit onderbelicht?

Het is de nieuwste manier om data te versturen, het is vele malen sneller dan voorganger 4G en wordt in Nederland opgezet as we speak. 5G komt er in 2020 al aan en biedt veel mogelijkheden, van opereren op afstand tot het streamen van extreem zware games, of het creëren van een geautomatiseerd netwerk van zelfrijdende auto’s. Maar er zijn ook zorgen: 5G zal onze honger naar data alleen maar versterken en zo tot een toename in internetgebruik leiden. Dit gaat impact hebben op het milieu en daar lees je weinig over. Wat zegt dit over ons en onze drang naar vooruitgang?

Werking en voordelen

5G staat voor ‘5e generatie mobiele netwerk’. Na 3G en 4G is het de derde generatie van mobiele netwerken waarmee internetten mogelijk is. Door de veel hogere frequenties die 5G gebruikt is de verbinding echter een stuk sneller. Een nadeel van deze hoge frequenties is wel dat het signaal aanzienlijk minder ver komt dan 4G-straling, waardoor er door het hele land veel kleine, signaal-versterkende antennes moeten worden gemonteerd. Dat is een grote klus maar zodra het werkzaam is biedt het netwerk veel voordelen.

Foto: Gerd Leonhard (cc)

Hoe gevaarlijk zijn nanobots?

ACHTERGROND - Nanorobotica klinkt als scifi, maar in het laboratorium is het al werkelijkheid en overheden investeren er volop in. De mogelijkheden zijn mooi, maar kunnen ook vernietigend zijn in bijvoorbeeld oorlog.

In de Terminator-films zie je nanobots als ijzersterke, gedaanteverwisselende bepantsering. Ze herstellen direct en kunnen elk opgegeven wapen vormen dat ze willen. In de film Black Panther dienen nanobots als bescherming en kunnen ze klappen en kogels absorberen. Of dit soort toepassingen er ooit van komen is twijfelachtig, maar het gebruik van nanobots is wel degelijk realiteit. De mogelijkheden van deze technologie zijn volgens sommigen onuitputtelijk. Maar er zijn risico’s: een bestuurbaar ‘apparaatje’ dat niet te zien is met het blote oog kan in verkeerde of onbekwame handen veel schade aanrichten.

Nanobots?

In films zijn nanobots vaak zichtbare, kleine robotjes van mechanisch materiaal. Dat beeld klopt niet.

De bestaande nanobots zijn niet zichtbaar met het blote oog, en hebben een grootte variërend van 10 tot 10.000 nanometer: de kleinste zijn zo groot als een bacterie. In wetenschappelijke publicaties en media spreekt men ook van nanobots als het een microscopisch robotje betreft dat is opgebouwd uit nanotechnologisch geproduceerd materiaal. Een voorbeeld daarvan is de nanobot die is ontworpen om schadelijke stoffen uit de oceaan te verwijderen: deze heeft de breedte van een mensenhaar, maar wordt gemaakt van grafeen. Dat is een materiaal dat wordt geproduceerd met nanotechnologie.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Foto: UCL Mathematical & Physical Sciences (cc)

De schaduw van grafeen

ACHTERGROND - Het werd aangekondigd als het wondermateriaal van de 21e eeuw: grafeen. Sterker dan staal, harder dan diamant en superlicht. Maar er kleven ook risico’s aan grafeen. Lopen we te hard van stapel?

Plakband was het simpele middel dat in 2004 een kleine wetenschappelijke revolutie veroorzaakte. Natuurkundigen Andre Geim en Kostantin Novoselov vonden dat jaar per toeval uit hoe grafeen kon worden geïsoleerd. Door plakband op een potloodstreep te plakken, te verwijderen en dit voorzichtig te herhalen deden ze wat al sinds medio twintigste eeuw werd geprobeerd: het isoleren van grafeen. De twee wetenschappers wonnen hier een Nobelprijs voor. Het materiaal is namelijk 200 keer sterker dan staal, harder dan diamant, en ook nog eens superlicht, superdun en supergeleidend. Vandaar dat het wordt gezien als de opvolger van plastic: een wondermateriaal dat een tijdperk vormgeeft.

Grafeen zelf is niet nieuw, maar dat het geïsoleerd kan worden wel. En daar is de wetenschap nogal enthousiast over. Maar enthousiasme kan gepaard gaan met naïviteit. Langzamerhand wordt namelijk duidelijk dat grafeen niet alleen zonnige kanten heeft. Sommige onderzoekers voorspellen dat de kleine deeltjes afkomstig van de productie van grafeen schade aan de natuur en de menselijke gezondheid zullen veroorzaken als er van tevoren geen maatregelen worden genomen. Moeten we ons zorgen maken?

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.