De onmogelijke dystopische maatschappij

Een van de meest absurde ideeën over deze wereld van 2024 stond 3 januari als hoofdartikel afgedrukt in NRC. Het gaat over de nieuwe Europese wetgeving over kunstmatige intelligentie: Het totaalpakket dat in december rondkwam is stevig. Kunstmatige intelligentie wordt zo aan banden gelegd dat een dystopische maatschappij onmogelijk gemaakt wordt. Ongerichte gezichtsherkenningssystemen, sociale kredietscores, AI-tools die op het werk of op school emoties manipuleren en vrije wil ondermijnen worden verboden. Er zullen ook nieuwe toezichthoudende en adviserende instanties worden opgericht om grip te houden op toekomstige ontwikkelingen. Aan de ene kant wordt dus aan kunstmatige intelligentie de macht toegeschreven om een dystopische maatschappij te veroorzaken. Aan de andere kant wordt Europese wetgeving geacht zo’n maatschappij onmogelijk te maken. Onmogelijk! Hoera, nooit meer een dystopie, dankzij de Europese regels. En natuurlijk dankzij toezichthoudende en adviserende instanties. Niet te regelen Voor de duidelijkheid: het lijkt me goed dat er geprobeerd wordt om de ontwikkelingen in de kunstmatige intelligentie te reguleren. Er zijn grote problemen mee – naar mijn idee vooral omdat de huidige succesvolle systemen zo vreselijk duur zijn dat ze alleen maar door grote, meest Amerikaanse, bedrijven gemaakt kunnen worden. Zelfs de rijkste Amerikaanse universiteit heeft niet genoeg geld om het na te maken en zo meer onder publieke controle te krijgen. Om gebruik te kunnen maken van die nieuwe technologie moet je dus als burger je hebben en houwen overgeven aan die bedrijven. Maar om nu meteen zoveel vertrouwen te hebben in een instantie als de EU om te denken dat zij een dystopie kunnen tegenhouden? De voornaamste karakteristiek van de ontwikkelingen in de kunstmatige intelligentie lijkt mij vooral dat ze op dit moment volkomen onvoorspelbaar is. We weten gewoonweg niet wanneer ChatGPT 5 of 6 of 7 komt, en hoeveel zaken die nog blijkt te kunnen die ons volkomen verrassen. Alleen al in het afgelopen jaar is ChatGPT op een aantal vlakken verbazingwekkend veel beter geworden, en we begrijpen volgens mij nog maar half wat dat systeem allemaal kan. Het gevaarlijkste wat je nu kunt doen is daarom: vertrouwen op dat het allemaal wel goed komt. Europa regelt het wel, daar hebben ze hun ogen niet in hun zak. We moeten waakzaam zijn voor de dystopieën, want die verdwijnen heus niet ineens nu er regels zijn over iets dat inherent nauwelijks te regelen valt.

Door: Foto: DALL·E A dystopian future intertwined with European symbols featuring AI technology, the European Union flag and futuristic cityscapes
Foto: blackham (cc)

Dystopische boeken

OPINIE - Hoewel elementen uit George Orwells 1984 werkelijkheid zijn geworden, ligt de dystopie Brave New World misschien nog wel dichter bij de huidige situatie. Matthijs Pontier van de Piratenpartij Amsterdam vraagt zich af of we ons door deze boeken kunnen laten inspireren om de samenleving anders vorm te geven.

1984: de totalitaire surveillancestaat

In de een totalitaire staat van George Orwells 1984 volgt ‘Big Brother’ alle stappen die burgers zetten via cameratoezicht dat reikt tot in de huiskamer. Constante oorlog is een doel op zich geworden en wordt gebruikt om dergelijke vrijheidsinperkingen te rechtvaardigen. De bevolking wordt gemanipuleerd door vergaande censuur. Via doublespeak krijgen woorden een andere betekenis, die Big Brother beter uitkomt: War = Peace en Freedom = Slavery.

Er zijn duidelijke parallellen met de huidige situatie. Niet voor niets deelt de Piratenpartij flyers uit met de leus ‘1984 was not supposed to be an instruction manual‘. Waar 1984 waarschuwde voor een totalitaire staat die leek op de communistische Sovjet-unie, lijken we nu in een tijd van ongebreideld kapitalisme dezelfde mensenrechtenschendingen te ondergaan.

Met name het Amerikaanse buitenlandbeleid wordt zo ingericht dat er constant een staat van oorlog is, waar de rest van de wereld ook in wordt meegesleept. Onze vrijheden worden in grote mate ingeperkt ‘om onze vrijheid te beschermen.’ Als publieke diensten in de uitverkoop wordt gegooid, wordt dit een ‘publiek-private samenwerking‘ genoemd. En als onze democratie in de uitverkoop gaat, noemen we dit een Transatlantic Trade & Investment Partnership (TTIP). Als je een document opvraagt via de Wet Openbaar Bestuur (WOB), krijg je dit zwartgelakt terug. Tenzij ze per ongeluk onderstrepen in plaats van doorstrepen, natuurlijk.

Lezen: Het wereldrijk van het Tweestromenland, door Daan Nijssen

In Het wereldrijk van het Tweestromenland beschrijft Daan Nijssen, die op Sargasso de reeks ‘Verloren Oudheid‘ verzorgde, de geschiedenis van Mesopotamië. Rond 670 v.Chr. hadden de Assyriërs een groot deel van wat we nu het Midden-Oosten noemen verenigd in een wereldrijk, met Mesopotamië als kernland. In 612 v.Chr. brachten de Babyloniërs en de Meden deze grootmacht ten val en kwam onder illustere koningen als Nebukadnessar en Nabonidus het Babylonische Rijk tot bloei.

Daily Mail publiceert bizarre ‘what if Corbyn was PM?’-dystopie

Oké, get this. In 2016 stort de wereldeconomie volledig in elkaar, het VK belandt in een soort Griekse crisis, en er ontstaat voldoende draagvlak voor een Syriza-achtige regering. Het is 2020, verkiezingstijd. Labour, inmiddels geleid door Jeremy Corbyn, behaalt een ruime overwinning.

The Red Flag was hung from the windows of No 10. Russell Brand kept his garbled verbosity in check for once and simply tweeted: ‘YEEESSSSSS!!!!’

Zo begint Corbyns premierschap zoals (uiteraard niet helemaal serieus) geschilderd in dit 2500 woorden tellende toekomstscenario in de Daily Mail: Prime Minister Corbyn… and the 1,000 days that destroyed Britain.

Foto: Sargasso achtergrond wereldbol

De dystopische visioenen van Chris Hedges

Released on Apr 14, 2015

Auteur CJ Werleman bevraagt prijswinnend journalist Chris Hedges over de staat van de Amerikaanse natie. Hedges is uitgesproken somber over de toekomst.

Volgens Hedges koersen de Verenigde Staten aan op een onvermijdelijke implosie, omdat haar wereldwijde hegemonie haar steeds verder in de schulden brengt, terwijl grote delen van de middenklasse langzaam maar zeker in armoede wegzakken. De politieke en economische elites zijn deels onwillig, en deels machteloos om het schip te keren.

As you hollow your country out from the inside – and anybody just has to look out a window wherever they are to see crumbling infrastructure and failing schools, closed libraries and chronic unemployment, underemployment and the slashing of most basic social services, whether it is Head Start or food stamps or anything else – in order to maintain control, you bring back these very brutal mechanisms of control, wholesale surveillance, militarized policing, drones, so that at this point a night raid in Oakland doesn’t look any different from a night raid in Fallujah, it’s the same, because it’s the same mechanism.

Het antwoord van de politieke en economische elites op deze verpaupering is volgens Hedges steeds draconischer vormen van overheidscontrole, en de uitholling van burgerrechten.

Een fraai voorbeeld hiervan, dat Hedges niet noemt, is het inhuren van vele tientallen politieagenten door banken op Wall Street, om de Occupy-demonstranten met geweld weg te jagen. Maar Hedges’ blik is nog veel dystopischer van aard:

The security and surveillance state is deeply troubling because they all know what’s coming. I mean, they have run scenario after scenario in the NSA and everywhere else on climate change, on inevitable financial collapse, and they are preparing, legally, by essentially stripping us of our most basic legal protection, whether it’s habeas corpus, the right to trial…

Als je wilt weten wat de brave burger te wachten staat, meent Hedges, moet je kijken naar hoe de staat de onderklasse behandelt. En die is middels de zogenaamde war-on-drugs grotendeels tot crimineel verklaard, aangezien men voor minimaal drugsbezit al draconische straffen opgelegd krijgt.

As the great writers on totalitarianism, like Hannah Arendt and others have pointed out: in a totalitarian system, you carry out wholesale surveillance not to find innocence or guilt – because in our species of corporate totalitarianism guilt and innocence don’t matter – but because as soon as you criminalize a certain person or category of people, you have all the files, you have everyting and you can always hang something on them and prosecute them; especially in a judicial system which has deteriorated as ours has into a kind of species of just show-trials, when we even have trials. Ninetyfour percent of those who are sitting in prison of course, never even get a trial.

Hedges ziet een aantal parallellen tussen de krachteloosheid van progressieven en liberalen in de VS en de marginalisering van de liberalen tsaristisch Rusland rond 1900, maar meer nog in de impotente democraten in de Weimar-republiek en voormalig Joegoslavië. En als de bom barst, zal dat onvermijdelijk leiden tot een revolutie, in de VS waarschijnlijk van een fascistische aard.

Dostoyevski, quite presciently, talked about the inevitable kind of violence – this is Raskolnikov’s dream, at the end of Crime and Punishment, the same kind of visions you saw at the end of The Brothers Karamazov, and that’s what happens when society essentially embraces political paralysis, which is what we’ve embraced.

So you have a self-identified liberal elite – so here it would be more like Weimar. Or the former Yugoslavia, before the war, where you have a self-identified liberal class that is in fact impotent, they can’t act.

So Obama can’t regulate Wall Street, Obama’s assault on civil liberties, his administration had been actually worse than under Bush, especially with the use of the espionage act, to shut down whistleblowers – Kiriakou, Snowden, Chelsea Manning and others – the expansion of imperial war through militarized drones, the inability to deal with the suffering of the underclass.

I mean, half of this country almost, is now in a category called poverty or near-poverty, so in essence, that’s paralysis, because every mechanism of state is used to enrich and empower a corporate olichargic elite at our expense.

And the danger is that when you get a crisis – and this would be very similar to Weimar, or Yugoslavia, where it came through hyperinflation – then you get a kind of enraged populus, that doesn’t understand what’s happened. And they turn on these ineffectual elites and embrace a kind of virulent right wing. That was of course the fascists in Germany but it would have been the ethnic nationalists – Slobodan Milošević and others, Franjo Tuđman – in Yugoslavia. And not only do they get rid of the liberal elites, but they have no time for “liberal values”. Those go right out the window.

Dat is wat allerlei elementen die nu worden aangebracht – van surveillance tot anti-terreurmaatregelen of de militarisering van het politieapparaat – zo gevaarlijk maken. Wetgeving en praktijken die nu worden ingevoerd als anti-terreurwetgeving of misdaadpreventie kunnen gemakkelijk ingezet worden tegen de eigen bevolking als de bom barst.

Having lived in disintegrating societies, I’ve seen it, I’ve seen what happens in places like Yugoslavia. At the moment that there’s a crisis, whether it’s caused by a collapsing economy, and even our most sober financial reporters like Gretchen Morgenson are now talking about another inevitable collapse, because there’s been no restraint on Wall Street, we’ve just flooded them with free money, or whether it’s caused by climate change or whatever, at that moment of collapse you have in place both the physical and the legal mechanisms to, with the flick of a lightswitch, to turn this country into basically a militarized state.

Wat nodig is, meent Hedges, is een brede links-progressieve, activistische beweging om een alternatief te bieden voor ultrarechts wanneer de crisis zich aandient, maar decennialange demonisering van dergelijke bewegingen als ‘communistisch’ maken het vrijwel onmogelijk om daar brede steun voor te krijgen.

U hoort het: America is doomed.

Foto: mermaid (cc)

Dystopie

COLUMN - Een kennis werd afgelopen week oma. Ik feliciteerde haar oprecht, maar dacht er stiekem iets heel anders bij. De vriend die ik kort erna sprak, had dezelfde ambivalentie. ‘Ik ben al blij dat ik geen kinderen heb, laat staan kleinkinderen,’ zei hij. ‘De wereld staat er belazerd voor. Hoe is het over een jaar of twintig? Ik houd mijn hart vast voor de mensen na ons.’

Het begrip dystopie was vroeger onbekend. De eerste keer dat ik het woord in een manuscript gebruikte, trok mijn uitgever er een vinnige streep door. ‘Dat woord bestaat niet, hoor.’ Alleen mensen die graag science fiction lazen waren vertrouwd met de term. De dystopie is de omgekeerde utopie. Zoals de hemel tegenover de hel staat, staat de dystopie tegenover de utopie.

Om het lastiger te maken: science fiction leerde ons, lang voordat filosofen als Hans Achterhuis dat idee theoretisch wisten te onderbouwen, dat het streven naar een utopie vaak uitmondt in een dystopie. Zie Brave New World of This Perfect Day: een overheid die de burgers met veiligheid wil ommantelen, eindigt ermee de waarheid voor hen te verbergen, haar eigen geschiedenis te herschrijven, en iedereen monddood te maken.

Ons streven naar vooruitgang, naar groei, maakbaarheid, veiligheid en controle, is hard bezig een wereld te scheppen die voor de overgrote meerderheid van ons op korte termijn onleefbaar wordt. Een paar voorbeelden:

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

China voert intrusief scoresysteem voor burgers in

NIEUWS - China gaat een ‘Sociaal Krediet Systeem‘ invoeren, een door big data gevoerde moloch waarin burgers een score krijgen op basis van een aantal criteria, waaronder hun gedrag (en meningen geuit) op sociale media.

Aan een goede score zijn bepaalde privileges verbonden, zoals toegang tot gewilde banen, huizen en/of leningen. Aan een slechte score, logisch genoeg, de uitsluiting daarvan.

Foto: copyright ok. Gecheckt 06-11-2022

V for Vendetta. De kracht van de dystopie.

Wanneer de realiteit van het dagelijkse leven tegenvalt, biedt de wereld van fictie een uitweg. De dystopie, tegenhanger van utopie, is een bron voor verhalen waarin problemen uit de echte wereld een karikaturale vorm krijgen. Een zekere vereenvoudiging of overdrijving wordt in de dystopie niet uit de weg gegaan, maar draagt juist bij aan een heldere ethiek in een complexe wereld.

In Brave New World van Aldous Huxley (1932) wordt de samenleving beheerst door het ratio en technologie. Op biologische wijze een kind op de wereld zetten is bijvoorbeeld barbaars in Brave New World. Huxley schreef het boek in de tijd van grote wetenschappelijke en industriële veranderingen. Henry Ford introduceerde de lopende band, werd de mens hierdoor gedegradeerd tot een radar in de machine? Wetenschap is niet altijd vooruitgang, vond Huxley. Diegene die de kennis beheert, is ook in staat die kennis als een machtsmiddel te gebruiken.

Een waarschuwing die nog steeds zeer relevant is. De dystopische wereld van Huxley echoed door in de boeken van de Franse auteur Michelle Houellebecq. De dystopie is ook al langere tijd populair in Hollywood, waarin de comicbook een dankbare bron is. Zo Batman houdt zich in The Dark Knight (2008) niet meer bezig met de vrolijke knokpartijen (Boom! Pow!) van voorheen, maar raakt hij geconfronteerd met zijn eigen moraal in de vorm van The Joker. De comic serie Watchmen is geschreven tegen het einde van de jaren ’80. Het is een kritiek op de werkelijkheid in stripvorm: er bestaat geen eenvoudige scheidslijn tussen Goed (democratisch Amerika) en Kwaad (communistisch Rusland). De superhelden uit Watchmen hebben bovendien geen superkrachten, op de apathische Dr.Manhattan na. Er bestaat eenmaal geen eenvoudige oplossing in de vorm van een gewelddadige superheld.

Foto: Sargasso achtergrond wereldbol

De surveillancestaat als neoliberale dystopie

atlas shruggedIs de surveillancestaat een neoliberale dystopie, of anders gezegd, is de neoliberale utopie voor enkelen de surveillancedystopie voor velen? Zo, lekker begin voor een pretentieus stukkie.

Ik heb zojuist De Utopie van de Vrije Markt uit. In dit boek stelt de Groningse filosoof Hans Achterhuis dat het neoliberalisme net als ondermeer het socialisme een utopische ideologie is. ,,Veel mensen denken dat de vrije markt een objectief proces is dat niemand heeft bedacht en uitgevoerd. Niemand lijkt verantwoordelijk te zijn voor de ideologie en de utopie erachter. Er zou geen ‘kapitalistisch manifest’ bestaan’’, schrijft hij.

Achterhuis meent dat dat manifest er wel degelijk is, namelijk het boek Atlas Shrugged van de Amerikaanse schrijfster Ayn Rand. Dit boek beïnvloedde in twee frontmannen van het neoliberalisme ingrijpend: Milton Friedman en Alan Greenspan. De onderliggende idee van Atlas Shrugged – en in het verlengde daarvan het neoliberalisme, stelt Achterhuis – is dat het najagen van het zuivere eigenbelang de samenleving als geheel ten goede komt. Of zoals Gordon Gekko zo treffend verwoordde: greed is good.
In tegenstelling tot de klassieke liberalen zien de neoliberalen geen tot weinig taken weggelegd voor de staat. Een waarlijk vrije mens is een mens die kan kiezen met wie hij handel drijft. Een waarlijk vrije samenleving is een marktsamenleving, bevolkt door homo economii. Wie niets te verhandelen heeft, of zich niet rationeel gedraagt, heeft pech.