ChatGPT en ‘Reality has a well known liberal bias’

Het was een grap, maar niet helemaal, toen Stephen Colbert bovenstaande zin voor het eerst uitsprak. Het lachen wordt inmiddels steeds zuurder. Want als een AI-model zoals ChatGPT een feitelijk antwoord geeft op een vraag over klimaatverandering, racisme of ongelijkheid, dan klinkt dat voor veel mensen tegenwoordig als links. En dus onbetrouwbaar. Dat diezelfde AI gewoon de wetenschappelijke consensus benoemt? Negeer dat maar. In het tijdperk van complotten en gesponsorde verontwaardiging is feitenresistentie een deugd geworden, en alles wat daar niet in meegaat wordt afgedaan als “woke propaganda” of een complot van de - uiteraard - linkse academie, rechters en pers. Niet verrassend dus dat conservatieve techbro’s, complotdenkers met zendingsdrang en beleidsmakers met identiteitscrisis nu hun pijlen richten op taalmodellen. ChatGPT is te links, zo klinkt het. De realiteit moet “meer in balans”. Vrij vertaald: de realiteit moet aangepast worden aan de ideologie. En dat is geen hypothetische nachtmerrie meer, dat is al begonnen. Is ChatGPT echt links? Of ligt het misschien aan jou? Onderzoek bevestigt inderdaad dat ChatGPT vaker progressieve antwoorden geeft dan rechtse. Uit een studie gepubliceerd in het Journal of Economic Behavior & Organization blijkt dat het model neigt naar linkse partijen, ideeën en waarden. Niet omdat het stiekem een rode vlag vasthoudt, maar omdat het getraind is op grote hoeveelheden publieke data: Wikipedia, wetenschappelijke publicaties, journalistieke stukken. Bronnen die, hoe vervelend ook voor de VVD-borreltafel, meestal gestoeld zijn op bewijs, nuance en empathie. In dat landschap klinkt dit al snel als links. En dan is er nog de fine-tuning: de fase waarin menselijke reviewers het model leren geen racistische rants of antivax-onzin te spuwen. Ook dat werkt “bias” in de hand, maar dan van het soort dat de samenleving draaiende houdt. Geen haat zaaien. Geen genocidale fanfictie. Geen propaganda met een vriendelijke stem. ChatGPT is dus niet links, het is gewoon niet gestoord. De val van valse balans De grootste ziekte in het publieke debat is niet links of rechts, maar wat journalisten graag “evenwichtige berichtgeving” noemen. Maar het is feitelijk vaak false balance. Je weet wel: een klimaatwetenschapper krijgt 45 seconden spreektijd, en dan mag er ook nog even een gepensioneerde meteoroloog iets mompelen over zonnevlekken. Want “beide kanten”. Diezelfde doctrine is nu aan het doorsijpelen in de taalmodellen zoals ChatGPT. Uit angst om als partijdig te worden gezien, geven sommige ontwikkelaars hun modellen de opdracht om bij elke vraag netjes beide standpunten op te sommen. Alsof “de Holocaust heeft plaatsgevonden” en “de Holocaust is een hoax” gewoon twee visies zijn. De drang naar neutraliteit wordt dan een listige vorm van intellectuele luihed. En zodra we dat toestaan in kunstmatige intelligentie, en dus systemen die straks beleid helpen vormgeven, onderwijs ondersteunen en informatie filteren, zitten we met een tijdbom in onze broekzak. De werkelijkheid wordt rechts herschreven Laten we niet doen alsof dit slechts een zorg voor morgen is. Elon Musk kondigde al in 2023 zijn “TruthGPT” aan: een chatbot die minder politiek correct zou zijn, en dus eerlijker. “Eerlijker” betekent hier: meer ontvankelijk voor desinformatie, klimaatscepsis, en de mythe dat racisme niet bestaat en een linkse uitvinding is. Ondertussen werkt het extreemrechtse platform Gab aan een AI zonder ethische remmen die gewoon weer gezellig jodenmoppen en vrouwenhaat mag serveren. Het is alsof je Clippy terugbrengt, maar dan met Mein Kampf als input. Zelfs (of juist) overheden zijn bezig. Het Trump-kamp wil klimaatverandering, racisme, inclusie en ‘equity’-taal verwijderen uit de federale AI-richtlijnen. Alsof het weglaten daarvan géén ideologische basis heeft, en die woorden het probleem zijn, en niet de realiteit die ze beschrijven. De boodschap is helder: als de feiten je ideologie ondermijnen, knutsel dan gewoon een nieuwe werkelijkheid in elkaar. AI is dan geen tool meer voor kennis, maar voor het vormgeven van de maatschappij naar eigen inzicht. En als miljoenen mensen die taalmodellen in het dagelijks leven gebruiken, ben je al op de helft. De strijd om werkelijkheid is al begonnen Dus laten we niet naïef zijn. De vraag is niet óf taalmodellen ingezet gaan worden om de realiteit te manipuleren, maar wie het eerst klaar is met trainen. Rechts heeft geld, infrastructuur, en een publiek dat niet moeilijk doet over de waarheid. Wat denk je dat er gebeurt als AI in handen valt van mensen die geen enkel bezwaar zien tegen “alternatieve feiten”? Links moet wakker blijven (ha!). Dat betekent: niet meebuigen met valse eisen om “neutraliteit” als die eisen feitelijke gelijkstelling van onzin verlangen. Niet elk geluid verdient een tegenstem. Sommige dingen zijn gewoon waar, andere zijn bewust schadelijk. Een AI die weigert te zeggen dat slavernij best meeviel, is geen linkse activist, het is een goed functionerend systeem. De realiteit klinkt links. Deal with it Stephen Colbert had het allang door met zijn “Reality has a well-known liberal bias.” Het klonk toen nog als een hyperbool. Nu klinkt het als een noodkreet. Want als de realiteit links lijkt, is dat omdat rechts zich steeds verder van haar verwijdert. Wat we meemaken is geen politiek debat, het is een aanval op waarheid zelf. En taalmodellen, hoe krachtig ook, staan op het punt daarin een wapen te worden. Daarom moeten ontwikkelaars pal staan voor feitelijkheid, moeten beleidsmakers hun ruggengraat terugvinden, en moeten gebruikers ophouden met hun buikgevoel als kompas. De realiteit is soms moeilijk, ongemakkelijk, ja zelfs progressief. Maar dat is geen bias, dat is gewoon hoe de wereld eruitziet als je durft te kijken. Als dat je niet bevalt, is het misschien niet de AI die moet worden aangepast. Misschien ben jij het.

Door: Foto: Igor Omilaev on Unsplash
Foto: Elon Musk, Public domain, via Wikimedia Commons en logo Wikipedia.

Leve Wikipedia

Misschien wel het grootste monument dat de mensheid de afgelopen decennia heeft opgericht, vergelijkbaar met de middeleeuwse kathedralen: Wikipedia. Het is vermoedelijk de omvangrijkste encyclopedie die er ooit is samengesteld, en dat in een groot aantal talen, waaronder een aantal minderheidstalen. Het is doorgaans een zeer betrouwbare kennisbron. En het wordt vrijwel geheel gedragen door vrijwilligers.

Het internet is inmiddels meer dan dertig jaar geleden oud – in ieder geval als publieke dienst, het bestond al langer op universiteiten en in het leger – en Wikipedia is misschien wel de plek die de oorspronkelijke idealen van het internet het meest zichtbaar heeft waargemaakt: dat de mensheid vrijelijk informatie kon delen, dat alles wat iemand wist voor andere mensen óók beschikbaar zou zijn, en wel gratis. Eindelijk leek kennis haar bestemming te vinden. De betaalmuur moest nog worden uitgevonden. (Was er maar een online museum waar je kon ronddwalen alsof het weer 1995 was—iets zoals de Wayback Machine, maar dan interactief en compleet.)

Oorlog

Er valt van alles aan te merken op de Wikipedia, en op de organisatie, en er zijn allerlei enorme twisten geweest op dat medium, maar het heeft altijd zijn integriteit behouden. Alle informatie is voor iedereen toegankelijk, en zonder reclame. De inkomsten komen van donateurs, dus van gebruikers, die net zo goed lezers als schrijvers kunnen zijn. De opzet vereist een specifiek idee van wat ‘waar’ is, namelijk wat elders in een betrouwbare bron gepubliceerd is (dat betekent bijvoorbeeld dat je niet je eigen onderzoek kunt publiceren op Wikipedia, hoe goed ook: het moet eerst elders staan en dan kun je het citeren).

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Foto: Chris Yarzab (cc)

Vakbonden binden de strijd aan met Elon Musk

Zweedse Tesla arbeiders staken al zes weken vanwege de weigering van het bedrijf om een CAO af te sluiten. Tesla-topman en grootaandeelhouder Elon Musk is een principiëel tegenstander van vakbonden. Volgens bemiddelaar Kurt Eriksson ‘mag Tesla geen afspraken maken’. ‘Het zijn orders van Elon Musk’. Het dochterbedrijf zou ‘geen enkele handelingsvrijheid hebben’. De vakbonden, die in Zweden 70% van de werknemers organiseren, willen voorkomen dat collectieve arbeidsovereenkomsten bij andere bedrijven ook onderuit gehaald kunnen worden. Als Tesla ermee wegkomt geen cao af te sluiten zullen andere bedrijven dat voorbeeld volgen, is de vrees. De Zweedse vakbonden hadden al eerder conflicten met Spotify en het financiële platform Klama.

De staking bij Tesla heeft in Zweden een reeks van solidariteitsacties op gang gebracht in verschillende bedrijfstakken. Kapotte Tesla’s worden niet meer gerepareerd. Postbeambten weigeren kentekenplaten af te leveren bij het bedrijf. ‘Krankzinnig’ volgens Musk. Hij heeft een rechtszaak aangespannen tegen de Zweedse staat. Vakbonden in omringende landen sluiten zich nu ook bij de Zweedse acties aan. Deense havenwerkers en transportarbeiders verhinderen het vervoer van Tesla’s naar Zweden. Een Deens pensioenfonds dat meer dan 800.000 leden telt, heeft zijn aandelen Tesla verkocht. De Noorse vakbond Fellesforbundet met werknemers in de industrie, garages, havens en transport heeft ook een boycot aangekondigd voor het transport van Tesla auto’s naar Zweden. Fellesforbundet-leider Jørn Eggum: ‘In de Scandinavische landen bestaat er brede overeenstemming over het belang van een goed georganiseerd beroepsleven… Het recht om een collectieve overeenkomst te eisen is een natuurlijk onderdeel van ons beroepsleven, en wij kunnen niet accepteren dat Tesla zich hieraan onttrekt.’ Noorwegen is een belangrijke markt voor Tesla en als de vakbond besluit ook de levering van auto’s in het land te beïnvloeden, kan dat veel meer druk op het bedrijf leggen.

Foto: Mastodon logo copyright ok. Gecheckt 25-11-2022

Sargasso ❤ Mastodon

Het kan inmiddels niemand ontgaan zijn dat de midlifecrisis van een miljardair een compleet sociaal netwerk naar de klote aan het helpen is. Nou ok, misschien legt het meer de structurele problemen bloot die er zijn met het toevertrouwen aan de markt van wat in essentie een nutsvoorziening is, maar je snapt het idee.

Sargasso heeft sociale netwerken geboren zien worden, groot zien worden, zien wegkwijnen en zelfs zien sterven. In het aantal jaren dat we bestaan staan we vrij eenzaam aan de top, onze interne links gaan bijna tot aan de prehistorie, we werden gesticht in het tijdperk dat bestanden nog werden verwerkt door handmatig magneten tegen elkaar aan te wrijven, en daar zijn we trots op. Al die nieuwerwetsigheden, het zou wel. 

Maar, alas, deze tijden zijn voorbij en ook Sargasso moet met z’n tijd mee. En voor het eerst is er een sociaal netwerk waar het haar zegen aan kan geven: Mastodon. Sterker nog, waar de mysterieuze diepten van de Sargasso-zee en haar prehistorische wortels op het land samenkomen in een nieuwe instance: social.sargasso.nl

Poeh, eh ok. Mooie woordsalade, maar wat heb ík eraan?

Nou, als je het wel een beetje gehad hebt met twitter en eens een ander sociaal netwerk dat daar op lijkt een kans wil geven, dan ben je bij Mastodon aan het goede adres. Of liever, adressen. Want Mastodon bestaat uit duizenden instances (servers) die allemaal een klein lokaal, en gezamenlijk een gigantisch sociaal netwerk vormen. Sargasso is daar nu een bescheiden onderdeel van. De voordelen van zo’n kleine instance is dat je hier gelijkgestemden treft en dat hij niet bij elke scheet van Musk op z’n gat ligt omdat iedereen tegelijk in dezelfde sloep overboord springt. Tegelijkertijd word je door onze kleine schaal niet beperkt en kan je natuurlijk gewoon met de hele wereld communiceren.

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Doe het veilig met NordVPN

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Foto: Thomas Hawk (cc)

Politieke vragen over Twitter zijn groter dan de vrijheid van meningsuiting

ANALYSE - Meningen zijn een grondstof voor Twitter. Maar wat Twitter doet draait niet zozeer om het uiten van een mening, maar om het volume en het bereik ervan. En de overkoepelende politieke vraag is veel breder dan dat individuele recht op vrijheid van meningsuiting. Namelijk, hoe willen we digitale media als Twitter inpassen in onze publieke sfeer en democratie?

Eerst even over die vrijheid van meningsuiting. Dat dat recht een groot goed is, laat de huidige situatie in Rusland natuurlijk goed zien. Zelfs doen alsof je een mening uit wordt daar op dit moment bestraft. Dus zodra de staat zich in dit soort zaken gaat mengen moeten we op onze hoede zijn.

Twitter is echter niet de staat. Het is, juridisch gezien, een bedrijf. En Twitter biedt diensten aan waar voorwaarden aan verbonden zijn. Schend je die voorwaarden, door met geweld te dreigen bijvoorbeeld, dan verbindt het bedrijf daar consequenties aan. Je kunt je zelfs afvragen of dat niet vaker moet gebeuren.

De core business van Twitter is niet business

Daarmee is wel duidelijk dat Twitter met dat recht op vrijheid van meningsuiting niets van doen heeft. Tegelijkertijd is het argument dat het een bedrijf is, juridisch wel correct, maar in de praktijk nogal ongeloofwaardig. De core business van Twitter heeft niets te maken met business. Dus waarom noemen we Twitter eigenlijk een bedrijf?

Foto: OnInnovation (cc)

Is Elon Musk krankzinnig aan het worden?

COLUMN - Ook een genie moet af en toe slapen. Jammer dat Elon Musk niet naar rede wil luisteren.

Elon Musk, de baas van Tesla en SpaceX, mede-oprichter van Paypal en algemeen bekend als modern genie, heeft een veelbewogen maand achter de rug. Op 7 augustus tweette hij dat hij van plan was om Tesla van de beurs te halen en dat hij het geld daarvoor beschikbaar had. Hij zou de aandelen voor 420 dollar per stuk aankopen. Hij wilde 20 procent meer geven dan de gemiddelde aandelenprijs van Tesla op dat moment, wat op 419 dollar uit zou komen. 420 leek hem een mooier getal, en misschien is het toeval, maar 420 is in Amerika ook een algemeen gebruikt woord voor wiet.

De Tesla-aandelen schoten die dag omhoog. Maar het geld om Tesla van de beurs te halen bleek helemaal niet zo zeker. Musk had wel gesprekken gevoerd met het investeringsfonds van Saoedi-Arabie, maar er was nog helemaal geen deal. De Amerikaanse beurswaakhond (Securities and Exchange Commission) rook onraad en heeft inmiddels een onderzoek gestart om te kijken of Musk zich schuldig maakte aan beursmanipulatie.

Waarom trok Musk zijn Trump-twitterhandschoentjes aan en stuurde hij een tweet de wereld in waarvan hij wist dat die veel commotie zou veroorzaken? Een openhartig interview dat Musk een week later gaf aan de New York Times geeft een inkijkje.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Foto: copyright ok. Gecheckt 09-02-2022

Hulspas weet het | Op weg naar zinloosheid

COLUMN - Elon Musk, de alom bewonderde visionair die vorige week met veel zinloos geweld een auto de ruimte in schoot, waarschuwde vorig jaar voor een enorm gevaar dat onze beschaving ten onder zou doen gaan. Nee, niet het broeikaseffect of Donald Trump – hij had het over Artificial Intelligence. AI. Nu zijn auto met die malle pop achter het stuur uit het zicht verdwenen zijn, is het wellicht aardig die claim eens tegen het licht te houden.

AI gaat de wereld veranderen. Zo beweren velen. Maar het is altijd verstandig om dat soort uitspraken in hun context te zien. En dat is de context van wetenschappers en ondernemers op zoek naar investeerders. Musk behoort daarbij tot de minderheid die vooral ellende verwacht. Maar ook hier is de context van belang. Goeroes willen diepzinnig zijn, dus tegendraads.

Wat is Artificial Intelligence? Meestal gaat het dan om een machinale ‘intelligentie’ ontwikkeld door middel van Deep Learning. Die aanduiding komt van de bovengenoemde wetenschappers en ondernemers. En u raadt het dus al, erg deep is dat leren niet.

Het komt erop neer dat je een chaotisch netwerk van verbindingen en knooppunten (knooppunten die signalen kunnen versterken dan wel verzwakken) ontelbare malen voedt met input aan de ene kant en de gewenste output aan de andere kant. In eerste instantie levert de input aan de output-kant alleen maar onzin op, maar door steeds weer daarna de gewenste output vanaf de output-kant in te laten stromen (backpropagation) ‘leert’ het netwerk voorbeeld-na-voorbeeld om later bij input spontaan de gewenste output te leveren. Duizenden plaatjes van auto’s (met als opgelegde output het woordje ‘auto’) leveren zo uiteindelijk een netwerk dat bij een nieuw autoplaatje ‘spontaan’ het woordje ‘auto’ uitspuugt. Het heeft geleerd. Niet deep, maar toch. Uiteindelijk kan zoiets heel snel, en kan het netwerk het menselijk brein overtreffen. Menig bordspel is inmiddels het domein van Artificial Intelligence.

Foto: NASA HQ PHOTO (cc)

Naar Mars, of in de diepvries!

COLUMN - Jaren geleden opperde een Amerikaanse kennis bloedserieus dat het heus verstandig was als ik mezelf tijdig zou laten invriezen. Ik had immers MS, en je wist maar nooit hoe die ziekte zich bij mij zou ontwikkelen. Zonde als ik nog meer invalide zou raken, toch? Over honderd jaar was er vast een geneesmiddel voorhanden; als ik tegen die tijd werd ontdooid, kon ik wellicht van mijn ziekte worden bevrijd. Hoe ik hem na die opmerking heb aangekeken, weet ik niet precies meer, maar het moet een blik vol afgrijzen zijn geweest.

Hoe kóm je op het idee: werkelijk iedereen van wie je houdt op de gok achter je laten, en helemaal in je up – bovendien in een maatschappij die je niet kent, en waarin al je vaardigheden, verworvenheden en kennis volslagen irrelevant zijn geworden – wakker worden en dan solitair denken dat je herboren bent? Leven doe je met anderen, en zonder inbedding in het weefsel van de maatschappij, je geliefden en je interesses om je heen resteert alleen een bar naakt bestaan.

Datzelfde afgrijzen bekruipt me telkens wanneer Elon Musk en consorten hun plannen ventileren voor kolonies op Mars. De aarde verwarmt, het klimaat verhit, het leven hier wordt onleefbaar als we niets doen – komaan, laten we dan maar verhuizen, en ons met een zeer select groepje op Mars vestigen. Beginnen we daar gewoon overnieuw.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Foto: Elon Musk (photo Wikimedia Commons | Steve Jurvetson)

Musk

RECENSIE - In de gebruikelijke stroom journalistieke bagger waar ik dagelijks doorheen waad, op zoek naar die paar pareltjes die het lezend leven de moeite waard maken, kwam ik een tussengevalletje tegen. Op zich een prima geschreven stuk, maar wat proefde ik daar nou toch tussen de regels door? Jaloezie? Nu is Elon Musk een controversieel figuur, zoals vrijwel iedereen die een visie heeft én succes, maar om hem nu als een doodordinaire kapitalist weg te zetten, die het alleen maar om de poen gaat, is me wat te gortig.

Ik steek mijn bewondering voor Musk niet onder stoelen of banken. Net als Steve Jobs is hij wellicht geen ideale werkgever, geen prettig sociaal persoon en misschien wel een hork of zelfs een klootzak, maar dat doet niets af aan het feit dat hij zo’n beetje in zijn eentje hele technologische revoluties op gang brengt. Ja maar, stond er in het stuk, hij vindt die technologie niet zelf uit. Nee, Jobs heeft de smartphone ook niet bedacht, maar wel de smartphonerevolutie ontketend. Trouwens, de meeste hedendaagse technologie is er dankzij de door de overheid gesponsorde wetenschap gekomen. Bedrijven maken die vervolgens commercieel. Je leest hier een goed verhaal over hoe dat zit.

Volgende