Is online manipulatie oké als het niet effectief is?

door Fleur Jongepier (Universitair Docent Radboud Universiteit Nijmegen). De concepten “individu” en “vrijheid” hebben in het digitale tijdperk geen betekenis meer (Yuval Noah Harari). Omdat algoritmes “ons beter begrijpen dan wij onszelf begrijpen, kunnen ze ons manipuleren op manieren die we niet kunnen begrijpen” (Jamie Bartlett). We worden door big tech bedrijven behandeld als een massa “gebruikers” die als een kudde “samengedreven” kan worden (Shoshana Zuboff). Poeh, poeh, nou, nou, zo kan die wel weer. Wordt de soep werkelijk zo heet gegeten als die wordt opgediend? Jesse Frederik en Maurits Martijn (hierna: team FrederikMartijn) plaatsen in een stuk in de Correspondent terecht de nodige vraagtekens. Online advertenties (dat is waar het de meesten die alarm slaan om te doen is) zijn, stellen zij, de “nieuwe internetbubbel”.

Foto: Nukamari (cc)

Dieven met dieven vangen

The New York Times publiceerde afgelopen weekend een lang artikel over Clearview AI. De oprichter, de Australiër Hoan Ton-That, zocht al langer naar een klapper maar was niet verder gekomen dan een app waarmee je selfies van een Trump-kapsel kon voorzien. Ton-That maakte ook een site waar je al je vrienden videolinks kon sturen; moest je wel even al je contacten uit je chatprogramma’s met de site delen.

Toen volgende een lumineus idee. Ton-That verdiepte zich in kunstmatige intelligentie en algoritmes, leerde hoe je sites kon leegtrekken (scrapen), en verzamelde wat startkapitaal. Hij bouwde een programma dat overal foto’s jatte en die opsloeg in een database, waarbij elke foto werd voorzien van de naam van de geportretteerde, plus de locatie, plaats en tijd van de opname. Ton-That verzamelde een fikse stapel, en liet er gezichtsherkenning op los.

Lang wist-ie niet wat ermee kon aanvangen. Toen wist hij Peter Thiel voor zijn project te interesseren. Thiel is de extreemrechtse mede-oprichter van Paypal, een van de eerste investeerders in Facebook, en de oprichter van Palantir, die veel opsporingssoftware maakt voor de CIA, en voor banken plus andere financiële dienstverleners.

Na wat vallen en opstaan wist Ton-That een paar politiediensten in de Verenigde Staten te interesseren, meestal via iemand die hij eerst zelf had gescout. Inmiddels beschikte hij over een database met 3 miljard gezichten. Hij vroeg zo’n detective om een paar foto’s van mensen die ze zochten, wist hem te imponeren met de resultaten, de diender pleitte bij de baas, en hoppa, weer een klant. Inmiddels doet Clearview zaken met lokale politiediensten, de FBI en Homeland Security.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Foto: Scott Lynch (cc)

Kunst op Zondag | Kunstmatige kunstenaars

De zoektocht naar robots die mensen zijn gaat onverminderd voort. De technologen zijn zich wel bewust van het feit dat naast robots die auto’s maken, zieken verzorgen en alle andere nuttige robots, het niet mag ontbreken aan robots die kunst maken.

En dus werd in juni Ai-Da gepresenteerd, volgens de makers de “eerste ultra-realistische AI robotkunstenaar ter wereld”. De robotkunstenaar gaf o.a. een performance tijdens haar eerste tentoonstelling.

Deze robot kan tekenen, schilderen en voert performances uit. Op basis van wat ze ziet, maakt ze in drie kwartier een kunstwerk. Kunstmatige genialiteit? Of niet meer dan een algoritmisch kunstje?

De pogingen met hedendaagse technologie kunst te maken zijn legio, de resultaten divers. Van software waarmee kunst geanalyseerd en nagemaakt kan worden, tot zelflerende robotica waarmee men originele kunstwerken hoopt te maken.

Eén van de eerste pogingen de computer zelfstandig kunst te laten maken stamt uit 1968. Harold Cohen (1928 – 2016) ontwierp het programma AARON (1973 e.v.), dat kunstwerken produceerde die wereldwijd werden geëxposeerd.

e-David, ontworpen door de universiteit van Konstanz, analyseert een afbeelding, berekent de kwaststreken en slaat aan het schilderen (filmpje 3 min. 25”)..

De nationale universiteit van Taiwan ontwierp de robot Taida, een stippenschilder en won in 2016 de eerste prijs in een Robot Art competitie (filmpje 2 min. 12”)..

Foto: JCT 600 (cc)

Oeps, vergeten: burgerrechten

COLUMN - Het Britse Prospect publiceerde vorige week een artikel over al te slimme steden, naar aanleiding van Googles plannen met een wijk in Toronto. Op circa 50.000 vierkante meter zou een slimme, data driven wijk verrijzen.

Robots voor de vuilnisophaal waren nog het eenvoudigste idee. Winkels en huizen zouden modulair zijn, en konden van dag tot dag van bestemming of functie veranderen; straatplannen werden aanpasbaar, de hele openbare ruimte zou programmeerbaar zijn, met technologie in elk hoekje, gaatje en gootje, en via oneindige datastromen en lerende algoritmes zou alles op rolletjes lopen. Google had al plannen om de wijk ‘downloadable’ te maken en naar andere gebieden te exporteren.

Tot verrassing van het gemeentebestuur en Google kwam de stad in verzet.

Niet alleen had niemand ze gevraagd wat zij wilden, de plannen voorzagen sowieso niet in een menselijke stem. Hoe werd beslist wat er met de publieke ruimte gebeurde? Op welke grondslagen en met welke uitgangspunten zouden de algoritmes van de wijk worden geprogrammeerd? In wiens handen zou de onderliggende digitale architectuur zijn? Wie mocht de buurtdata uitponden? Welke zeggenschap zouden bewoners nog over hun omgeving hebben?

‘From Canada to the Philippines, from Belfast to Bangalore, national governments and civic authorities are convinced that big data can unblock their traffic jams, rationalise their energy use and fix their housing problems, not to mention their benefits systems and even their healthcare.’

Martin Moore, ‘Would you let Google run your city?’, The Prospect

Bestel je boeken bij Bazarow

Bazarow is een verkopende boekensite, waar je ook recensies, nieuws, een agenda en een digitaal magazine kan vinden. Nog niet alles is af, maar veel boeken zijn al te vinden en er komt de komende maanden steeds meer bij.

Het doel van Bazarow is om een site te vormen die evenveel gemak biedt als de online giganten maar die wél teruggeeft aan de boekensector. Tegen roofkapitalisme, en voor teruggeefkapitalisme, bijvoorbeeld door te zorgen dat een flink deel van de opbrengst terug naar de sector gaat en door boekhandels te steunen.

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Foto: Leigh Anthony DEHANEY (cc)

Algoritmes leiden niet automatisch tot eerlijkere selectie

DATA - Steeds meer werkgevers zetten algoritmes in voor werving en selectie. Bij Nike en Unilever is het niet meer ongewoon om pas in de derde ronde van de sollicitatieprocedure in gesprek te komen met een menselijke medewerker. Vooroordelen en ongelijkheid kunnen zo meer ruimte krijgen, volgens Annemarie Hiemstra en Isabelle Nevels.

Het aantal aanbieders van geautomatiseerde en digitale selectiemethoden neemt toe. Zo voorspelt het algoritme van het Nederlands-Chinese bedrijf Seedlink op basis van taalgebruik van sollicitanten wie er het meest geschikt is voor een functie en maakt het Amerikaanse HireVue gebruik van video-opnames om tot een automatisch gegenereerde beoordeling te komen.

Dit sluit nauw aan bij het huidige debat. Is het nog wel nodig om klassieke kennis, karaktereigenschappen en competenties, typisch gemeten met psychologische vragenlijsten en assessments, in kaart te brengen? Wellicht dat meer impliciete patronen, die via algoritmes herkend worden op basis van grote volumes data (zoals geschreven tekst, of video’s van sollicitanten), even goede of zelfs betere resultaten kunnen behalen bij het selecteren van de beste kandidaat.

Organisaties hebben slechts de beschikking over hun eigen inschatting van de meerwaarde en eerlijkheid van selectie via computerondersteuning. Wetenschappelijke bewijs voor het gebruik van technologieën is er echter nog nauwelijks. Hoe kunnen we ervoor zorgen dat computersystemen op een verantwoorde manier worden ingezet?

Foto: NEC Corporation of America (cc)

Weet wie je in huis haalt

COLUMN - In Engeland bood Google in 2014 aan een handige applicatie voor de zorg te bouwen: artsen en verpleegkundigen konden hun patiënten ermee monitoren op acuut nierfalen. Dat doet zich vaak voor na hartoperaties, maar het komt ook ‘spontaan’ voor. Acuut nierfalen is ernstig: wordt het te laat onderschept, dan raken je nieren zwaar beschadigd, wat vervolgens dialyse of transplantatie vereist. En wie eenmaal acuut nierfalen heeft doorstaan, is nadien veel vatbaarder voor andere nierproblemen. De moeite waard om daar een tool voor te bouwen, zou je denken.

Mitsen en maren werden in acht genomen, regels afgesproken, en vooral: er werd vastgelegd wat Google wel en niet met de patiëntgegevens mocht doen. De app beviel, en werd gaandeweg uitgebreid: er kwamen meer functies en andere toepassingen werden verzonnen. De app monde uit in een compleet systeem voor het beheren van patiëntengegevens: Streams, een prachtig elektronisch patiëntendossier. Google beloofde plechtig – en herhaalde dat in 2016 – dat de erin vervatte gegevens ‘nooit gerelateerd zullen worden aan Google accounts of Google diensten’, en de NHS – de Britse gezondheidszorg – geloofde dat. Er werd zelfs een onafhankelijke toezichthouder opgetuigd.

Vorige week kondigde Google ineens eenzijdig af dat het de dienst herstructureerde en bij een nieuwe divisie van Google zou onderbrengen: DeepMind Health. ‘Streams wordt een AI-assistent voor artsen en verpleegkundigen overal ter wereld, en zal de beste algoritmes met intuïtief ontwerp combineren, alles gestut door rigoureus gecontroleerd onderzoek.’ Die app, waarvan de gegevens nooit door Google zelf gebruikt zou worden, is nu een Google product geworden. De NHS zit eraan vast: al hun patiëntendata zitten in de app en is bij Google geparkeerd. En oh ja: Google heeft de toezichthouder ontmanteld: ‘Dat was een toezichtstructuur voor DeepMind Health in het Verenigd Koninkrijk. Maar nu willen we wereldwijd actief worden.’

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Bestel je boeken bij Bazarow

Bazarow is een verkopende boekensite, waar je ook recensies, nieuws, een agenda en een digitaal magazine kan vinden. Nog niet alles is af, maar veel boeken zijn al te vinden en er komt de komende maanden steeds meer bij.

Het doel van Bazarow is om een site te vormen die evenveel gemak biedt als de online giganten maar die wél teruggeeft aan de boekensector. Tegen roofkapitalisme, en voor teruggeefkapitalisme, bijvoorbeeld door te zorgen dat een flink deel van de opbrengst terug naar de sector gaat en door boekhandels te steunen.