Quote du Jour | Maakt AI een eind aan de Verlichting?

The Enlightenment started with essentially philosophical insights spread by a new technology. Our period is moving in the opposite direction. It has generated a potentially dominating technology in search of a guiding philosophy.

Vooropgesteld dat Henry Kissinger in een rechtvaardige wereld inmiddels achter de tralies had gezeten vanwege de bombardementen op Cambodja en wat dies meer zij – hij heeft wel een punt dat zelflerende algoritmen de komende decennia steeds meer ons leven gaan bepalen.

Als die algoritmen op zeker moment zelfs voor de scheppers van zelflerende softwareprogramma’s niet langer inzichtelijk zijn, zijn we dan niet overgeleverd aan feilbare, goedbedoelde technologie? En waar blijft de menselijke maat en de rationaliteit, wanneer onze input enkel nog mathematisch-statistische waarde wordt toegekend?

  1. 3

    @2 zolang het niet-autonome apparaten zijn is daar wellicht nog kans toe. Als ze autonoom zijn zullen ze een dergelijke poging geheid als “bedreiging” opvatten ten aanzien van hun doelen en daarnaar reageren.

  2. 4

    Je hoeft niet per se naar Kissinger te kijken: de Chinese overheid implementeert al een tijdje een ‘likes/dislikes’ systeem voor burgers irl.

  3. 5

    @4: dat is volgens mij (nog) niet een autonoom systeem, maar een computerprogramma dat de wens van de chinese regering uitvoert.

    @2: helaas kunnen burgers in China dat apparaat niet uitzetten.

  4. 6

    @4 Maar zo’n systeem kun je ook handmatig instrueren.

    Ja, zo’n systeem is op zichzelf al griezelig en totalitair genoeg; maar het wordt nog veel en veel enger als het systeem beheerd en beheerst wordt door zelflerende algoritmen, waar de makers ook geen inzicht meer in hebben.

    Stel nu dat wereldomspannende corporaties hun managementbeslissingen over een jaar of dertig helemaal af zouden laten hangen van zelflerend AI? Of tienduizenden werknemers hun baan morgen nog hebben; of het bedrijf wel of niet de consumentenmarkt in Afrika aanboort; stel je een situatie voor waarbij daar geen mens meer aan te pas komt.

    Zoals Kissinger aanhaalt bestaat er al software die zichzelf in vier uur schaak heeft aangeleerd, en in de weken daarop zo goed werd, dat het een hogere rating heeft dan wie ook ter wereld.

    Wat als zelflerende software ooit betere poëzie gaat schrijven dan wie ook ter wereld, betere romans voortbrengt, betere wetenschappelijke papers en betere kunst?

    Ik denk niet dat dit zo eenvoudig zal zijn, simpelweg om wat Kissinger zelf schrijft: mensen interpreteren de werkelijkheid, software daarentegen ‘snapt’ de context niet. De kracht van computers is hun superieure rekenvermogen. Maar dat is nog iets anders dan interpreterend leervermogen.

    De posities in schaak zijn beperkt. De regels voor hoe verschillende schaakstukken (symbolen) op het bord mogen bewegen eveneens. Zelfs de relatieve waarde van de stukken ten opzichte van elkaar in diverse opstellingen valt een mathematische waarde te geven.

    Maar hoe bepaal je wat de impact constitueert van een schilderij? Valt daar een mathematische waarde op te zetten?

  5. 7

    @6:

    Wat als zelflerende software ooit betere poëzie gaat schrijven dan wie ook ter wereld, betere romans voortbrengt, betere wetenschappelijke papers en betere kunst?

    Misschien herhaalt zich dan een ontwikkeling die we ook zien hoe we tegen het verschil tussen echt hout en gefineerd spaanplaat aankijken.
    Al kan het amusant worden om te zien hoe een softwareprogramma dat zijn boek wil pushen bij DWDD de gastheer onder tafel lult.

  6. 8

    Maar uiteindelijjk zou die AI zijn eigen ‘voeding’ (electriciteit) en netwerkverbindingen moeten regelen. Haal je die weg, dan doet het helemaal niets.

    Dat bedoel ik dan los van de vraag van wat AI allemaal wel of niet kan.

  7. 9

    @6: “Ja, zo’n systeem is op zichzelf al griezelig en totalitair genoeg; maar het wordt nog veel en veel enger als het systeem beheerd en beheerst wordt door zelflerende algoritmen, waar de makers ook geen inzicht meer in hebben.”

    Dat is maar de vraag. Tot nu toe heeft de mens als bestuurder zich niet altijd van de beste kant laten zien (om het maar een eufemistisch uit te drukken), bewijsvoering voor zelflerende algoritmen die het systeem “nog veel en veel enger” maken, halen we tot dusver vooral uit de (science) fictie.

  8. 10

    @9 Dat is nogal wiedes: we hebben geen concrete voorbeelden van samenlevingen die beheerst worden door zelflerend AI, dus we moeten afgaan op de verbeelding.

    Daar ontkom je niet aan.

  9. 11

    Als het echt zelflerende AI is zal het zich uiteindelijk ook aan moeten passen aan de veranderende omgeving. Aan de veelheid van omgevingen. Zowel hard (stenen, mineralen etc…) als biologisch (waterig, niet waterig, alle levende wezens etc…). Pas als het daar zelfreproductie kan laten zien en zijn instandhouding demonstreert en waar kan maken, spreken we van een concurrent.

    Bij de eerste de beste stroomstoring begint alles gewoon weer opnieuw. En als dat niet zo is, gebruiken we die stroomstoring gewoon om een schroefje los te draaien en het AI-beest een andere omgeving voor te zetten.

    Ik zie voorlopig nog geen probleem.

    Ik zie alleen maar angst voor het onbekende. Steek die oceaan nou maar over en duik het diepe in. Er zullen wat mislukkingen zijn, wat doden vallen… so what. Dat is de afgelopen eeuwen ook gebeurt. Zolang AI niet wordt geprogrammeerd, de mensen uit te roeien is er geen probleem.

  10. 12

    @10: “we hebben geen concrete voorbeelden van samenlevingen die beheerst worden door zelflerend AI, dus we moeten afgaan op de verbeelding.”
    Dat lijkt me dus niet zo’n goed idee, zo zijn immers religies ook begonnen. Vooralsnog ga ik ervan uit dat AI het vooral beter doet en er is ook alle reden voor om daarvan uit te gaan, omdat de mens zich tot nu als een vrij kwaadaardige beheerder van technologie heeft bewezen.

  11. 13

    @Prediker: lijkt me juist dat een zelflerend AI in een dergelijk totalitair systeem beter is dan menselijke toezichthouders: corruptie zal dan tenminste een marginale rol spelen.

  12. 14

    Dat lijkt me dus niet zo’n goed idee, zo zijn immers religies ook begonnen.

    @12 Ook de kunst technologie, en zelfs wetenschap begint bij verbeelding. Wat je je niet kunt voorstellen, daar kun je immers ook geen hypothese van bakken.

    Zonder verbeelding is wetenschap weinig meer dan verzamelen. En een steenverzameling is nog geen wetenschappelijke collectie, een stenenverzamelaar geen wetenschapper maar slechts een samenlegger.

  13. 15

    @14: “wetenschap begint bij verbeelding”
    Leuke poging, maar behalve onjuist vooral irrelevant. Ik hou het er dus op dat we onze verbeelding vooral níet op hol moeten laten slaan over de AI-apocalyps.

  14. 16

    @15: Het gaat echt niet direct om Skynet. Neem maar gewoon eens een geval als automatische rechtspraak. Dat is hier en daar al ingevoerd. Het doet niks zelf, maar het ontleent zijn macht aan mensen en instanties eromheen met verstrengelde belangen. Met elke stapje waarmee dat soort praktijken word uitgebreid, komt het machtsmisbruik dichterbij.

    @10: “duik het diepe in”

    Yeah, right. We zijn zelfs niet in staat facebook uit te zetten op onze eigen tablets en telefoons.

  15. 17

    @15 Over dat ‘onjuist’ valt te twisten, maar in het licht van het spookbeeld dat je aanhaalt (als we ons oordeel mede laten bepalen door verbeelding, ligt – o God, nee! – de religie om de hoek), lijkt me dat wel degelijk relevant.

    In de AI-pocalypse geloof ik ook niet zo; mensen waren ooit ook bang voor de gevolgen van industrialisatie, robotisering, automatisering, en mediagebruik en de wereld is nochtans niet vergaan.

    Maar het is wel goed na te denken over de mogelijke gevolgen van grootschalige maatschappelijke omwentelingen en de juiste vragen te stellen. En ja, daar heb je verbeelding bij nodig. Het is geen rekensommetje.

  16. 18

    @13

    Het argument van Elon Musk daartegen is dat gewone dictators uiteindelijk doodgaan, maar AI eeuwig kan voortleven, en ons eindeloos op onze nek kan blijven zitten.