1. 1

    Ik las de Guardian en zag herhaald wat ik een paar items geleden bedoelde: het neoliberalisme ondermijnt de democratie en de universele rechten van de mens. Een lang citaat uit ‘Democracy is dying – and it’s startling how few people are worried’:

    In his influential 2010 testament, Indignez-Vous (Time for Outrage!), the French resistance fighter Stéphane Hessel urged the rising generation of social justice activists to remember the fight he and others had put up during the drafting of the 1948 Universal Declaration of Human Rights. They fought for the word universal (not “international” as proposed by the main governments) in the full knowledge that arguments about sovereignty would sooner or later be advanced to deny the rights they thought they had secured. It seemed odd, back then, even to those of us sympathetic to Hessel, to receive this long, repetitive lecture about the concept of universality. But he was prescient.

    The tragedy today is that there is not a single democratic government on Earth prepared to defend that principle. Sure, they will issue notes of displeasure over the death of Liu Xiaobo or Maduro’s crackdown. But they refuse to restate the universality of the principles these actions violate. The fight for universal principles has to begin – as Hessel recognised – with individual people. We must keep restating to ourselves and those around us that our human rights are, as the 1948 declaration states, “equal and inalienable”. That means if one faraway kleptocrat steals them from his subjects, that is like stealing them from ourselves.

    Every democratic advance in history, from the English revolution of 1642 to the fall of Soviet communism in 1989, began when people understood the concept of rights they were born with, not to be granted or withdrawn. Today that means learning to think like a free human being, not an economic subject.

  2. 2

    Dit kan toch geen toeval meer zijn?

    Scaramouche (uit het Frans, van het Italiaanse scaramuccia = schermutseling) is een olijk, clownesk personage uit de Italiaanse commedia dell’arte. Hij draagt vaak een zwart masker en soms een bril. Hij vermaakt het publiek door zijn “grimassen en geaffecteerde taal”.

    https://nl.wikipedia.org/wiki/Scaramouche_(personage)

    Qua geaffecteerde taal,

    http://www.foxnews.com/politics/2017/07/27/anthony-scaramucci-uses-vulgar-language-to-lash-out-at-priebus-make-fun-bannon-in-interview.html

  3. 3

    Scaramouche, Scaramouche 3:13 Het inleidende gezang komt mij voor als toepasselijk. Bij joop.nl schreef ik een week geleden: ‘gewoon knettergek.’ Met nog wat zinnen. Jammer dat men bij de ‘Pentagonisering of the White House’ (dat idee heb ik) nooit de woorden van Chief of staff John Kelly intern zal vernemen. Die is t.a.v. S. waarschijnlijk nog wel iets verder gegaan.

    Voorstel voor mainstream media over Trump’s over zijn eigen beleid: omkaderen met advertisment erboven. (nee, gaan ze niet doen; Trump is voor hen een onwaarschijnlijk winstmodel)

  4. 7

    @5: nee, die robots gingen niet onbegrijpelijk zwetsen. Ze begrepen elkaar en konden zo info uitwisselen zonder dat de programmeurs precies wisten wat ze bedoelden. Zoals in het artikel gezegd wordt, is dat vrij verontrustend nieuws, want het begin van een echte AI.

  5. 8

    @6: Dit vind ik wel een curieus zinnetje:
    “Dat is tot nu toe “ongeveer twee keer” gebeurd”
    Zou het 1,8 keer of 2,1 keer zijn geweest?

  6. 10

    @7:
    Voor jou wil ik het wel aanpassen in:

    “Beginnen de robots, voor onze mensenoren, ook al onbegrijpelijk te zwetsen”

    Een en ander wel met de aanmerking dat jouw opmerking m.i. voor een ieder die het artikel leest, niets toevoegt of verheldert.
    ;-)

  7. 13

    @12: en wederom wordt een serieus debat onmogelijk gemaakt door toekomstige argumenten als gruwel propaganda neer te zetten. Preventief op de man spelen om zo de discussie uit de weg te gaan en het eigen gelijk veilig te stellen.

    Ik beschouw Musk en Hawking toch niet als zwetsers.

    En de geschiedenis leert dat tot nu toe elk intelligentere soort zijn dommere voorgangers uitroeit. Dat ai dat mogelijk ook zal doen met de mensheid is zeer reeel. En de ontwikkeling van een eigen secure taal is een begin/ erg handig.

    En de eerste signalen over dit gedrag bij AI zijn er al

    https://www.google.nl/amp/s/nl.express.live/2017/02/15/googles-a-i-wordt-uiterst-agressief-als-ze-haar-zin-niet-krijgt/amp/

    Het feit dat iets al eerder is gedaan maakt het niet minder gevaarlijk. Het zijn reacties zoals 12 die telkens een wetenschappelijk debat moeilijk maken. Zelfde zie je bij klimaatverandering.

    De reactie van 12 is perfect voorbeeld bij dit artikel https://sargasso.nl/sociale-media-faciliteren-zelfbedrog/

  8. 14

    @13:
    Welke argumenten bedoel je ? Mijn grote bezwaar tegen de onheilsprofeten is nu juist dat ze geen argumenten geven, maar slechts blijven herhalen dat AI zo gevaarlijk is. Als ze nu eens zouden uitleggen waarom ze dat denken, dan zouden we een discussie kunnen hebben, maar helaas.

    AI is nog heel erg ver weg van het zijn van een soort, want het kan zich nog op geen enkele manier voortplanten. AI systemen blijven hoe dan ook onder controle van mensen, want je hebt mensen nodig om de systemen uberhaupt in elkaar te zetten. De discussie zou dan ook daarover moeten gaan: wie gaan de data en de algortimes waar we AI mee bouwen controleren ? Hoe verdelen we eigendom en macht over deze nieuwe technieken ? Maar ja, dat soort discussies zijn natuurlijk veel saaier dan mooie Terminator-achtige toekomstbeelden …

  9. 17

    @16: Er kan heel veel misgaan, maar waar het uiteindelijk om gaat is wie de controle heeft over de AI. Als er een Terminator-achtig scenario uitbreekt, dan is dat omdat mensen dat hebben geprogrammeerd en gestart.

  10. 18

    @Lennart: Sommige van de eerste computerwormen/virussen begonnen als lokaal experiment op de universiteit. Maar om ze zo snel vermenigvuldigden verspreidden ze zich in no-time over het hele internet.

    De controle is weg als AI uitbreekt uit het specifieke domein waar het zich in bevindt. Denk bijvoorbeeld aan een IA-systeem op internet dat heel de Wikipedia tot zijn beschikking heeft en genoeg weet over de menselijke psyche om mensen te manipuleren om ook de fysieke wereld 100% over te nemen, voordat een bezorgde wetenschapper de stekker eruit trekt om het AI-systeem te “doden”

  11. 20

    @17:
    Je slaat daar de spijker op z’n kop, “controle”…
    Moet er zo langzamerhand niet iets over worden afgesproken? Zoiets als het verplicht instellen van een air gap o.i.d.?

  12. 21

    @17 dat is nu net de grap. Een intelligentere ai zal zichzelf verbergen. Zowat alle fabrieken en machines zijn via internet verbonden. Je hebt al autonome mining robotica. Ook bestaan er al robots die zelfstandig nieuwe robots maken. Combineer dat met supercomputer AI. En dan laat ik de quantumcomputer nog buiten beschouwing.

    En als we door hebben dat het kwaadaardig is , is het n.a.w. te laat.

    Energievoorziening wordt uitgeschakeld. Communicatie (digitale) wordt uitgeschakeld. Middels internet of things staat alles in verbinding. Mens wordt toegang en controle ontzegt. En als je ergens de stekker lastig uit kan trekken is het internet. Want je snapt zelf ook wel dat een slimme AI zich niet laat binden tot een fysieke server.

    Waar wil je dan de stekker uit trekken?

    Zo gek waren de terminator films en irobot nog niet eens. Ook Ultron (avengers) schetst een aardig scenario, begon ook als een gecontroleerde vriendelijke ai.

  13. 22

    Wellicht helpt een voorbeeld: een gevangenis. Uit zowat elke gevangenis zijn we mensen ontsnapt.

    Dat zegt genoeg over de combinatie van intelligent wezen en restricties. Een intelligent wezen vind altijd een weg om restricties te omzeilen.

  14. 23

    @14

    Die afwezigheid van fatsoenlijke definities is storend, inderdaad.

    Volgens mij zijn we nog niet eens op het punt aangekomen waarop er consensus bestaat over het lemma “intelligentie”. Ik geloof niet in dit AI-concept en ik ben ervan overtuigd dat als je kunstmatige “intelligentie” intelligent wilt noemen het noodzakelijk is menselijke intelligentie (opnieuw) te definiëren, in zoverre kunstmatige intelligentie gezien wordt als nabootsing van menselijke intelligentie.

    Vraag een neuroloog, een cabaretier, een stratenmaker en Matthijs van Boxsel wat menselijke intelligentie is en ze zullen allemaal een ander antwoord geven.

  15. 24

    @18: Nee, dat is niet waar. De eerste computervirussen die ook daadwerkelijk schade deden waren daar expliciet voor geschreven.

    Wat bedoel je precies met AI die uitbreekt ? Wat versta jij uberhaupt onder AI ?

  16. 25

    @19: Wat mij betreft is kernenergie allemaal veel te duur om praktisch toepasbaar te zijn, als je alle risico’s wilt afdekken en alle externaliteiten wilt oplossen. Ik weet dat die Thorium-reactoren nogal gepushed worden door bepaalde groepen, maar ik heb eigenlijk het idee dat dat meer een lobby is dan dat er een solide technisch verhaal achter zit. Maar goed, ik zie niets in kernenergie op de lange termijn, dus heel erg goed heb ik me er nooit in verdiept.

    EDIT: om even voort te bouwen op onze discussie in dat Musk draadje, het wordt een ander verhaal als je in de ruimte bezig gaat. Straling is daar niet zo’n probleem als het hier is.

  17. 26

    @21: Waarom zou een intelligente AI zich verbergen ? En voordat je deze vraag uberhaupt kan beantwoorden kom je op andere vragen, zoals wat zou het doel van een AI zijn ? En dan kom je op het punt wat ik hier aan probeer te stippen: dat doel kan alleen maar door mensen ingegeven zijn. Waar het dus om gaat is de mensen die de AI maken en controleren.

    Sowieso, wat is uberhaupt een AI ? Jij ziet het meteen als een soort levend wezen, maar dat is het echt niet. De meeste AI is volstrekt nutteloos en kansloos buiten het hele beperkte gebied waarin het werkt. AlphaGo wint weliswaar van de wereldkampioen Go spelen, maar zodra je het laat voetballen zal het genadeloos falen. Omgekeerd, als je die voetbalrobotjes die we van de week hebben gezien Go laat spelen, dan zullen ze in no time verslagen worden.

    “Middels internet of things staat alles in verbinding. ”
    Nee hoor, nog lang niet. En als ik het zo een beetje inschat, dan gaat dat ook niet gebeuren. Al 25 jaar lang worden we vermaakt met verhalen over koelkasten die zichzelf via internet aanvullen, bijvoorbeeld, maar een concreet verkoopbaar product heb ik nog niet gezien. IoT gaat dezelfde weg als 3D TV, VR, en Google Glass: leuk voor bepaalde niche toepassingen, maar niet aantrekkelijk genoeg voor de massamarkt. Maar goed, het kan zijn dat ik me daarin vergis. Echter, zelfs als dat IoT er toch komt, dan zijn AI’s echt niet de grootste gevaren. Als we onze huizen echt helemaal vol gaan zetten met afluisterapparatuur en afstandbedienbare moordwapens (wat kort door de bocht, maar daar komt het wel op neer) dan hebben we sowieso behoefte aan een hoop nieuwe wetgeving, dat heeft niets met AI te maken.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

| Registreren