Dit is het Sargasso-café van dinsdag 01-08-2017. Hier kan onder het genot van een virtueel drankje, nootje en/of kaasplankje alles besproken worden wat elders off topic is.
Dit is het Sargasso-café van dinsdag 01-08-2017. Hier kan onder het genot van een virtueel drankje, nootje en/of kaasplankje alles besproken worden wat elders off topic is.
Reacties (26)
Ik las de Guardian en zag herhaald wat ik een paar items geleden bedoelde: het neoliberalisme ondermijnt de democratie en de universele rechten van de mens. Een lang citaat uit ‘Democracy is dying – and it’s startling how few people are worried’:
Dit kan toch geen toeval meer zijn?
https://nl.wikipedia.org/wiki/Scaramouche_(personage)
Qua geaffecteerde taal,
http://www.foxnews.com/politics/2017/07/27/anthony-scaramucci-uses-vulgar-language-to-lash-out-at-priebus-make-fun-bannon-in-interview.html
Scaramouche, Scaramouche 3:13 Het inleidende gezang komt mij voor als toepasselijk. Bij joop.nl schreef ik een week geleden: ‘gewoon knettergek.’ Met nog wat zinnen. Jammer dat men bij de ‘Pentagonisering of the White House’ (dat idee heb ik) nooit de woorden van Chief of staff John Kelly intern zal vernemen. Die is t.a.v. S. waarschijnlijk nog wel iets verder gegaan.
Voorstel voor mainstream media over Trump’s over zijn eigen beleid: omkaderen met advertisment erboven. (nee, gaan ze niet doen; Trump is voor hen een onwaarschijnlijk winstmodel)
Op de Engelse versie van de Wikipedia-pagina over de Scaramouche staat dit:
Zoiets verzin je toch niet?
https://en.wikipedia.org/wiki/Scaramouche
Beginnen de robots ook al onbegrijpelijk te zwetsen
Zeker besmet met een Trumpiaans wartaalvirus ;-)
Lol, sukkels
http://nos.nl/artikel/2186032-milieuvriendelijke-bus-moet-250-kilometer-reizen-om-te-tanken.html
@5: nee, die robots gingen niet onbegrijpelijk zwetsen. Ze begrepen elkaar en konden zo info uitwisselen zonder dat de programmeurs precies wisten wat ze bedoelden. Zoals in het artikel gezegd wordt, is dat vrij verontrustend nieuws, want het begin van een echte AI.
@6: Dit vind ik wel een curieus zinnetje:
“Dat is tot nu toe “ongeveer twee keer” gebeurd”
Zou het 1,8 keer of 2,1 keer zijn geweest?
te leuk: https://www.washingtonpost.com/news/worldviews/wp/2017/08/01/how-a-photo-of-empty-bus-seats-triggered-an-anti-muslim-fear-fest-on-facebook/
@7:
Voor jou wil ik het wel aanpassen in:
“Beginnen de robots, voor onze mensenoren, ook al onbegrijpelijk te zwetsen”
Een en ander wel met de aanmerking dat jouw opmerking m.i. voor een ieder die het artikel leest, niets toevoegt of verheldert.
;-)
@8: lol, die had ik gemist.
@7: Dat is helemaal niet zo bijzonder als het lijkt. In 1999 deed Luc Steels in Brussel al experimenten, waarbij robots hun eigen taal ontwikkelden:
http://langsci-press.org/catalog/book/49
Maar goed, de mensen die hun geld verdienen met onheilsprofetien zullen hier wel weer bovenop springen met hun gruwelpropaganda …
@12: en wederom wordt een serieus debat onmogelijk gemaakt door toekomstige argumenten als gruwel propaganda neer te zetten. Preventief op de man spelen om zo de discussie uit de weg te gaan en het eigen gelijk veilig te stellen.
Ik beschouw Musk en Hawking toch niet als zwetsers.
En de geschiedenis leert dat tot nu toe elk intelligentere soort zijn dommere voorgangers uitroeit. Dat ai dat mogelijk ook zal doen met de mensheid is zeer reeel. En de ontwikkeling van een eigen secure taal is een begin/ erg handig.
En de eerste signalen over dit gedrag bij AI zijn er al
https://www.google.nl/amp/s/nl.express.live/2017/02/15/googles-a-i-wordt-uiterst-agressief-als-ze-haar-zin-niet-krijgt/amp/
Het feit dat iets al eerder is gedaan maakt het niet minder gevaarlijk. Het zijn reacties zoals 12 die telkens een wetenschappelijk debat moeilijk maken. Zelfde zie je bij klimaatverandering.
De reactie van 12 is perfect voorbeeld bij dit artikel https://sargasso.nl/sociale-media-faciliteren-zelfbedrog/
@13:
Welke argumenten bedoel je ? Mijn grote bezwaar tegen de onheilsprofeten is nu juist dat ze geen argumenten geven, maar slechts blijven herhalen dat AI zo gevaarlijk is. Als ze nu eens zouden uitleggen waarom ze dat denken, dan zouden we een discussie kunnen hebben, maar helaas.
AI is nog heel erg ver weg van het zijn van een soort, want het kan zich nog op geen enkele manier voortplanten. AI systemen blijven hoe dan ook onder controle van mensen, want je hebt mensen nodig om de systemen uberhaupt in elkaar te zetten. De discussie zou dan ook daarover moeten gaan: wie gaan de data en de algortimes waar we AI mee bouwen controleren ? Hoe verdelen we eigendom en macht over deze nieuwe technieken ? Maar ja, dat soort discussies zijn natuurlijk veel saaier dan mooie Terminator-achtige toekomstbeelden …
@13: Maar goed, je wilt dus een wetenschappelijk debat. Wat is er zo gevaarlijk aan AI’s die met elkaar communiceren, volgens jou ?
@15:
Onvoorspelbaar gedrag bij iets dat in potentie kan uitgroeien tot Terminator-achtige nachtmerries? What could go wrong?
@16: Er kan heel veel misgaan, maar waar het uiteindelijk om gaat is wie de controle heeft over de AI. Als er een Terminator-achtig scenario uitbreekt, dan is dat omdat mensen dat hebben geprogrammeerd en gestart.
@Lennart: Sommige van de eerste computerwormen/virussen begonnen als lokaal experiment op de universiteit. Maar om ze zo snel vermenigvuldigden verspreidden ze zich in no-time over het hele internet.
De controle is weg als AI uitbreekt uit het specifieke domein waar het zich in bevindt. Denk bijvoorbeeld aan een IA-systeem op internet dat heel de Wikipedia tot zijn beschikking heeft en genoeg weet over de menselijke psyche om mensen te manipuleren om ook de fysieke wereld 100% over te nemen, voordat een bezorgde wetenschapper de stekker eruit trekt om het AI-systeem te “doden”
@lennart: ah, een technofiel. Vraagje: wat vind je van kernenergie (en in het bijzonder: thoriumreactors?). /knuppel voor het hoenderhok
@17:
Je slaat daar de spijker op z’n kop, “controle”…
Moet er zo langzamerhand niet iets over worden afgesproken? Zoiets als het verplicht instellen van een air gap o.i.d.?
@17 dat is nu net de grap. Een intelligentere ai zal zichzelf verbergen. Zowat alle fabrieken en machines zijn via internet verbonden. Je hebt al autonome mining robotica. Ook bestaan er al robots die zelfstandig nieuwe robots maken. Combineer dat met supercomputer AI. En dan laat ik de quantumcomputer nog buiten beschouwing.
En als we door hebben dat het kwaadaardig is , is het n.a.w. te laat.
Energievoorziening wordt uitgeschakeld. Communicatie (digitale) wordt uitgeschakeld. Middels internet of things staat alles in verbinding. Mens wordt toegang en controle ontzegt. En als je ergens de stekker lastig uit kan trekken is het internet. Want je snapt zelf ook wel dat een slimme AI zich niet laat binden tot een fysieke server.
Waar wil je dan de stekker uit trekken?
Zo gek waren de terminator films en irobot nog niet eens. Ook Ultron (avengers) schetst een aardig scenario, begon ook als een gecontroleerde vriendelijke ai.
Wellicht helpt een voorbeeld: een gevangenis. Uit zowat elke gevangenis zijn we mensen ontsnapt.
Dat zegt genoeg over de combinatie van intelligent wezen en restricties. Een intelligent wezen vind altijd een weg om restricties te omzeilen.
@14
Die afwezigheid van fatsoenlijke definities is storend, inderdaad.
Volgens mij zijn we nog niet eens op het punt aangekomen waarop er consensus bestaat over het lemma “intelligentie”. Ik geloof niet in dit AI-concept en ik ben ervan overtuigd dat als je kunstmatige “intelligentie” intelligent wilt noemen het noodzakelijk is menselijke intelligentie (opnieuw) te definiëren, in zoverre kunstmatige intelligentie gezien wordt als nabootsing van menselijke intelligentie.
Vraag een neuroloog, een cabaretier, een stratenmaker en Matthijs van Boxsel wat menselijke intelligentie is en ze zullen allemaal een ander antwoord geven.
@18: Nee, dat is niet waar. De eerste computervirussen die ook daadwerkelijk schade deden waren daar expliciet voor geschreven.
Wat bedoel je precies met AI die uitbreekt ? Wat versta jij uberhaupt onder AI ?
@19: Wat mij betreft is kernenergie allemaal veel te duur om praktisch toepasbaar te zijn, als je alle risico’s wilt afdekken en alle externaliteiten wilt oplossen. Ik weet dat die Thorium-reactoren nogal gepushed worden door bepaalde groepen, maar ik heb eigenlijk het idee dat dat meer een lobby is dan dat er een solide technisch verhaal achter zit. Maar goed, ik zie niets in kernenergie op de lange termijn, dus heel erg goed heb ik me er nooit in verdiept.
EDIT: om even voort te bouwen op onze discussie in dat Musk draadje, het wordt een ander verhaal als je in de ruimte bezig gaat. Straling is daar niet zo’n probleem als het hier is.
@21: Waarom zou een intelligente AI zich verbergen ? En voordat je deze vraag uberhaupt kan beantwoorden kom je op andere vragen, zoals wat zou het doel van een AI zijn ? En dan kom je op het punt wat ik hier aan probeer te stippen: dat doel kan alleen maar door mensen ingegeven zijn. Waar het dus om gaat is de mensen die de AI maken en controleren.
Sowieso, wat is uberhaupt een AI ? Jij ziet het meteen als een soort levend wezen, maar dat is het echt niet. De meeste AI is volstrekt nutteloos en kansloos buiten het hele beperkte gebied waarin het werkt. AlphaGo wint weliswaar van de wereldkampioen Go spelen, maar zodra je het laat voetballen zal het genadeloos falen. Omgekeerd, als je die voetbalrobotjes die we van de week hebben gezien Go laat spelen, dan zullen ze in no time verslagen worden.
“Middels internet of things staat alles in verbinding. ”
Nee hoor, nog lang niet. En als ik het zo een beetje inschat, dan gaat dat ook niet gebeuren. Al 25 jaar lang worden we vermaakt met verhalen over koelkasten die zichzelf via internet aanvullen, bijvoorbeeld, maar een concreet verkoopbaar product heb ik nog niet gezien. IoT gaat dezelfde weg als 3D TV, VR, en Google Glass: leuk voor bepaalde niche toepassingen, maar niet aantrekkelijk genoeg voor de massamarkt. Maar goed, het kan zijn dat ik me daarin vergis. Echter, zelfs als dat IoT er toch komt, dan zijn AI’s echt niet de grootste gevaren. Als we onze huizen echt helemaal vol gaan zetten met afluisterapparatuur en afstandbedienbare moordwapens (wat kort door de bocht, maar daar komt het wel op neer) dan hebben we sowieso behoefte aan een hoop nieuwe wetgeving, dat heeft niets met AI te maken.