Quote du Jour | Geen wezenlijke doorbraken

SargQdJ09

‘Er is heel veel bereikt,’ zegt Steels. ‘Maar de laatste dertig jaar zijn er geen wezenlijke doorbraken meer geweest. Natuurlijk, de nieuwe toepassingen zijn indrukwekkend. Dat komt doordat computers veel krachtiger zijn geworden, verbonden zijn met elkaar, en veel meer data tot hun beschikking hebben. Daardoor is nu van alles mogelijk. Maar als je kijkt naar de onderliggende intelligentie: die is hetzelfde gebleven. Die is gebaseerd op algoritmen (instructies, programma’s, red.) die er dertig jaar geleden ook al waren.’

Waar veel nieuwe toepassingen op neerkomen: patronen herkennen in grote hoeveelheden data. Dankzij het zogeheten machine learning kunnen computers die patronen zelf ontdekken, zonder dat programmeurs aangeven hoe een patroon eruit ziet.

Er is een hoop te doen over kunstmatige intelligentie en zelforganiserende software die op zeker moment bewustzijn zou kunnen krijgen en de mens overschaduwen. Onterecht, meent Luc Steels.

Films als ‘Her’ (2013) en ‘Ex Machina’ (2015) voorspellen dat computers ons zullen overstijgen. ‘Transcendence’ (2014) droomt over het klonen van het menselijk bewustzijn in een computer om vervolgens te evolueren tot een wezen met goddelijke krachten. En dan is er nog de goede oude nachtmerrie van Terminator, die onlangs een reboot heeft gekregen.

Maar dat is meer science fiction dan wetenschap. Computers zijn nog net zo dom als dertig jaar geleden, aldus Luc Steels in een lang interview met Vrij Nederland.

En Steels kan het weten, als “grondlegger van de kunstmatige intelligentie in Europa”.

De linguïst en informaticus vertolkt een tegenstem aan een door science fiction gedomineerd publiek debat over kunstmatige intelligentie. Niet alleen in pop culture, maar ook in serieuze voorstellingen over hoe kunstmatige intelligentie zich de komende decennia zal ontwikkelen.

Zo heeft de filosoof Nick Bostrom furore gemaakt met het boek Superintelligence (2014), waarin hij waarschuwt dat een artificiële intelligentie die de mens overvleugelt op zeker moment wel eens doelen kan stellen waar de mens niet in past.

En Bostroms woord gaat er bij de Nederlandse intelligentsia in als een ouderling. Zo vrat Bas Heijne in De Volmaakte Mens de voorspellingen van de filosoof als zoete koek.

Maar Bostrom weet niet goed waar hij het over heeft, meent Steels. Tenminste, niet waar het op de techniek aankomt. Voornaamste probleem is dat computers geen betekenis geven aan de data die ze verwerken.

En dat is vrij fundamenteel voor intelligentie. Een tweede probleem noemt Steels het gebrek aan ‘verankering’.

De meeste AI-toepassingen maken gebruik van symbolen die niet zijn verankerd in de echte wereld en niet zijn verbonden met ervaring.

Hij geeft in het interview met VN het voorbeeld van een deur. Een mens leert te begrijpen wat hij moet verstaan onder de term ‘deur’ door een aantal deuren te zien en daarvan te abstraheren wat een deur is. Kunstmatige intelligentie kan dat volgens Steels niet. Die kun je een definitie geven van een deur, en twintig voorbeelden laten zien, maar zodra het een deur tegenkomt die net even afwijkt van de definitie, zal het programma niet in staat zijn om te vatten dat het ook hier een deur betreft en waarom dan wel.

Biologische intelligentie is dynamisch: het brein legt voortdurend nieuwe synaptische verbindingen. Maar artificiële intelligentie gaat vooralsnog uit van een statisch model. Zou je werkelijk zelfbewustzijn willen creëren in een machine, dan zou je evolutie en adaptatie moeten inbrengen in het leerproces van computers.

Het artikel beschrijft experimenten, opgezet door Steels, waarbij robots met elkaar leren communiceren, doordat de een een zelfbedacht woord schept om iets aan te duiden en de ander gaat raden wat ermee bedoeld wordt. Steels oogst er internationaal bewondering mee, maar zelf noemt hij die resultaten ‘knullig’. En het heeft jaren gevergd om die babystapjes te zetten.

Niet alleen is het brein verbluffend veel complexer dan wat we kunnen nabootsen, ook opereert zelfbewuste intelligentie niet in een gesloten systeem, maar in een complexe feedbacklus met het lichaam dat prikkels binnenkrijgt, en de sociale relaties die we aangaan, aldus Steels. Zie dat maar eens na te bootsen.

Het gevaar van kunstmatige intelligentie is dus niet dat die ons zal overvleugelen door z’n superieure vermogens, meent Steels, maar dat wij onszelf afhankelijk maken van de oordelen van software, vanuit een overschatting van haar vermogens.

Ook amateur-filmanalist Rob Ager is uitgesproken kritisch over de verwachtingen. We weten niet eens goed hoe menselijke intelligentie ontstaat uit organische massa, laat staan dat we dat zouden kunnen dupliceren door middel van anorganische massa, meent Ager.

  1. 1

    De vraag is of intelligentie meer is dan geaccumuleerde algoritmes. Die vraag blijft tot nu toe altijd hangen, ook al wordt die gesteld. Voor en tegenstanders. Geloof en ongeloof. Hoe dan ook, het al dertig jaar en langer durende optimisme over machine intelligentie duurt blijkbaar voort.

    Uiteindelijk denk ik dat machine-intelligentie gewoon anders zal zijn dan menselijke intelligentie. En de vraag, die pas beantwoord wordt als het zo ver is, is of die machine-intelligentie sterker is dan de menselijke intelligentie. En in het laatste geval of de aanpassing van die biologische intelligentie snel genoeg zal gaan om bij te blijven (op zijn minst).

    In elk geval is intelligentie een systeemeigenschap.
    Die mening deel ik met Steels.

    Leuk er weer eens serieus iets over te lezen.

  2. 2

    Goed stuk dat helaas weinig gehoor zal vinden.

    Voor mij is KI altijd een indicator geweest dat je god wel uit de wetenschap kunt halen maar dat bijgeloof daarmee nog niet uit de wetenschap verdwenen is.

    Aan het hele idee KI kleven zoveel mitsen en maren dat het bijna ondoenlijk is geworden er met leken nog een gesprek over te kunnen voeren zonder dat men met digitale voodoo op de proppen komt zetten.

    Ik beweer dan ook altijd: A. Intelligentie is o.a. ook een foute redenering kunnen maken en inzien dat deze fout is. B. Een foute redenering kunnen herkennen zonder dat je brein meteen op hol slaat (can not compute) en daaruit volgt dan: Een grap (een bewust foutieve voorstelling van zaken om een punt te maken) doorzien is een teken van intelligentie. Conclusie: Ik ga pas serieus nadenken over computers (Rechner, zeggen de oosterburen heel terecht) als de computer kan lachen om een grap die ik maak of omgekeerd.

  3. 3

    Luc Steels grondlegger van de AI in Europa noemen gaat iets te ver, maar hij had een belangrijke rol in de lage landen, dat is zeker. Verder heeft-ie gewoon gelijk. Al die flauwekul komt van mensen die nooit iets hebben bijgedragen aan het nabouwen van menselijk gedrag en die onder de indruk zijn van statistische benaderingen. Hoewel die hun verdienste hebben, komen ze niet echt ver. Ze halen al hun “kennis” uit data. Er is niet echt genoeg data voor veel toepassingen (tenzij je graag Facebook-berichtjes wilt modelleren) en data is op zichzelf niet genoeg om intelligentie te laten verschijnen.

  4. 4

    De reden dat KI steeds ver weg lijkt is meer, dat we veel dingen niet meer als KI zien.
    Een schaakspelletje winnen tegen de wereldkampioen? Natuurlijke taal vertalen? Deze KI activiteiten, nu standaard, werden ooit als onneembare barrières en typisch menselijk gezien. Er is geen logische reden om aan te nemen dat dat proces zal stoppen.

  5. 5

    Een schaakspelletje winnen tegen de wereldkampioen?

    Ha! In 1997 won Deep Blue inderdaad van Kasparov, maar niet nadat de wedstrijd een aantal maal werd stilgelegd omdat de computer kuren vertoonde, en er aan gesleuteld moest worden.

    Als een menselijke speler een inzinking of blackout heeft tijdens een wedstrijd is er geen time out. Dan verliest hij gewoon het spelletje.

    Bovendien kon Deep Blue zelf enkel zetten calculeren. De computer ontwikkelt zelf geen tactische combinaties of strategieën. Die moeten handmatig ingeprogrammeerd worden met behulp van de input van schaakgrootmeesters.

    Dat is dus niet de computer die deze kennis verwerft (door te lezen en te begrijpen bijv.), maar gewoon directe menselijke input.

    Kortom, het blijft een veredelde rekenmachine. Waar een computer in uitblinkt is de rekencapaciteit, waarmee het in een oogwenk tal van variaties uit kan rekenen. Maar wat creativiteit betreft is de computer nog net zo dom als de schaakcomputer die mijn tante in de jaren tachtig had staan.

  6. 6

    “Kortom, het blijft een veredelde rekenmachine. ”
    Hoe je het ook wilt noemen, feit blijft staan dat een ooit exclusief tot de mens toebehorend terrein nu overtuigend wordt beheerst door computers: zelfs de beste menselijke speler legt het nu af tegen een grootmeesterklasse schaakprogramma op een moderne iPhone.

    Wat wij ‘creativiteit’ noemen komt uiteindelijk ook voort uit tientallen miljarden geschakelde neuronen die elk niet erg verschillen van die in bijvoorbeeld een kakkerlakkenbrein. Je zou een mens dus ook een veredeld kakkerlakkenbrein kunnen noemen. Laten we ons hoeden voor ongegrond antropisch chauvinisme.

  7. 7

    @6: Ik ben onder de indruk van Google translate.
    Toch denk ik dat Google gewoon een woord kiest dat statistisch de meeste kans heeft om te kloppen.

    Google translate begrijpt niet dat “wear” 2 betekenissen heeft.
    Als ik “slijten” naar het engels vertaal, geeft hij “wear”.
    En als ik “slijten” naar het Duits laat vertalen, geeft hij “tragen”.

    Dat kan een correcte vertaling zijn van het engelse “wear”, maar de juiste vertaling is natuurlijk “abnutzen” of “abtragen”.

  8. 8

    Hoe je het ook wilt noemen, feit blijft staan dat een ooit exclusief tot de mens toebehorend terrein nu overtuigend wordt beheerst door computers

    @6 Dat zegt me dus nog niet veel: binnen nu en twintig jaar zullen auto’s naar verwachting volautomatisch worden. Als je een ritje van A naar B wilt maken, dan brengt de boordcomputer je daar naar toe.

    Betekent dit ook een stap dichter bij zelfbewustzijn? Nee, want alles moet ingeprogrammeerd worden, net als bij het schaakbord. De computer ‘leert’ niet schaken; dat schaakprogramma op je IPhone is zes maanden later nog net zo behendig in schaken als het was na de laatste update. De software ‘leert’ niet rijden of handelen in aandelen, het krijgt haar algoritmes voorgekauwd, of in het beste geval: voorgekauwd hoe ze zelf algoritmes moet opstellen gebaseerd op statistische input.

  9. 9

    @8: Betekent dit ook een stap dichter bij zelfbewustzijn? Nee, want alles moet ingeprogrammeerd worden, net als bij het schaakbord. De computer ‘leert’ niet schaken; dat schaakprogramma op je IPhone is zes maanden later nog net zo behendig in schaken als het was na de laatste update.

    Dat is maar de vraag: wat is leren. Je kunt dat programmeren ook leren noemen: de computer leert van zijn baas, de programmeur. En bijleren heet een update. Wat ik in #1 al zeg: machine intelligentie is anders dan menselijke intelligentie.

    Als je het nogal lastige leren – met vallen en opstaan – van mensen als norm neemt van intelligentie, dan zijn de eerste jaren van de computer nogal vervelend. De bootstrap van de machine-intelligentie moet anders zijn dan die van de mens.

    En het echte automatische bijleren? Het gebeurt al met neurale netwerken. Nog niet perfect maar op deelterreinen is men al heel ver. De toekomst is een kwestie van integreren en toepassen. En daarbij: een mens kan ook niet alles: een bankwerker kan niet timmeren, althans niet zo goed. Hetzelfde soort verschil geldt voor wiskundigen en natuurkundigen. Ieder zijn vak, ook voor computers. En dan kun je heel slim worden.

  10. 10

    @9 Je kunt beter vragen: wat is begrijpen, en wat is iets onder de knie krijgen?

    Wanneer je daar wat langer op doorkauwt, zul je vanzelf inzien dat software niet ‘begrijpt’ noch op een creatieve manier nieuwe vaardigheden en inzichten verwerft.

    En dat is dus het cruciale verschil tussen de rekenvaardigheden van kunstmatige programmatuur en het leervermogen van het menselijk brein.

  11. 11

    @10, als je nog wat langer op die vragen doorkauwt, kan ik zelf alleen maar tot de conclusie komen dat ‘begrijpen’ en ‘onder de knie krijgen’ ook bij mensen moeilijk te definieren zijn. Het is toch vaak ‘een gevoel’. Reflecteren op hoe wij iets kennen is nog een behoorlijke extra stap – veel dieren hebben intelligentie, maar echt beschouwelijk over zichzelf worden… daar hebben wij ook behoorlijk wat tijd voor nodig gehad.

    Misschien ontbreekt het de AI wel gewoon aan het ontwikkelen van een taal om over zichzelf te kunnen reflecteren.

    Wat betreft de schaakcomputer, de computer van destijds is opgevolgd door andere, en lijkt het erop dat computer en grootmeester aan elkaar gewaagd zijn. (En het is ook niet zeker dat computers altijd moeten winnen. Als je bv 4-op-een-rij neemt, dat spel is ‘solved’, voor elke positie is exact bekend wat je moet doen om het spel zo goed mogelijk te laten eindigen. Als je twee perfecte spelers hebt, eindigt dat vervolgens altijd in gelijkspel, net als boter-kaas-en-eieren. In andere spellen kan het zo zijn dat de beginner kan winnen.
    Dus dat de uitslagen zo vaak zo dicht bij elkaar liggen hoeft niet te betekenen dat de AI faalt, het kan ook betekenen dat het spel ongeveer optimaal gespeeld wordt.)

  12. 12

    @10: Begrijpen is, in de manier waarop jij het beschrijft, dus een niet mechanische (niet chemische) toevoeging aan het menselijk brein. Als ik je goed begrijp zeg jij dus dat het menselijk brein een mechanisch iets is met iets extra’s. De Heilige Geest (of welke naam je er ook aan wil geven)?

    En dat gaat er bij mij niet in, het brein mag ingewikkeld zijn: het is een chemisch systeem en intelligentie zoals we het kennen wordt gegeven door het systeem. Wat we niet kennen kennen we niet maar dat onbekende is niet de definitie van de heilige geest.

    Begrijp ik je goed of verkeerd?

  13. 13

    Begrijpen is, in de manier waarop jij het beschrijft, dus een niet mechanische (niet chemische) toevoeging aan het menselijk brein.

    @12 Je begrijpt me verkeerd, maar dat komt omdat je hierboven een gevolgtrekking maakt die ik niet zie. Vermoedelijk omdat je een veronderstelling hebt over de gelijkenis tussen hoe een artificieel ‘brein’ werkt en hoe het menselijk brein werkt.

    Ik raad je aan het interview met Luc Steels in VN te lezen. Kost wel vijftig cent, maar dan snap je ook wat beter waarom de kloof tussen wat we computers kunnen laten doen (rekenen) en wat het menselijk brein doet (ervaren, denken, verbeelden, vaardigheden opdoen) onmetelijk veel groter is dan veel scifi-enthousiastelingen doen voorkomen.

    Om die stelling te kunnen handhaven, heb ik helemaal geen metafysische snuifjes ‘geest’ nodig.

  14. 14

    @13: Ik raad je aan het interview met Luc Steels in VN te lezen. Kost wel vijftig cent…

    Heb ik gekocht en gelezen (€0,79 via Blendle… heb ik me ergens laten belazeren?).

    En natuurlijk leert een computer niet op de cognitieve manier zoals wijzelf leren, weten en kennen. Volgens mij zijn we het daar met elkaar eens.

    Misschien zijn we het ook eens dat ons brein geheel mechanisch / chemisch is. Je bent daar niet duidelijk in. Als we het daarover eens zijn dan hebben we dus twee mechanische breinen die elk op een andere manier leren.

    Alleen voeg jij (via Steels?) dan ineens bewustzijn toe (begrip, creativiteit…).

    Ik heb Steels niet nodig om te constateren dat de mens op dit moment echt meer kan dan de computer.

    Maar Steels kan mij niet vertellen waarom het ene mechanische brein in principe wel bewustzijn zou kennen en het andere niet.
    En ja, ik weet ook wel dat de geleerden het niet over eens zijn, maar voor mij is iets niet mechanisch toevoegen aan een in principe mechanisch brein, een metafysische toevoeging. En dat mag je van mij de naam geven die je wilt.

  15. 15

    De onderliggende vraag in deze discussie is vaak wanneer software (i.c.m. hardware) een gevaar gaat vormen voor de mens.

    Veel mensen definiëren dat als het moment dat software “zelfbewust” wordt of in andere opzichten meer op de mens gaat lijken.

    Dat is natuurlijk arbitrair. Het zou me niets verbazen als de mensheid ooit wordt uitgeroeid door een machine die als opdracht heeft om zoveel en efficiënt mogelijk stuiterballen te maken en de mensheid op een gegeven moment – na een hele kille berekening – gaat zien als gevaar voor zijn opdracht. En passant bedekt het alle vaste oppervlaktes in het zonnestelsel (en verder) met een metersdikke laag stuiterballen. Daar komt dan waarschijnlijk geen zelfbewustzijn, gevoel, creativiteit of intelligentie (buiten het deelgebied van stuiterballen maken) aan te pas.

    De machine hoeft dus niet eens intelligent te zijn om toch totaal te gaan domineren, en het is niet onredelijk om ervan uit te gaan dat in de (al dan niet nabije) toekomst er in ieder geval iets gaat gebeuren dat de boel flink gaat opschudden.

    Probleem in deze is Moore’s law, die zegt dat computersnelheid elke twee jaar verdubbelt. Zodra een systeem dat zichzelf kan verbeteren richting de mogelijkheden van de mens gaat, dan gaat het opeens heel snel.

    En dan is een foutje in de oorspronkelijke code snel gemaakt.

    Er wordt wel eens gezegd dat het gebrek aan intelligent leven in het heelal komt omdat het steeds makkelijker wordt voor individuen van dat ras om zichzelf uit te roeien.

    Stel je eens voor dat het mogelijk gaat zijn voor ieder van ons om de mensheid te laten uitsterven, en wat dat betekent.

  16. 16

    @8: “De computer ‘leert’ niet schaken; dat schaakprogramma op je IPhone is zes maanden later nog net zo behendig in schaken als het was na de laatste update.”

    Inmiddels zijn computerprogramma’s wel een stap verder dan dat.

  17. 17

    We zijn het niet altijd eens, Prediker, maar nu wel.
    Het menselijk brein blijft werken als de elektriciteit uitvalt. Het menselijk brein heeft slechts zuurstof, water en wat voedsel nodig en kan dan fantastische dingen bedenken en doen.

    De mens is slechts een tijdelijk verschijnsel en gedoemd om te verdwijnen. Maar de mens zal de machines met gemak overleven.

  18. 18

    @15, volgens mij hebben we allang een zelfbewuste, intelligente levensvorm gecreeerd die boven de mens uitstijgt en allang een gevaar is voor de mens(heid): de bovenmenselijke organisaties. Van de katholieke kerk tot Monsanto, het concept ‘natie’ – het zijn zaken waarbij je best kunt beargumenteren dat ze een concept van ‘zelf’ hebben dat los staat van het concept van het zelf van elk individueel mens dat eraan verbonden is (je kunt elk mens in zo’n situatie vervangen en toch kan het geheel een bepaalde identiteit houden.)
    Mensen vervullen dan in zekere zin de functie van synapsen en zenuwcellen.

    Punt is dat ons menselijke bevattingsvermogen moeilijk om kan gaan met dingen die zo’n ander formaat en ander levenstempo hebben, en geen fysieke grenzen. Zodat het moeilijk is om de vragen die wij over onszelf stellen ook (zinnig) te stellen over zo’n organisatie.

  19. 19

    @18: Verschil is dat zo’n organisatie zich niet exponentieel ontwikkelt. Dat maakt een technische “intelligentie” zo veel enger.

    Hoewel je natuurlijk een punt hebt. Een organisatie met veel aandeelhouders is van niemand en gaat al snel immoreel gedrag vertonen, en lijkt het sterk op een onafhankelijk organisme.

  20. 22

    @21:

    Wel interessant filmpje maar toch wat opmerkingen.

    1. De spelletjes die deze computer heeft “leren” spelen zijn relatief eenvoudig. Het aantal parameters waarmee het te maken krijgt is zeer beperkt. Dat blijkt ook wel uit het Nature artikel, waarin gesteld wordt dat Pacman toch een tikje te moeilijk is.
    http://www.nature.com/nature/journal/v518/n7540/full/nature14236.html

    2. De computer heeft niet “geleerd” wat hij in “de echte wereld aan het doen is”, het heeft geleerd hoe het aan zijn doelstelling moet voldoen (state of the pixel). Voor die computer is dat balkje bovenin nog altijd niet meer dan een complexe binaire string.

  21. 23

    @21: Uit optimalisatieproblemen komen vaak onverwachte antwoorden. En wie met optimalisaties werkt, zal dit ongetwijfeld wel eens tegengekomen zijn. Dus de gedachte dat de computer iets vindt, waar je van te voren niet opgekomen zou zijn, klinkt fascinerend, maar heeft eigenlijk vrij weinig betekenis.

    Dus ik ben heel erg benieuwd naar de onderliggende algoritmes, maar ik verwacht een soort optimalisatie. Ik denk dat dit soort computerprogramma’s op zichzelf ook weer te modelleren zijn. Dus, om bij dit voorbeeld te blijven, het programma heeft een aantal voorgedefinieerde inputs (waar is het balletje op ieder moment in tijd, score, etc…) en een output (het commando om dat karretje naar links of rechts te sturen). Vervolgens is er een optimalisatie (met “cost function”), waarbij iedere keer spelen een iteratie is.

    Wat bijvoorbeeld interessant is om te weten is of dit programma iedere keer hetzelfde doet bij een reset of niet. Kortom, is dit systeem tijdsinvariant of niet? Of, is de programmacode statisch of dynamisch? Heeft dit programma ook wel eens schijt aan een iteratie, dus, geeft hij wel eens op? Gewoon, omdat hij voorspelt dat hij het niet meer gaat halen en daarmee tijdwinst haalt. En daar heb je al een probleem, want “tijd” staat niet in de optimalisatie van de “kostenfunctie”, dus dit programma zal dat dan ook nooit “bedenken”.

    Verder is het natuurlijk niet verbazingwekkend dat dit programma sneller is dan een mens. De mens ziet met bijvoorbeeld 25 Hz (ik noem maar een getal), en heeft tijd nodig om beeldinformatie te verwerken. Dit is heel eenvoudig te overtreffen met een computer.

  22. 24

    @13:
    “de kloof tussen wat we computers kunnen laten doen (rekenen) en wat het menselijk brein doet (ervaren, denken, verbeelden, vaardigheden opdoen)”

    Maak je hier geen categoriefout? Ervaren, denken, verbeelden en vaardigheden opdoen zijn geen functies van breinen, maar van belichaamde mensen in complexe sociale contexten. Wat het brein doet verschilt van wat een computer doet, maar niet in termen van de low-level/high-level distinctie die je hier maakt.
    Steels stelt terecht dat een computer weinig meer is dan een veredelde rekenmachine, zonder verankering. Maar vergeet niet dat hetzelfde geldt voor een brein. De werkelijke uitdaging voor artificiële intelligentie is dus hoe we computationele processen voldoende kunnen inbedden in en interacteren met de wereld. Ik heb nog geen argument gezien dat suggereert dat zulks een principieel en onoverkoombaar probleem vormt.

  23. 25

    Ik heb nog geen argument gezien dat suggereert dat zulks een principieel en onoverkoombaar probleem vormt.

    @24 Ik denk ook niet zozeer dat het een principieel en dus onoverbrugbaar probleem is, maar wel dat het veel te optimistisch is (of juist te pessimistisch, gezien alle Skynet/Matrix-achtige doemscenario’s) te denken dat dit om de hoek van de komende 100 jaar ligt.

    We weten namelijk nog niet eens goed hoe intelligentie en zelfbewustzijn ontstaat en precies in z’n werk gaat in zo’n belichaamd systeem als de mens is (snappen we het al wel bij kakkerlakken, trouwens?) dus het lijkt me niet dat je dit zo één-twee-drie over kan planten op software.

    Het gaat er mij dus niet zozeer om dat het onmogelijk is; het gaat me er om dat het vooralsnog pure science-fiction is.

    Joost maakt wel een terechte kanttekening hierboven, dat ik veronderstel dat zelfbewustzijn cruciaal is, maar dat een computerprogramma in principe geen zelfbewustzijn hoeft te hebben om op hol te slaan en Skynet-achtige trekjes te krijgen.

  24. 26

    Maakt het veel uit of een Skynet-achtig wapensysteem vanuit zijn intrinsieke zelf ontwikkelde normen en waarden of vanuit kille statistische data besluit dat het beter is het algoritme in werking te stellen waarmee de mensheid uitgeroeid wordt?

    Ik begrijp dat het allemaal nog niet zover is, maar waar en op welk moment ontstond het onderscheid tussen de denkende mens en de mensaap. Ik denk dat dat al met al toch vrij plotseling gegaan moet zijn. En die denkende mens moest toen alles zelf vervolgens uitvinden… Een eerste “denkende” computer heeft in ieder geval de informatie al bij de hand.

    Het is volgens mij slechts de “firmware/instinct” van alle levende soorten die de “wil” tot overleven en de “wil” tot voortplanten hebben, die ervoor zorgt dat we ons steeds verder ontwikkelen. Als iemand dat succesvol in de “firmware” van een computer verwerkt en die computer maar adaptief genoeg ontwerpt, dan denk ik dat dat er niet heel geleidelijk gaat komen, maar dat het er opeens is. En dan draait die KI gewoon mee in darwins evolutie theorie.