Automatische piloot

COLUMN - ‘Een robot is een prima back-up voor een menselijke bestuurder, maar de mens is een waardeloze back-up voor een robot,’ zei een specialist in zelfrijdende auto’s vorige week, naar aanleiding van de Boeing 737 Max die in Ethiopië was neergestort. Een snedige, maar misleidende quote: het probleem wordt ermee in de schoenen van de piloot geschoven. Mensen zijn gewoon niet goed genoeg meer, ze kunnen de techniek niet aan, suggereerde de man.

Maar juist in afwijkende situaties is een automatische piloot lastiger: hij vereist dan meer werk. Dat verhoudt zich bar slecht tot noodsituaties, zeker omdat dan per definitie weinig gebruikte functies in het geding zijn. Bovendien duurt het tegenwoordig altijd even voor je hebt uitgezocht wat er nu precies faalt: de besturing zelf, of de registratie, dan wel de weergave daarvan? Verliest het vliegtuig echt hoogte? Is er slechts een sensor defect? Faalt misschien het scherm dat de hoogte toont?

Boeing zelf valt meer te verwijten dan zijn piloten, of menselijke capaciteiten in het algemeen. Het bedrijf heeft herhaalde klachten van piloten over de onhandelbaarheid van het systeem consequent genegeerd. De automatische piloot is daarnaast al jaren geleden zo complex geworden – in de woorden van Nadine Sarter, een gerenommeerd industrieel ontwerpster en hoogleraar: bewilderingly baroque – dat allerlei functies en correcties diep in het systeem verscholen zitten, en je de meer ongebruikelijke functies alleen kunt bereiken door eerst een lange serie schermen te doorlopen.

Anders gezegd: de automatische piloot vormt een hindernis in noodsituaties. Diverse deskundigen beschreven de crashes van de 737 Max dan ook als een gevecht van mens tegen machine, en helaas won de machine.

Maar de mens had moedwillig slechte kaarten gekregen. Bij elk nieuw type vliegtuig trainen piloten gewoonlijk langdurig in peperdure grondcabines. Maar bij de 373 Max besloot Boeing dat piloten die al vertrouwd waren met de 737, de Max gerust wel onder de knie konden krijgen op een iPad. U leest het goed: op een iPad.

Wat ook niet helpt: alle nieuwe softwarefuncties worden doorgaans bovenop de bestaande gebouwd, mede omdat de automatische piloot anders van meet af aan gecertificeerd moet worden, wat een langdradige en dure affaire is. Beter gewoon een extra module erbovenop zetten, moeten ze bij Boeing gedacht hebben: dat is een korter traject, en dus goedkoper.

Jaren geleden werkte ik bij Fokker. Onze afdeling schreef de software die een vliegtuig in partjes ontleedde en voor elk onderdeel tijdig orders uitzette. Wij hadden ook van die aangegroeide software: module op module. Een van onze systeembeheerders ontdekte op zeker moment een oud snoer programma’s die elke vrijdagavond draaiden. We hadden geen idee wat die batch deed: documentatie en code ontbraken, er restte alleen machinetaal.

We durfden er niet meer aan te komen. En dat waren maar bestelbonnen.


Deze column van Karin Spaink verscheen eerder in Het Parool
.

  1. 1

    Ja Karin is altijd wel to the point maar de column is een herhaalde publicatie van een week geleden. Gisteren was een sleuteldag met onze verkiezingen en een toespraak van May (ze gaat voor 3 maanden uistel). De wereld draait een keertje echt door en het gaat over iets wat naar mijn gevoel niet meer echt er toe doet. De redactie had daar misschien beter een keer een open draadje van mogen maken. Een café met een of twee onderwerpen of zo…

  2. 4

    Bugs gebeuren in software. Het lijkt bijna een natuurwet.

    De meeste bugs worden er op tijd uitgehaald, maar sommige dus niet.

    Het resultaat: tragische ongelukken, maar het past wel bij deze tijd.

  3. 5

    @2: Registreren die “bijna-ongelukken”? Enkel de vliegbewegingen en inputs. Dat is best veel werk. Laat de onderzoekers hun werk doen, dat duurt even, maar dan weten we het definitieve antwoord.

  4. 7

    Kunnen ze de techniek niet aan? Is me vreemd. Heel veel mannen hebben méér aanleg aan techniek wat er mooiste is aan vakgebied. ( ik heb ook méér aanleg aan techniek ), ja hoor als ik niet auditieve handicap was, was ik allang méér dan pilote alleen geweest. Geweldig beroep.

    Vanaf jaren 50 tot met 2000 waren vliegtuigen heel zelden in crash, maar tegenwoordig inderdaad zoiets te veel van de goeden. Als je in automatisch pilot in hoogte van bv 250.000 voet, ongeveer 72 a 75 kilometer hoog, laat vliegen, wel zo veilig als wat, hoe hoger hoe schoner. Maar dat is te hoog, denk ik. In maximaal hoog vliegen is 15 KM of zoiets. Dat is vrij normaal, maar de snelheid gaat steeds gekker. Hoe sneller hoe vuiler ze worden, hoe groter de kans ze kapot in materialen krijgen, alles kan. Bijv als je met de auto rijd over de snelweg met 120 KM, dan is er niemand sneller dan 180 KM toch? Dan gaat ie zeker zo goed als crash. In Duitsland rijden veel in 180 KM, omdat de wegen breder zijn, en ook massieve auto’s zoals merdeces.

    Voor vliegtuigen Boeing de dikste is 747 MAX, is niet gewoon als er iets nieuws is. Techniek is kapot, ja, automatisch pilot kan het wel, maar piloot kan het wel. Het ligt gewoon aan die materialen die kapot gaan in hoogste luchtdruk, te zwaar, hoeveel kans ze in crash krijgen? Door vervuiling in de lucht, vogels, bepaalde luchtstoffen en technisch materialen.
    Het zou méér controleurs bij moeten om het goed te doen, niet meer in snelle tempo werken, dat zou ook gekker worden.

  5. 9

    @4:

    Bugs gebeuren in software.

    Meh.

    Software en hardware werkt samen als een geheel. Als de motor van je auto ontploft doordat er geen olie meer in zit en de sensor dat niet opmerkte omdat ie stuk was, zeg je ook niet “bugs gebeuren in software” omdat de boordcomputer de foutsituatie niet herkende en daarom gewoon lekker doorreed en de bestuurder de dikke witte rookwolken en geur van metaal negeerde. Je zegt dan gewoon dat je motor is ontploft. Zo ook hier. Het vliegtuig pleurde uit de lucht omdat het systeem niet deed wat het moest doen. Voordat de software het “verkeerde” besluit neemt, waren al handen vol aan verkeerde besluiten gewomen. Door andere onderdelen (kapotte sensors), in het ontwerpproces van het geheel (geen failover bedacht) en door de bestuurder, die waarschijnlijk ook wel had kunnen ingrijpen toen ie witte rook zag en de boel verbrand begon te ruiken. Maar zo gaat dat in je auto en zo gaat het ook hier.

    Dit draadje geeft een mooie samenvatting van de totstandkoming van dit gedrocht:

    https://twitter.com/trevorsumner/status/1106934362531155974

    Toch wijst jan en alleman naar de software. Want het is hip, om software stom te vinden. De winst van bepaalde partijen in onze verkiezingen voor de provinciale staten generaal is overigens op hetzelfde mechanisme gebaseerd. Maar in plaats van de software, geeft men dan een willekeurig ander wieltje in een grote machine de schuld. Buitenlanders, windmolens of leerkrachten enzo. Dingen waarvan het hip is om ze stom te vinden. Het zou voor iedereen beter zijn als mensen wat minder dingen roepen waar ze geen verstand van hebben.

    Dankuwel.

  6. 10

    Oke, ga dan naar google, hoeveelste keren achter elkaar vliegtuigen verongelukten, zoveelste keren in korte jaar was in 2018, nu laatst nog ook in 2019, teveel van de goeden. Het gaat om toestellen met automatisch pilot. sinds februari 2018 en tot nu vandaag waren 10 keer verongelukt, nog geen 1 jaar !!!!

    Gaat mij om aantal per jaar, daarvoor jaren 50 en tot met 2000 waren echt veel minder.

  7. 12

    @10: coooomz was mij voor. Maar je zou zelf ook eens kunnen zoeken. Het wrange is dat vrijwel elk ongeluk en incident voeren tot meer veiligheid. Bedenk bovendien dat het aantal ongelukken van de afgelopen jaren naar beneden is gegaan, maar het aantal vliegbewegingen omhoog. Dus relatief gezien kan het zelfs met meer (absolute aantallen) ongelukken desondanks het percentage ongelukken omlaag zijn gegaan.

  8. 13

    @11: juist wel, zie laatste jaren dat veel soort vliegtuigen verongelukten dan jaren 50. Hoe meer vliegtuigen vliegen hoe groter kans verongelukken.
    Je hebt niet goed gelezen. Ga terug naar school om goed te tellen welke toestellen.

  9. 15

    Heb je niks te verontschuldigen omdat ik het heel goed heb gelezen via google, en ga me niet de les lezen wat je zelf niet goed vindt.
    Volgens mij ben je gewoon onuitstaanbaar omdat ik een vrouw ben.

    Nou dag!

  10. 16

    Bij de Boeing 737 Max is niet de autopilot het probleem maar het zogenaamde MCAS systeem. Bij dit vliegtuig zij hele grote en zuinige motoren geïnstalleerd, helaas is het vliegtuig hierdoor instabiel geworden en is de MCAS nodig om het vliegbaar te maken. Vergelijk het met een ABS systeem in je auto dat je helpt te remmen, alleen geeft dit ABS systeem per ongeluk vol gas i.p.v. dat het helpt te remmen.

    Anders dan bij een automatische piloot hoef je aan een MCAS niets te bedienen net als je bij een auto met ABS geen extra rijles nodig hebt. Hooguit kan piloten trainen op de ongebruikelijke manier waarbij dit systeem nu gefaald heeft, maar als ze die mogelijkheid voorzien hadden, dan hadden ze de fout van tevoren al opgelost, dus dat is achteraf rederneren.

  11. 17

    @16: mooi dat jij de vergelijking maakt met abs. Het probleem met abs toen het ingevoerd was dat de bestuurders niet wisten hoe het rempedaal reageerde als het abs-systeem ingreep. Het schokken van het rempedaal zorgde er voor dat men het rempedaal losliet als het abs-systeem ingreep.

  12. 18

    @15 Ik, als vrouw, wilde het eerst negeren, vaak het beste, maar het lukt toch niet. Zou je niet met die kaart willen zwaaien omdat je je verongelijkt voelt?

    Je wordt niet genegeerd, niet onuitstaanbaar behandeld. Je krijgt gewoon geen gelijk. Dat heeft niets, maar dan ook niets met m/v te maken.

    Aan jou om jezelf duidelijker te maken, want misschien is niet duidelijk wat je bedoelde en hebben jullie het over andere cijfers. Of om met je eigen cijfers te komen om je punt te bewijzen.

  13. 19

    @17 Elk systeem heeft ook zijn nadeel en kinderziektes. Het aandeel wat zijn rempedaal losliet is waarschijnlijk verwaarloosbaar geweest t.o.v. die er door gered zijn. Het is ook geen natuurlijke reactie, de meeste gaan alleen maar harder trappen als de auto niet remt. De piloten waren, in tegenstelling misschien, tot sommige automobilisten ingelicht over het functioneren van het systeem. Bij de nieuwere ABS systemen merk je er niets meer van en toch bestaat er theoretisch de kans dat hij op een cruciaal moment alle remmen losgooi. Min of meer hetzelfde zagen we met de Stint, die was Foolproof gemaakt, maar net daardoor kreeg hij een ongeluk.

    Bij het ABS systeem was het ook een onderdeel van het functioneren, bij Boeing van het falen van een sensor. Je kan piloten daar op trainen, maar je kan piloten onmogelijk trainen op alle mogelijke falende onderdelen. Dat dit zo niet had mogen gebeuren is duidelijk, maar achteraf is het altijd wel heel erg makkelijk om met vingertjes te gaan wijzen.

  14. 23

    Dat je er voor koos om mijn punt geheel te missen. En weer herhaalde dat je bespot werd. Dat gevoel mag je hebben, maar als buitenstaander in deze discussie zie ik daar niets van terug.
    En dan verlies ik mijn geduld.

    En dat terwijl ik probeerde te zeggen dat ik behoorlijk pissig ben dat je met een kaart begon te zwaaien waar je zuinig op moet zijn.

  15. 24

    Nou, iemand of meerdere personen die betweters vallen mij wel aan die zeiden: “Je lult” , U praat onzin , Jij niet, Met de kaart willen zwaaien, omdat ik verongelijkt voel? , allemaal larie negatief en verkeerde interpretatie.
    Dat geeft wel aan dat ik een grens neem, omdat ze betweters zijn, dat lees ik hier wel vaker helaas. Dat geeft geen nut.

    Wat ik daarvoor netjes uitlegde, was het ook zo realiseren, niks onzin, niks lullen, niks ik niet, niets met de kaart zwaaien, helemaal niks te maken. Het is uitlokking van welke personen die mij willen kleineren, dat boeit me toch niets. Dat je zo pissig bent, is mijn probleem niet. Klaar vette punt

  16. 25

    @24: ik zou zeggen – als jij mij als betweter beschrijft, jouw goede recht – dat het goed zou zijn om eens in de spiegel te kijken. Ik kom met een onderbouwing (link), jij niet, maar je volhard in jouw mening. Ik heb niets gezien van jouw kant dat jouw punt onderbouwd.

  17. 26

    @19: je weet niet waar je over spreekt, tenminste niet over abs. De enige training die piloten kregen was op een tablet. Niet bepaald een simulator of les in een vliegtuig. Bedankt voor het herhaalde bewijs van mijn gelijk.

  18. 27

    @25:

    Wist wel dat je hier toch tot het laatste woord blijft reageren, mij een biet!
    Je hoeft mij niets te zien wat mijn beste kanten hier al hebben geschreven, dat vind ik alles prima zo.

    Betweter die ook niet echt altijd positief bedoelt, dat ben jij!

    Ik bepaal zelf wel wat het echt goed is voor het artikel, zonder elkaar aan te vallen, daar begin je zelf mee.

    Ieders mening respecteren, maar dat moet je niet telkens aanwijzen van Onzin, vla, vla, vla.

  19. 28

    @27: Het is lastig om met iemands mening te respecteren als die mening al is weerlegd. Kom eens met iets wat jouw mening onderbouwd. Ik wil best wel excuses aanbieden voor mijn “je lult”, sterker nog: Het staat er direct naast! Ik kan mij best voorstellen dat dat stak. Maar nogmaals; Ik heb het met een link onderbouwd waarom ik dat vind. Roepen “Google het maar” wordt hier op andere topics ook niet als open dialoog gezien…