Waarom is een aanslag niet te voorkomen

Dit is een gastbijdrage van Dimitri Tokmetzis. Het is ook te lezen op zijn eigen blog.

President Obama was vorige week boos. De veiligheidsdiensten hadden gefaald om de bomonderbroekterrorist tegen te houden voordat hij in het vliegtuig kon komen. Er lag genoeg informatie verspreid over verschillende overheidsdiensten, maar niemand kon die samensmelten tot bruikbare kennis waarop gehandeld kon worden.

Connecting the dots, blijkt telkens weer het probleem te zijn: 9/11, Van Gogh en nu weer. Maar kunnen we de ‘puntjes’ wel ‘verbinden’? Nee. Er vinden altijd fouten of ongelukken plaats op systemisch niveau. En geconfronteerd met een enorme hoeveelheid variabelen is de toekomst niet meer te voorspellen, hoe goed je voorspellende modellen ook zijn.

Volgens de regels van de Normal Accident Theory zijn grote en kleine ongelukken niet te voorkomen. Sterker nog, ze zijn onvermijdelijk. De Amerikaanse organisatiedeskundige Charles Perrow onderzocht het bijna-catastrofale ongeluk in de nucleaire reactor van Three Mile Island, in 1979 in Pennsylvania, Verenigde Staten. De nucleaire kern raakte oververhit toen het koelwater plotseling wegstroomde. Het defect bleek een kapotte leiding te zijn. Hoewel de veiligheidsvoorschriften duidelijk waren en het personeel kundig was, trad er een cascade aan fouten op die tot de bijna-ramp leidde. Zo werd het personeel overspoeld met – vaak tegenstrijdige – informatie.

Perrow trok een aantal belangrijke lessen uit het incident. In complexe systemen (een kerncentrale, financieel stelsel, mensenleven) kan veel fout gaan. Kleine fouten kunnen grote gevolgen hebben. Vaak is onbekend hoe delen van het systeem in veranderende omstandigheden elkaar beïnvloeden. Als verschillende systemen aan elkaar gekoppeld zijn, kunnen fouten zich razendsnel vermenigvuldigen en verspreiden. Het menselijk handelen schiet dan vaak tekort, omdat we op de kritieke tijden niet over de juiste informatie beschikken en achter de feiten aanhollen. Door de immense complexiteit kun je dit van tevoren niet allemaal uitdenken en in scenario’s en protocollen ondervangen.

De werkelijkheid wordt meer gestuurd door geluk en pech dan we zelf zouden willen, zegt Leonard Mlodinow, een Amerikaans natuurkundige en schrijver van het boek The drunkard’s walk: how randomness rules our life. Het is pas na een aanslag dat we de terroristische cel en planning ontdekken. Het is pas na de dood van een kind dat we de mishandeling zien. Het is altijd achteraf dat we betekenis geven aan een gebeurtenis en een patroon ontwaren. En dat schept hardnekkige verwachtingen, zegt Mlodinow. En die verwachtingen zijn deterministisch van aard. Dat idee schrijft voor dat als je eenmaal dat historische patroon tot op het heden hebt ontcijferd, je ook het patroon van de toekomst in kaart kunt brengen. Het determinisme heeft zijn waarde in de natuurkunde en andere exacte vakken. Voor het individuele leven en de maatschappij is ze minder bruikbaar. Mensen zijn irrationeel, grillig en handelen, zoals economen vaak gefrustreerd vaststellen, vaak niet eens in hun eigen belang. Daarnaast kan niet alle informatie worden verzameld. En ten derde is het menselijk leven en in het verlengde daarvan de samenleving zo complex, dat een overvloed is aan variabelen waar geen berekening, en dus voorspelling, mee te maken is.

In tegenstelling tot het verleden en heden, is de toekomst chaotisch en onvoorspelbaar. Dat komt volgens Mlodinow door de asymmetrie tussen verleden en toekomst.

“Imagine, for example, a dye molecule floating in a glass of water. The molecule will, like one of Brown’s granules, follow a drunkard’s walk. But even that aimless movement makes progress in some direction. If you wait three hours, for example, the molecule will typically have travelled about an inch from where it started. Suppose that at some point the molecule moves to a position of significance and o finally attracts our attention. As many did after Pearl Harbor, we might look for the reason why that unexpected event occurred. Now suppose we dig into the molecule’s past. Suppose, in fact, we trace the record of all its collisions. We will indeed discover how first this bump from a water molecule and then that one propelled the dye molecule on its zigzag path from there to here. In hindsight, in other words, we can clearly explain why the past of the dye molecule developed as it did. But the water contains many other water molecules that could have been the ones that interacted with the dye molecule. To predict the dye molecule’s path beforehand would have therefore required us to calculate the paths and mutual interactions of all those potentially important water molecules. That calculations, far greater in scope and difficulty that the list of collisions needed to understand the past. In other words, the movement of the dye molecule was virtually impossible to predict before the fact even though it was relatively easy to understand afterward. That fundamental asymmetry is why in day-to-day life the past often seems obvious even when we could not have predicted it.

Historians, whose profession is to study the past, are as wary as scientist of the idea that events unfold in a manner that can be predicted. In fact, in the study of history the illusion of inevitability has such serious consequences that it is one of the few things that both conservative and socialist historians can agree on. The socialist historian Richard Henry Tawney put it like this: ,,Historians give an appearance of inevitability (…) by dragging into prominence the forces which have triumphed and thrusting into the background those which they have swallowed up.”

Dit klinkt hoogdravend en abstract, maar raakt ook ons dagelijks leven.

“Obviously it can be a mistake to assign brilliance in proportion to wealth. We cannot see a person’s potential, only his or her results, so we often misjudge people by thinking that the results must reflect the person. The normal accident theory of life shows not that the connection between actions and rewards is random but that random influences are as important as our qualities and actions. On an emotional level many people resist the idea that random influences are important even if, on an intellectual level, they understand that they are. If people underestimate the role of chance in the careers of moguls, do they also downplay its role in the lives of the least successful?

The psychologist David Rosenhan wrote that ‘once a person is abnormal, all of his other behaviours and characteristics are colored by that label’. The same applies for stardom, for many other labels of success, and for those of failure. We judge people and initiatives by their results, and we expect events to happen for good, understandable reasons. But our clear visions of inevitability are often only illusions.”