Tijdens een routinevlucht merkt de piloot dat er weer iets aan de hand is met de hoogtemeter. Hij legt geen verband met de cruciale rol die dit instrument speelt bij een automatische landing. Wanneer de automaat, vanuit zijn beperkte en rechtlijnige logica, denkt dat de machine aan de grond staat, schakelt hij de motoren uit. In een split-second realiseert de piloot zich wat er gebeurt maar ingrijpen mag niet meer baten: de kist crasht. De piloot heeft een fout gemaakt door zich niet te realiseren wat een systeemdefect voor gevolgen kan hebben. De automaat heeft geen fout gemaakt maar is wel fout ontworpen. Door mensen.

Wie een automatisch systeem ontwerpt, moet rekening houden met het optreden van defecten. Daarom wordt meestal redundantie ingebouwd: extra veiligheid, zoals het minuscule onderdeeltje dat in een koffiezetapparaat de stroom uitschakelt als de zaak oververhit raakt.

In het geval van het landende vliegtuig was het beter geweest als het systeem ook had gecontroleerd of de veerpoten van het landingsgestel belast waren voordat de motoren werden uitgeschakeld. Japanse machinisten worden erop getraind om elk sein dat ze passeren met gestrekte arm aan te wijzen. Als ze alleen al hun arm niet voldoende strekken, krijgen ze een boete. En, nou ja, wat betreft dat schaatsen: het missen van een gouden plak was alleen in Nederland en omstreken echt wereldnieuws.

Het maken van fouten is een menselijke eigenschap. Ons verstand is niet ingericht op langdurig perfect handelen en ontleent juist daaraan een belangrijke andere kwaliteit: creativiteit. Bij het inrichten van arbeidsprocessen moet daarom ook altijd rekening worden gehouden met de onafwendbaarheid van fouten. Dit geldt voor piloten, vluchtleiding, apothekersassistenten, chirurgen en in olieraffinaderijen, kerncentrales, exportslagerijen, noem maar op. Weliswaar geeft het je een hoge status als je erop kunt pochen dat een enkele fout mensenlevens kan kosten. Maar uiteindelijk zal niemand de prijs willen betalen als het erop aankomt.

Arthur Mac Gillavry, met een knipoog naar John Vollenbroek, die trainingen geeft over menselijke fouten.

Arthur Mac Gillavry is als medewerker verbonden aan de TU Delft. Daarnaast schrijft hij freelance voor verschillende publicaties van Kluwer.