Een eco-systeem voor technische innovaties met impact op veiligheid

Nieuws - 14 april 2018 - webredactie

Auteur: Pieter van Gelder, Hoogleraar Veiligheidskunde, TU Delft.
Essay van Pieter van Gelder in de bundel "Na Vandaag; De toekomst van een veilige samenleving", uitgegeven door SIVV Stichting Innovatie voor Veiligheid | 1e druk, 2017.

De techniek heeft onze samenleving veel welvaart en veiligheid gebracht. Hoe kunnen wij ervoor zorgen dat deze trend zich voortzet en dat de negatieve impacts van nieuwe technologische ontwikkelingen tot een minimum beperkt blijven? In dit essay pleit ik voor het creeeren van een eco-systeem van wetenschappers, ontwerpers, ethici, economen en enterpreneurs die gezamenlijk komen tot nieuwe innovaties die de veiligheid verhogen.

Het aantal ongevallen in onze samenleving neemt gestaag over de jaren af. Denk aan het aantal verkeersongevallen, de veiligheid tegen natuurgevaren, ongevallen op de bouwplaats, etc. De techniek levert hier een belangrijke bijdrage aan. Materialen worden sterker, besturingssystemen worden robuuster, en sensoren steeds krachtiger om verstoringen en potentieel gevaar te detecteren. De techniek zorgt er ook voor om de menselijke factor zoveel mogelijk te faciliteren bij het nemen van moeilijke beslissingen en het reduceren van de menselijke fout. Management systemen, tot slot, zorgen ervoor dat er voldoende getrained, geinspecteerd, genormeerd en onderhouden wordt. De traditionele ingenieur is een hooggeschoolde technicus die juist deze drie factoren (techniek, mens en organisatie) in samenhang bestudeert en daarmee innovaties ontwerpt zodanig dat de samenleving er een stukje veiliger van wordt.

Helaas heeft de techniek in het verleden soms ook een verkeerde afslag afgenomen, en de veiligheid in de samenleving juist in gevaar gebracht. Denk aan de ontwikkeling van chemische- en nucleaire technologie, aanvankelijk voor maatschappelijke doeleinden, maar waar het gebruik voor militaire toepassingen ook direct zichtbaar was; de zogenaamde dual-use technologies.

Huidige technologieen zoals robotica, remote sensing en kunstmatige intelligentie zijn prachtige technologieen die de veiligheid significant kunnen verhogen. Beroepen met gevaar voor eigen leven kunnen vervangen worden door geautomatiseerde systemen. Vanuit de ruimte kunnen satellieten, of dichter bij huis de drones, observaties plegen om gevaarlijke situaties tijdig te detecteren. Echter, ook hier kan een dual-use verhaal opgehangen worden. De techniek kan ook tegen ons gebruikt worden. Geautomatiseerde wapens die zelf beslissingen nemen, of drones met gevaarlijke stoffen die door terroristen ingezet worden bij soft targets.

Hoe kunnen we deze gevaren zoveel mogelijk afwenden? Het ideale beeld: het ontwikkelen van nieuwe technologieën in een eco-systeem van diverse pluimage, te beginnen bij jonge ingenieurs in opleiding, die leren om in het ontwerp van de nieuwe techniek, naast de functionele waarden ook niet-functionele ethische waarden in te bouwen.  Indien dit reeds in het ontwerp ‘ingebakken’ wordt, kan de technologie later minder gemakkelijk voor negatieve doeleinden gebruikt worden. Dit geldt niet alleen voor de hardware - maar ook voor de software technologie en de opslag van data, waar ‘safety-by-design’, ‘security-by-design’, en ‘privacy-by-design’ belangrijke ontwerpmethodologieën zijn.

De rol van economen en ondernemers is in het eco-systeem eveneens essentieel. Veiligheid wordt door sommigen gezien als een waarde waarop bezuinigd kan worden. Economische kosten-baten analyses zijn op zich nuttig om de kosten van veiligheidsmaatregelen af te zetten tegen de risico-reductie die deze maatregelen teweeg brengen. Soms is een maatregel zo duur en de veiligheidswinst zo marginaal, dat het een rationele keuze kan zijn om de geringe veiligheidsverhoging bij de keuze van deze maatregel niet na te streven. Echter, dit zou geen reden moeten zijn om het huidige risico niveau direct te accepteren. Hier ligt namelijk een uitdaging voor de ingenieur om slimme innovaties te ontwikkelen zodanig dat de veiligheid alsnog verhoogd kan worden en tegelijkertijd de kosten beperkt blijven. Economen kunnen economische incentives bedenken waarop veiligheidsinnovaties en ondernemerschap zich zo goed mogelijk gedijen. Of nieuwe belastingsconstructies waarmee externaliteiten die onveiligheid bij anderen veroorzaken juist extra belast worden (zogenaamde Pigovian taxes ).

Het gewenste eco-systeem moet uiteindelijk leiden tot overheden en bedrijven die als missie hebben de veiligheid als onaantastbare, niet onderhandelbare, waarde te zien. Door sommigen ook wel aangeduid als een zero-tolerance beleid rondom ongevallen.  We zijn op de goede weg en de nieuwe technologie die zich aandient leent zich uitstekend voor het ontwikkelen van veiligheidsinnovaties. Waakzaamheid blijft echter geboden. Door met name in het ontwerp van deze nieuwe innovaties  veiligheidseisen hard op te leggen, kunnen negatieve impacts op langere termijn zoveel mogelijk uitgesloten worden.