De kloof overbruggen tussen nieuwe technologie en veiligheid & verantwoordelijkheid met zelfrijdende auto’s

Zelfrijdende auto’s zijn al lang geen sciencefiction meer. Hoewel van systemen voor geautomatiseerd rijden (automated driving systems, ADS) veel voordelen worden verwacht, zoals minder files en minder ongevallen, zijn er ook ethische vragen. Wie is er verantwoordelijk wanneer zelfrijdende auto’s betrokken zijn bij ongevallen, zoals onlangs bij een zelfstandig rijdende Volvo waarbij een voetganger in Arizona de aanrijding niet overleefde en bij het ongeluk in 2016 toen de chauffeur van een zelfrijdende Tesla om het leven kwam? Hoe kunnen de risico’s van ADS tot een minimum worden beperkt en kan de veiligheid van mensen worden gewaarborgd? Het is belangrijk dat de overgang naar geautomatiseerd rijden op een verantwoorde manier verloopt. In het NWO-project ‘Meaningful human control over automated driving systems’ draagt de TU Delft bij aan deze transitie door ethische vragen rond ADS te analyseren. Naar deze invalshoek is nog niet eerder onderzoek gedaan.

Verantwoordelijkheidskloof

Filippo Santoni de Sio, universitair docent bij TBM en een van de projectleiders: “Het begrip ‘betekenisvolle menselijke controle’ is cruciaal als we verantwoorde autonome systemen willen ontwerpen die functioneren in omstandigheden waarin mensenlevens op het spel staan. Dit betekent dat mensen, en niet computers en hun algoritmen, moreel verantwoordelijk horen te zijn voor potentieel gevaarlijk rijden. Wanneer we ervoor zorgen dat betekenisvolle menselijke controle behouden blijft, kan de veiligheid van de mens beter worden beschermd en kunnen ‘verantwoordelijkheidskloven’ worden vermeden.”

Richtlijnen

Er is echter geen bevredigende theorie over wat betekenisvolle menselijke controle precies betekent met betrekking tot ADS. Het doel van dit project is om te komen tot een wetenschappelijk verantwoorde definitie die ook nog werkbaar is. Santoni de Sio: “Ons team van onderzoekers van TBM en Civiele techniek, dat bestaat uit filosofen, gedragswetenschappers en verkeerskundigen, zal eerst een theorie ontwikkelen, en vervolgens samen met het bedrijfsleven en beleidsmakers het begrip ‘betekenisvolle menselijke controle’ vertalen in richtlijnen voor systeemontwerp, op technisch, regelgevings- en juridisch niveau. Menselijke controle moet namelijk niet alleen in de rijsystemen worden ingebouwd, maar ook in de systemen daarbuiten.”

Uitdagingen

Bij een optimaal ontwerp werken mens en technologie samen om risico’s te minimaliseren en de juiste actie te garanderen wanneer dit nodig is, bijvoorbeeld wanneer een geautomatiseerd systeem niet ingrijpt in een gevaarlijke situatie. “Het is van cruciaal belang dat een persoon ook in staat en bereid is deze taakverdeling te volgen. Want naast het rijden moeten chauffeurs ook nieuwe vaardigheden beheersen, zoals toezicht houden op het voertuig in een geautomatiseerd systeem. Bij het ontwerp van het systeem moet hiermee rekening worden gehouden.” Daarom is in het project ook een forse component verkeerskunde en gedragswetenschap ingebakken. Een andersoortige uitdaging is om alle projectpartners proactief betrokken te houden, omdat de verschillende partners de neiging hebben in hun eigen ritme te werken. Dit vraagt om een alomvattende aanpak. “Het ziet er op dit moment veelbelovend uit; de belangrijkste partijen die een rol spelen op dit complexe terrein werken mee aan dit project en zetten zich ten volle in”, aldus Santoni de Sio.

Gedeeltelijke en begeleide autonomie

Het project zal zich richten op betekenisvolle menselijke controle in twee soorten geautomatiseerd rijden: gedeeltelijke en begeleide autonomie. Dit zijn namelijk de vormen die de komende tien tot vijftien jaar waarschijnlijk zullen worden toegepast. Gedeeltelijke autonomie betekent dat voertuigen handmatig of automatisch kunnen worden bestuurd, en begeleide autonomie verwijst naar volledig computergestuurde ‘cabines’ die voortdurend worden gecontroleerd door een menselijke supervisor (eventueel op afstand). Resultaten van het project worden in 2020 verwacht. Santoni de Sio wil de lat graag hoog leggen en verder kijken dan systemen voor geautomatiseerd rijden: “Bij voorkeur wordt de theorie ook toegepast op andere autonome systemen, bijvoorbeeld in de gezondheidszorg of financiële systemen; dat is het ultieme doel.”

Meer informatie

Filippo Santoni de Sio is universitair docent Ethics of Technology en werkt bij de sectie Ethics/Philosophy of Technology van de afdeling Values, Technology and Innovation (VTI). Onlangs heeft hij een nieuw mastervak ‘Ethics of transportation’ opgezet.