Hoe integreer je veranderende waarden in nieuwe technologie?

Nieuws - 27 juni 2023 - Webredactie

De wereld verandert voortdurend en onze waarden ook. Sociale media laten bijvoorbeeld goed zien waarom we waardeveranderingen serieus moeten nemen. Aanvankelijk werden social media platforms als Twitter en Facebook gezien als een manier om de waarde van vrijheid van meningsuiting te faciliteren. Maar met de opkomst van nepnieuws en toenemende politieke polarisatie op deze platforms, wordt steeds meer nadruk gelegd op 'waarheid' en 'niet schaden' als waarden die richting zouden moeten geven aan hoe deze platforms ontworpen en gemodereerd worden. Dit roept de vraag op: Hoe kunnen ontwerpers van nieuwe technologie van te voren waardeverandering meenemen in hun ontwerp? Een team onderzoekers van de TU Delft dat zich bezighoudt met ontwerpen voor waarden (Design for Values), heeft een white paper geschreven met praktische voorbeelden om ontwerpers te helpen dit probleem aan te pakken.

Generatieve AI neemt nu zoā€™n snelle vlucht dat er nauwelijks tijd is om na te denken over het opnemen van waarden, laat staan van waardenverandering, omdat bedrijven de concurrentie voor willen blijven. 'Een zorgelijke ontwikkeling', zegt Ibo van de Poel, hoogleraar Ethiek en Technologie en een van de initiatiefnemers van de white paper. Om onbedoelde negatieve gevolgen van nieuwe technologie, zoals generatieve AI, te voorkomen, is het noodzakelijk om maatschappelijke en morele waarden mee te nemen in het ontwerp. ChatGPT is bijvoorbeeld niet transparant over hoe teksten worden gegenereerd. Bovendien kan het systeem onbetrouwbaar zijn, bijvoorbeeld omdat het niet-bestaande wetenschappelijke referenties verzint. Er zijn ook voorbeelden die laten zien dat generatieve AI schadelijke effecten kan hebben, zoals in het geval van chatbots die mensen adviseren of suggereren om zelfmoord te plegen.

Gelukkig worden veel nieuwe technologieĆ«n steeds meer ontworpen op basis van waarden als rechtvaardigheid, privacy, duurzaamheid en welzijn. Bestaande methoden voor het verankeren van waarden in ontwerp besteden echter onvoldoende aandacht aan waardeverandering, terwijl waarden in werkelijkheid niet statisch zijn maar in de loop van de tijd veranderen. Denk aan het internet dat zo ontworpen is om informatie voor altijd op te slaan. Tegenwoordig vinden veel mensen het prettiger om ā€˜vergetenā€™ te worden, vooral als het gaat om gevoelige informatie die je je hele leven kan achtervolgen, maar daar is het systeem niet op ingericht. 
Het verantwoorden van waardeverandering is nog grotendeels onontgonnen terrein voor ontwerpers en ingenieurs. ā€˜Met het white paper willen we ingenieurs en ontwerpers een leidraad bieden en bekend maken met het onderwerp waardeverandering', legt Van de Poel uit.

Vijf soorten waardeverandering

De onderzoekers hebben vijf soorten waardeverandering met betrekking tot technologie geĆÆdentificeerd. Nieuwe waarden kunnen in de loop der tijd ontstaan als gevolg van technologische of maatschappelijke ontwikkelingen, of een combinatie daarvan. Een voorbeeld is 'duurzaamheid' dat in de afgelopen eeuw als nieuwe waarde is ontstaan en nu steeds meer wordt omarmd door technologieontwikkelaars.

Veranderingen in de relevantie van waarden voor een specifieke technologie is een andere vorm van waardeverandering. Zo bleek bijvoorbeeld in de loop der tijd  dat het geluid van windmolens soms overlast oplevert voor mensen, waardoor ze slecht kunnen slapen; wat dan weer gevolgen kan hebben voor hun  (geestelijke) gezondheid. Deze nieuwe informatie maakt de waarde (geestelijke) gezondheid relevant voor het ontwerpen van windmolens. Terwijl deze waarde voorheen niet als relevant werd gezien. 

Naast het ontstaan van nieuwe waarden en het relevant worden van irrelevante waarden voor een technologie, kunnen waarden ook van prioriteit veranderen. In het verleden stond de veiligheid van de bestuurder en passagier centraal bij het ontwerp van auto's, nu wordt de veiligheid van andere verkeersdeelnemers minstens zo belangrijk geacht.

Waarden worden vaak uitgedrukt als abstracte idealen of principes die mensen moeten interpreteren om ze betekenisvol te maken. Vroeger werd privacy gezien als iets dat te maken had met ā€˜de eigen ruimteā€™; nu wordt het vooral gezien als iets dat te maken heeft met persoonlijke gegevens.
Tot slot zijn er veranderingen in hoe we waarden vertalen in ontwerpeisen relevant voor het ontwerp van technologie. In het verleden heeft de EU bijvoorbeeld de wetgeving met betrekking tot dierenwelzijn veranderd en legbatterijen verboden. Dit betekent dat de waarde ā€˜dierenwelzijnā€™ in de loop der tijd op een veranderende manier is vertaald in ontwerpeisen voor het huisvesten van dieren. 

Hoe rekening houden met waardeverandering?

Voorgaande voorbeelden laten duidelijk zien dat waarden in de loop van de tijd veranderen. De onderzoekers suggereren drie manieren waarop waardeverandering kan worden meegenomen in het ontwerp van nieuwe technologie. Een eerste mogelijkheid is vroegtijdig rekening houden met waardeverandering of het proberen te voorspellen. Dit kan bijvoorbeeld   door scenarioā€™s voor waardeverandering te ontwikkelen of simulatietools te gebruiken. Denk bijvoorbeeld aan de waardeveranderingen die de introductie van zelfrijdende auto's met zich mee kunnen brengen. Een mogelijk scenario is dat waarin autorijders steeds meer bijgestaan worden door een automatische piloot, maar de besturing van de auto uiteindelijk wel onder controle blijft van de individuele bestuurder, die in dit scenario ook de eigenaar van de auto blijft. In zo'n scenario kan verantwoordelijkheid voor auto-ongelukken een belangrijkere waarde worden om rekening mee te houden in het ontwerp, maar andere waardeveranderingen blijven waarschijnlijk  beperkt . Een tweede scenario kan de introductie zijn van volledig zelfrijdende auto's die publiek eigendom zijn en die worden aangeboden als een vorm van openbaar vervoer van deur tot deur. In een dergelijk scenario kan de waarde van individuele vrijheid en controle minder nadruk krijgen en worden waarden als toegankelijkheid en vervoersrechtvaardigheid belangrijker. Tot slot kan je denken aan een scenario waarin auto's individueel eigendom blijven, maar waarin een vorm van centrale verkeerscontrole wordt geĆÆntroduceerd, die het mogelijk maakt om waarden als veiligheid, duurzaamheid en toegankelijkheid beter te adresseren. 

Een tweede mogelijkheid om waardeverandering in ontwerp mee te nemen is door naar de volledige levenscyclus van nieuwe technologieĆ«n te kijken. Door doelbewust te experimenteren met nieuwe technologie of door te monitoren welke gevolgen optreden wanneer een nieuwe technologie in de samenleving wordt geĆÆntroduceerd kan je beter inspelen op veranderende waarden. Neem bijvoorbeeld apps voor het delen van auto's zoals Uber. Deze worden nu al vaak ontworpen voor waarden als privacy en transparantie. Maar tijdens het gebruik van deze apps kwam men erachter dat ze onverwacht bijdroegen aan geweld tegen vrouwen, met gevallen van aanranding, verkrachting en zelfs moord. Pas toen dit aan het licht kwam, werd ook de waarde 'veiligheid voor vrouwen' meegenomen in het ontwerp en gebruik van dergelijke apps. Er kwamenaanvullende maatregelen, zoals betere screening van chauffeurs, de mogelijkheid om ritten te delen met vertrouwde contacten en een noodknop. Dit voorbeeld laat zien dat het belangrijk is om waarden die onverwacht en onbedoeld worden beĆÆnvloed door een ontwerp zo snel mogelijk te ontdekken, idealiter in pilots voordat een technologie op grote schaal in de samenleving wordt geĆÆntroduceerd, om onverwachte neveneffecten zo snel mogelijk aan te pakken.

Een derde benadering is het toepassen van bepaalde ontwerpstrategieƫn die het gemakkelijker maken om te gaan met toekomstige waardeveranderingen, bijvoorbeeld door het ontwerp van aanpasbare technologie of voor flexibiliteit in gebruik. Denk aan gebouwen die modulair worden ontworpen, zodat ze later opnieuw kunnen worden gebruikt om te voldoen aan nieuwe functies en waarden die aanvankelijk niet waren voorzien. Een andere mogelijkheid is om technologieƫn zo te ontwerpen dat ze robuust zijn onder verschillende waardeprioriteiten of interpretaties van een waarde. Neem bijvoorbeeld de waterhuishouding in Nederland. Deze is in de loop der tijd ontworpen op het zo snel mogelijk afvoeren van water. Dit had te maken met het voorkomen van overstromingen maar ook met landbouwbelangen: voor de landbouw was een laag waterpeil vaak aantrekkelijker. Als het systeem in de het verleden minder geoptimaliseerd was voor deze waarden en meer rekening had gehouden met het belang van het opslaan wat water in droge tijden hadden we nu minder problemen met watertekorten door droogte. Het systeem had dan misschien minder beantwoord aan de toen heersende waarden maar was wel robuuster met betrekking tot waarden die nu belangrijk zijn voor de waterhuidhouding, zoals ecologische waarden en het garanderen van voldoende water voor huishoudens.

Samenwerking met experts

ā€˜Het is waarschijnlijk ondoenlijk voor ontwerpers en ingenieurs om alle drie de methoden te gebruiken voor elk ontwerpproces. Hoe uitgebreid waardeverandering moet worden overwogen is ook afhankelijk van het soort technologie dat wordt ontwikkeld en de tijdspanne waarin die technologie moet blijven functioneren. Daarom stellen we voor om samen te werken met experts op het gebied van deze methodenā€™, zegt Van de Poel. Relevante expertise en experts kunnen bijvoorbeeld gevonden worden via het Delft Design for Values Institute dat een samenwerking is tussen vijf faculteiten aan de TU Delft. We hopen dat dit white paper ontwerpers aanzet om van te voren na te denken over de mogelijkheid van waardeverandering in hun projecten en om beter te anticiperen op de waarden van onze toekomstige samenleving.'

Lees hier het volledige white paper.