Book launch: Human Freedom in the Age of AI, by Filippo Santoni De Sio

INTERVIEW

Door: Beatriz Lafuente Alcazar & Helma Dokkum

Wie ben je en wat bracht je naar Delft?

Twaalf jaar geleden begon ik als postdoc in Delft en nu ben ik universitair hoofddocent. Ik ben betrokken bij verschillende projecten waarin mijn onderzoek zich richt op AI en ethiek. Dit zijn projecten binnen verschillende gebieden, zoals robotica, defensie en transport. Een rode draad in mijn werk is morele verantwoordelijkheid: ik ben gepromoveerd op de filosofie van strafrechtelijke verantwoordelijkheid en ik werk nu onder andere aan morele verantwoordelijkheid in relatie tot het gedrag van AI-systemen. 

Voordat ik naar Delft kwam, studeerde ik geschiedenis van de filosofie in Turijn, daarna ben ik overgestapt naar de meer toegepaste ethiek. Sinds ik in Delft woon, onderzoek ik kwesties van menselijke morele verantwoordelijkheid in relatie tot het ontwerp en gebruik van opkomende technologieën. Daarnaast ben ik associate editor van The Journal of Ethics. 

Wat inspireerde je om het boek te schrijven?

Wat me het meest dreef, was de behoefte om eerder werk samen te voegen en nieuwe wegen voor onderzoek te openen. Het schrijven van een boek is anders dan het meer dagelijkse academische werk. Ik werd ouder en raakte betrokken bij steeds meer samenwerkingen en activiteiten. Het lukte me niet meer om de tijd te nemen om te gaan zitten en na te denken over het grotere verhaal. Ik wilde mezelf de tijd gunnen voor langere reflecties over grotere filosofische vragen. Het pakte (te) goed uit: ik besteedde uiteindelijk veel meer tijd aan het schrijven dan ik had gedacht. Gelukkig bleek het achteraf ook waardevoller werk dan ik in eerste instantie dacht. Ik ben echt tevreden met het resultaat.

Wat zijn voorbeelden van deze grotere filosofische vragen?

Er zijn verschillende concepten van vrijheid. Ik wilde nadenken over hoe die concepten zich tot elkaar verhouden en hoe we deze verschillende concepten van vrijheid in verschillende domeinen kunnen toepassen. Een voorbeeld is vrijheid in relatie tot personeelsbeheer in de zogenaamde gig-economie, waar een inkomen wordt verdiend met een alternatieve manier van werk: tijdelijk werk, kortlopende projecten en opdrachten. Of bijvoorbeeld vrijheid van mensen in relatie tot grote digitale platforms van private technologiebedrijven. Het laatste deel van het boek gaat over democratische theorieën. Ik wilde democratische theorieën verbinden aan AI en design, ook vanuit het perspectief van wereldwijde democratie, en dekolonisatie. 

Een andere belangrijke filosofische vraag voor designing for democracy is gerelateerd aan het feit dat zowel de ontwerptheorieën als de democratische theorieën van oudsher mensgericht zijn. Een grote vraag is hoe we de belangen van de planeet systematischer kunnen opnemen in ons ontwerp en onze democratische praktijken (more-than-human democracy en more-than-human design).

Democratie en AI –grote termen. Wat bedoel je precies? En waarom is het belangrijk?

Om Churchill te citeren, misschien is democratie geen ideale regeringsvorm, maar alle anderen zijn erger. 

Democratie is een moeilijk te definiëren begrip, het omvat veel verschillende waarden en principes. Het is belangrijk om vast te stellen welke elementen cruciaal zijn om te behouden, wat een aanzienlijke filosofische uitdaging vormt. Met de opkomst van technologie hebben we gezien hoe AI en technologie mensenrechten kunnen ondermijnen, bijvoorbeeld wanneer autoritaire regeringen worden ondersteund door technologie, waarvan het Cambridge Analytica-schandaal een voorbeeld is. Cambridge Analytica gebruikte Facebook-gegevens voor het personaliseren van politieke campagnes. We moeten de negatieve impact van AI en technologie begrijpen, en begrijpen waarom dit een probleem vormt voor de democratie. Aan de andere kant heb ik het in mijn boek ook over de positieve kant van AI, over hoe we voor de principes van democratie kunnen ontwerpen in digitale technologieën. We kunnen een meer inclusieve en evenwichtige discussie laten ontstaan door bijvoorbeeld juist gebruik te maken van digitale platforms. Eén ding is echter duidelijk: als we willen ontwerpen voor democratie, moeten we weten wat de richting ervan moet zijn.

Hoe kunnen we deze uitdagingen het hoofd bieden?

In mijn boek behandel ik twee benaderingen: ontwerpbenaderingen die helpen bij het omgaan met deze uitdagingen en democratische theorieën.

Ik bespreek ethische kwesties in het ontwerp van technologie en benaderingen om deze te adresseren. Tijdens het schrijfproces werkte ik samen met collega's van de faculteit industrieel ontwerpen, die me introduceerde in de verschillende ontwerpbenaderingen. Deze benaderingen – zoals participatief ontwerp, social design – zijn complementair aan waardegedreven ontwerp en dragen bij aan het ontwerpen van systemen die voldoen aan waarden. Ze helpen ons om te gaan met politieke vraagstukken rond technologie. In het boek onderzoek ik hoe deze benaderingen kunnen worden gebruikt.

Ik bespreek daarnaast democratische theorieën. In het boek kijk ik naar dimensies van democratie als machtsbetwisting, esthetisch engagement en dekoloniale praktijken en doe vervolgens voorzichtige uitspraken over hoe technologie deze dimensies van democratie kan ondersteunen. Het laatste deel van het boek gaat in op hoe ontwerpbenaderingen design for democracy kan ondersteunen. 

Dan heb je het ook over Meaningful Human Control (MHC). Dat is iets wat we nu veel horen?

Samen met mijn collega's Jeroen van den Hoven en Giulio Mecacci introduceerde ik deze term in het filosofische domein. De term werd al veel gebruikt in discussies over autonome wapensystemen. We hebben er meer filosofische inhoud aan gegeven. Wij waren van mening dat dit concept kan worden toegepast op AI en technologie als een ontwerpbenadering in plaats van dat het slechts een regelgevend concept is. Ook waren we van mening dat dit concept binnen veel meer domeinen kan worden toegepast. 

Binnenkort wordt een multidisciplinair Research Handboek over Meaningful Human Control van AI-systemen gepubliceerd. Ook richten we een Delft Center for Meaningful Human Control op, gecoördineerd door David Abbink, als aanvulling op het Delft Digital Ethics Centre. Dit MHC center zal een technische focus hebben, die de werelden van filosofie en technologie nog verder bijeen brengt.

Hoe voelt het om het boek klaar voor publicatie te hebben?

De avond voordat ik mijn verhaal deelde tijdens het writers retreat stuurde ik de laatste versie om 1 uur 's nachts naar de uitgever. Het leek alsof het ene hoofdstuk eindigde en het andere begon. Het schrijven is voorbij en nu kan ik genieten van de energie die het los maakt. Het gevoel van afsluiting is geweldig, maar tegelijkertijd voelt het alsof het boek vooral een opening is naar veel meer mogelijkheden voor onderzoek en samenwerkingen. Ik kijk ernaar uit om weer in contact te komen met mensen en de discussies voort te zetten die zijn voortgebracht door de onderwerpen in het boek.

Filippo leest het voorwoord van zijn boek voor tijdens het writers retreat van het Delft Digital Ethics Centre - januari 2024

Welke onderwerpen wil je in de toekomst beetpakken?

Er zijn twee richtingen die ik wil blijven verkennen. Aan de ene kant ben ik geïnteresseerd in verschillende benaderingen die gebruikt kunnen worden om ethische vraagstukken by design aan te pakken. Ik zou graag dieper willen ingaan op hoe deze benaderingen kunnen worden gebruikt en uitgevoerd. Aan de andere kant wil ik dieper ingaan op de democratische theorieën die ik in het laatste deel van het boek introduceer. 

Zo wil ik bijvoorbeeld verder gaan op artistieke betrokkenheid. Ik ben betrokken bij projecten die kunst, empathie en ethiek combineren. Ze richten zich op het gebruik van kunst om studenten te betrekken, op meer dan alleen een rationeel niveau. Het introduceren van kunst bij studenten met een technische achtergrond en het combineren ervan met filosofie brengt een zeer interessante dynamiek met zich mee. Het doel is om studenten de wereld door andere ogen te laten zien, met behulp van kunst om onze zintuigen te prikkelen. Dat is een dynamiek die ik verder wil uitdiepen.

Wat zijn je verwachtingen van het boek?

Toen ik begon met het schrijven van het boek, deed ik dat om de eerder genoemde redenen, maar ik stel me nu voor dat het boek ook kan dienen als inleiding tot AI-ethiek en een waardevol onderzoekshandboek kan zijn. De reikwijdte van de onderwerpen die ik behandel en de stijl die ik gebruik maakt het boek toegankelijk, ook voor mensen buiten de filosofie. 

Ik ben erg benieuwd naar de reactie van het publiek. Het boek kan relevant zijn voor beleidsmakers of in het algemeen voor iedereen die de wisselwerking tussen ethiek en technologie wil begrijpen, hoewel het een academisch boek blijft. 

Is er nog iets dat je wilt toevoegen?

Ik wil alle grote bijdragen van collega's erkennen. Dergelijke projecten zijn een collectieve inspanning en het boek is het resultaat van veel gesprekken en ontmoetingen die ik heb gehad met collega's en vrienden. Daar ben ik heel dankbaar voor.

Hoe meer mensen we kunnen interesseren voor AI-ethiek, hoe beter! Meer weten? Binnenkort wordt een TBM-onderzoekscolloquium georganiseerd over dit boek. 

Het boek ‘Human Freedom in the Age of AI’ is te bestellen en binnenkort beschikbaar via deze link.