Menselijke controle op kunstmatige intelligentie

Hoe kun je autonome systemen, zoals robots, zelfrijdende auto's of informatiesystemen, zo inrichten dat ze transparant zijn en altijd open staan voor menselijk ingrijpen? Daar gaan acht postdocs van vier faculteiten de komende jaren mee aan de slag. Welkom bij AiTech.

© Auke Herrema

Computer says no.’ Zo'n tien jaar geleden signaleerden de makers van de televisieserie Little Brittain de opkomst van kunstmatige intelligentie in de dienstverlening. In die tijd werd kunstmatige intelligentie ook wel artificial incompetence genoemd vanwege onnavolgbare beslissingen van softwaresystemen, of omdat automatische karretjes vastliepen in de complexiteit van het verkeer. 

Twee jaar geleden startte de VNSU (vereniging van universiteiten) het onderzoeksprogramma Digital Society omdat het maatschappelijk ongemak over automatisering toenam.  Toenmalig TU-rector prof.ir. Karel Luyben vroeg hoogleraren prof.dr.ir. Inald Lagendijk (computing-based society, EWI) en prof.dr. Jeroen van den Hoven (ethiek van de informatietechnologie, TBM) om uit te zoeken welke rol er voor de TU Delft in het onderzoeksprogramma was weggelegd. 

Bij een rondje over de campus zagen Lagendijk en Van den Hoven dat er op veel plekken aan kunstmatige intelligentie of autonome systemen gewerkt werd. Dat betrof zowel pure software, zoals beslissingsondersteuningsprogramma's, maar ook ingebedde programmatuur in robots, in min of meer autonome auto's of in drones. Onderzoekers vertelden er enthousiast over, maar na enige aandrang gaven de meesten ook toe niet helemaal te begrijpen hoe zo'n kunstmatig brein werkt. En ook niet te weten wat de effecten zijn van fouten in de invoer of in de verwerking. 

Controle

Lagendijk vertelt: “Iedereen loopt tegen dezelfde vragen op: hoe houd ik controle? Hoe snap ik wat er aan de hand is? Hoe verantwoord ik de keuzes die het systeem maakt? Juridische, ethische en sociale vragen doemen op. Daar zijn veel partijen mee bezig. Instituten leggen gedragslijnen op in de sfeer van ‘gij zult’, maar er is weinig aandacht over hoe dat technisch voor elkaar te krijgen door onderzoek, ontwerp en engineering.” 

Dat resulteerde in het TU-onderzoeksprogramma AiTech: technische maatregelen die de menselijke controle over autonome systemen waarborgen. Het team werd versterkt met prof.dr. Elisa Giaccardi (IO) en prof.dr.ir. Martijn Wisse (3mE) en dr.ir. Luuk Mur als secretaris.

Financiering

De komende twee jaar doen acht postdocs verdeeld over de faculteiten EWI, TBM, IO en 3mE onderzoek naar meaningful human controlop kunstmatig intelligente systemen. Ze zullen  ieder hun tijd verdelen over twee faculteiten en over het AiTech centrum. De financiering van twee miljoen euro komt voor de helft van het college van bestuur en de andere helft van de aangesloten faculteiten. 

De werving van onderzoekers gebeurt momenteel.  Hun onderzoeksvoorstel moet bijdragen aan een grotere bewustwording van de menselijke controle over de toegepaste kunstmatige intelligentie. De onderzoeker moet criteria opstellen voor wat die menselijke controle inhoudt, en dat kwantificeren. Het onderzoek moet uitmonden in een technische toepassing.

Deze open benadering van AiTech staat bekend als ‘missie-gedreven onderzoeksinitiatief’. Dit innovatiemodel is bedacht door een Britse econoom Mariana Mazzucato. Het richt zich op een ver doel, maar laat onderzoekers zelf hun pad uitstippelen. Ook, en vooral, als ze met elkaar concurreren.

Open karakter

Lagendijk en Mur benadrukken dat ook anderen aan AiTech kunnen deelnemen. Het initiatief staat open voor iedereen die met de thematiek te maken heeft. Het open karakter zal waarschijnlijk vorm krijgen in lezingen en andere bijeenkomsten.

Wat verwacht Lagendijk over twee jaar aan resultaat? “Ik ben al erg tevreden als we vier of vijf voorbeelden hebben waarin we meaningful human control scherper hebben gedefinieerd en dat ingebouwd hebben in technische systemen.”
De TU Delft hoopt met AiTech richtingen aan te geven voor clubs binnen overheid en bedrijfsleven die kunstmatige intelligentie willen toepassen, maar misschien onvoldoende hebben nagedacht over de consequenties op langere termijn. Want dat is volgens Lagendijk de taak van de universiteit: “Niet alleen het vingertje opsteken, maar ook oplossingen ontwikkelen.”

Cartoon © Auke Herrema
/* */