‘Bedrijven lopen niet te koop met Ai’
Hoe zien professionals de toekomst van kunstmatige intelligentie (Ai) en de rol daarin van de TU Delft. We vroegen het twee alumni.
‘Mensen moeten de keuzes blijven maken’
“Het RTI-lab is een samenwerking tussen politie, TNO en de HSD (the Hague Security Delta, red.). We ondersteunen veiligheidsorganisaties bij het vernieuwen van real-time intelligence. We experimenteren met nieuwe werkwijzen en technieken, waaronder Ai.Steeds gebruiken we verschillende perspectieven: wat betekent Ai voor mensen, voor processen, wat zijn technische vraagstukken, en welke juridische en ethische vraagstukken roept dit op? Als politie willen we de nieuwste technologie kunnen inzetten en in experimenten verkennen we de volgende stap. Neem beeldmateriaal. Er hangen door het land zeer veel camera’s. Kun je met Ai afwijkende patronen detecteren in al dat beeldmateriaal? Een andere nieuwe techniek zou in de meldkamer gebruikt kunnen worden. Als iedere seconde telt, wil je zo snel mogelijk begrijpen wat er aan de hand is. Maar wat als mensen een andere taal spreken? Zou je met tussenkomst van een computer snel kunnen achterhalen wat de situatie is, doordat de computer leert van eerdere gesprekken en veel verschillende talen aankan?
Marielle den Hengst
Projectleider namens de politie van het Real Time Intelligence (RTI)-Lab
Studie informatica (EWI), gepromoveerd bij TBM
Zo zijn er vele voorbeelden van hoe Ai mensen kan ondersteunen, doordat het zich kan baseren op enorme datasets. Maar Ai is ook een uitdaging, zeker voor de politie. Denk aan algoritmen die de kans op een criminele carrière
inschatten. Hoe maak je dergelijke systemen verantwoord en transparant, zonder bias(vooroordelen, red.)? Hoe kun je de redeneertrant van een systeem blootleggen en hoe kun je aantonen dat een systeem niet biasedis? Bij deze uitdagingen hebben we instellingen als de TU Delft nodig. Dat vergt wel wat, ook van de politie. Wij zijn een doe-organisatie, terwijl een universiteit werkt aan kennisontwikkeling op de lange termijn. Gelukkig beseft de politie dat kennis en innovatie noodzakelijk zijn en groeien beide werelden naar elkaar toe.”
‘Ai blijft een black box’
Reinoud Kaasschieter
Ai-specialist bij consultancy bureau Capgemini
Studie industrieel ontwerpen (IO)
“Ai is een manier om kennis uit data te halen. Bij Capgemini gebruiken we vooral praktische Ai-oplossingen, die nú werken: zelflerende online productaanbeveling, fraude-analyse van documenten of het verwerken van schaderapporten. Vertrouwen bepaalt uiteindelijk de acceptatie van Ai. Mensen en bedrijven willen weten wat een systeem doet, maar Ai blijft een black box. Social media als Facebook en bewakingssystemen zitten vol intelligente algoritmes.
China werkt met automatische gezichtsherkenning voor de bevolking. Wat gebeurt er als er een verkeerde herkenning plaatsvindt, of als het systeem op geslacht en huidskleur gaat selecteren? In al die duizenden regels code is niet meer te achterhalen waarom een zelfrijdende auto een bepaalde beslissing neemt, ook omdat die codes elkaar beïnvloeden. Ai heeft niet genoeg kennis van de wereld om zich heen om zijn beslissingen in context te plaatsen. Ai is ‘autistisch’. Dat wordt versterkt als vooroordelen in systemen sluipen. De ethiek achter Ai is enorm complex, zeker omdat Ai-systemen lerend zijn en zich in de loop van de tijd anders kunnen gaan gedragen. Nu zijn de gevolgen meestal te overzien.
De meeste bedrijven gebruiken Ai vooral in kleine processen en deelsystemen. In de toekomst wordt dat anders. Mag ik het als eenvoudige medewerker straks zeggen als dat dure zelflerende systeem in mijn ogen onterecht een aanvraag afwijst? Ik ben bang dat het tegengestelde gebeurt. Dat we kunstmatige intelligentie, net als andere technieken, blind gaan vertrouwen. Mensen zullen denken: het systeem zegt het, dús is het zo. De acceptatie van Ai gaat sneller dan we als maatschappij willen. Discussies die we nu voeren zijn aan de late kant. We hebben ethische en empathische kunstmatige intelligentie nodig. Universiteiten in Europa moeten zich deze discussie interdisciplinair toe-eigenen, want Ai is geen hype en het zit al in veel systemen. Bedrijven lopen er alleen nog niet mee te koop, uit angst voor negatieve publiciteit wanneer het fout gaat.”
(Foto’s © Sam Rentmeester)