AI*MAN Lab

Transparent & Traceable AI in Human-AI Teamwork

Stel je een reddingsteam van autonome drones en menselijke reddingswerkers voor die samenwerken om slachtoffers bij een ramp zo snel mogelijk te lokaliseren en te redden door het onbekende zoekgebied in kaart te brengen, de slachtoffers te lokaliseren en de zoek-en-reddingstaken effectief te verdelen. Of denk aan een sociale robot die creatief en ‘menselijk’ kan communiceren om mensen met bijvoorbeeld autisme of dementie bij te staan en te helpen. Zo'n robot zou gezichtsuitdrukkingen kunnen interpreteren en begrijpen wat een mens zou kunnen denken of voelen.

Dit zijn voorbeelden van situaties die AI*MAN Lab bestudeert en probeert te verbeteren. De ervaring leert dat wanneer AI en mensen samenwerken, er nu al uitstekende prestatieverbeteringen optreden in de industrie, het onderwijs, de gezondheidszorg, en nog veel meer sectoren. Enerzijds gebruiken mensen hun instinct om effectieve en creatieve beslissingen te nemen in onbekende situaties en om leiderschap en samenwerking in teamverband te realiseren. Anderzijds zijn AI-systemen in staat om snelle en logische beslissingen te nemen.

In een mens-AI team kunnen de beslissingen van de mens of de AI agent onvoorspelbaar, niet-optimaal of onlogisch lijken voor de ander als alleen de individuele doelstellingen in beschouwing worden genomen. Deze beslissingen kunnen echter nog steeds gunstig zijn in het kader van de overkoepelende doelstelling(en) van het team. Het is daarom cruciaal dat zowel de mens als de AI agent tot een wederzijds begrip komen van elkaars besluitvormingsproces en acties, zonder het gemeenschappelijke doel van het team uit het oog te verliezen.

Een deel van het onderzoek van het Lab is daarom gericht op het modelleren van de manier waarop mensen denken, en het bouwen van logische modellen die de AI-agents zullen helpen om hun menselijke teamgenoten te begrijpen. De volgende stap is dan om AI- agents te ontwikkelen die beslissingen nemen die goed zijn voor het hele team. Een derde deel richt zich op de kwestie dat deze beslissingen ook transparant moeten zijn voor de mensen.

AI*MAN Lab bundelt de expertise en kennis van de afdelingen Control & Operations (faculteit Luchtvaart- en Ruimtevaarttechniek) en Intelligent Systems (faculteit Elektrotechniek, Wiskunde & Informatica).