AI-systemen waarbij de mens centraal staat

Wij geloven dat AI-gedreven systemen moeten voorzien in de collectieve behoeften van de mensheid. Daarom hecht de TU Delft veel waarde aan een "mensgerichte" benadering bij de ontwikkeling van de wetenschap en de praktijk van AI. Een mensgerichte aanpak betekent hier dat de verbetering van AI-technologie zich niet alleen moet richten op bijvoorbeeld nauwkeurigheid en snelheid, maar ook op de relatie tussen deze krachtige technologie en de context van ontwerp, implementatie en toepassing.

Vele organisaties zijn sterk in het formuleren van eisen waaraan AI-systemen moeten voldoen, in termen van normen en waarden, veiligheid en betrouwbaarheid, bruikbaarheid, en sociale inbedding. Maar er zijn weinig organisaties die stappen zetten om systemen te realiseren die aan dergelijke normen en waarden voldoen. Ook zijn er genoeg organisaties die uitblinken op het niveau van AI-technologie, waarbij individuele algoritmes en componenten sterk worden geoptimaliseerd. Uiteindelijk moeten deze algoritmes en componenten worden geïntegreerd in bredere socio-technische systemen waar kleine winst of technofixes in één component mogelijk niet leiden tot de juiste uitkomsten in de implementatie. Het bereiken van een overkoepelend gewenst resultaat is een sterk punt van de Delftse ingenieur, dat we kunnen waarmaken door over faculteiten en disciplines heen samen te werken. Het unieke perspectief van de TU Delft op het mensgericht ontwerpen en ‘engineeren’ van AI-systemen is daarbij onze kracht.

Belangrijkste eigenschappen van AI-systemen waarin de mens centraal staat

TU Delft stemt haar mensgerichte AI-onderzoek en -onderwijs af op haar kracht als ingenieur. Om die reden spreken we liever over mensgerichte AI-systemen, waarbij we de noodzaak benadrukken om systemen te ontwerpen en te bouwen waarin mensgerichtheid is ingebed, zoals uitgewerkt in de volgende hoofdeigenschappen:

  • Het AI-gedreven systeem vult de menselijke intelligentie en vermogens aan en vergroot ze, in plaats van ze louter te vervangen;
  • Bij het ontwerp, de ontwikkeling, de controle en de werking van AI-systemen wordt uitgegaan van de werkelijke menselijke kenmerken, waarden, intenties en gedragingen, en niet van wat wij willen of veronderstellen dat ze zijn;
  • Het AI-gedreven systeem steunt op een computationele infrastructuur die het mogelijk maakt relevante waarden te terug te laten komen in het ontwerp van het AI-enabled systeem;
  • Het AI-gedreven systeem integreert veilig en passend in de bredere socio-technische context;
  • Het succes van het AI-gedreven systeem wordt afgemeten aan de positieve impact op de samenleving en hoe het burgers beschermt tegen reële schade, en niet aan verbeterde nauwe technische maatstaven.

Transdisciplinair

Mensgerichte AI is inherent transdisciplinair omdat het wetenschap en praktijk in mens-machine-interactie, computerwetenschap, design, system engineering, psychologie, werk en organisatie, recht en beleid, ethiek en filosofie, politieke economie, en een hele reeks toepassingsspecifieke disciplines samenbrengt. In die zin is de werkelijk "mensgerichte" benadering van AI een fundamenteel nieuw gebied.

Contact

Community

Drs. R.M. (Martijn) Neef

Wetenschappelijke contactpunten

Gerelateerde artikelen

Lees meer over dit thema: