Stemassistenten, zoals Alexa of Google Home nemen steeds meer huishoudens over, in de Verenigde Staten in ieder geval, waar één op de vier huishoudens ten minste één apparaat bezit. Deze slimme speakers die beloven je leven zoveel gemakkelijker te maken, lijken onschadelijk, maar zijn ze dat ook? TU Delft-onderzoeker Olya Kudina is er niet zo zeker van: ‘Ze beïnvloeden ons leven en niet alleen op een positieve manier.’

Commando’s

Kudina onderzoekt hoe technologie onze manier van leven vormt, verandert en hoe het onderlinge omgangsvormen beïnvloedt. Ze raakte gefascineerd door stemassistenten en de manier waarop ze mensen beïnvloeden toen ze drie jaar geleden op bezoek was bij vrienden in de Verenigde Staten. ‘Mijn vriendin klaagde tegen me dat haar zoontje van drie jaar zo onbeleefd was tegen andere kinderen tijdens het spelen in de zandbak. Ze begreep niet waar dit gedrag vandaan kwam en had hem dit zeker niet aangeleerd. Tijdens het diner zag ik echter hoe haar man de stemassistent Alexa commandeerde en steeds meer geïrriteerd raakte omdat de slimme speaker de opdracht om de lichten te dimmen niet begreep. En het jongetje imiteerde hem ...'

Dit incident wakkerde Kudina's interesse in dit onderzoeksonderwerp aan: Hoe AI-ondersteunde stemassistenten de waarden van communicatie, beleefdheid, respect en privacy mede vormgeven door hun aanwezigheid bij mensen thuis. ‘De ouders hadden het niet door, maar de manier waarop ze met Alexa spraken, had invloed op de manier waarop hun zoontje met anderen sprak: bevelend en gefrustreerd. Ik was erg benieuwd of dit of ook speelde bij anderen. Vooral ook omdat de acceptatiegraad van deze digitale spraakassistenten in de VS sneller ging dan de acceptatie van mobiele telefoons. Dit betekent in potentie dat de effecten van deze spraakassistenten die herdefiniëren hoe we praten en met elkaar omgaan in het normale leven enorm kunnen zijn.'

Communicatie opnieuw gedefinieerd

De manier waarop mensen de wereld nu commanderen via stemassistenten, heeft gevolgen voor de manier waarop we gesprekken voeren. 'Het is onwaarschijnlijk dat dit de standaard voor communicatie zal worden, omdat mensen in het algemeen onderscheid kunnen maken tussen context en bijbehorende gepaste communicatie. Maar deze top-down manier van spreken sijpelt wel door in het dagelijks leven. Zeker wanneer interactie met stemassistenten vaker plaatsvindt, kan het moeilijker worden om te onderscheiden op welk punt ze onze dagelijkse taal binnendringen. Het zal nog moeilijker zijn om de gepaste manier van communiceren te onderscheiden, aangezien ‘gepaste communicatie’ mede wordt gevormd in wisselwerking met deze technologieën.'

Een domme ‘slimme speaker’

Het is verbazingwekkend dat slimme speakers zo populair zijn, omdat ze vaak slecht presteren. De fabrikanten beloven een natuurlijke interactie die je leven vergemakkelijkt, een apparaat dat al je vragen beantwoordt en zelfs de fysieke ruimte van je huis beheert. Wil je weten wat voor weer het wordt? Het is niet nodig om je mobiele telefoon te pakken en het op te zoeken, vraag het gewoon aan de slimme speaker en je krijgt onmiddellijk antwoord. In werkelijkheid moet een vraag vaak meerdere keren worden herhaald en moet deze heel specifiek en direct zijn om te worden begrepen. De slimme speaker is lang niet zo slim als wordt gezegd. ‘Wat mij opviel was dat mensen zichzelf de schuld gaven als het apparaat het niet goed deed. Ze spraken niet duidelijk genoeg, niet luid genoeg etcetera. Volgens hen lag het niet aan de technologie die slecht functioneert. Ze willen het apparaat koste wat kost behouden en bouwen er zelfs een band mee op. De slechte prestaties wegen blijkbaar op tegen het gemak.

Gender stereotypering

Interessant is ook dat stemassistenten overwegend een vrouwenstem hebben. Dit komt omdat vrouwenstemmen beter passen in het marketingconcept. Kudina: 'Over het algemeen vinden mensen het prettiger om naar een vrouwenstem te luisteren. Een vrouwenstem klinkt minder hard en nodigt de andere partij meer uit tot spreken.' Dat is precies hoe de fabrikanten het willen hebben, want uiteindelijk zijn deze stemassistenten eigendom van commerciële bedrijven die producten willen verkopen. Alexa is eigendom van Amazon, Google Home van Google. Hoe meer je met de speaker praat, hoe meer ze weten over je interesses en voorkeuren. En de werknemers van die bedrijven kunnen luisteren naar alles wat je ooit tegen de spreker hebt gezegd – zeg maar dag tegen je privacy! ‘Een ander nadeel is dat de slimme speaker nooit nee zegt, altijd meegaand is. Wat leert dat kinderen over de rol van vrouwen? Hier is nog geen onderzoek naar gedaan omdat de spraakassistentietechnologie nog erg nieuw is', legt Kudina uit.

Niet allemaal slecht

Betekent dit dat stemassistenten het menselijk gedrag en de menselijke interacties slechts negatief beïnvloeden? 'Nee', zegt Kudina. 'Het is bekend dat ze ook positieve effecten hebben. Zo kunnen slimme speakers kinderen met autisme helpen om in het echte leven beter met anderen om te gaan, omdat ze eindeloos kunnen oefenen met de speaker. Stemassistenten kunnen helpen eenzaamheid tegen te gaan, vooral onder ouderen die alleen wonen, omdat het apparaat voor hen een gesprekspartner is. Ook voor mensen met een visuele beperking of dyslexie zijn stemassistenten een grote hulp. Maar er is nog veel ruimte voor verbetering van deze technologie op het gebied van ethisch ontwerp, vooral omdat ze onze interacties in het dagelijks leven beïnvloeden en ons morele landschap vormen. 'De ethische dimensie van technologieën is misschien minder voor de hand liggend, maar niet minder belangrijk.’

Waarden in technologie

'Wat me echt opvalt met deze technologie is dat er schijnbaar geen 'tussenin' is. Of je accepteert dat de slimme speaker je leven binnendringt en privacy aantast, of niet, met het gevolg dat je deze technologie dan ook niet kan gebruiken. Ik ben van mening dat technologie zo moet worden ontworpen dat ethische dimensies worden ingebed, waarbij je de technologie kunt gebruiken onder specifieke omstandigheden die bij jouw normen en waarden passen.’ Gelukkig worden er technologische gadgets ontwikkeld door andere bedrijven die wel ethisch ontwerpen. ‘Project Alias ​​heeft bijvoorbeeld paddenstoelachtige hoesjes gemaakt die je bovenop de slimme speakers kunt plaatsen om afluisteren te voorkomen. En onlangs kwam ook Q, een stemassistent met een androgyne stem op de markt.'

Zinvolle interacties

Idealiter wordt een stemassistent ontworpen die zinvolle interacties mogelijk maakt. ‘Een eerste stap voor de AI-ondersteunde technologie voor stemassistenten is het beter verwerken van menselijke spraak: met meer dan commando’s alleen en met meer nuance, zoals het verwerken van sarcasme of grappen. Om ze te ontwerpen met waarden in gedachten en met oog voor ethische gevolgen. In de praktijk kan het betekenen dat je Alexa bedankt, zelfs als Alexa er niet om geeft: het is de gebruiker zelf op wie deze opzettelijke beleefdheid is gericht. Mijn ultieme doel is om te onderzoeken hoe die interactieve spraak zich in de echte wereld ontwikkelt', besluit Kudina.

Olya Kudina is een postdoctoraal onderzoeker in de filosofie van technologie binnen het project van professor Ibo van de Poel over 'Value change', waar ze de evoluerende relatie tussen waarden en technologie onderzoekt.