Bij gesleutel aan ons brein kan maar beter een filosoof meedenken
Het helpt al mensen van ernstige depressies of Parkinson-beven af. Stephen Rainey is als filosoof betrokken bij de ontwikkeling van neurotechnologie. Consortia van bètawetenschappers en psychologen stellen hun plannen bij na zijn vragen. Helaas nog niet altijd. Vijf voorbeelden laten zien hoe het (niet) moet. ‘In Delft gaat het heel goed.’
Door Rianne Lindhout • 20 februari 2024
© Getty Images
1. Deep brain stimulation bij angst, dwang of depressie
Een elektrode diep in de hersenen kan grote verlichting geven bij mensen met ernstige angst-, dwang- of depressieklachten. Als het met cognitieve therapie en medicijnen echt niet lukt deze stoornissen hanteerbaar te maken, is deze Deep Brain Stimulation (DBS) een laatste mogelijkheid. In Nederland wordt het inmiddels vergoed door de ziektekostenverzekering. Ook sommige mensen die beven als gevolg van Parkinson of die epilepsie hebben, komen in aanmerking voor DBS.
‘Je zet de stroom aan en het beven stopt’, zegt Stephen Rainey, Senior Research Fellow bij de afdeling Ethiek en filosofie van techniek. ‘Of mensen met een ernstige depressie kunnen weer functioneren. Maar het is niet bekend hoe dit precies werkt, en het werkt niet bij iedereen. Dat werpt een ethische vraag op. Het lijkt een quick fix, maar het brengt grote risico’s met zich mee. Het is heel invasieve chirurgie. Er wordt een gaatje in je schedel geboord en heel diep in je brein wordt een elektrode geplaatst. Er is risico op infecties en andere problemen.’ Op de langere termijn wordt de elektrode minder effectief. ‘Het brein stoot de elektrode af of weert met eigen elektrische activiteit de stroom uit de elektrode.’
Rainey ziet nog een probleem. ‘Is bijvoorbeeld angst een stoornis, een achterstand of gewoon een verschil? Zo’n elektrode wordt zo gekalibreerd dat hij jou ‘normaal’ maakt. Maar wat is normaal? Daar zit een waardeoordeel in. En zit de oorzaak van een stoornis in de persoon zelf, of is zijn baan te stressvol of is er andere onrust?’ Het ligt op de loer dat technologie steeds laagdrempeliger wordt. ‘Nu is het nog een invasieve operatie, dus denk je: dat loopt niet zo’n vaart. Maar je weet van technologie: het gaat altijd vooruit. Er zijn al apparaatjes op komst die van buitenaf met een magnetisch veld hetzelfde effect kunnen sorteren. Straks wordt het misschien heel gewoon, en willen we dat wel?’
2. Weer kunnen praten via een elektrode
Rainey was nauw betrokken bij een EU-project om technologie te ontwikkelen voor mensen die niet meer kunnen praten door verlamming. Deze spraakprothese kan spraakdata herkennen in het brein en vervolgens het geluid produceren dat daar bij zou horen als deze persoon niet verlamd zou zijn. ‘Samen met een collega-filosoof had ik de taak om bij alle gesprekken over de ontwikkeling van de technologie aanwezig te zijn. Wij hadden de taak extra vragen in te brengen over de concepten waarmee de materiaalwetenschappers, neurowetenschappers, computerwetenschappers en psychologen aan het werk waren.’
De filosofische inbreng veranderde de uitkomst van het project. Rainey: ‘Een computerwetenschapper wil altijd zo veel mogelijk data. Zodat de applicatie beter wordt. Maar wij gingen nadenken wat er in de toekomst zou kunnen gebeuren als je alle data uit iemands brein registreert die je maar kunt opvangen. Misschien als leugendetector die niet helemaal accuraat is. Zouden we de dataregistratie dan niet beter wat kunnen beperken, zodat het alleen kan wat het echt moet kunnen, om mogelijk misbruik in de toekomst te voorkomen?’ Daarop koos de projectgroep niet voor de optie om te proberen rechtstreeks gedachten te lezen, maar alleen signalen op te pikken van motorische zenuwen die lippen, tong en keel aansturen. ‘Ook het taalmodel dat die signalen vertaalt naar woorden hebben we beperkt. Als het te veel zou doen, zou het net als ChatGPT soms dingen kunnen verzinnen 'namens' de patiënt.’
3. Cochleair implantaat en slimme bril
Misschien wel de eerste chirurigische neurotechnologische behandeling was het cochleair implantaat, dat dove mensen weer laat horen. Het stuurt geluid via elektrische prikkels direct naar de gehoorzenuw. Stevie Wonder was in 2022 enthousiast over een slimme bril ontwikkeld aan de TU Delft. Dit lijkt een stuk minder gecompliceerd op ethisch-filosofisch vlak, maar schijn bedriegt, illustreert Rainey.
‘Er is een hele discussie rondom handicap. Een cochleair implantaat suggereert dat het een gebrek is om doof te zijn, dat het geen waarde heeft. En dat is maar de vraag. Die instelling ontkent bijvoorbeeld de waarde van de dovengemeenschap.’ Er zijn mensen heel blij met het implantaat, maar er zijn ook doven en slechthorenden die er bewust niet voor kiezen. Soms vanwege het mogelijk heel onnatuurlijke geluid dat ze zullen horen, maar ook omdat ze hechten aan hun niet of minder horen.
Door het bestaan van het cochleair implantaat zijn de beperkingen van slechthorendheid nu in zekere zin de eigen keuze van een slechthorende. Rainey: ‘Op die manier kunnen beperkingen heel beladen worden. Dove ouders die hun kind geen implantaat willen geven, kunnen in vervelende discussies met anderen belanden. Maar de vraag wat het beste is voor het kind, is niet zomaar te beantwoorden.’
4. Lekker spelen: een drone besturen met je brein
Een headset die je breinactiviteit registreert kan je volgens de fabrikant helpen meer focus te krijgen. Bijvoorbeeld door je voor te stellen even te pauzeren. Er zijn ook drones op de markt die je via een headset kunt besturen met je brein. Rainey: ‘Eigenlijk is het wellicht de elektrische activiteit in je gezichtsspieren die de drone aanstuurt, niet je “gedachten”. Toch wordt er hersenactiviteit geregistreerd. Al dit soort speeltjes gaan gepaard met data die geregistreerd worden en bij de fabrikant terecht komen.’ Dit is een voorbeeld van het internet of things, waarbij een fabrikant – of een hacker – bijvoorbeeld kan weten wanneer jij thuis bent, omdat je via de app je verwarming hebt aangezet.
Het is leuk, maar je weet als consument niet waar al die data blijven en welke patronen algoritmen erin kunnen vinden. ‘Voor fabrikanten zijn die data de brandstof om algoritmen mee te trainen die de ontwikkeling van dit soort technologie opeens enorm kan versnellen in een richting die we misschien niet willen.’ Een technologie kan nu heel omslachtig of invasief zijn, zoals spraakapplicatie of deep brain stimulatie. Maar Elon Musk heeft met zijn bedrijf Neuralink zijn zinnen gezet op dit soort techniek, en wie weet neemt het daardoor een grote vlucht. Onlangs plaatste Neuralink zijn eerste hersenimplantaat bij een mens. ‘We moeten vooruit denken, en niet alleen uitgaan van wat we nu kennen en weten.’
Om helder over deze technologie te kunnen nadenken, maakt het veel uit hoe je over deze technologie praat, laat Rainey zijn studenten zien. ‘Elon Musk spreekt over het samensmelten van ons brein met internet. Dat klinkt als magie en je bent geneigd te denken: wauw. Je krijgt zin in de spannende dingen die je daarmee kunt doen. Maar als je benoemt dat de technologie gewoon het brein registreert en je met AI in staat stelt voorspellingen te doen over het brein, ga je er anders tegenaan kijken en komen er vragen op als: waar kan dit voor gebruikt worden en moeten we onszelf misschien ergens tegen beschermen?’
5. Een leugendetector die je erin luist
In een moordzaak in India werd een leugendetector gebruikt die een signaal gaf als een verdachte een blijk van herkenning gaf bij het zien van iets of iemand en bijvoorbeeld de plaats delict. Heel schimmig, want misschien zie herkent iemand wel een onderdeel van een plaatje, maar niet het hele plaatje. Of herkent iemand de plaats delict, maar niet omdat hij de dader is.’
Dit voorbeeld laat zien hoe neurotechnologie door een grens lijkt te kruipen waarbij mensen benadeeld kunnen worden door wat er allemaal geregistreerd, voorspeld of gekarakteriseerd wordt. ‘Dit is echt een risico, waar het mensenrecht op moet inspelen en waar we als samenleving over moeten praten. In Chili is de grondwet aangepast, maar we moeten dit internationaal organiseren. We moeten het recht krijgen om nee te zeggen tegen dit soort dingen, om beschermd te zijn tegen de mogelijkheid dat een groot technologiebedrijf zonder scrupules zo’n technologie klaarstoomt voor gebruik.’
Delftse onderzoekers voelen zich verantwoordelijk
Stephen Rainey werd eind 2022 aangesteld als Senior Research Fellow in Delft. Daarnaast heeft hij drie aanstellingen in Engeland en werkt hij af en toe voor de Europese Commissie. Zijn directe betrokkenheid bij Delftse neurotechnologie-projecten is nog in de beginfase. ‘Wel is de TU Delft recent aangesloten bij EBRAINS, dat voortkwam een project waaraan ik rond 2015 meewerkte. Wij bespraken toen hoe je ethisch verantwoord breindata kunt delen.’ EBRAINS is een platform voor openbare neurowetenschappelijke data, computermodellen en software voor onderzoekers, clinici en studenten.
De neurotechnologen in Delft timmeren hard aan de weg, ziet Rainey. ‘Ze werken aan projectvoorstellen, er is veel financiering. Ik ontmoet nu veel onderzoekers en ben betrokken bij het bedenken van hun onderzoeksopzet.’ Dat gaat dus al veel beter dan vroeger, illustreert hij: ‘In pakweg 2010 benaderden onderzoeksconsortia ethici ongeveer een week voor de deadline, nu zijn we veel vaker vanaf het begin betrokken bij het onderzoeksvoorstel. Zeker nog niet overal, maar in Delft gaat dat heel goed.
Dat komt volgens Rainey ook doordat het Innovation & Impact Centre, dat onderzoekers helpt bij subsidieaanvragen, heel proactief is. ‘Indien nodig leggen zij de contacten met iemand zoals ik, als ze zien dat iemand aan zo’n voorstel werkt. Ik merk dat in Delft het idee van systeemdenken en sociale verantwoordelijkheid sterk aanwezig zijn.’
