top of page
  • Foto van schrijverÖmer Guney

Zijn hersengestuurde spraakcomputers ethisch? | Mijn presentatie op het BCI Society meeting




Op woensdag 7 juni kreeg ik de kans om deel te nemen aan de workshop over de ethische dillema’s rond ‘speech BCI’s, oftewel hersengestuurde spraakcomputers. Deze workshop werd georganiseerd door de BCI Society op hun internationaal congres.


Op dit congres kwamen onderzoekers en professionals op het gebied van Brein-Computer-Interfaces samen om allerhande onderwerpen over BCI’s te bespreken. Eén van die onderwerpen ging over de vraag hoe men de agency (dus de autonomie op het apparaat) van de gebruiker kan verzekeren wanneer hij een hersengestuurde spraakcomputer gebruikt. Meer bepaald bediscussieerden we hoe men kan vermijden dat zo’n apparaat zomaar alle gedachten uit van de gebruiker en in plaats daarvan enkel die gedachten uit die de gebruiker wil.


Misschien klinkt het een beetje eng dat men aan een computer werkt die je gedachten kan lezen. Dit is echter niet helemaal een correcte beschrijving. Alhoewel het inderdaad zo is dat men aan een technologie werkt die in staat is om de signalen van uw hersenen om te zetten naar tekst, spraak, of opdrachten voor een computer, is het niet zo dat het apparaat toegang zal hebben tot al je gedachten. De BCI is eigenlijk een apparaat dat de gebruiker mogelijk maakt om een computer te bedienen met zijn gedachten. Per definitie zou een BCI dus enkel toegang hebben aan de gedachten waarmee de gebruiker communiceert met het apparaat. Het zou – naast dat het niet ethisch is – ook behoorlijk inefficiënt zijn als de BCI ook aan andere gedachten van de gebruiker zit waardoor het suboptimaal zal werken. Maar ik kan natuurlijk niet verzekeren dat alle bedrijven even ethisch zullen omspringen met een dergelijke technologie – zeker niet in een wereld waar big tech gratis services aanbiedt en die financiert met de verkoop van de data afkomstig van hun gebruikers. Maar dat is een discussie voor een andere dag.


De voorzitster van ISAAC-NF vroeg mij of ik wou deelnemen aan deze workshop als een ervaringsdeskundige op het gebied van OC. Ik heb geprobeerd om de OC-gebruikers zo goed mogelijk te vertegenwoordigen. Of dit mij gelukt is, is aan jullie om te oordelen 😊.


Ik wil de BCI Society, de organisators van de workshop in het bijzonder en ISAAC-NF hartelijk bedanken voor het vertrouwen in mij!





Lees de Nederlandse versie van mijn presentatie:


Goede morgen iedereen

Mijn naam is Ömer Güney. Zoals jullie kunnen zien, heb ik een motorische beperking. Net voor mijn geboorte, vanwege een premature placentaloslating, hebben bepaalde gebieden van mijn hersenen geleden aan hypoxie. Hierdoor beweeg ik me nu voort met mijn elektrische rolstoel die ik met mijn rechtervoet bedien, en ik kan nu voor jullie spreken met mijn ooggestuurde spraakcomputer.

Hoewel ik geconfronteerd word met uitdagingen op verschillende fronten, vind ik de uitdaging van communicatie een van de meest prominente. Communicatie is cruciaal voor ieder individu, maar ik denk dat het niet overdreven is om te zeggen dat dit meer het geval is voor mensen met ernstige lichamelijke beperkingen. Dit komt doordat deze mensen - inclusief mezelf - sterk afhankelijk zijn van anderen om, bot gezegd, in leven te blijven. Buiten ademen heb ik een assistent nodig om dingen te doen die mijn leven in stand houden. Ik moet kunnen communiceren met mijn verzorgers om mijn lichamelijke autonomie te behouden. Ik moet kunnen kiezen wat ik wil eten, wat ik wil dragen, waar ik naartoe wil gaan, enzovoort. Om dit allemaal te kunnen doen, om sociale interacties te hebben en deel te nemen aan de samenleving, is het cruciaal om zo effectief mogelijk te kunnen communiceren.

Daarom ben ik voortdurend op zoek naar manieren om mijn communicatie efficiënter te maken, en dat was al zo tijdens mijn kindertijd. Ik had het geluk om naar een school te gaan die als voornaamste doel had om elke leerling zo zelfstandig mogelijk te maken. In mijn geval realiseerden ze zich al snel dat ik de wil en de mentale capaciteit had om elke kans die ze me boden aan te grijpen. Na het uitproberen van verschillende dingen, merkten ze dat ik redelijk goede controle had over mijn rechtervoet. En zo begonnen we met training, zodat ik een elektrische rolstoel ermee kon besturen.

Toen ik ongeveer zeven jaar oud was, kon ik comfortabel mijn rolstoel gebruiken om overal naartoe te gaan waar ik wilde. De volgende uitdaging was communicatie. Voordat ik mijn rolstoel had, was ik sterk afhankelijk van gebaren en dingen aanwijzen om mezelf uit te drukken. Dat veranderde toen ik leerde lezen en schrijven, waardoor ik de mogelijkheid kreeg om trefwoorden te spellen. Met mijn nieuwe rolstoel had ik ook de mogelijkheid om een Windows-pc te bedienen via de joystick. Ik kon letter per letter typen in een Word-document met een schermtoetsenbord, met een snelheid van ongeveer één tot drie woorden per minuut. Hoewel dit extreem langzaam en erg vermoeiend was, was dit eigenlijk een grote stap richting meer onafhankelijkheid, omdat dit de allereerste keer was dat ik mezelf zelfstandig kon uiten zonder dat er iemand naast me hoefde te zitten en moest raden wat ik wilde zeggen. Dit maakte duidelijk dat ik enorm baat zou hebben bij een OC-apparaat.

Voor de volgende acht jaar gebruikte ik mijn OC-apparaat dat aan mijn rolstoel was bevestigd, samen met de OC-software genaamd Mind Express. Met die opstelling kon ik 3 tot 6 woorden per minuut typen. Echter, mogelijk omdat ik ouder werd en meer dingen te zeggen had over steeds meer onderwerpen, werd ik langzaamaan ontevreden over hoe langzaam ik typte, en ik begon op zoek te gaan naar alternatieve typmethoden. Ik kwam eerst een softwareprogramma tegen genaamd Dasher. Dasher is een uniek softwareprogramma met een zeer originele manier van typen. Vanwege tijdgebrek zal ik vandaag niet uitgebreid ingaan op hoe Dasher werkt, maar ik raad jullie ten zeerste aan om het op te zoeken wanneer jullie tijd hebben. Het belangrijkste voor mij was dat ik mijn typsnelheid min of meer had verdubbeld en dat het daarbovenop minder energie kostte.

Na twee of drie jaar Dasher te hebben gebruikt, ontdekte ik eindelijk oogbesturing. Dit was voor mij opnieuw een grote sprong voorwaarts wat betreft efficiënte communicatie. Met oogbesturing kon ik gemiddeld veel sneller typen en tegelijkertijd veel minder energie gebruiken. Op dit moment kan ik met oogbewegingen tussen de 15 en 20 woorden per minuut typen.

17 woorden per minuut gemiddeld is razendsnel voor mij als je bedenkt waar ik begonnen ben, maar in absolute termen is het nog steeds erg langzaam als je bedenkt dat een gemiddeld gesprek tussen twee personen ongeveer 150 woorden per minuut is. Met andere woorden, ik heb ongeveer negen keer minder kansen om mijn gedachten te uiten in vergelijking met iemand die verbaal kan spreken. Dit heeft verschillende effecten, van mensen die me niet goed leren kennen tot de noodzaak voor mij om te kiezen wat belangrijk genoeg is om te zeggen en wat niet.

Van jongs af aan dacht ik na over BCI's (Brein-Computer Interfaces). Hoe gemakkelijk zou het zijn om een soort tophoed te hebben, om de een of andere reden stelde ik me het BCI-apparaat altijd voor als een tophoed, die ik kon opzetten om alleen met mijn gedachten te praten. Mensen om me heen beweerden dan grappend dat ik geen geheimen zou hebben als ik zo'n apparaat zou gebruiken, omdat het alles zou zeggen wat ik dacht. Als kind vond ik dat argument een beetje belachelijk, omdat zo'n communicatieapparaat toch wel een manier zou moeten hebben om onderscheid te maken tussen gedachten die ik wilde uiten en gedachten die ik niet wilde uiten. Toch?

Dus, tot op heden was mijn belangrijkste doel altijd om zo snel mogelijk te typen. Maar met de opkomst van BCI moet ik mogelijk een afweging maken tussen meer snelheid of meer autonomie. Terwijl ik over dit dilemma nadacht, realiseerde ik me dat dit niet de eerste keer is dat ik deze afweging moest maken. Toen ik opgroeide met mijn OC-apparaat, gaf ik de voorkeur aan communicatie via een op tekst gebaseerd systeem in plaats van symbolen, zodat ik controle had over wat ik zou zeggen. Of ik voegde zelf nieuwe snelle berichten toe in plaats van mijn logopedist het te laten doen. Zoals ik eerder al zei, moeten mensen met lichamelijke beperkingen communiceren om autonomie te hebben, maar wanneer de gebruiker geen controle heeft over zijn of haar communicatie, zou het hoofddoel van communicatie zijn mislukt. Hoewel BCI's potentieel hebben op meerdere fronten, er wordt zelfs beweerd dat BCI's mogelijk schade in de hersenen kunnen genezen, wil ik me richten op wat het kan betekenen voor de communicatie van iemand die niet kan spreken. Een hersengestuurde OC-apparaat zou de mogelijkheid kunnen bieden om te communiceren en meer onafhankelijkheid te verkrijgen of terug te winnen voor mensen die geen enkele bestaande OC-oplossing kunnen gebruiken. In mijn gedachten zou de heilige graal van OC BCI-apparaten een BCI zijn die de gebruiker in staat stelt om met zijn gedachten te spreken met een snelheid die vergelijkbaar is met een gemiddeld gesprek. Om dit te bereiken, moet het automatisch in staat zijn om onderscheid te maken tussen de innerlijke gedachten van de gebruiker en de gedachten die bedoeld zijn voor communicatie. Ik weet niet zeker of we zelf onderscheid kunnen maken tussen deze soorten gedachten, dus mogelijk is het iets dat zowel de BCI als de gebruiker moeten leren. Dus, naar mijn mening zou de BCI in staat moeten zijn om onderscheid te maken tussen innerlijke gedachten en gedachten die bedoeld zijn voor communicatie. Maar het is erg belangrijk dat de BCI dit 100% nauwkeurig kan doen, elke keer. Anders heeft de gebruiker geen controle over wat hij of zij zegt, en dat zou niet acceptabel zijn voor een OC-apparaat. En ik kan dit niet genoeg benadrukken: de hele reden, het ultieme doel van OC, is om iemand die niet kan spreken via conventionele middelen, oftewel spreken, een manier te geven om met anderen te communiceren, om hen in staat te stellen autonomie te hebben over hun lichaam en deel te nemen aan de samenleving. Om dit te bereiken, moet de gebruiker opzettelijk en onafhankelijk kunnen communiceren. Als het OC-apparaat dit niet mogelijk maakt, kunnen we dit apparaat niet classificeren als een OC-apparaat. Ik herhaal mezelf, maar dit is echt een cruciaal punt.

Ik ben geen bio-ingenieur of neuroloog, dus ik heb geen idee of dit onderscheid tussen innerlijke gedachten en gedachten die uitgesproken moeten worden überhaupt haalbaar zou zijn. Maar als het haalbaar is, dan zijn we volgens mij nog meerdere generaties BCI verwijderd. Ondertussen moeten we andere manieren vinden om ervoor te zorgen dat de gebruiker volledige controle heeft over zijn OC BCI. Het belangrijkste probleem dat we moeten oplossen, zoals ik al eerder noemde, is hoe we het apparaat kunnen laten weten welke gedachte moet worden uitgesproken. Een oplossing zou kunnen zijn om een verzendknop te hebben. Dit zou een fysieke knop kunnen zijn die de gebruiker kan indrukken om zijn volgende gedachte uit te spreken. Dit is relatief eenvoudig te implementeren, denk ik, maar dit zou gebruikers uitsluiten die niet in staat zijn om op een knop te drukken.

Een iets geavanceerdere manier om de gebruiker controle te geven, zou kunnen zijn dat er naar bepaalde patronen wordt gekeken die zich in hun omgeving bevinden. Dit zou bijvoorbeeld een symbool kunnen zijn dat op hun rolstoel is geplaatst, en wanneer de gebruiker daar naar kijkt, begint de BCI de huidige gedachte van de gebruiker uit te spreken. Hetzelfde zou kunnen worden bereikt met een armband om hun arm. Een nadeel van deze oplossing is dat de gebruiker in dit geval geen oogcontact kan maken met de ontvanger, wat leidt tot nog minder natuurlijke gesprekken.

In plaats van fysieke knoppen of patronen zou de BCI geprogrammeerd kunnen worden om te wachten op een specifieke gedachte om te beginnen met spreken, zoals hoe je Siri kunt activeren door de activeringswoorden 'Hey Siri' te zeggen. Op dezelfde manier zou de BCI 'Activeringsgedachten' kunnen vereisen om geactiveerd te worden. Dit zou toegankelijker zijn. Maar dan rijst de vraag: wanneer stopt de BCI met spreken? Misschien zou het mogelijk zijn om een basis taalmodel te hebben dat de BCI kan gebruiken om te weten wat woorden en zinnen zijn. Dan zou de gebruiker letterlijk kunnen denken: BCI, ik wil de volgende twee zinnen uitspreken, bijvoorbeeld. Of we kunnen bedenken welke andere dingen die we doen tijdens een gesprek met iemand. Wanneer we met iemand praten, kijken we meestal in de ogen van die persoon, toch? Dat en andere gerelateerde signalen zouden kunnen helpen bepalen of een gedachte moet worden uitgesproken of niet.

Al deze manieren om te bepalen of een gedachte moet worden uitgesproken, kunnen falen. De gebruiker kan bijvoorbeeld per ongeluk op de fysieke knop drukken, per ongeluk aan de activeringsgedachten denken, of in iemands ogen kijken zonder iets te willen zeggen. Om ervoor te zorgen dat de gebruiker volledige controle heeft, moeten er failsafes zijn ingebouwd. Een failsafe zou kunnen zijn dat de BCI een bepaalde tijd wacht voordat de gedachte van de gebruiker wordt uitgesproken, zodat de gebruiker de kans heeft om het te annuleren. Het zou ook handig zijn om de mogelijkheid te hebben om het uitspreken te stoppen terwijl het al bezig is. Op dit moment gebeurt het mij af en toe dat ik per ongeluk naar de spreekknop kijk in de software die ik gebruik, en dan begint mijn apparaat het bericht voor te lezen dat ik nog niet heb afgemaakt. Als dit gebeurt, ben ik natuurlijk een beetje beschaamd, maar omdat het voortijdig uitgesproken bericht sowieso bedoeld was om door anderen te worden gehoord, en het feit dat ik het snel kan stoppen, is het geen groot probleem. Dit is echter niet het geval bij BCI's, omdat ze toegang hebben tot je eigen gedachten, die ze kunnen uitspreken.

Een kleine opmerking hierbij: deze ideeën zijn mijn persoonlijke ideeën en anderen kunnen daar verschillende meningen over hebben. Ik denk dat het altijd beter is om zoveel mogelijk aanpassingsmogelijkheden te bieden om het apparaat beter aan te laten sluiten bij elk individu.

Ik heb een eenvoudige enquête gehouden onder een aantal van mijn lotgenoten. Het was een steekproef van ongeveer twintig mensen en iedereen behalve één persoon had al een OC-apparaat. Het meest niet-verrassende feit was dat ze allemaal agency (eigen regie) belangrijker vonden dan de snelheid waarmee ze konden communiceren. Zelfs met een foutenmarge van 5% zou de meerderheid van hen het apparaat niet overwegen te gebruiken. Wat ik minder had verwacht, is dat best wat mensen aarzelen om überhaupt een apparaat te overwegen dat toegang heeft tot hun gedachten, zelfs als het apparaat perfect zou werken. Privacy is erg belangrijk, en het idee dat een apparaat toegang zou hebben tot hun eigen gedachten klonk voor veel mensen dystopisch. Maar dit kan komen doordat BCI voor hen nog een vreemd concept is. Wanneer sommige mensen een BCI-apparaat in hun dagelijks leven gaan gebruiken, verwacht ik dat meer mensen zullen overwegen het zelf te gebruiken. Mensen zijn mogelijk ook minder bereid om een geïmplanteerde BCI te gebruiken in vergelijking met een niet-invasieve. Interessant genoeg was de persoon die geen OC-apparaat heeft vanwege hun financiële situatie, en die met mij communiceerde via hun smartphone, veel meer open om een BCI-apparaat te gebruiken, zelfs als dit zou betekenen dat het apparaat soms hun innerlijke gedachten zou uitspreken. Ik weet niet wat jullie ervan vinden, maar ik zie hier een groot probleem. Dit zou kunnen betekenen dat mensen die nog geen gevestigde manier hebben om te communiceren, meer bereid zijn om hun agency op te geven om een manier van communiceren te hebben. Dit zou kunnen leiden tot dubbele standaarden in BCI, waarbij de normen voor mensen die al een gevestigde manier van communiceren hebben hoger zijn dan die voor mensen die geen manieren van communiceren hebben. Dit voelt voor mij erg verkeerd.

Dus, samenvattend, hersengestuurde OC-apparaten zouden voor veel mensen de sleutel kunnen zijn om efficiënter te communiceren, en voor sommigen kan het de enige manier zijn om te communiceren. Om ervoor te zorgen dat gebruikers kunnen communiceren zonder compromissen te hoeven sluiten op het gebied van privacy of lichamelijke autonomie, is het uiterst belangrijk om bedrijven en andere onderzoeksinstellingen op dit gebied te voorzien van ethische richtlijnen. Deze richtlijnen moeten gericht zijn op toestemming, agency en privacy. Om deze reden wil ik de BCI Society bedanken voor het organiseren van deze conferentie en iedereen die specifiek betrokken was bij deze workshop.

Bedankt allemaal voor het luisteren naar mij. En als jullie ooit een proefpersoon nodig hebben om een niet-invasieve BCI te testen in België of omgeving, of voor welke andere vraag dan ook, voel je vrij om contact met me op te nemen.




105 weergaven

Comments


Wat is er nieuws?

bottom of page