PIEK spreekt regelmatig met toonaangevende personen op het gebied van de digitale samenleving. Vrij recent sprak PIEK met dr. Katleen Gabriels. Zij is als moraalfilosoof verbonden aan de Universiteit van Maastricht (UM), waar ze ook programmadirecteur van de opleiding Digital Society is.

Op de vraag, vertel eerst eens iets over jezelf, steekt Katleen van wal. “Ik ben van opleiding Germaniste en filosofe. Na mijn promotieonderzoek over moraliteit in de virtuele wereld Second Life onderzocht ik tijdens mijn postdoc de ethische aspecten van het Internet of Things. Vandaag de dag bestudeer ik “Artificial Intelligence (AI)”. Momenteel onderzoek ik de vraag in hoeverre moraliteit te programmeren is in een machine. Voordat ik aan de UM begon, werkte ik aan de TU Eindhoven. Ook heb ik een boek geschreven over ethische aspecten van AI, Regels voor robots.”

Kun je moraliteit dan programmeren? “Er zijn mooie doorbraken in medische oordeelsvorming: onderzoekers hebben bijvoorbeeld algoritmen getraind met 130.000 foto’s van huidkanker of melanomen. Uit deze studie bleek dat de algoritmen even goed waren als getrainde dermatologen. En er zijn vergelijkbare resultaten bij slokdarm- en borstkanker. Er zijn ook al ziekenhuizen die gebruikmaken van AI om verdacht borstweefsel op te sporen. Uiteraard is morele oordeelsvorming een veel complexere uitdaging. We hebben ook niet zomaar een eenduidige dataset voorhanden om algoritmen mee te trainen. Dus moraliteit valt niet zomaar te programmeren, nee.”

Je baan is programmadirecteur bij de Universiteit van Maastricht van een hele nieuwe opleiding. Kun je iets meer vertellen over deze opleiding en kunnen daar ook volwassenen aan deelnemen? “Het is een nieuwe opleiding die in 2019 van start is gegaan en zeer interdisciplinair is opgezet. Een kruising tussen humane, sociale en datawetenschappen. Studenten leren statistiek maar ook ethiek, geschiedenis, politieke wetenschappen, onderzoeksmethodes, enzovoort. Alle vakken zijn geënt op de digitale maatschappij. Wat we beogen, zijn bruggenbouwers met kennis van zowel technologie als ethische en sociale aspecten van de digitale maatschappij. Aan de stageplekken merken we dat zulke ‘bruggenbouwers’ zeer gegeerd zijn op de arbeidsmarkt. We hebben niet één type student. Sommige studenten verkiezen een meer technische focus, andere gaan dan weer voor ethische thema’s zoals de privacy-uitdagingen van “smart city”. De opleiding is zeer interdisciplinair: studenten moeten breed kunnen denken en filosofie staat bijvoorbeeld ook op het onderwijsprogramma. Er is momenteel geen deeltijdvariant van deze opleiding beschikbaar.”

Je nam net het woord smart city in de mond, kun je daar wat meer over vertellen? “We zien dat steeds meer objecten via het internet met elkaar verbonden zijn. Denk bijvoorbeeld maar aan Tesla of smartwatches. Veel verkeersinformatie, bijvoorbeeld over files, wordt afgeleid uit mobiele telefoons. Smart city of de slimme stad betekent dat het publieke, stedelijke leven steeds meer deel wordt van het internet. Dat betekent dus ook dat er veel data verzameld worden, waar vervolgens patronen in gezocht worden. Een concreet voorbeeld: in plaats van afvalbakken op gezette tijden leeg te maken, stuurt de afvalbak automatisch een signaal door als die bijna vol zit. Of denk aan parkeerapps. Als je de stad binnenrijdt, zie je via de app waar er een plek vrij is en moet je dus niet nodeloos gaan rondrijden. Dat kan ook op logistiek gebied: leveranciers van winkels in de binnenstad kunnen via een app zien wanneer het beste moment van levering is, zodat de besteldiensten elkaar niet in de weg staan. Er wordt ook actuele informatie verzameld over drukte in de stad. Als bewegingssensoren bijvoorbeeld aangeven dat veel mensen zich in dezelfde richting bewegen, kan dit duiden op tumult. Zo kan je na voetbalwedstrijden bewegingen van mensen analyseren en kan zo voorspeld worden of er rellen gaan ontstaan. De gemeente Maastricht wil ook meer inzetten op ‘smart city’, maar staat hier nog lang niet zo ver in als bijvoorbeeld Eindhoven.

De toekomst zal er als volgt uitzien: in je digitale agenda staat hoe laat je eerste afspraak is. Je agenda communiceert met je wekker en laat je op tijd wakker worden, en stuurt ook informatie door naar je koffieautomaat, zodat de koffie tijdig klaar is. De wekker houdt ook rekening met actuele verkeersinformatie: mocht er een file zijn, dan gaat je wekker vroeger af en dus gaat ook je koffiemachine eerder aan.”

Dan zitten we nu wel al op het ethische aspect: als de machines bepalen wanneer je wekker moet aflopen, worden wij als mensen dan ook niet geprogrammeerd? “Je wordt meer afhankelijk van technologie. Kijk maar eens in de zorg. Onze maatschappij is in toenemende mate aan het vergrijzen, de druk op de zorgmedewerkers wordt steeds groter, terwijl er minder personeel beschikbaar zal zijn. Dan is de vraag naar slimme technologie groot. Denk daarbij ook aan ‘ageing in place’ (zolang mogelijk thuis blijven wonen). Sensoren worden geplaatst op bepaalde objecten en op basis daarvan leiden ze patronen af. Bijvoorbeeld: rond 7:30 gaat de slaapkamerdeur open en rond 7:45 gaat de koffiemachine aan. Bij een grote afwijking van dit patroon of tijdsschema wordt de mantelzorg ingelicht. Er zijn ook slimme medicijnendoosjes die aangeven wanneer de patiënt medicatie moet innemen. Mantelzorgers of kinderen kunnen die inname op afstand volgen. Verder kan ook met bewegingssensoren bewaakt worden of de betreffende persoon zich in het huis beweegt. Mochten er dan over een langere periode geen activiteiten plaats hebben gevonden, kan er actie worden ondernomen of kunnen er camera’s worden geactiveerd die in het huis of kamer van de patiënt kijken.”

Met andere woorden, we kunnen op een zeer goede manier thuis oud worden en sensoren en AI waken over ons. Ik krijg daarbij wel een beetje het Big Brother is watching you-gevoel. Hoe zit het dan met de privacy? “ We hebben de AVG, maar zal dat voldoende zijn? Het grote probleem zit bij de bedrijven die jouw gegevens hebben. Op welke manier hebben ze deze gegevens beveiligd? Als ze gehackt worden, dan liggen jouw gegevens dan op straat. We hebben nu met corona gezien hoe moeilijk het is om op Europees niveau een afspraak te maken over een app die laat zien of je gevaccineerd bent of niet. De ethische vraag en afweging zal er altijd zijn: hoeveel van je privacy geef je op als het om gezondheid gaat? Maar we hebben ook duidelijke wettelijke kaders nodig, ook voor bedrijven.”

Als ik nu kijk naar de mensen die PIEK opleidt: die werken voor grote internationaal opererende organisaties en die bezig zijn met het produceren van devices die op diverse plaatsen toegepast worden. Hoe kijk je als filosoof hiernaar, waar moet de ingenieur van vandaag die bezig is met de ontwikkeling van AI en robots op letten? “Het sleutelwoord is interdisciplinariteit. Dat kan door bijvoorbeeld op voorhand al ethische vragen te stellen. Digitalisering heeft zo’n grote impact waardoor het al snel kan mislopen. Twitter heeft met de retweet-knop een stem gegeven aan mensen om berichten te retweeten. Maar die heeft ook bijgedragen aan polarisatie en onlineheksenjachten. Je moet met een interdisciplinaire bril kijken naar mogelijke risico’s en gevolgen.”

Je ziet dat bij bedrijven zoals Google- en Facebookmedewerkers soms ontslag nemen omdat ze het niet meer eens zijn met het beleid van de organisatie. Zal dit ook bij andere bedrijven plaatsvinden? “Er zijn veel inconsistenties bij de grote techbedrijven. Google wilde graag voet aan de grond in China en heeft er toen ingestemd met censuur. Onder meer websites over mensenrechten waren via Google niet zichtbaar voor Chinese gebruikers. En dat terwijl de slogan van Google ‘Don’t Be Evil’ was. Later zijn bij Google-medewerkers opgestapt omwille van Project Maven: het gebruik van machine learning voor militaire doeleinden. Veel ontwikkelaars wilden niet dat hun technologie militair werd ingezet, ze kwamen in conflict met hun geweten.”

Zo zal ethiek een steeds grotere invloed gaan krijgen in onze samenleving.

PIEK bedankt dr. Katleen Gabriels voor haar inkijk in de wereld van ethiek binnen de technische verbindingsindustrie.