Ethische principes en toepassingen van digitale technologie: Internet of things, robotica en biometrie

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

Deze technieken leggen wederkerige verbindingen (cybernetische loops) tussen de fysieke en de digitale wereld[1]. Ik geef van elk van deze technieken een korte beschrijving, gevolgd door een aantal opmerkingen over hun ethische aspecten: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen, voor zover relevant. Hierbij is gebruik gemaakt van het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017[2].

1. Internet of Things

Het Internet-of-Things verbindt objecten via sensoren met apparaten die deze gegevens (op afstand) verzamelen en bewerken. De stappenteller op de smartphone is een voorbeeld van de verzameling van gegevens van mensen. Dit nog maar het begin, op termijn kunnen de meest uiteenlopende gegevens van ieders gezondheid worden verzameld en opgeslagen. Vooralsnog gaat het nog vooral om gegevens van objecten. Een bekend voorbeeld is de ‘slimme meter’. Steeds meer huishoudelijke apparatuur is met het Internet verbonden en geeft gebruiksgegevens door. Samsung smarttelevisies hadden lange tijd een ingebouwde televisiecamera en microfoon waarmee het gedrag van de kijkers geobserveerd kon worden. Ook de roemruchte digitale huisgenoten als Alexa en Siri zijn technisch in staat om alles wat er in hun omgeving wordt gezegd aan hun bazen door te geven.

Machines, maar ook treinen en vrachtauto’s zitten vol sensoren waarmee functioneren kan worden gemonitord. Het verkeer kan met sensoren in en boven de weg worden gevolgd en uitlaatgassen en fijnstof kan worden gemeten. Op veel plaatsen in de wereld kunnen de gangen van mensen met massa’s camera’s ’s worden nagegaan. Een eenvoudige handtekening van Amerikaanse eigenaars van een Ring-deurbel volstaat om alle gegevens van wie zich aan de voordeur meldt door te geven aan de politie, die deze met gezichtsherkenningsapparatuur kan analyseren. Orwell had het niet kunnen bedenken.

Privacy

Internet of Things maakt het mogelijk om ieder persoon altijd te volgen, binnen- en buiten de woning. Als het om verzamelen van gegevens in huis gaat, is het grootste probleem onbekendheid en gebrek aan transparantie en in verband hiermee groeiend wantrouwen. Digitaal huisrecht kan een oplossing zijn; dit houdt in dat geen enkel apparaat gegevens verzamelt, tenzij hiervoor expliciet toestemming wordt gegeven.

Een betere oplossing is dat fabrikanten zich bezinnen op de vraag waarom ze al deze gegevens willen verzamelen.

Zodra iemand het huis verlaat, wordt het lastiger. In veel Nederlandse steden is ‘tracking’ van mobiele telefoons inmiddels verboden, maar elders is een scala van middelen beschikbaar om ieders (koop)gedrag te registreren. De wetgeving op dit punt in Europa wordt gelukkig steeds stringenter. 

Autonomie

Het steeds maar toevoegen van meer ‘gadges’ aan apparaten en die als ‘slim’ verkopen, heeft uiteindelijk maar één doel, mensen verleiden tot aanschaf ervan ook als eerdere versies nog lang niet zijn versleten. De verkoop is omgeven door al van ‘persuasieve’ technieken die de vrije wil van mensen beïnvloeden. Facebook beïnvloedt heel behendig onze gemoedstoestand door de selectie van berichten.

Media, reclamemakers en bedrijven zouden zich moeten bezinnen over de wenselijkheid om in dit opzicht een aantal stappen terug te doen. Voor zowel mens als milieu.

Veiligheid

Sensoren in huishoudelijke apparaten zijn meestal slecht beveiligd en geven internetcriminelen makkelijk toegang tot alle andere apparaten. Voor degenen die hun apparaten centraal willen bedienen en ook dat deze onderling communiceren, is een gesloten net – een vorm van ‘edge computing’ – een oplossing. De eigenaar kan dan zelf besluiten welke gegevens ‘naar buiten’ mogen, bijvoorbeeld voor alarmering of het balanceren van het elektriciteitsnetwerk. Daarop kom ik in een latere aflevering terug. 

Controle

Nu al ervaren mensen die bijvoorbeeld de verlichting van hun huis via een app regelen, problemen als de batterij van de telefoon leeg is. De ervaring leert bovendien dat het instellen en werkend houden van een zo’n draadloos systeem niet eenvoudig en dat er vaak ongewenste interferenties optreden. Eenvoudig een lamp verwisselen is allang niet meer voldoende op dit soort problemen op te lossen.  Voor veel mensen glipt de controle over hun eigen huis uit handen.

Machtsverhoudingen

De digitale component van veel apparaten en met name de afhankelijkheid van goed ingestelde software maakt mensen steeds afhankelijker van leveranciers, die overigens steeds minder in staat zijn om aan de daarmee samenhangende vraag naar service en ondersteuning te voldoen.

2. Robotica

Robotica doet met grote snelheid zijn intrede. In vrijwel elke hartoperatie wordt robotica gebruikt om de bewegingen van de chirurg preciezer te maken en sommige operaties worden (bijna) geheel automatisch uitgevoerd. Robots worden steeds meer ingezet in de zorg, ter ondersteuning of vervanging van zorgverleners. Denk ook aan robots die 3D kunnen waarnemen door de riolering ‘kruipen’. Ze helpen daar lekkages oplossen of voorkomen[3] of ze nemen monsters om besmettingshaarden op te sporen[4]. Leeds wil op die manier in 2035 de eerste ‘zichzelf reparerende stad’ zijn[5]. ‘Zelfsturende’ auto’s, of wat veel vaker voorkomt, (metro)treinen zijn andere voorbeelden. Dat de meeste magazijnen en fabrieken vol staan met robots behoeft geen toelichting. In huishouders doen ze ook hun intrede, denk aan bijvoorbeeld aan de stofzuiger of de grasmaaier. Robots geven grote hoeveelheden informatie door en zijn daarmee essentiële onderdelen van het Internet of Things.

Privacy

Robots staan vaak ‘by design’ op gespannen voet met de privacy. Dat geldt voor zorgrobots in het bijzonder. Dergelijke apparaten kunnen waardevol zijn, als patiënten en/of hun naasten zich maar voldoende bewust zijn van de impact ervan. Essentieel is transparantie en dat deze apparaten alleen gegevens verzamelen en verzenden voor het doel waarvoor ze bestemd zijn. 

Autonomie

Veel mensen vinden ‘achteruit inparkeren’ een probleem en laten dat graag aan robotica over.  Daarmee geven ze tegelijkertijd een deel van hun autonome vaardigheid als bestuurder af.  De vaardigheid om achteruit in te parkeren is namelijk ook in diverse andere situaties vereist. Dit geldt in nog veel sterkere mate bij vaardigheden die ‘zelfsturende’ auto’s van mensen overnemen.

Bestuurders zullen steeds vaker in situaties terechtkomen waarin ze machteloos staan.

Tegelijkertijd is robotica een uitweg in situaties waarin mensen misbruik maken van hun zelfbeschikkingsrecht, bijvoorbeeld door te hard te rijden, wereldwijd en van de grootste oorzaken van (dodelijke) ongevallen. Een verplichte snelheidsbegrenzer bespaart onnoemelijk veel leed, maar zal door de ‘king of the road’ niet met gejuich worden ontvangen.

Veiligheid

Her overlaten van handelingen aan robots veronderstelt dat veiligheid gegarandeerd is.  Dat zal bij robot-grasmaaiers geen probleem zijn, maar is dat bij ‘zelfsturende auto’s’ vooralsnog wel.  Daarbij komt het risico van het hacken van door software gestuurde apparaten. 

Menselijke waardigheid

Robots kunnen saai, ‘geestdodend’ gevaarlijk en smerig werk overnemen, maar ook werk waarbij een hoge mate van precisie is gewenst. Denk aan de fabricage van computerchips.  De grootste problemen liggen op het potentieel overnemen van werk, wat niet alleen implicaties voor de werkgelegenheid heeft, maar ook de kwaliteit van ons leven ernstig kan beïnvloeden. In de zorg kunnen mensen zich door het wegvallen van menselijk contact ‘verdingelijkt’ gaan voelen. Het dagelijks contact met een zorgmedewerker is voor velen een belangrijk instrument tegen de eenzaamheid.

3. Biometrie

Biometrie omvat alle technieken om mensen te identificeren aan de hand van lichaamskermerken: iris, vingerafdruk, stem, hartritme, schrijfstijl en emotie. Vooral van hun combinatie wordt veel verwacht, hetgeen in het paspoort al in toenemende mate gebeurt. 

Aan beveiliging valt in deze wereld niet te ontkomen, dus biometrie kan – zeker als verschillende lichaamskenmerken worden gebruikt – een goed middel zijn om identiteitsfraude tegen te gaan. 

De toepassing van gezichtsherkenning in de VS neemt hand over hand toe. In vliegvelden kunnen mensen er vaak voor kiezen om het beveiligingspoortje ‘automatisch; te doen openen of in de rij voor de security te gaan staan. Incode, een startup in San Francisco meldt dat zijn digitale identiteitsherkenning apparatuur in 2021 al in 140 miljoen gevallen is gebruikt, vier keer zo veel als in alle jaren daarvoor samen[6].

Privacy

In de EU is de privacy van ingezetenen wettelijk goed geregeld. Het gebruik van deze gegevens is eveneens in de wet vastgelegd. Desondanks zijn ieders persoonsgegevens op talloze plaatsen opgeslagen.

Vooral gezichtsherkenning roept veel verzet op en wordt in de VS steeds vaker verboden in de publieke ruimte. Hiervan is ook sprake in Nederland[7]

Biometrische technologie kan ook privacybeschermend zijn, door minimale informatie te verzamelen: Iemand kan bijvoorbeeld toegang krijgen op basis van een irisscan, waarbij de computer alleen controleert of de desbetreffende persoon een machtiging heeft, zonder naam en andere gegevens te registreren. 

Internetcriminelen worden steeds handiger on het bemachtigen van persoonlijke gegevens. Vooral kleinere organisaties en sportclubs zijn een doelwit vanwege hun vaak matige beveiliging. Als het ook lukt om documenten als een identiteitskaart te bemachtigen, dan ligt identiteitsfraude op de loer.

Veiligheid

Op zich draagt het combineren van verschillende technieken om iemand te identificeren bij aan de veiligheid van middelen die bedoeld zijn om iemands identiteit vast te stellen, zoals paspoorten, die steeds vaker ook een irisscan bevatten. Hiermee wordt ook het namaken van identiteitsbewijzen lastiger. De meeste documenten, bijvoorbeeld rijbewijzen en pinpassen kunnen nu nog betrekkelijk makkelijk worden nagemaakt of (tijdelijk) gebruikt nadat ze zijn gestolen, waardoor identiteitsfraude nu nog betrekkelijk makkelijk is.

Menselijke waardigheid

Het verzet tegen gezichtsherkenning heeft niet alleen te maken met de evidente gebreken; de technologie zal de komende jaren ongetwijfeld verder verbeteren. Het gevaar zit voor een groot deel in de onderliggende software, waarin bias nog lastig uit te bannen is. 

Er is als het om menselijke waardigheid gaat, heeft biometrie ook een positieve kant.

Wereldwijd zijn miljarden mensen niet in staat om aan te tonen wie ze zijn. Het Indiase Aadhar-programma heeft naar schatting aan 1,1 miljard mensen een geaccepteerde vorm van digitale identiteit verstrekt, gebaseerd op biometrische gegevens. Het effect is dat financiële inclusie met name van vrouwen aanzienlijk is toegenomen. 

Rechtvaardigheid

In veel situaties waarin biometrische identificatie is toegepast, ontstaat het probleem van omgekeerde bewijslast’. Als er sprake is van persoonsverwisseling, moet het slachtoffer, bewijzen niet de persoon te zijn, die de politie vermoed dat deze is.

Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.Onderstaande link opent een overzicht van alle gepubliceerde en toekomstige artikelen in deze serie. https://www.dropbox.com/s/vnp7b75c1segi4h/Voorlopig%20overzicht%20van%20artikelen.docx?dl=0


[1] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[2] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[3] https://selfrepairingcities.com/2019/11/29/robotic-challenge-2020/

[4] https://qz.com/1923774/covid-19-is-giving-sewage-a-modern-public-health-purpose/

[5] https://www.smartcitiesworld.net/news/how-leeds-could-become-the-worlds-first–self-repairing-city-4925

[6] https://is.gd/7IyGV6

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau%20-%20Zeven_aandachtspunten_voor_%20de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

Auteur: Herman van den Bosch

Ik ben hoogleraar aan de Open Universiteit en hou me bezig met regionale ontwikkeling, innovatie en leren. Ik ben bovendien curator van Amsterdam Smart City. Ik zie het streven van steden om smart city te worden in samenhang met duurzame welvaart, rechtvaardigheid en welzijn. Daarom spreek ik bij voorkeur over inclusieve groei

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

%d bloggers liken dit: