Ethische principes en toepassingen van digitale technologie: Immersieve technologie, blockchain en platformen

In de 13de aflevering van de reeks Bouwen aan duurzame steden – De bijdrage van digitale technologie vervolg ik de beschrijving van een aantal toepassingen van digitale technologie en de beoordeling daarvan aan de hand van relevante ethische principes.

In aflevering 12 kwamen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie. De  ethische principes uit aflevering 9, die ook in deze aflevering worden gebruikt zijn: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen. Deze zijn ontleed aan het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017)[1].

4. Immersieve technologie (augmented en virtual reality)

Augmented reality voegt informatie toe aan onze waarneming. De oudste voorbeelden daarvan zijn berichten die piloten van supersnelle gevechtsvliegtuigen op hun bril konden lezen, zodat ze hun ‘target’ niet uit het zicht zouden verliezen. De ongetwijfeld meest populaire toepassing is het spel Pokémon Go.  Aanvullende informatie via het beeldscherm van de smartphone is ook vaak beschikbaar bij het bezoek aan vele ‘bezienswaardigheden’. De roemruchte Google glasses was een uitgelezen middel voor dit doel, maar vanwege het evidente risico op schending van de privacy is aan de toepassing hiervan al snel een einde gekomen. Voor bepaalde groepen, bijvoorbeeld slechthorenden is dit jammer. 

Virtual reality gaat veel verder. In dit geval wordt onze zintuiglijke waarneming vervangen door beelden van een kunstmatige wereld. Hiervoor is een speciale bril nodig, zoals de Oculus rift.  Toepassingen vinden hun weg vooral via gaming. Maar het is ook mogelijk om met deze set driedimensionale interieurs van woningen te tonen of wandelingen door nieuw te bouwen wijken mogelijk te maken. 

Het metaversum

Virtual reality verplaatst je naar het metaversum wat voor het eerst is beschreven door Neil Stephenson in diens dystopische boek Snow Crash in 1992. Naarmate de kracht van computers toenam, kreeg de idee van het metaversum nieuwe impulsen en recentelijk kondigde Marc Zuckerberg dan ook aan dat het zijn nieuwe bedrijf Meta Platforms, Facebook geleidelijk gaat veranderen in een volledige digitale wereld. Deze dompelt de gebruikers onder in de meest uiteenlopende ervaringen, die deze deels zelf oproept, zoals communiceren met een levensechte avatar van een (on)bekende, een live-concert bijwonen, met naar de disco gaan en daar (on)bekenden ontmoeten en uiteraard ook winkelbezoek, want het blijft een medium om aan te verdienen. 

Nog pas kort tevoren had Microsoft ook al bekend gemaakt zijn operating system (Windows), webservers (Azure), communicatienetwerken (Teams en Linkedin) hardware (HoloLens), entertainment (Xbox) en IP (Minecraft) samen te gaan brengen in een virtuele realiteit[2]. De recente aankoop van gameproducent Activision Blizzard, producent van de Call of Duty-videogames voor € 60 miljard past in dit beleid en wijst erop dat het bedrijd met zijn versie van de metaverse heel wat denkt te gaan verdienen.

Bij de te verwachte machtsstrijd tussen de titanen, zal waarschijnlijk ook Amazon zich voegen en de virtuele mall van en voor ieders dromen bouwen. Het is nog maar de vraag of een jongere minder consumptieverslaafde generatie wel zit te wachten op een volledige artificiële wereld. Ik hoop van niet.

Privacy

De risico’s van augmented reality zijn vanaf het begin breed uitgemeten. Voor onderzoeksdoelen had Google bijvoorbeeld het recht gekregen om de bewegingen van de ogen van mensen die Google glasses droegen op afstand te volgen. Voor het overige geldt dat niet alleen overheden en bedrijven mensen zullen bespieden, maar vooral mensen elkaar. Auteursrechtelijk is interessant wie de eigenaar is van de beelden van je avatar.

Veiligheid

Al na korte tijd krijgen degenen die zich door het metaversum bewegen evenwichtsproblemen. Mogelijk erger is dat de kans op verslaving groot is. 

Menselijke waardigheid

Het gevaar is aanwezig dat mensen die veelvuldig in imaginaire werelden functioneren nep en echt niet meer van elkaar te onderscheiden en van zichzelf vervreemden in de ‘echte’ wereld en de sociale vaardigheid verliezen die daarin noodzakelijk is.

Machtsverhoudingen

Big Tech krijgt nog meer middelen in handen om onze voorkeuren te analyseren en ons te beïnvloeden[3], ook door deep-fakes, waarmee bestaande personen levensecht geïmiteerd kunnen worden. Dat roept vragen op over de risico’s die burgers lopen, en over nog grotere rol van bedrijven die immersieve technologie aanbieden.

5. Blockchain

Blockchain maakt het mogelijk transacties (van geld, waardepapieren, contracten en voorwerpen) vast te leggen zonder bemiddeling van een daartoe gerechtigde instantie (overheid, werkgever, bank, notaris)[4]. De eerste versie van blockchain was de bitcoin, eerst alleen bedoeld voor financiële transacties. Tegenwoordig bestaan er honderden varianten, waarvan Ethereum de meest gebruikte is. De essentie van bockchain is dat de database van alle transacties, de ledger, op ieders computer opgeslagen wordt en dus toegankelijk is voor elke gebruiker. Miners zien erop toe dat een cryptomunt maar voor een transactie wordt gebruikt of dat een contract achteraf niet door een van de betrokken partijen wordt veranderd, overigens zonder te weten wie die gebruikers zijn. Zodra de meerderheid van de miners een reeks transacties heeft goedgekeurd, vormen deze samen een niet meer te veranderen blok. Miners zijn erop gebrand blokken goed te keuren, want degene waarvan achteraf blijkt dit als eerste te hebben gedaan, ontvangt een aanzienlijke vergoeding in cryptocurrencyMining kost de nodige tijd en vereist vooral gigantisch veel rekenkracht en dus energie. Er wordt naarstig gezocht naar alternatieve methoden, zoals een methode waar het vooral om de reputatie van de miner gaat. 

Blockchain komt voort uit streven naar radicale decentralisatie en vermindering van de macht van staten, banken[5]en bedrijven. Dat pakt in de praktijk anders uit. Het zijn vooral overheden[6] en grote bedrijven in de VS, Rusland[7], China[8], Zuid-Korea en in Nederland bijvoorbeeld Albert Heijn[9], die voor een gestage opmars zorgen.

Als middel voor veilige opslag van transacties en het vastleggen van onderlinge verplichtingen, zoals in het geval van digitale autonome organisaties, heeft blockchain meer potenties dan als cryptocurrency. Absolute voorwaarde is het vinden van een alternatief voor het ongehoord hoge energiegebruik.

Privacy

Blockchain is voortgekomen uit het streven te ontsnappen van de alomtegenwoordige meekijkende ondernemingen en staat. Vandaar ook dat dubieuze transacties bij voorkeur met cryptocurrency worden afgehandeld. Volledige anonimiteit is er niet, omdat cryptocurrency geregeld moet worden omgewisseld in officieel geld en dat zwakke punt weten hackers dan ook te vinden.

Autonomie

Wellicht komt in blockchain meer dan in welk ander systeem menselijke autonomie tot zijn recht. Daarvoor is het wel nodig de werking goed te kennen. Dit geldt eens te meer als er sprake is van niet-financiële transacties.

Veiligheid

Risico’s zijn er zeker: Op het moment dat een miner meer dan 50% van de computercapaciteit in bezit heeft, kan deze het systeem volledig corrumperen.  Deze situatie is niet denkbeeldig.  In 2019 waren er twee Chinese miners die samen meer dan de helpt van de computercapaciteit bezaten. 

Machtsverhoudingen

Over de positie van miners is niet veel bekend.  Er is een tendens naar een steeds verdergaande concentratie, die gevaren in zich heeft over de duurzaamheid van het systeem.  Naarmate de concentratie toeneemt, zal het bezit aan cryptocurrency ook steeds schever worden. Het zijn immers de miners die voor de uitbreiding van de beschikbare hoeveelheid geld zorgen. 

6. Digitale platformen

Bedrijven als Amazon, Uber en Airbnb en op kleine schaal Bol.com vertegenwoordigen een nieuwe vorm van economische activiteit die verstrekkende gevolgen heeft voor andere bedrijven en de inrichting van de ruimte. Zij bestaan in essentie uit digitale platformen waarop ze aanbieders en consumenten bijeenbrengen. 

Stel je voor, je begeeft je in de virtuele paskamer van Amazon. Je zit op een stoel en een reeks modellen komt voorbij die allen precieus jouw figuur en maat hebben en misschien ook wel je uiterlijk. Je kunt eindeloos variëren wat ze aan hebben, tot dat je de outfit van je dromen het gevonden of samengesteld. Dit kan gelden voor alle denkbare aankopen, tot auto’s, inclusief rijsimulator toe. Met een druk op de knop is die besteld en een paar uur later dropt de drone je bestelling voor de deur.

In digitale platformen komt een reeks toepassingen van digitale technologie samen, zoals Internet-of-Things, robotica, immersieve technologie, kunstmatige intelligentie en ook blockchain, om zicht te houden op de immense stromen van goederen en diensten.

Privacy

In de wereld van de platformen telt privacy niet of nauwelijks. Bedrijven willen zo veel mogelijk aan je verdienen en verzamelen daarom massa’s informatie over je gedrag, voorkeuren en uitgaven. Dit in ruil voor gemak, en gratis gadgets als navigatie, zoekmachines en email. 

Autonomie

Platformen zijn behalve geldmachines ook een onderdeel van de deeleconomie. Ze maken directe transacties tussen mensen mogelijk en zorgen, zoals in het geval van Airbnb voor een ongekend groot aanbod van accommodaties waaruit vrij valt te kiezen. 

Rechtvaardigheid

Medewerkers in platformbedrijven hebben veelal slechte arbeidsvoorwaarden, denk bijvoorbeeld aan de chauffeurs van Uber die de hele dag gevolgd, gecontroleerd en beoordeeld worden. In distributiecentra zijn alle nog resterende menselijke handelingen, tot op de minuut voorgeschreven. 

In deze bedrijven ontstaat een grote kloof tussen de kleine binnencirkel van managers en technici en de grote buitencirkel van ‘loonwerkers’ waar het bedrijf verder niets mee heeft en zij ook niet met het bedrijf.

Machtsverhoudingen

Deze bedrijven dragen ook bij aan de vergroting van de kloof tussen arm en rijk; de ongekend grote verdiensten gaan naar het topmanagement en de aandeelhouders en als het kan wordt de belasting ontweken.

Platformen als Airbnb maken op grote schaal concurrentievervalsing mogelijk; de accommodaties die zij verhuren boeven niet te voldoen aan de regels op het gebied van veiligheid, belastingheffing die gelden voor reguliere bedrijven.

De groei van platforms die monopolistische vormen heeft aangenomen is de belangrijke oorzaak van de ontwrichting van de steden, zonder zij bijdragen aan de kosten die dat voor de gemeenschap met zich meebrengt.

Terug naar gouvernance

Ik heb in dit en het voorgaande artikel een kader uitgewerkt voor maatschappelijk verantwoord omgaan met digitalisering. Daarin ontwikkelden zich twee denklijnen, die van de waarde van digitale technologie en die van het ethisch gebruik ervan.

De waarde van digitale technologie

Digitale technologie moet vorm en inhoud krijgen als een van de instrumenten waarmee een stad werkt aan een ecologisch en sociaal duurzame toekomst. Om te helpen verwoorden wat zo’n toekomst inhoudt, introduceerde ik Kate Raworth’ denkbeelden over de donuteconomie. Het ontwerpen van zo’n toekomstbeeld moet een breed gedragen democratisch proces zijn, waarin burgers de oplossing van hun eigen problemen mede toetsen aan de duurzame welvaart van toekomstige generaties en die van mensen elders op de wereld. 

De belangrijkste vraag als het om (digitale) technologie gaat is dus ‘welke (digitaal) technologische hulpmiddelen dragen bij aan de realisering van een in sociaal en ecologisch opzicht duurzame stad‘.

Het ethisch gebruik van technologie

In de wereld waarin we de duurzame stad van de toekomst realiseren ontwikkelt digitale technologie zich snel, vooral onder invloed van commerciële en politieke belangen. Steden worden met deze technologieën geconfronteerd door middel van een krachtige smart city technology marketing.

De belangrijkste vraag die steden zich in dit verband moeten stellen is ‘Hoe beoordelen we beschikbare technologieën vanuit een ethisch perspectief’.

In de besturing van steden komen beide denklijnen bij elkaar: Welke (digitale) technologie help ons verder op weg naar een duurzame toekomst en wat is het ethische gehalte van technologieën die in principe daarbij bruikbaar zijn. Samen kunnen deze leiden tot de keuze, vormgeving en toepassing van digitale technieken als onderdeel van de realisering van een visie op een ecologisch en sociaal duurzame toekomst van de stad.

In de volgende twee artikelen onderzoek ik hoe er in de praktijk wordt omgegaan met ethische principes. In het eerste artikel zetten we Amsterdam voor het voetlicht en daarna bekijken we hoe een aantal gemeenten bezig is op verantwoorde wijze te digitaliseren in het kader van Agenda stad.


[1] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[2] https://is.gd/gIX6qH

[3] https://is.gd/yBkiXi

[4] https://www.archdaily.com/973814/bitcoin-nfts-and-the-metaverse-reflecting-on-the-year-of-digital-real-estate-and-design?utm_medium=email&utm_source=ArchDaily%20List&kth=

[5] https://blogs.worldbank.org/sustainablecities/top-7-disruptive-technologies-cities

[6] https://www3.weforum.org/docs/Top20_Global_Data_Stories_report_2017.pdf

[7] https://ict.moscow/en/projects/blockchain/

[8] https://cointelegraph.com/news/chinese-city-seeks-to-power-urban-governance-and-more-using-blockchain-tech

[9] https://www.capgemini.com/nl-nl/client-story/innovatie-in-de-praktijk-blockchain-technologie-in-de-supply-chain-van-albert-heijn/

Ethische principes en toepassingen van digitale technologie: Internet of things, robotica en biometrie

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

Deze technieken leggen wederkerige verbindingen (cybernetische loops) tussen de fysieke en de digitale wereld[1]. Ik geef van elk van deze technieken een korte beschrijving, gevolgd door een aantal opmerkingen over hun ethische aspecten: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen, voor zover relevant. Hierbij is gebruik gemaakt van het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017[2].

1. Internet of Things

Het Internet-of-Things verbindt objecten via sensoren met apparaten die deze gegevens (op afstand) verzamelen en bewerken. De stappenteller op de smartphone is een voorbeeld van de verzameling van gegevens van mensen. Dit nog maar het begin, op termijn kunnen de meest uiteenlopende gegevens van ieders gezondheid worden verzameld en opgeslagen. Vooralsnog gaat het nog vooral om gegevens van objecten. Een bekend voorbeeld is de ‘slimme meter’. Steeds meer huishoudelijke apparatuur is met het Internet verbonden en geeft gebruiksgegevens door. Samsung smarttelevisies hadden lange tijd een ingebouwde televisiecamera en microfoon waarmee het gedrag van de kijkers geobserveerd kon worden. Ook de roemruchte digitale huisgenoten als Alexa en Siri zijn technisch in staat om alles wat er in hun omgeving wordt gezegd aan hun bazen door te geven.

Machines, maar ook treinen en vrachtauto’s zitten vol sensoren waarmee functioneren kan worden gemonitord. Het verkeer kan met sensoren in en boven de weg worden gevolgd en uitlaatgassen en fijnstof kan worden gemeten. Op veel plaatsen in de wereld kunnen de gangen van mensen met massa’s camera’s ’s worden nagegaan. Een eenvoudige handtekening van Amerikaanse eigenaars van een Ring-deurbel volstaat om alle gegevens van wie zich aan de voordeur meldt door te geven aan de politie, die deze met gezichtsherkenningsapparatuur kan analyseren. Orwell had het niet kunnen bedenken.

Privacy

Internet of Things maakt het mogelijk om ieder persoon altijd te volgen, binnen- en buiten de woning. Als het om verzamelen van gegevens in huis gaat, is het grootste probleem onbekendheid en gebrek aan transparantie en in verband hiermee groeiend wantrouwen. Digitaal huisrecht kan een oplossing zijn; dit houdt in dat geen enkel apparaat gegevens verzamelt, tenzij hiervoor expliciet toestemming wordt gegeven.

Een betere oplossing is dat fabrikanten zich bezinnen op de vraag waarom ze al deze gegevens willen verzamelen.

Zodra iemand het huis verlaat, wordt het lastiger. In veel Nederlandse steden is ‘tracking’ van mobiele telefoons inmiddels verboden, maar elders is een scala van middelen beschikbaar om ieders (koop)gedrag te registreren. De wetgeving op dit punt in Europa wordt gelukkig steeds stringenter. 

Autonomie

Het steeds maar toevoegen van meer ‘gadges’ aan apparaten en die als ‘slim’ verkopen, heeft uiteindelijk maar één doel, mensen verleiden tot aanschaf ervan ook als eerdere versies nog lang niet zijn versleten. De verkoop is omgeven door al van ‘persuasieve’ technieken die de vrije wil van mensen beïnvloeden. Facebook beïnvloedt heel behendig onze gemoedstoestand door de selectie van berichten.

Media, reclamemakers en bedrijven zouden zich moeten bezinnen over de wenselijkheid om in dit opzicht een aantal stappen terug te doen. Voor zowel mens als milieu.

Veiligheid

Sensoren in huishoudelijke apparaten zijn meestal slecht beveiligd en geven internetcriminelen makkelijk toegang tot alle andere apparaten. Voor degenen die hun apparaten centraal willen bedienen en ook dat deze onderling communiceren, is een gesloten net – een vorm van ‘edge computing’ – een oplossing. De eigenaar kan dan zelf besluiten welke gegevens ‘naar buiten’ mogen, bijvoorbeeld voor alarmering of het balanceren van het elektriciteitsnetwerk. Daarop kom ik in een latere aflevering terug. 

Controle

Nu al ervaren mensen die bijvoorbeeld de verlichting van hun huis via een app regelen, problemen als de batterij van de telefoon leeg is. De ervaring leert bovendien dat het instellen en werkend houden van een zo’n draadloos systeem niet eenvoudig en dat er vaak ongewenste interferenties optreden. Eenvoudig een lamp verwisselen is allang niet meer voldoende op dit soort problemen op te lossen.  Voor veel mensen glipt de controle over hun eigen huis uit handen.

Machtsverhoudingen

De digitale component van veel apparaten en met name de afhankelijkheid van goed ingestelde software maakt mensen steeds afhankelijker van leveranciers, die overigens steeds minder in staat zijn om aan de daarmee samenhangende vraag naar service en ondersteuning te voldoen.

2. Robotica

Robotica doet met grote snelheid zijn intrede. In vrijwel elke hartoperatie wordt robotica gebruikt om de bewegingen van de chirurg preciezer te maken en sommige operaties worden (bijna) geheel automatisch uitgevoerd. Robots worden steeds meer ingezet in de zorg, ter ondersteuning of vervanging van zorgverleners. Denk ook aan robots die 3D kunnen waarnemen door de riolering ‘kruipen’. Ze helpen daar lekkages oplossen of voorkomen[3] of ze nemen monsters om besmettingshaarden op te sporen[4]. Leeds wil op die manier in 2035 de eerste ‘zichzelf reparerende stad’ zijn[5]. ‘Zelfsturende’ auto’s, of wat veel vaker voorkomt, (metro)treinen zijn andere voorbeelden. Dat de meeste magazijnen en fabrieken vol staan met robots behoeft geen toelichting. In huishouders doen ze ook hun intrede, denk aan bijvoorbeeld aan de stofzuiger of de grasmaaier. Robots geven grote hoeveelheden informatie door en zijn daarmee essentiële onderdelen van het Internet of Things.

Privacy

Robots staan vaak ‘by design’ op gespannen voet met de privacy. Dat geldt voor zorgrobots in het bijzonder. Dergelijke apparaten kunnen waardevol zijn, als patiënten en/of hun naasten zich maar voldoende bewust zijn van de impact ervan. Essentieel is transparantie en dat deze apparaten alleen gegevens verzamelen en verzenden voor het doel waarvoor ze bestemd zijn. 

Autonomie

Veel mensen vinden ‘achteruit inparkeren’ een probleem en laten dat graag aan robotica over.  Daarmee geven ze tegelijkertijd een deel van hun autonome vaardigheid als bestuurder af.  De vaardigheid om achteruit in te parkeren is namelijk ook in diverse andere situaties vereist. Dit geldt in nog veel sterkere mate bij vaardigheden die ‘zelfsturende’ auto’s van mensen overnemen.

Bestuurders zullen steeds vaker in situaties terechtkomen waarin ze machteloos staan.

Tegelijkertijd is robotica een uitweg in situaties waarin mensen misbruik maken van hun zelfbeschikkingsrecht, bijvoorbeeld door te hard te rijden, wereldwijd en van de grootste oorzaken van (dodelijke) ongevallen. Een verplichte snelheidsbegrenzer bespaart onnoemelijk veel leed, maar zal door de ‘king of the road’ niet met gejuich worden ontvangen.

Veiligheid

Her overlaten van handelingen aan robots veronderstelt dat veiligheid gegarandeerd is.  Dat zal bij robot-grasmaaiers geen probleem zijn, maar is dat bij ‘zelfsturende auto’s’ vooralsnog wel.  Daarbij komt het risico van het hacken van door software gestuurde apparaten. 

Menselijke waardigheid

Robots kunnen saai, ‘geestdodend’ gevaarlijk en smerig werk overnemen, maar ook werk waarbij een hoge mate van precisie is gewenst. Denk aan de fabricage van computerchips.  De grootste problemen liggen op het potentieel overnemen van werk, wat niet alleen implicaties voor de werkgelegenheid heeft, maar ook de kwaliteit van ons leven ernstig kan beïnvloeden. In de zorg kunnen mensen zich door het wegvallen van menselijk contact ‘verdingelijkt’ gaan voelen. Het dagelijks contact met een zorgmedewerker is voor velen een belangrijk instrument tegen de eenzaamheid.

3. Biometrie

Biometrie omvat alle technieken om mensen te identificeren aan de hand van lichaamskermerken: iris, vingerafdruk, stem, hartritme, schrijfstijl en emotie. Vooral van hun combinatie wordt veel verwacht, hetgeen in het paspoort al in toenemende mate gebeurt. 

Aan beveiliging valt in deze wereld niet te ontkomen, dus biometrie kan – zeker als verschillende lichaamskenmerken worden gebruikt – een goed middel zijn om identiteitsfraude tegen te gaan. 

De toepassing van gezichtsherkenning in de VS neemt hand over hand toe. In vliegvelden kunnen mensen er vaak voor kiezen om het beveiligingspoortje ‘automatisch; te doen openen of in de rij voor de security te gaan staan. Incode, een startup in San Francisco meldt dat zijn digitale identiteitsherkenning apparatuur in 2021 al in 140 miljoen gevallen is gebruikt, vier keer zo veel als in alle jaren daarvoor samen[6].

Privacy

In de EU is de privacy van ingezetenen wettelijk goed geregeld. Het gebruik van deze gegevens is eveneens in de wet vastgelegd. Desondanks zijn ieders persoonsgegevens op talloze plaatsen opgeslagen.

Vooral gezichtsherkenning roept veel verzet op en wordt in de VS steeds vaker verboden in de publieke ruimte. Hiervan is ook sprake in Nederland[7]

Biometrische technologie kan ook privacybeschermend zijn, door minimale informatie te verzamelen: Iemand kan bijvoorbeeld toegang krijgen op basis van een irisscan, waarbij de computer alleen controleert of de desbetreffende persoon een machtiging heeft, zonder naam en andere gegevens te registreren. 

Internetcriminelen worden steeds handiger on het bemachtigen van persoonlijke gegevens. Vooral kleinere organisaties en sportclubs zijn een doelwit vanwege hun vaak matige beveiliging. Als het ook lukt om documenten als een identiteitskaart te bemachtigen, dan ligt identiteitsfraude op de loer.

Veiligheid

Op zich draagt het combineren van verschillende technieken om iemand te identificeren bij aan de veiligheid van middelen die bedoeld zijn om iemands identiteit vast te stellen, zoals paspoorten, die steeds vaker ook een irisscan bevatten. Hiermee wordt ook het namaken van identiteitsbewijzen lastiger. De meeste documenten, bijvoorbeeld rijbewijzen en pinpassen kunnen nu nog betrekkelijk makkelijk worden nagemaakt of (tijdelijk) gebruikt nadat ze zijn gestolen, waardoor identiteitsfraude nu nog betrekkelijk makkelijk is.

Menselijke waardigheid

Het verzet tegen gezichtsherkenning heeft niet alleen te maken met de evidente gebreken; de technologie zal de komende jaren ongetwijfeld verder verbeteren. Het gevaar zit voor een groot deel in de onderliggende software, waarin bias nog lastig uit te bannen is. 

Er is als het om menselijke waardigheid gaat, heeft biometrie ook een positieve kant.

Wereldwijd zijn miljarden mensen niet in staat om aan te tonen wie ze zijn. Het Indiase Aadhar-programma heeft naar schatting aan 1,1 miljard mensen een geaccepteerde vorm van digitale identiteit verstrekt, gebaseerd op biometrische gegevens. Het effect is dat financiële inclusie met name van vrouwen aanzienlijk is toegenomen. 

Rechtvaardigheid

In veel situaties waarin biometrische identificatie is toegepast, ontstaat het probleem van omgekeerde bewijslast’. Als er sprake is van persoonsverwisseling, moet het slachtoffer, bewijzen niet de persoon te zijn, die de politie vermoed dat deze is.

Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.Onderstaande link opent een overzicht van alle gepubliceerde en toekomstige artikelen in deze serie. https://www.dropbox.com/s/vnp7b75c1segi4h/Voorlopig%20overzicht%20van%20artikelen.docx?dl=0


[1] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[2] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[3] https://selfrepairingcities.com/2019/11/29/robotic-challenge-2020/

[4] https://qz.com/1923774/covid-19-is-giving-sewage-a-modern-public-health-purpose/

[5] https://www.smartcitiesworld.net/news/how-leeds-could-become-the-worlds-first–self-repairing-city-4925

[6] https://is.gd/7IyGV6

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau%20-%20Zeven_aandachtspunten_voor_%20de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

Ethische principes en kunstmatige intelligentie

In de 11de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie pas ik de ethische principes uit aflevering 9 toe op ontwerp en gebruik van kunstmatige intelligentie.

Hieraan voorafgaand beschrijf ik in het kort wat kunstmatige intelligentie is. Aan bod komen de betekenis van onder andere big data, algoritmen en machineleren. Voor wie er meer van wil weten: Radical technologies van Adam Greenfield (2017) is een zeer leesbare inleiding, ook op technologieën als blockchain, augmented en virtual reality , Internet of Things en robotica, die in de volgende afleveringen aan de orde komen.

Kunstmatige intelligentie

Kunstmatige intelligentie kent waardevolle toepassingen maar ook grove vormen van misbruik.  Waardevol is bijvoorbeeld het gebruik van kunstmatige intelligentie bij de indeling van huizen en buurten, rekening houdend met gebruiksgemak, uitzicht en zonnelicht met AI-technologie van Spacemaker[1] of het maten van lawaai in het centrum van Genk met behulp van Nokia’s Scene Analytics-technologie[2]. Verwerpelijk is het discrimineren van bevolkingsgroepen door de politie in de VS met programma’s als PredPol en de manier waarop de Nederlandse overheid met de toekenning van toelagen is omgegaan.

Algoritmen

Dankzij kunstmatige intelligentie kan een computer zelfstandig patronen herkennen en op grond daarvan ‘beslissingen’ nemen. Op zichzelf is herkennen van patronen niets nieuws Dat kon allang met daartoe geschreven computerprogramma’s. Om bijvoorbeeld afbeeldingen van honden en katten te onderscheiden maakte een programmeur een beschrijving in ‘als….dan’-vorm van alle relevante kenmerken van honden en katten met behulp waarvan kon een computer beide diersoorten onderscheiden.  Het aantal fouten hing af van de gedetailleerdheid van het programma. Als het om meer soorten dieren gaat en om dieren die vanuit verschillende hoeken zijn gefotografeerd is het maken van zo’n programma erg ingewikkeld. In dat geval kan een computer getraind worden zelf relevante patronen te onderscheiden. In dit geval spreken we van kunstmatige intelligentie. Overigens spelen mensen daarbij nog steeds een belangrijke rol. Deze bestaat in de eerste plaats uit het schrijven van een instructie – een algoritme – en vervolgens uit de samenstelling van een trainingset, een selectie van een grote aantal voorbeelden, bijvoorbeeld van dieren zijn die gelabeld als hond of kat en desnoods leeuw, tijger en meer. De computer gaat vervolgens ‘zelf’ op zoek naar bijbehorende kenmerken.  Als er nog te veel fouten voorkomen, worden nieuwe afbeeldingen toegevoegd. 

Deep learning

De manier waarop de dieren zijn afgebeeld kan eindeloos variëren, waarbij het niet meer zozeer om hun kenmerken gaat, maar om schaduwwerking, beweging, stand van de camera of de aard van de beweging. De grootste uitdaging is om de computer ook daar rekening mee te leren houden. Dat gebeurt door de imitatie van de neurale netwerken. Beeldherkenning gebeurt daarbij net als in onze hersenen dankzij het onderscheiden van lagen, variërend van het onderscheiden van simpele lijnen, patronen, kleuren tot verschillen in scherpte.  Vanwege deze gelaagdheid wordt gesproken van ‘deep learning’. Hierbij is uiteraard sprake van grote datasets en veel rekenkracht, maar het is ook een arbeidsintensief proces.

Zelflerende computers

Leren toepassen van algoritmen onder begeleiding, levert betrouwbare resultaten op en de instructeur kan ook na veel iteraties het resultaat nog steeds verklaren. Maar dat houdt op als er verschillende processen tegelijkertijd spelen, bijvoorbeeld als dieren elkaar aanvallen, het soms overleven en dan weer niet en de computer moet voorspellen welke dieren onder welke omstandigheden de grootste overlevingskans hebben. Denk ook aan de patronen die de computer van een auto moet kunnen onderscheiden om veilig zonder chauffeur de weg op te kunnen. Vanwege de vrijwel onbeperkte variatie, werkt begeleid leren dan niet meer.

In het geval van onbegeleid leren, wordt de computer gevoed met gegevens van vele miljoenen realistische situaties, in geval van auto’s van verkeerssituaties en de manier waarop de bestuurders daarop reageerden. Hier kan met recht van ‘big data’ en ‘machine leren’ worden gesproken, al worden deze termen vaak ook breder gebruikt.  Zo ‘leert’ de computer van de auto hoe en wanneer deze binnen de rijstroken moet blijven, mag passeren, hoe voetgangers, fietsen of welk ‘object’ dan ook, ontweken kan worden, wat stoptekens zijn en verkeersborden betekenen en welke de daarbij behorende actie is. Tesla’s geven nog steeds al deze gegevens door aan een datacenter, dat er patronen uit destilleert waarmee de ‘autopilots’ van alle Tesla’s geregeld worden geüpdatet.  Op den duur zou elke Tesla, waar ook ter wereld, elk denkbaar patroon moeten herkennen, daar correct nop moeten reageren en zo het hoogst mogelijke niveau van veiligheid kunnen garanderen. Zover is het nog (lang?) niet en Tesla’s ‘autopilot’ mag daarom niet zonder de aanwezigheid van een chauffeur ’in control’ worden gebruikt. Niemand weet op basis van welke criteria de algoritmen van een Tesla werken, uiteraard wel als ze niet werken. 

Zelflerende computers worden ook ingezet als het gaat om de voorspelling van (belasting)fraude, de kans dan bepaalde personen ‘in de fout’ gaan of plaatsen waar op een bepaald moment de kans op een misdaad het grootst is. Maar ook bij de beoordeling van sollicitanten en de toewijzen van woningen.  Voor deze doelen wordt de waarde van kunstmatige intelligentie overschat[3]. In al deze gevallen is de wijze waarop de computer ‘besluiten’ neemt een ‘blackbox’. Mede om die reden is het moeilijk zo niet onmogelijk om achteraf eventuele fouten op te sporen en recht te zetten.  Dit is een van de problemen bij de beruchte toelagenaffaire.

De cybernetische cirkel

Algoritmische besluitvorming is een onderdeel van een nieuwe digitale golf, gekenmerkt door een cybernetische cirkel van meten (data verzamelen), profileren (data analyseren) en interveniëren (toepassen van data). Op zich komen deze aspecten terug in elk besluitvormingsproces, maar daarbij maken de betrokkenen, politici, volksvertegenwoordigers stapsgewijs bewuste keuzen, terwijl nu het hele proces een blackbox is. 

De rol van ethische principes

Ondertussen groeit de bezorgdheid over het negeren van nagenoeg alle ethische principes die in aflevering 9 zijn genoemd, door de toepassing van kunstmatige intelligentie: Schending van de privacy, discriminatie, gebrek aan transparantie en machtsmisbruik met als gevolg groot (deels onbedoeld) leed, risico’s voor de beveiliging van kritieke infrastructuur, afbrokkeling van menselijk denkvermogen en ondermijning van het vertrouwen in de samenleving. Het is daarom noodzakelijk om richtlijnen te formuleren die de toepassing van kunstmatige intelligentie weer in lijn brengen met de genoemde ethische principes. 

Hiertoe is een belangwekkende aanzet gegeven in de publicatie van het Institute of Electric and Electronic Engineers: Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems[4]. Ook het Rathenau instituut[5] heeft in diverse publicaties een aantal richtlijnen gepubliceerd.

De belangrijkste richtlijnen die uit deze en andere publicaties kunnen worden gedestilleerd, zijn:

  1. Verantwoordelijkheid voor de impact van het gebruik van kunstmatige intelligentie leggen bij zowel degenen die besluiten nemen over de toepassing ervan (politiek, leiding van organisatie of bedrijven) als de ontwikkelaars. Deze verantwoordelijkheid betreft zowel de gebruikte systemen als de kwaliteit, nauwkeurigheid, volledigheid en representativiteit van de data(set).
  2. Voorkomen dat ontwerpers (onbewust) hun eigen normen gebruiken bij de instructie van leerprocessen. Teams met een diversiteit aan achtergronden zijn een goed middel om dit te voorkomen.
  3. Kunnen herleiden van ‘beslissingen’ door computersystemen op de gehanteerde algoritmen, de werking daarvan begrijpen en deze kunnen uitleggen.
  4. Wetenschappelijk kunnen onderbouwen van het model dat aan de algoritme en aan de keuze van de data ten grondslag ligt.
  5. Handmatig verifiëren van ‘beslissingen’ die negatief uitpakken voor de betrokkene. 
  6. Uitsluiten van alle vormen van bias in de inhoud van datasets, de toepassing van algoritmen en het hanteren van uitkomsten[6].
  7. Verantwoording afleggen over de wettelijke grondslag van de combinatie van datasets.
  8. Vaststellen of de berekening beoogt valse positieven dan wel valse negatieven te minimaliseren.
  9. Terugkoppelen naar opdrachtgevers door auteurs van algoritmen als deze in het bronnenmateriaal gebrek aan eenduidigheid aantreffen.
  10. Hanteren van de beginselen van proportionaliteit en subsidiariteit, wat betekent van geval tot geval vaststellen of de baten van gebruik van kunstmatige intelligentie opwegen tegen de risico’s[7].
  11. Verbieden van toepassingen van kunstmatige intelligentie die een groot risico vormen voor schending van ethische principes, zoals gezichtsherkenning, persuasieve technieken en deep-fake technieken[8].
  12. Intrekken van wettelijke bepalingen als blijkt dat deze vanwege hun complexiteit of vaagheid niet op transparante wijze gehandhaafd kunnen worden.  

De derde, de vierde en de vijfde richtlijn moeten in samenhang worden gezien.  Ik leg hieronder uit waarom.

De wetenschappelijke fundering van algoritmische besluitvorming

Bij het gebruik van zelflerende computers zijn het de computers zelf die de algoritmen aanpassen en uitbreiden en gegevens uit uiteenlopende datasets combineren.  Het gevolg kan zijn dat de uiteindelijke ‘beslissingen’ die de computer neemt niet uitgelegd kunnen worden. Dit is uitsluitend aanvaardbaar, nadat gebleken is dat deze beslissingen ‘foutloos’ zijn, bijvoorbeeld omdat, in het geval van ‘zelfsturende’ auto’s, deze vele malen veiliger blijken te rijden dan auto’s met chauffeur.

In de toelagen affaire was hier geen sprake van. Daar zou de vijfde richtlijn uitkomst hebben kunnen bieden.  Met behulp van wetenschappelijk ontwerpgericht onderzoek kan worden onderzocht, uit welke stappen en welke regels een beslissingsproces bestaat om te bepalen wie terecht een toelage krijgt en wie eventueel ten onrechte bezwaar maakt tegen de afwijzing van een verzoek. Aan de hand van zo’n beslisboom kan door een steekproef met voldoende omvang de overeenkomst met de ‘beslissingen’ van de computer worden vastgesteld. Als dit inderdaad in nagenoeg alle gevallen zo is, dan mogen de criteria die in de handmatige berekening zijn gehanteerd worden gebruikt om uit te leggen wat zich in de ‘blackbox’ van de computer heeft afgespeeld. Als er veel en grote afwijkingen zijn, dan moet de computerberekening worden verworpen.

Door toepassing van zelflerende algoritmen kunnen onvermoede verbanden worden ontdekt tussen verschijnselen. Dat kan van grote betekenis zijn. Er is dan altijd sprake van statistische relaties en niet van causale.  

Op basis van deze verbanden kunnen geen maatregelen worden gerechtvaardigd, wel kunnen ze vertrekpunt voor verder onderzoek. 

Governance

In de VS is het gebruik van algoritmen inmiddels in een kwaad daglicht komen te staan, vooral door de ongewenste gevolgen van toepassing door de politie, waarover aflevering 16 gaat.  De problemen daarbij gaan veel verder dan het optreden van ‘bias’. De stad New York heeft daarom een algoritme manager aangesteld, die onderzoekt of de gebruikte algoritmen voldoen aan ethische en wettelijke regels. In steeds meer gemeenten vervult een ethische commissie deze rol.

Op bestuurlijk vlak zijn zowel op Europees niveau als binnen Nederland al stappen gezet om uitwassen van algoritmische besluitvorming tegen te gaan.  

De Algemene Verordening Gegevensbescherming (AVG), die is in 2018 in werking getreden is heeft de bescherming van de privacy aanzienlijk verbeterd. In april 2019 publiceerde de Europese High Level Expert Group on AI ethische richtlijnen voor de toepassing van kunstmatige intelligentie In februari 2020 heeft ook de Europese Commissie zulke richtlijnen vastgesteld onder meer in het White Paper On Artificial Intelligence en een AI-verordening. Verder stelde de regering onder meer vast de nationale digitaliseringsstrategie, het Strategisch Actieplan AI en de beleidsbrief AI, mensenrechten en publieke waarden[9].

Ik realiseer me dat het binden van overheden en hun uitvoeringsorganen aan ethische principes koren op de molen is van degenen die deze principes aan de laars lappen. Daarom blijft de zoektocht naar legitieme methoden om misdaad, corruptie en malversaties met behulp van moderne technieken op te sporen, brede steun verdienen.

Er is nog heel wat werk te verzetten om de kracht van kunstmatige intelligentie voor dit doel op gewetensvolle wijze te gebruiken.


[1] https://stadszaken.nl/artikel/3961/rekenkracht-ai-maakt-gebiedsontwikkeling-beter?utm_source=Mailing+Lijst&utm_medium=email&utm_campaign=24-12-2021_Grote+verdeeldheid+over+Omgevingswet

[2] https://www.smartcitiesworld.net/news/belgian-city-uses-artificial-intelligence-to-tackle-noise-pollution-7243?utm_source=newsletter&utm_medium=email&utm_campaign=Weekly%20Newsletter

[3] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[4] https://www.dropbox.com/s/508gjrmdaexj563/2020_029_Digitale_technologie_Eng.docx?dl=0

[5] https://www.dropbox.com/s/hdx3gwjx1rni3on/Rathenau-Grip_op_algoritmische_besluitvorming_overheid_Rathenau_Instituut.pdf?dl=0

[6] https://medium.com/@BloombergCities/the-promise-and-peril-of-algorithms-in-local-government-f1a2964769f2

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau-Zeven_aandachtspunten_voor_de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

[8] https://www.dropbox.com/s/q2zji5s60y989ea/Rathenau-Verantwoord_Innoveren_met_AI_Rathenau_Instituut.pdf?dl=0

[9] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0