Maand: februari 2022

Misbruik kunstmatige intelligentie door de politie in de VS.  Meer dan bias

De 16de aflevering van de reeks ‘Bouwen aan duurzame steden – De bijdrage van digitale technologie’ laat zien wat er kan gebeuren als de kracht van kunstmatige intelligentie op onverantwoordelijke wijze wordt gebruikt.

De misdaadbestrijding in de Verenigde Staten is al jaren het toneel van misbruik van kunstmatige intelligentie. Zoals zal blijken, is dat niet alleen het gevolg van bias. In aflevering 11 liet ik zien waarom kunstmatige intelligentie een wezenlijk nieuwe vorm van het gebruik van computers is. Tot dan toe werden computers geprogrammeerd om bewerkingen uit te voeren, zoals structureren van gegevens en nemen van beslissingen. In het geval van kunstmatige intelligentie worden ze daartoe getraind[1]. Het blijven mensen die de instructies (algoritmen) ontwerpen en er verantwoordelijk voor zijn voor het resultaat, al is de manier waarop de computer de berekeningen uitvoert steeds vaker een ‘blackbox’. 

Toepassingen van kunstmatige intelligentie bij de politie

Ervaren rechercheurs zijn van oudsher getraind om de ‘modus operandi’ van misdaden te vergelijken om zo daders op het spoor te komen. Vanwege het arbeidsintensieve karakter van de handmatige uitvoering daarvan, rees al vlug de vraag of computers daarbij behulpzaam konden zijn. Een eerste poging daartoe in 2012 in samenwerking met Het Massachusetts Institute of Technology resulteerde in het groeperen van misdaden uit het verleden tot clusters waarvan de kans groot was dat deze door dezelfde dader(s) begaan zijn. Bij het maken van de algoritme gold de intuïtie van ervaren politiemensen als vertrekpunt. Het resultaat is dat soms kon worden voorspeld waar en wanneer een inbreker mogelijk zou kunnen toeslaan, wat tot extra toezicht en een arrestatie leidde. 

Deze eerste pogingen werden al snel verfijnd en opgepakt door commerciële bedrijven.  De twee meest gebruikte technieken die eruit resulteerden zijn voorspellend politiewerk (PredPol) en gezichtsherkenning.

In het geval van voorspellend politiewerk krijgen patrouilles aanwijzingen in welke wijk of zelfs straat ze op een gegeven moment moeten patrouilleren omdat berekend is dat de kans op misdaden (vandalisme, inbraken, geweldpleging) dan het grootst is. Iedereen die zich ‘verdacht’ gedraagt loopt dan de kans te worden aangehouden.  Gezichtsherkenning speelt daarbij een belangrijke rol. 

Zowel voorspellend politiewerk als gezichtsherkenning zijn gebaseerd op een ‘leerset’ van tienduizenden ‘verdachte’ personen. Op een gegeven moment beschikte de politie in New York over een database van 42.000 personen. 66% daarvan was zwart, 31,7% Latino en slechts 1% was blank. Deze samenstelling heeft alles te maken met de werkwijze van de politie.  Ofschoon drugsgebruik in steden in de VS in alle wijken voorkomt, richt de politie op basis van PredPol en soortgelijke systemen der aandacht op enkele wijken. Het is dan niet verwonderlijk dat daar dan ook de meeste aan drugs gerelateerde misdaden worden gerapporteerd en als gevolg daarvan de samenstelling van de database nog schever wordt.

In deze gevallen is ‘bias’ de oorzaak van het onethische effect van de toepassing van kunstmatige intelligentie.  Algoritmes weerspiegelen altijd de aannames, zienswijzen en waarden van hun makers. Ze voorspellen geen toekomst, maar zorgen ervoor dat het verleden wordt gereproduceerd.  Dit geldt overigens ook voor toepassingen buiten de politie[2].  De St. George Hospital Medical School in Londen heeft minstens een decennium lang buitenproportioneel veel blanke mannen in dienst genomen, omdat de leerset een afspiegeling was van de zittende staf. Ook het bekritiseerde Nederlandse Risico Indicatiesysteem gebruikt historische data over onder andere boetes, schulden, uitkeringen, onderwijs en inburgering om effectiever te zoeken naar mensen die uitkeringen of toeslagen misbruiken[3]. Dit is op zich niet verwerpelijk maar zou nooit mogen leiden tot het ‘automatisch’ beschuldigen zonder nader onderzoek en het uitsluiten van minder voor de hand liggende personen[4].

Het simpele feit fat de politie buiten proportioneel aanwezig is in vermeende hotspots en daar zeer gespitst is op elke vorm van verdacht gedrag, maakt dat het aantal confrontaties met gewelddadige afloop snel is toegenomen. Alleen al in 2017 leidde politieoptreden in de VS tot een ongekend aantal van 1100 slachtoffers, waarvan slechts een beperkt aantal blanken. Bovendien houdt de politie zich al tientallen jaren bezig met raciale profilering. Tussen 2004-2012 heeft de New Yorkse politie meer dan 4,4 miljoen inwoners gecontroleerd. Het leeuwendeel van deze checks resulteerde niet in verdere actie. In ongeveer 83% van de gevallen was de persoon zwart of Latino, hoewel de twee groepen samen goed zijn voor iets meer dan de helft van de bevolking.

Er is hierdoor een groeiend risico – althans in sommige landen waaronder de VS, dat de politie zelf een onevenredige bron van geweld wordt en een organisatie die delen van de bevolking onderdrukt[5]. Voor de meerderheid van de gekleurde burgers in de VS vertegenwoordigt de politie niet ‘het goede’, maar is zij onderdeel geworden van een vijandige staatsmacht[6].

In New York werd in 2017 een gemeentelijke bepaling aangenomen om het gebruik van kunstmatige intelligentie te reguleren, de Public Oversight of Surveillance Technology Act (POST)[7]. In tegenstelling tot vergelijkbare verordeningen in San Francisco en Oakland vereist de wet van New York City alleen dat de politie informatie beschikbaar stelt over de technologie die wordt ingezet.

Het Legal Defence and Educational Fund, een prominente burgerrechten-organisatie in de VS, drong er bij het stadsbestuur van New York op aan het gebruik van gegevens te verbieden die beschikbaar zijn gekomen ten gevolge van een discriminerend of bevooroordeeld handhavingsbeleid[8]. Deze wens is in juni 2019 ingewilligd en dit leidde ertoe dat het aantal personen dat is opgenomen in de database van 42.000 is teruggebracht naar 18.000. Het betrof alle personen die zonder concrete verdenking in het systeem waren opgenomen[9].

San Francisco, Portland en een reeks andere steden zijn een paar stappen verder gegaan en zij hebben het gebruik van gezichtsherkenningstechnologie door de politie en andere openbare instanties verbood[10]. Experts erkennen dat de kunstmatige intelligentie die aan gezichtsherkenningssystemen ten grondslag ligt nog steeds onnauwkeurig is, vooral als het gaat om het identificeren van de niet-blanke bevolking[11].

Voorbij bias

Er is inmiddels de nodige kennis over hoe bias in algoritmen voorkomen kan worden[12], maar in plaats van dat daarmee het probleem wordt opgelost, ontstaat er zicht op een veel dieperliggend probleem. Dit betreft de oorzaken van misdaad zelf en het inzicht dat de politie deze nooit kan wegnemen[13].

Criminaliteit en recidive hangt samen met ongelijkheid, armoede, slechte huisvesting, werkloosheid, alcohol- en drugsgebruik en onbehandelde psychische aandoeningen[14]. Dit zijn dan ook de belangrijkste kenmerken van buurten waar veel criminaliteit voorkomt. Bewoners van deze buurten kunnen hierdoor geen menswaardig leven leiden[15]. Het zijn stressoren die tevens de kwaliteit van de ouder-kindrelatie beïnvloeden: hechtingsproblemen, onvoldoende ouderlijk toezicht, ook op het gebruik van alcohol en drugs, gebrek aan discipline of een overmaat aan autoritair gedrag.  Alles bij elkaar vergroten deze omstandigheden de kans dat jongeren te maken krijgen met criminaliteit en ze verminderen het vooruitzicht op een succesvolle carrière op school en elders.

De ultieme maatregelen om misdaad op langere termijn terug te dringen en veiligheid te verbeteren zijn: voldoende inkomen, adequate huisvesting, betaalbare kinderopvang, vooral voor ‘gebroken gezinnen’ en ongehuwde moeders en ruime mogelijkheden voor onderwijs aan meisjes. Maar ook aandacht voor jongeren die voor het eerst met criminaliteit in aanraking zijn gekomen om hen ervan te weerhouden opnieuw in de fout te gaan. 

Dit lost de problemen op de korte termijn niet op. Een groot deel van degenen die de politie in de VS oppakt is verslaafd aan drugs of alcohol en is psychisch ernstig gestoord, kampt met ernstige problemen in de huiselijke omgeving – voor zover aanwezig – en heeft de hoop op een betere toekomst opgegeven. Vanuit dit inzicht heeft de politie in Johnson County in Kansas al jaren geleden hulp ingeroepen van hulpverleners in plaats van arrestanten meteen in de boeien te slaan. Deze aanpak is succesvol gebleken en trok de aandacht van het Witte Huis ten tijde van de regering van Obama. Lynn Overmann, werkzaam als senior-adviseur in het bureau van de chief technology officer is daarom het Data-Driven Justice initiative gestart. De directe aanleiding was dat de gevangenissen overvol zaten met ernstig gestoorde patiënten. Toevallig beschikte Johnson County over een geïntegreerd datasysteem waarin zowel criminaliteitsgegevens als gegevens over gezondheid zijn opgeslagen. In andere steden worden deze bewaard in onvergelijkbare datasilo’s.  Samen met het University of Chicago Data Science for Social Good Programwerd met kunstmatige intelligentie een analyse gemaakt van een bestand van 127.000 personen om op basis van historische gegevens te achterhalen wie van de betrokkenen de komende maand de grootste kans had om te worden gearresteerd.  Dit niet met de bedoeling om met voorspellende technieken een arrestatie te bespoedigen, maar om hen in plaats daarvan gerichte hulpverlening te bieden. Dit programma werd in een reeks steden opgepakt en in Miami leidde het tot 40% minder arrestaties en het sluiten van een gevangenis. 

Wat leert dit voorbeeld?  De opkomst van kunstmatige intelligentie deed Chris Anderson, hoofdredacteur van het tijdschrift Wire, uitroepen dat deze het einde van de theorie betekent. Hij kon niet meer ongelijk hebben!  Theorie is nooit weggeweest, hooguit verdwenen uit het bewustzijn van degenen die met kunstmatige intelligentie werken. Ben Green drukt het kernachtig uit.  The assumption is: we predicted crime here and you send in police. But what if you used data and sent in resources? (The smart enough city, p. 78).

Waar het om gaat is de vervanging van het dominante paradigma van het opsporen, berechten en opsluiten van criminelen door het paradigma van het tijdig vinden van potentiële daders en hen de hulp te geven die ze nodig hebben. Dat is nog goedkoper ook, zo blijkt. De noodzaak van het gebruik van kunstmatige intelligentie wordt er niet minder om, maar de training van de computers, inclusief de samenstelling van de trainingssets verandert wezenlijk. Aanbevolen wordt daarom om divers samengestelde teams zo’n trainingsprogramma te laten ontwerpen op basis van wetenschappelijk gefundeerde zienswijzen op het onderliggende probleem en deze taak niet bij de politie zelf te beleggen.

Dit artikel is een beknopte versie van een eerder artikel: De veilige stad[16] (september 2019), aangevuld met gegevens uit hoofdstuk 4 Machine learning’s social and political foundations uit het boek The smart enough city van Ben Green (2020).

[1] https://www.technologyreview.com/2021/10/22/1037179/ai-reinventing-computers/?truid=&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=&utm_content=10-27-2021&mc_cid=fb6d84b8ae&mc_eid=fdb8891aed

[2] https://www.verdict.co.uk/ethnic-data-bias/

[3] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[4] https://www.dropbox.com/s/hdx3gwjx1rni3on/Rathenau-grip_op_algoritmische_besluitvorming_overheid_Rathenau_Instituut.pdf?dl=0

[5] https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[6] https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[7] https://en.wikipedia.org/wiki/Police_surveillance_in_New_York_City#Governance_/_Policy

[8] https://web.archive.org/web/20190608190638/https://www1.nyc.gov/assets/adstaskforce/downloads/pdf/ADS-Public-Forum-Comments-NAACP-LDF.pdf

[9] http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

[10] https://www.sfchronicle.com/politics/article/San-Francisco-bans-city-use-of-facial-recognition-13845370.php?psid=4m7j0

[11] http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

[12] https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e.pdf?utm_medium=undefined&utm_source=undefined&utm_campaign=undefined&utm_content=undefined&utm_term=undefined

[13] https://www.bocsar.nsw.gov.au/Documents/CJB/cjb54.pdf

[14] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3969807/

[15] https://medium.com/@bikomandelagray/when-poverty-becomes-criminality-4c712ac1334e

[16] https://hmjvandenbosch.com/2019/09/

Agenda stad: Vormgeven aan samenwerking tussen gemeenten

De 15de aflevering van de reeks ’Bouwen aan duurzame steden – De bijdrage van digitale technologie’ gaat over hoe Nederlandse steden samenwerken binnen de City Deals in het project Agenda stad en regio.

De afgelopen jaren is de belangstelling van Nederlandse gemeenten voor digitalisering op stedelijk niveau toegenomen, mede door de initiërende rol van de VNG, G40 en de Future City Foundation en van een aantal voorlopers als Apeldoorn, Helmond en Zwolle. In eerste instantie ging het om kleinschalige en geïsoleerde projecten. In deze post ga ik in op twee projecten met als doel bewerken door samenwerking een schaalsprong te bewerkstelligen.

Missiegedreven aanpak

In haar nieuwe boek Mission Economy bepleit Mariana Mazzucato een missie-gedreven aanpak van projecten door de publieke sector op de wijze waarop indertijd een mens op de maan is gebracht. Het gaat daarbij om grootschalige projecten met een hoge mate van complexiteit, zoals de energietransitie, de bouw van betaalbare woningen, het welzijn van het arme deel van de bevolking en natuurbehoud. 

Wat is een missie- gedreven aanpak? Allereerst gaat het om een ambitieuze visie, vervolgens om het slechten van silo’s binnen de overheidsorganisatie, samenwerking met bedrijven en organisaties én samenwerking tussen hogere en lagere overheden[1]. 

Om dit soort samenwerking zou het ook moeten gaat bij de grote transities waarvoor Nederland staat en als onderdeel daarvan digitalisering. Ik wil het hebben over twee projecten die dit soort samenwerking beogen, dan wel beloven. Het eerste, Agenda stad en regio, loopt al enige tijd en daarop zal ik uitgebreid ingaan. Het andere ander is voorgesteld door G40 en komt in kort bestek aan de orde.

Agenda stad en regio en City deals

De eerste City deals zijn in 2016 gestart; er zijn er inmiddels 27, waarvan ongeveer de helft is afgerond. Zes nieuwe staan in de startblokken. Er zijn 125 gemeenten, 8 provincies, 9 ministeries, 10 overige overheidsinstanties, 5 waterschappen, meer dan 100 bedrijven, 30 kennisinstellingen en meer dan 20 overige samenwerkingsverbanden bij betrokken. Ook zijn er 14 partnerschappen met gemeenten buiten Nederland.

Voorbeelden van City deals zijn: Grensoverschrijdend werken en ondernemen, cleantech, voedsel op de stedelijke agenda, lokale weerbaarheid tegen cybercrime, binnenstedelijk bouwen, de inclusieve stad: eenvoudig maatwerk en een slimme stad, zo doe je dat.  Over die laatste zal het hierna vooral gaan.

Binnen een City deal werken de betrokken partijen samen en die samenwerking resulteert in concrete producten, variërend van wetgeving tot beleidsinstrumenten.

De belangrijkste uitgangspunten zijn:

  • Formuleren van een ambitie over de aanpak van een vraagstuk;
  • Stimuleren van schaalvoordelen door samenwerking tussen en/of binnen stedelijke regio’s;
  • Realiseren van samenwerking tussen publieke en private partijen, waaronder de rijksoverheid;
  • Innoveren door het realiseren van nieuwe vormen van probleemaanpak;
  • Opschalen, ook over de landsgrenzen.

City deals werken ook onderling samen en uit hun midden ontstaan nieuwe deals, zoal ‘Slim maatwerk’, een nieuwe City deal die voortkomt uit de bestaande City deals ‘Eenvoudig maatwerk’ en ‘Een slimme stad, zo doe je dat’.

Als ik me moet voorstellen hoe een ‘moonshot’ werkt, waarover ik in het begin van dit artikel had, dan zou Agenda stad en regio wel eens een goed voorbeeld kunnen zijn.

City deal ‘Een slimme stad, zo doe je dat’ 

Het ultieme doel van deze City deal is, zo lezen we in het jaarverslag, inzetten van digitalisering om de grote opgaven waar Europa en Nederland voor staan, aan te pakken zoals armoede, sociale samenhang en onveiligheid en al doende een samenleving te realiseren waarin iedereen in vrijheid kan leven[2]. Bij deze City deal zijn inmiddels 60 partijen betrokken.

Het doel is minstens 12 gemeentelijke processen te veranderen waarmee regio’s, steden en dorpen worden ontworpen, ingericht, beheerd en bestuurd, en de mogelijkheden die digitalisering daarbij biedt optimaal te benutten. Vertrekpunt is de bestaande praktijk om vraagsturing te garanderen. 

In de City deal ‘Een slimme stad, zo doe je dat’ fungeren 14 werkgroepen: De werkgroepen bepalen zelf welke processen ze aanpakken, met dien verstande dat drie gemeenten bereid moeten zijn het gekozen proces te testen. Belangrijk is dat deze processen later ook door andere gemeenten kunnen worden gebruikt. De City deal ‘Een slimme stad, zo doe je dat’ is inmiddels al bijna twee jaar op weg en de aan te pakken processen zijn uitgekristalliseerd. In een enkel geval is de beoogde uitwerking gereed, in de meeste gevallen zijn ze in ontwikkeling. Hier volgt een korte beschrijving van stand van zaken op 15 november 2021. Een levendige beschrijving van ervaringen van deelnemers is te lezen in ROMmagazine, jaargang 39, no. 11.

1. Open urban dataplatform

Dit project ontwikkelt een procedure voor de aanbesteding van een open dataplatform, dat deelbaar en schaalbaar is, waarin privacy en data-autonomie zijn gewaarborgd en dat voldoende garanties bevat voor cybersecuruity. Het resultaat zal een stappenplan zijn, waarin technische vragen (hoe ziet het er uit), juridische vragen (wie is de eigenaar) en financiële vragen (bekostiging) aan de orde komen.

2. Kookboek voor effectieve datastrategie

Dit project ontwikkelt een procedure voor de verwerving en de opslag van data. Er is een ‘datakookboek’ ontwikkeld dat helpt bij de verzameling, opslag en toepassing van data. Het betreft een 11-stappenplan vanaf formulering van een meetbare vraag tot de interpretatie van de meetresultaten. Van groot belang daarbij is zichtbaar maken van de aannames achter de selectie van de data. De bruikbaarheid van de stappen wordt in de praktijk getoetst. Een eerste concept vind je hier[3].

3. Slimme initiatieven toets

Doel van dit project is om initiatiefnemers (burgers, bedrijven) optimaal gebruik te laten maken van beschikbare publieke data, onder andere van data die het digitaal stelsel omgevingswet gaat bieden (DSO). Het DSO zal informatie geven over welke regels op een locatie gelden en uiteindelijk ook over de kwaliteit van de fysieke leefomgeving. Idealiter inventariseert en optimaliseert de slimme initiatieven toets alle de data die voor een plan nodig zijn. Op dit moment wordt onderzocht aan welke soorten (geo)datagebruikers behoefte hebben (‘usercases). 

4. Sensordata en privacy

Het doel van het project is een tool te ontwikkelen waarmee een gemeente een aanbesteding kan doen voor de installatie van sensoren die precies past bij het type gegevens dat verzameld zal worden en die rekening houden met ethische vragen en AVG-regels.

5. Vormgeving van de nieuwe stad

De groeiende beschikbaarheid van uiteenlopende typen (realtime) data, bijvoorbeeld over luchtkwaliteit en geluidsoverlast) heeft implicaties voor de manier waarop steden en wijken ontwikkeld worden. De werkgroep ontwikkelt een canvas dat als een ‘vertaalmachine’ van de beschikbare data werkt. Vertrekpunt daarbij was een matrix met als ingangen de fasen van het ontwerpproces (initiatief-, ontwerp- en realisatiefase) en het gebiedstype (stedelijk, Randstedelijk en buitenstedelijk gebied). Deze matrix moet aangeven welke data op welk moment nodig zijn. De bruikbaarheid zal via pilots worden getest.

6. Iedereen (en alles) een sensor

Burgermeetinitiatieven (via telefoons en met sensoren bevestigd aan fietsen, auto’s en het eigen huis) hebben een dubbel doel: verhogen van de betrokkenheid en verbeteren van het inzicht in de eigen leefomgeving van degenen die de meting uitvoeren. Dit kan tevens bijdragen aan gedragsverandering, zeker als de metingen aansluiten bij behoeften van inwoners en zij ook bij de interpretatie van de meetresultaten worden betrokken. De werkgroep streeft naar een ‘roadmap’ gebaseerd op een aantal ‘usercases’.

7. Lokaal meten: vergelijken van projecten

Lokaal meten van gegevens – zoals in het vorige project gebeurt – kan overbodig zijn als er al gegevens van elders beschikbaar zijn. Deze moeten dan wel vergelijkbaar zijn met de gegevens die worden gezocht en om dit mogelijk te maken is standaardisatie gewenst. Tegelijkertijd kan standaardisatie tot wantrouwen leiden en de prikkel bij bewonersgroepen wegnemen om zelf aan de slag te gaan. Uiteindelijk kiest de werkgroep voor de ontwikkeling van een selfservice portal, dat samen met de Data- en Kennishub Gezond Stedelijk Leven wordt ontwikkeld. Bewonersgroepen kunnen dan zelf kiezen voor deelname aan een gestandaardiseerd project dat hun meetresultaten direct inleest of voor een ‘do-it-yourself’ oplossing. Voor deze laatste optie zal een handleiding worden geschreven.

De laatstnoemde projecten worden in samenwerking met Eurocities, een netwerk van 190 steden in 38 landen, doorontwikkeld onder de naam CitiMeasure – using citizen measurement to create smart, sustainable and inclusive cities.

8. Smart mobility: Op weg naar een veilige en duurzame stad

Digitalisering in het verkeer heeft al een hoge vlucht genomen, bijvoorbeeld door het gebruik van intelligente verkeersinstallaties (ivri’s), maar daarbij geldt meestal de bestaande situatie, bijvoorbeeld privégebruik van auto’s, als uitgangspunt. De vraag is hoe aangesloten kan worden het streven naar een betere leefbaarheid. Hiertoe heeft de werkgroep drie thema’s gekozen: betere bereikbaarheid voor hulpdiensten, deelmobiliteit en stadslogistiek.

Voor hulpdiensten wordt aan een stappenplan gewerkt, waarmee gemeenten de noodzakelijke voorzieningen kunnen realiseren om deze – en eventueel ook andere doelgroepen – altijd ‘groen licht’ te geven.

Als iedereen zich zou verplaatsen met het op dat moment meest geschikte vervoermiddel (variërend van lopen, (deel)fiets of -scooter, ov tot (deel)auto) zou het privéautogebruik aanzienlijk verminderen en de leefbaarheid van steden verbeteren. De werkgroep ontwikkelt een ‘landkaart’ om deelmobiliteit te stimuleren, die antwoord geeft op alle gerelateerde vragen.

Ontwikkelingen rond de stadslogistiek lopen al via andere trajecten. Daarom zal de bijdrage van de werkgroep in dit opzicht beperkt zijn.

9.Een businessmodel voor de smart city

Nieuwe vormen van samenwerking tussen overheden, bedrijfsleven, kennisinstellingen en burgers kunnen tot nieuwe ‘waarden’ voor gebieden leiden, maar ook tot de behoefte om kosten en baten op een andere manier te verdelen. Een nieuw ‘businessmodel’ kan dan nodig zijn. De werkgroep onderzoekt daartoe welke de gevolgen voor bedrijven en organisaties zijn van het aangaan van samenwerkingsverbanden zijn voor de succesvolle ontwikkeling van producten en diensten. Dit in vergelijking met meer traditionele opdrachtgever/opdrachtnemer relaties.

10 Ethical Boards

Binnen de City Deal ‘Een slimme stad, zo doe je dat’ geldt als uitgangspunt dat te ontwikkelen digitale instrumenten zich altijd voegen naar ethische regels. De implicaties van dergelijke regels is vaak situatiebepaald. Daarom stellen gemeenten in binnen- en buitenland een ethische commissie in, waarin deskundigen en bewoners zitting hebben. Ter ondersteuning van het werk daarvan wil de commissie tot een kennisplatform komen met informatie over welke ethische regels het beste bruikbaar zijn voor verschillende digitaliseringsprojecten.

11 Modelverorvering

Lokale overheden willen het gebruik van digitale hulpmiddelen zoals sensoren in de openbare ruimte reguleren. Anita Nijboer, als juriste werkzaam bij bureau Kennedy Van der Laan, ook partner van de City Deal ‘Een slimme stad, zo doe je dat’, heeft hiertoe een modelverordening opgesteld die onder andere in Rotterdam en Helmond is getoetst. Het belangrijkste leereffect is dat afdelingen binnen gemeenten wezenlijk verschillend aankijken tegen de manier waarop dit soort vragen juridisch ingekaderd moeten worden. De werkgroep buigt zich naar aanleiding hiervan over de vraag of een modelverordening een passend antwoord is op het verkrijgen van instemming voor de toepassing van digitale hulpmiddelen.

12 Omgaan met drukte in de stad

Meten van (te grote) drukte in delen van de stad was al lang voor de coronatijd een probleem. Doel is een digitaal model (‘digital twin’) van de stad te ontwikkelen – een zogenaamde crowd safety manager – dat realtime inzicht geeft in voetgangersstromen en -concentraties. Tevens moet zo’n model ook kunnen communiceren met mensen in de stad. Inmiddels wordt een prototype van een dashboard, ontwikkeld door partnerbedrijf Argaleo, gebruikt in ’s-Hertogenbosch, Breda en Den Haag. Dit instrument gebruikt geen persoonsgegevens. Met externe subsidies wordt dit instrument doorontwikkeld op Europees niveau.

G40: Slimme duurzame verstedelijking

In maart 2021 heeft G40, het samenwerkingsorgaan van 40 middelgrote gemeenten, een projectvoorstel gedaan om digitalisering verder in te zetten voor maatschappelijke opgaven en daarmee ook kansen te bieden aan het bedrijfsleven[5].

Het projectplan stelt dat de huidige aanpak van ‘slimme verstedelijking’ en de realisatie van ‘maatschappelijke hoofdopgaven’ geen soelaas biedt. De langdurige decentralisatie, verbreding van opgaven, vernauwing van uitvoeringsgelden en een versplinterd Rijksbeleid hebben tot een belemmerend sturingsgat en financieringstekort bij gemeenten geleid. Hiervoor in de plaats zou een gebundelde aanpak moeten komen, geleid door vertegenwoordigers van gemeenten en rijksoverheid en aan deze laatste wordt een investering van € 1 miljard gevraagd. 

Ik heb me bij het bestuderen van dit plan verbaasd over het feit dat niet of nauwelijks wordt verwezen naar de activiteiten binnen Agenda Stad en regio, de ‘City deals’, waarvan een hiervoor is uitvergroot.

Of heeft de kritiek op de versnipperde aanpak juist betrekking op de werkwijze van Agenda Stad en regio en trekt G40, als een van de deelnemende organisaties, er zijn handen vanaf?

De kracht van Agenda stad zit in zowel de dwarsverbanden tussen stedelijke projecten op het gebied van de grote transitieopgaven en digitalisering, het betrekken van de burgers en de intergemeentelijke samenwerking. Dit is iets om te koesteren.

G40 had mijns inziens veel beter een nieuwe fase van Agenda stad en regio kunnen inluiden, gekenmerkt door schaalvergroting en versnelling van de bevindingen tot nu toe. Deze nieuwe fase zou dan als doel kunnen hebben, bestendiging van de samenhang tussen de thema’s van de afzonderlijke City Deals binnen het kader van de grote transitieopgaven waar Nederland voor staat. In die samenhang zou het thema digitalisering ook het best tot zijn recht komen. De uiteindelijke waarde van digitalisering ligt immers in de bijdrage aan de energietransitie, het terugdringen van verkeersoverlast en de groei van een circulaire economie, om maar een paar voorbeelden te noemen. Dat vereist echter een ander plan.

Ondertussen hoop ik dat we op overzienbare termijn de resultaten van de werkgroepen van City deal ‘Slimme stad, zo doe je dat’ kunnen aanschouwen, samen met die van de andere ‘deals’. 

[1] https://bloombergcities.jhu.edu/news/how-moon-landing-now-inspiring-local-problem-solving

[2] https://agendastad.nl/2-0-voor-de-slimme-stad/?cd=1

[3] http://bit.ly/kookboek-datastrategie

[4] https://dutchmobilityinnovations.com/spaces/1251/toolbox-slimme-stad/toolkit-alles

[5] https://www.dropbox.com/s/gm0gzypmv1tcm7b/G40-Smart-City-Rapport-210321-ONLINE.pdf?dl=0

De digitaliseringsagenda van Amsterdam tegen het licht gehouden

In de 14de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie onderzoek ik het digitaliseringsbeleid van de gemeente Amsterdam vanuit de eerder geformuleerde richtlijnen en ethische principes.

Amsterdam was 25 jaar geleden met de Digitale Stad koploper op het gebied van toegang tot publiek internet. Nu wil de stad vooroplopen als vrije, inclusieve en creatieve digitale stad. Hoe de gemeente dat wil doen, is voor het eerst beschreven in de nota Een digitale stad voor en ván iedereen (2019)[1]. Een jaar later in Agenda digitale stad (2020)[2] zijn de doelen geherformuleerd tot drie speerpunten: (1) verantwoord inzetten van data en technologie (2) tegengaan van digitale ongelijkheid en (3) toegankelijk maken van de dienstlening. Deze drie speerpunten mondden uit in een reeks concrete activiteiten, waarvan in 2021 een eerste evaluatie aan de gemeenteraad is voorgelegd[3]. Aan de drie genoemde speerpunten is toegevoegd ‘Beschermen van digitale rechten’ (zie bovenstaande illustratie voor de vier speerpunten en de 22 activiteiten. Klik hier voor een grotere weergave).

In dit artikel ga ik na hoe het Amsterdamse digitaliseringsbeleid zich verhoudt tot de uitgangspunten en ethische principes voor digitalisering, die ik in de 9de aflevering heb genoemd. Ik heb deze vanwege de overlap heb samengevoegd in één lijst (zie HIER), genaamd ‘Uitgangspunten voor maatschappelijk verantwoord digitaliseringsbeleid’.  Deze lijst bevat acht uitgangspunten, elk voorzien van een niet-uitputtend aantal richtlijnen. Ik ga voor elk van deze uitgangspunten na wat Amsterdam inmiddels heeft verwezenlijkt en waaraan nu wordt gewerkt. De nummers achter de onderstaande uitgangspunten verwijzen een of meer van de 22 bovengenoemde activiteiten. Bij elk uitgangspunt voeg ik een buitenlands voorbeeld toe.

1. Inbedding (1, 4)

De digitale agenda is onderdeel is van een democratisch vastgestelde en samenhangende stedelijke agenda.

  • De gemeente Amsterdam bouwt samen met AMS Institute, de Hogeschool van Amsterdam, Waag, e.a. aan een breed kennisnetwerk op het gebied van verantwoord gebruik van data en digitale technologie. Vanuit dit netwerk zal onderzoek worden gedaan naar de impact van technologie op de stad.

In 2017 ging in de Poolse stad Lublin[4] het project Foresight Lublin 2050 van start om kansen en bedreigingen te definiëren die verband houden met sociaaleconomische, ecologische en technologische ontwikkeling. Het stelt dat beslissingen rond technologie moeten worden genomen uitgaande van de werkelijke behoeften van de bewoners en die moeten betrokken zijn bij het ontwerp en implementeren van beleid.  Als onderdeel van het democratische karakter van de besluitvorming in Lublin, bepalen bewoners de toewijzing van begrotingsmiddelen

2. Gelijkheid, inclusiviteit en sociale impact (16, 17, 19, 20)

Informatie- en communicatietechnologie toegankelijk maken voor iedereen

  • De gemeente Amsterdam wil dat de publieksdiensten toegankelijk, begrijpelijk en bruikbaar zijn voor iedereen, online en offline. Onderzoek onder laag-geletterde doelgroepen heeft aanwijzingen opgeleverd om de dienstverlening toegankelijker te maken. 
  • De Online-uitvoeringsagenda geeft informatie over lopend beleid (volg.amsterdam.nl). Mijn Amsterdam verschaft informatie over projecten op buurtniveau en mogelijkheden om daarin te participeren.
  • Kwetsbare Amsterdammers vinden op een aantal plaatsen hardware om het Internet te gebruiken en ook is op een aantal plaatsen gratis Wi-Fi beschikbaar. Ook zijn er enkele duizenden laptops beschikbaar gesteld.
  • Samen met maatschappelijke partners wordt de ontwikkeling van digitale vaardigheden ondersteund. Zo is met Cybersoek een ‘train-de-trainer’ programma uitgevoerd en de Openbare Bibliotheek zal de komende jaren alle bezoekers laten kennismaken met de thema’s datawijsheid en digitale vrijheid. 
  • Via het partnership met TechConnect worden in drie jaar 50.000 extra mensen uit ondervertegenwoordigde groepen geattendeerd op de technologie arbeidsmarkt.
  • De gemeente acht uitrol van het 5G-netwerk gewenst, maar volgt kritisch onderzoek over de gezondheidsrisico’s van dit netwerk. Via het 5G-Fieldlab worden de toepassingen van 5G onderzocht en hun belang voor de bewoners.

Barcelona en Madrid zijn voorlopers op het gebied van digitale participatie, mede dankzij hun resp. netwerken Decidem[5] en Decide Madrid[6]. Bewoners gebruiken deze op grote schaal als bron van informatie en om mee te discussiëren resulterend in een (adviserende) stem. Veel van wat de gemeenteraad behandelt, is via deze fora ter tafel gekomen.

3. Rechtvaardigheid (2, 15, 20)

Voorkomen dat toepassing van digitale systemen tot machtsconcentratie en machtsmisbruik leiden.

  • De Agenda Amsterdamse Intelligentie stelt voorwaarden aan algoritmen, om discriminatie te voorkomen. Mede in dit verband zal jaarlijks een aantal algoritmen worden geaudit en worden algoritmen in een register ondergebracht.
  • Het Civic AI Lab gaat de (onbedoelde) implicaties onderzoeken van algoritmen met betrekking tot ongelijke behandeling en discriminatie.
  • Er is voor de domeinen zorg en onderwijs een verkenning gestart naar de wijze waarop deze laagdrempelige toegang tot hun diensten kunnen geven. Hiermee zal de komende jaren verder worden geëxperimenteerd.

Met zijn 116 pagina’s omvattende strategie voor het ethisch gebruik van kunstmatige intelligentie (AI) richt New York[7] zich op het gebruik van AI om bewoners beter van dienst te zijn, het opbouwen van AI-knowhow binnen de overheid, modernisering van de data-infrastructuur, stadsbestuur en beleid rond AI, het ontwikkelen van partnerschappen met externe organisaties en het bevorderen van gelijke kansen.

4. Menselijke waardigheid (20)

Voorkomen dat technologie mensen van hun unieke eigenschappen vervreemdt en in plaats daarvan ervoor zorgen dat zij hun ontplooiing stimuleert.

  • Het programma ‘Moderne Overheid’ onderzoekt hoe digitalisering verschillende domeinen van de gemeentelijke organisatie kan ondersteunen. Voorbeelden zijn: beter matchen van werkzoekenden en werk, 18-jarigen helpen bij het beheer van hun financiën, (vroeg)signalering van mensen met schulden, geven van informatie over schoonmaken en beheer van de stad.

De Database of Affordable Housing Listings, Information, and Applications stelt bewoners van San Francisco[8] in staat om het gehele aanbod aan betaalbare woningen te doorzoeken en hun belangstelling kenbaar te maken via een eenvoudig formulier in verschillende talen. Uit de ingediende aanvragen wordt door middel van loting een kandidaat-bewoner aangewezen, die vervolgens een meer gedetailleerde aanvraag indient. De procedure is geheel in open source software ontwikkelt en andere steden sluiten zich bij dit initiatief aan.

5. Autonomie en privacy (3, 5, 6, 14, 15)

Erkenning menselijke autonomie en van daaruit het recht om in de publieke ruimte te verblijven en zich te verplaatsen zonder digitaal te worden geobserveerd.

  • De gemeente heeft een datastrategie vastgesteld die de bewoners meer zeggenschap geeft over de eigen data
  • Via de app IRMA werkt de gemeente samen met andere gemeenten aan dataminimalisatie en geeft bewoners regie over hun eigen gegevens. Via deze app kunnen bewoners ook ‘meldingen openbare ruimte’ doen. Deze app kan de basis vormen voor de ontwikkeling van een ‘Digitale identiteit’.
  • Het ‘Responsible Sensing Lab’ onderzoekt privacy-vriendelijke meetmethoden om verantwoord data te kunnen verzamelen met behulp van ‘sensing’. De mmWave-sensor bijvoorbeeld meet drukte zonder persoonsgegevens te verzamelen.
  • Een register brengt geplaatste sensoren in kaart. Via een sensorverordening zal het aanmelden van sensoren in de publieke ruimte verplicht worden gesteld.

Om de privacy van de bewoners te beschermen heeft het bestuur van Seattle[9] een reeks stappen gezet waarmee de stad in dit opzicht onbetwist voorloper is. De stad heeft een chief privacy officer aangesteld, een reeks leidende privacy principes vastgesteld en een privacy adviescommissie ingesteld, bestaande uit zowel burgers als ambtenaren. Een belangrijk onderdeel is de uitvoering van een privacy impact assessment telkens wanneer de gemeente een nieuw project ontwikkelt waarbij persoonlijke gegevens worden verzameld.

6. Open data, open software en interoperabiliteit (9, 13, 18)

Data-architectuur, inclusief standaarden, afspraken en normen gericht op hergebruik van data, programma’s en technologie en ook voorkomen van lock-in.

  • Het gemeentelijk beleid met betrekking tot open data is ‘open, tenzij’. Het stedelijk platform data.amsterdam.nl trekt 2500 unieke bezoekers per dag.
  • De sourcing- en opensourcestrategie van de gemeente legt vast het hergebruik van bestaande middelen, het gebruik van standaarden en het beschikbaar stellen van door de gemeente ontwikkelde software.
  • Samen met kennisinstellingen en bedrijven ontwikkelt de gemeente de Amsterdam DataExchange, waarin de betrokken partijen regelen welke en hoe ze data uitwisselen. Met het CBS zijn afspraken gemaakt over beschikbaar stellen van gegevens.
  • De Tada-principes zijn de uitgangspunten voor verantwoord datagebruik. Zij regelen de zeggenschap van de gebruikers en bepalen hoe data ingezet kunnen worden en dat zij open en transparant zijn. Beoogd wordt dat ook andere Amsterdamse instellingen en bedrijven deze principes overnemen.
  • Via ‘Mijn Amsterdam’ kunnen inwoners hun persoonlijke gegevens inzien. Dit geldt inmiddels ook voor ondernemers.

Om startups te ondersteunen heeft het stadsbestuur van Seoul[10] My Neighborhood Analysis ontwikkeld, een tool die een ongekende hoeveelheid commerciële informatie bevat. Het gaat onder andere om bedrijfslicenties, eigendomsinformatie, huurprijzen en transportkaartgegevens, met datasets uit het volledige zakelijke ecosysteem van Seoul. Wanneer een gebruiker informatie invoert over het voorgestelde bedrijfstype, krijgt deze een overzicht van de bedrijfsprestaties in de te verkennen wijk en een indicatie van het verwachte risiconiveau voor een nieuw bedrijf. Gebruikers kunnen vergelijkbare bedrijven selecteren om inzicht te krijgen in hun historische prestaties.

7. Veiligheid (7, 9)

Voorkomen en bestrijden van internetcriminaliteit en beperken van de gevolgen daarvan.

  • De gemeente heeft een Agenda digitale veiligheid opgesteld, mede gericht op het in bedrijf houden van vitale infrastructuur

De gemeente Den Haag[11] heeft samen met Cybersprint een ​​IoT-beveiligingsmonitor ontwikkeld. Deze geeft een realtime overzicht van alle verbonden IoT-apparaten binnen de stadsgrenzen met gedetailleerde informatie, zoals hun verblijfplaats en risiconiveau. De monitor heeft tot nu toe 3100 onveilige apparaten in Den Haag geïdentificeerd. Meestal zijn onveilige apparaten die geen wachtwoord of standaardwachtwoorden of verouderde software gebruiken

8. Operationele en financiële duurzaamheid (12, 20, 21)

Garanderen van een bedrijfszeker, robuust Internet

  • De gemeente overlegt permanent met de Internet- en telefoonaanbieders om de stabiliteit van de netten te garanderen.

Civiele werken die vereist zijn voor het uitrollen van de digitale infrastructuur voor glasvezel bedragen 90% van de totale kosten. Een “Dig Once”-beleid[12] heeft tot doel deze kosten te verminderen door samenwerking tussen steden, providers, nutsbedrijven en andere belanghebbenden. Het gaat er daarbij om dat bij nieuwbouw in een keer alle kabel- en leidingenwerkzaamheden uit te voeren en daarvoor liefst een kleine makkelijk bereikbare tunnel onder de stoep of de straat aan te leggen. De bedrijfszekerheid van alle (digitale) voorzieningen wordt hiermee aanzienlijk vergroot. Bij bestaande bebouwing zouden alle onderhouds- en vervangingswerkzaamheden in een keer uitgevoerd moeten worden.

Knelpunten

Zoals valt te verwachten doen zich bij de uitvoering van het beleid verschillende knelpunten voor. Er is immers sprake van een relatief snel verlopend ontwikkelingsproces waarbij veel partijen en belangen betrokken, terwijl technologische ontwikkelingen snel gaan. Op een aantal terreinen is nog het nodige werk te verrichten om het draagvlak te vergrote, zowel binnen het gemeentelijk apparaat, bedrijven en organisaties en de bevolking. Het gaat daarbij onder andere om de Tada-principes, de naleving van de gemeentelijke sourcingstrategie, het ‘open, tenzij’-beleid en het beleid voor dataminimalisatie. Er is verder nog het nodige te doen aan de ontwikkeling van een betrouwbare digitale infrastructuur en het tegengaan van (onbedoelde) effecten bij toepassing van kunstmatige intelligentie. Vergroting van de digitale zelfredzaamheid en het creëren van de randvoorwaarden voor alle bewoners om digitaal mee te doen vereist structurele inbedding en financiering.

Digitalisering Amsterdam.  Te vroeg voor een oordeel

Zeker is dat de gemeente Amsterdam voortvarend bezig is met op verantwoorde wijze te digitaliseren. De stad heeft een duidelijk beeld van de problematiek waarvoor ze staat. Minder duidelijk is wanneer er naar het oordeel van de gemeente sprake is van een geslaagd beleid en wat de realisering daarvan de komende jaren nog aan verdere inspanningen vraagt. Op elk van de door mij opgestelde uitgangspunten vinden acties plaats, maar er is nog geen dekkend geheel. Dat geldt overigens ook voor andere steden, maar sommige daarvan zijn op onderdelen beslist verder, denk aan de digitale participatie van bewoners van Barcelona, Madrid, Lublin, aan het privacy beleid van Seattle, de informatievoorziening van Seoul en het in ethisch opzicht verantwoord gebruik van kunstmatige intelligentie in New York waarover Milou Jansen, coördinator van de Cities Coalition for Digital Rights zegt: New York’s AI Strategy is a bold and inspiring example of how digital rights can find its way into the operationalisation of AI policies. It shows the way forward to many other cities around the globe who likewise support an approach grounded in digital rights[13].

Mijns inziens heeft de gemeente Amsterdam op het gebied van privacy (5) en open data (6) grote stappen gezet. De grootste opgaven liggen op de volgende terreinen (de nummers verwijzen naar de door mij geformuleerde uitgangspunten):

  • De inbedding van het digitaliseringsbeleid in de overige beleidsterreinen (1).
  • De beschikbaarheid van Internet, computers en digitale vaardigheden voor kwetsbare groepen (2).
  • Het gebruik van digitale middelen ter vergroting van de participatie van de bevolking aan de ontwikkeling en de vaststelling van het beleid (2).
  • De arbeidsomstandigheden van werknemers in de gig economie (3).
  • Het behouden van toezicht op de AI-systemen die autonoom oordelen over mensen vellen (4).
  • De strijd tegen cybercrime (7).
  • Een toekomstbestendige infrastructuur (8).

In de volgende aflevering verleg ik het blikveld naar een aantal andere Nederlandse gemeenten.

[1] https://waag.org/sites/waag/files/2019-03/Agenda-digitale_stad-amsterdam.pdf

[2] https://amsterdam.raadsinformatie.nl/document/8773731/1/2__Magazine_Digitale_stad_2020digitaal_spreads

[3] https://openresearch.amsterdam/nl/page/67000/agenda-digitale-stad-tussenrapportage-2019-2020

[4] https://hub.beesmart.city/city-portraits/smart-lublin-a-smart-city-with-a-social-dimension

[5] https://decidim.org/

[6] https://decide.madrid.es/

[7] https://www1.nyc.gov/assets/cto/downloads/ai-strategy/nyc_ai_strategy.pdf

[8] https://associates.bloomberg.org/digitalcitytools/

[9] https://www.govtech.com/data/seattle-pushes-forward-as-data-privacy-leader.html

[10] https://associates.bloomberg.org/digitalcitytools/

[11] https://associates.bloomberg.org/digitalcitytools/

[12] https://www.weforum.org/whitepapers/governing-smart-cities-policy-benchmarks-for-ethical-and-responsible-smart-city-development

[13] https://cities-today.com/new-york-launches-strategy-for-ethical-ai/

Ethische principes en toepassingen van digitale technologie: Immersieve technologie, blockchain en platformen

In de 13de aflevering van de reeks Bouwen aan duurzame steden – De bijdrage van digitale technologie vervolg ik de beschrijving van een aantal toepassingen van digitale technologie en de beoordeling daarvan aan de hand van relevante ethische principes.

In aflevering 12 kwamen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie. De  ethische principes uit aflevering 9, die ook in deze aflevering worden gebruikt zijn: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen. Deze zijn ontleed aan het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017)[1].

4. Immersieve technologie (augmented en virtual reality)

Augmented reality voegt informatie toe aan onze waarneming. De oudste voorbeelden daarvan zijn berichten die piloten van supersnelle gevechtsvliegtuigen op hun bril konden lezen, zodat ze hun ‘target’ niet uit het zicht zouden verliezen. De ongetwijfeld meest populaire toepassing is het spel Pokémon Go.  Aanvullende informatie via het beeldscherm van de smartphone is ook vaak beschikbaar bij het bezoek aan vele ‘bezienswaardigheden’. De roemruchte Google glasses was een uitgelezen middel voor dit doel, maar vanwege het evidente risico op schending van de privacy is aan de toepassing hiervan al snel een einde gekomen. Voor bepaalde groepen, bijvoorbeeld slechthorenden is dit jammer. 

Virtual reality gaat veel verder. In dit geval wordt onze zintuiglijke waarneming vervangen door beelden van een kunstmatige wereld. Hiervoor is een speciale bril nodig, zoals de Oculus rift.  Toepassingen vinden hun weg vooral via gaming. Maar het is ook mogelijk om met deze set driedimensionale interieurs van woningen te tonen of wandelingen door nieuw te bouwen wijken mogelijk te maken. 

Het metaversum

Virtual reality verplaatst je naar het metaversum wat voor het eerst is beschreven door Neil Stephenson in diens dystopische boek Snow Crash in 1992. Naarmate de kracht van computers toenam, kreeg de idee van het metaversum nieuwe impulsen en recentelijk kondigde Marc Zuckerberg dan ook aan dat het zijn nieuwe bedrijf Meta Platforms, Facebook geleidelijk gaat veranderen in een volledige digitale wereld. Deze dompelt de gebruikers onder in de meest uiteenlopende ervaringen, die deze deels zelf oproept, zoals communiceren met een levensechte avatar van een (on)bekende, een live-concert bijwonen, met naar de disco gaan en daar (on)bekenden ontmoeten en uiteraard ook winkelbezoek, want het blijft een medium om aan te verdienen. 

Nog pas kort tevoren had Microsoft ook al bekend gemaakt zijn operating system (Windows), webservers (Azure), communicatienetwerken (Teams en Linkedin) hardware (HoloLens), entertainment (Xbox) en IP (Minecraft) samen te gaan brengen in een virtuele realiteit[2]. De recente aankoop van gameproducent Activision Blizzard, producent van de Call of Duty-videogames voor € 60 miljard past in dit beleid en wijst erop dat het bedrijd met zijn versie van de metaverse heel wat denkt te gaan verdienen.

Bij de te verwachte machtsstrijd tussen de titanen, zal waarschijnlijk ook Amazon zich voegen en de virtuele mall van en voor ieders dromen bouwen. Het is nog maar de vraag of een jongere minder consumptieverslaafde generatie wel zit te wachten op een volledige artificiële wereld. Ik hoop van niet.

Privacy

De risico’s van augmented reality zijn vanaf het begin breed uitgemeten. Voor onderzoeksdoelen had Google bijvoorbeeld het recht gekregen om de bewegingen van de ogen van mensen die Google glasses droegen op afstand te volgen. Voor het overige geldt dat niet alleen overheden en bedrijven mensen zullen bespieden, maar vooral mensen elkaar. Auteursrechtelijk is interessant wie de eigenaar is van de beelden van je avatar.

Veiligheid

Al na korte tijd krijgen degenen die zich door het metaversum bewegen evenwichtsproblemen. Mogelijk erger is dat de kans op verslaving groot is. 

Menselijke waardigheid

Het gevaar is aanwezig dat mensen die veelvuldig in imaginaire werelden functioneren nep en echt niet meer van elkaar te onderscheiden en van zichzelf vervreemden in de ‘echte’ wereld en de sociale vaardigheid verliezen die daarin noodzakelijk is.

Machtsverhoudingen

Big Tech krijgt nog meer middelen in handen om onze voorkeuren te analyseren en ons te beïnvloeden[3], ook door deep-fakes, waarmee bestaande personen levensecht geïmiteerd kunnen worden. Dat roept vragen op over de risico’s die burgers lopen, en over nog grotere rol van bedrijven die immersieve technologie aanbieden.

5. Blockchain

Blockchain maakt het mogelijk transacties (van geld, waardepapieren, contracten en voorwerpen) vast te leggen zonder bemiddeling van een daartoe gerechtigde instantie (overheid, werkgever, bank, notaris)[4]. De eerste versie van blockchain was de bitcoin, eerst alleen bedoeld voor financiële transacties. Tegenwoordig bestaan er honderden varianten, waarvan Ethereum de meest gebruikte is. De essentie van bockchain is dat de database van alle transacties, de ledger, op ieders computer opgeslagen wordt en dus toegankelijk is voor elke gebruiker. Miners zien erop toe dat een cryptomunt maar voor een transactie wordt gebruikt of dat een contract achteraf niet door een van de betrokken partijen wordt veranderd, overigens zonder te weten wie die gebruikers zijn. Zodra de meerderheid van de miners een reeks transacties heeft goedgekeurd, vormen deze samen een niet meer te veranderen blok. Miners zijn erop gebrand blokken goed te keuren, want degene waarvan achteraf blijkt dit als eerste te hebben gedaan, ontvangt een aanzienlijke vergoeding in cryptocurrency. Mining kost de nodige tijd en vereist vooral gigantisch veel rekenkracht en dus energie. Er wordt naarstig gezocht naar alternatieve methoden, zoals een methode waar het vooral om de reputatie van de miner gaat. 

Blockchain komt voort uit streven naar radicale decentralisatie en vermindering van de macht van staten, banken[5]en bedrijven. Dat pakt in de praktijk anders uit. Het zijn vooral overheden[6] en grote bedrijven in de VS, Rusland[7], China[8], Zuid-Korea en in Nederland bijvoorbeeld Albert Heijn[9], die voor een gestage opmars zorgen.

Als middel voor veilige opslag van transacties en het vastleggen van onderlinge verplichtingen, zoals in het geval van digitale autonome organisaties, heeft blockchain meer potenties dan als cryptocurrency. Absolute voorwaarde is het vinden van een alternatief voor het ongehoord hoge energiegebruik.

Privacy

Blockchain is voortgekomen uit het streven te ontsnappen van de alomtegenwoordige meekijkende ondernemingen en staat. Vandaar ook dat dubieuze transacties bij voorkeur met cryptocurrency worden afgehandeld. Volledige anonimiteit is er niet, omdat cryptocurrency geregeld moet worden omgewisseld in officieel geld en dat zwakke punt weten hackers dan ook te vinden.

Autonomie

Wellicht komt in blockchain meer dan in welk ander systeem menselijke autonomie tot zijn recht. Daarvoor is het wel nodig de werking goed te kennen. Dit geldt eens te meer als er sprake is van niet-financiële transacties.

Veiligheid

Risico’s zijn er zeker: Op het moment dat een miner meer dan 50% van de computercapaciteit in bezit heeft, kan deze het systeem volledig corrumperen.  Deze situatie is niet denkbeeldig.  In 2019 waren er twee Chinese miners die samen meer dan de helpt van de computercapaciteit bezaten. 

Machtsverhoudingen

Over de positie van miners is niet veel bekend.  Er is een tendens naar een steeds verdergaande concentratie, die gevaren in zich heeft over de duurzaamheid van het systeem.  Naarmate de concentratie toeneemt, zal het bezit aan cryptocurrency ook steeds schever worden. Het zijn immers de miners die voor de uitbreiding van de beschikbare hoeveelheid geld zorgen. 

6. Digitale platformen

Bedrijven als Amazon, Uber en Airbnb en op kleine schaal Bol.com vertegenwoordigen een nieuwe vorm van economische activiteit die verstrekkende gevolgen heeft voor andere bedrijven en de inrichting van de ruimte. Zij bestaan in essentie uit digitale platformen waarop ze aanbieders en consumenten bijeenbrengen. 

Stel je voor, je begeeft je in de virtuele paskamer van Amazon. Je zit op een stoel en een reeks modellen komt voorbij die allen precieus jouw figuur en maat hebben en misschien ook wel je uiterlijk. Je kunt eindeloos variëren wat ze aan hebben, tot dat je de outfit van je dromen het gevonden of samengesteld. Dit kan gelden voor alle denkbare aankopen, tot auto’s, inclusief rijsimulator toe. Met een druk op de knop is die besteld en een paar uur later dropt de drone je bestelling voor de deur.

In digitale platformen komt een reeks toepassingen van digitale technologie samen, zoals Internet-of-Things, robotica, immersieve technologie, kunstmatige intelligentie en ook blockchain, om zicht te houden op de immense stromen van goederen en diensten.

Privacy

In de wereld van de platformen telt privacy niet of nauwelijks. Bedrijven willen zo veel mogelijk aan je verdienen en verzamelen daarom massa’s informatie over je gedrag, voorkeuren en uitgaven. Dit in ruil voor gemak, en gratis gadgets als navigatie, zoekmachines en email. 

Autonomie

Platformen zijn behalve geldmachines ook een onderdeel van de deeleconomie. Ze maken directe transacties tussen mensen mogelijk en zorgen, zoals in het geval van Airbnb voor een ongekend groot aanbod van accommodaties waaruit vrij valt te kiezen. 

Rechtvaardigheid

Medewerkers in platformbedrijven hebben veelal slechte arbeidsvoorwaarden, denk bijvoorbeeld aan de chauffeurs van Uber die de hele dag gevolgd, gecontroleerd en beoordeeld worden. In distributiecentra zijn alle nog resterende menselijke handelingen, tot op de minuut voorgeschreven. 

In deze bedrijven ontstaat een grote kloof tussen de kleine binnencirkel van managers en technici en de grote buitencirkel van ‘loonwerkers’ waar het bedrijf verder niets mee heeft en zij ook niet met het bedrijf.

Machtsverhoudingen

Deze bedrijven dragen ook bij aan de vergroting van de kloof tussen arm en rijk; de ongekend grote verdiensten gaan naar het topmanagement en de aandeelhouders en als het kan wordt de belasting ontweken.

Platformen als Airbnb maken op grote schaal concurrentievervalsing mogelijk; de accommodaties die zij verhuren boeven niet te voldoen aan de regels op het gebied van veiligheid, belastingheffing die gelden voor reguliere bedrijven.

De groei van platforms die monopolistische vormen heeft aangenomen is de belangrijke oorzaak van de ontwrichting van de steden, zonder zij bijdragen aan de kosten die dat voor de gemeenschap met zich meebrengt.

Terug naar gouvernance

Ik heb in dit en het voorgaande artikel een kader uitgewerkt voor maatschappelijk verantwoord omgaan met digitalisering. Daarin ontwikkelden zich twee denklijnen, die van de waarde van digitale technologie en die van het ethisch gebruik ervan.

De waarde van digitale technologie

Digitale technologie moet vorm en inhoud krijgen als een van de instrumenten waarmee een stad werkt aan een ecologisch en sociaal duurzame toekomst. Om te helpen verwoorden wat zo’n toekomst inhoudt, introduceerde ik Kate Raworth’ denkbeelden over de donuteconomie. Het ontwerpen van zo’n toekomstbeeld moet een breed gedragen democratisch proces zijn, waarin burgers de oplossing van hun eigen problemen mede toetsen aan de duurzame welvaart van toekomstige generaties en die van mensen elders op de wereld. 

De belangrijkste vraag als het om (digitale) technologie gaat is dus ‘welke (digitaal) technologische hulpmiddelen dragen bij aan de realisering van een in sociaal en ecologisch opzicht duurzame stad‘.

Het ethisch gebruik van technologie

In de wereld waarin we de duurzame stad van de toekomst realiseren ontwikkelt digitale technologie zich snel, vooral onder invloed van commerciële en politieke belangen. Steden worden met deze technologieën geconfronteerd door middel van een krachtige smart city technology marketing.

De belangrijkste vraag die steden zich in dit verband moeten stellen is ‘Hoe beoordelen we beschikbare technologieën vanuit een ethisch perspectief’.

In de besturing van steden komen beide denklijnen bij elkaar: Welke (digitale) technologie help ons verder op weg naar een duurzame toekomst en wat is het ethische gehalte van technologieën die in principe daarbij bruikbaar zijn. Samen kunnen deze leiden tot de keuze, vormgeving en toepassing van digitale technieken als onderdeel van de realisering van een visie op een ecologisch en sociaal duurzame toekomst van de stad.

In de volgende twee artikelen onderzoek ik hoe er in de praktijk wordt omgegaan met ethische principes. In het eerste artikel zetten we Amsterdam voor het voetlicht en daarna bekijken we hoe een aantal gemeenten bezig is op verantwoorde wijze te digitaliseren in het kader van Agenda stad.

[1] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[2] https://is.gd/gIX6qH

[3] https://is.gd/yBkiXi

[4] https://www.archdaily.com/973814/bitcoin-nfts-and-the-metaverse-reflecting-on-the-year-of-digital-real-estate-and-design?utm_medium=email&utm_source=ArchDaily%20List&kth=

[5] https://blogs.worldbank.org/sustainablecities/top-7-disruptive-technologies-cities

[6] https://www3.weforum.org/docs/Top20_Global_Data_Stories_report_2017.pdf

[7] https://ict.moscow/en/projects/blockchain/

[8] https://cointelegraph.com/news/chinese-city-seeks-to-power-urban-governance-and-more-using-blockchain-tech

[9] https://www.capgemini.com/nl-nl/client-story/innovatie-in-de-praktijk-blockchain-technologie-in-de-supply-chain-van-albert-heijn/