Categorie: Smart city

Epiloog: Voorbij de ‘slimme stad’ 

In de laatste aflevering van de serie Bouwen aan duurzame steden: De bijdrage van digitale technologie geef ik het antwoord op de vraag die in de titel van de reeks ligt besloten, namelijk hoe zorgen we ervoor dat technologie een bijdrage levert aan het sociaal en ecologisch duurzamer maken van steden. Maar eerst een korte update.

Smart city, hoe zat het ook alweer?

In 2009 startte IBM een wereldwijze marketingcampagne rond het voorheen nog weinig bekende begrip ‘smart city’ met het doel stadsbesturen ontvankelijk te maken voor ICT-toepassingen in de publieke sector. De nadruk lag in eerste instantie op processturing, waarin van talrijke monitoren voorziene control centra het middelpunt waren (aflevering 3). Vooral vanuit opkomende landen was veel belangstelling. Deze maakten plannen om ‘uit het niets’ smart cities te bouwen, vooral om buitenlandse investeerders aan te trekken. De Koreaanse stad Songdo, ontwikkeld door Cisco en Gale International, is hiervan het bekendste voorbeeld. Ook in Afrika werd met de bouw van smart cities begonnen, zoals Eko-Atlantic City (Nigeria), Konzo Technology City en Appolonia City (Ghana). Grote successen zijn dit niet geworden.

De nadruk verschoof al snel van procestechnologie naar het gebruik van data van de bewoners zelf. Google wilde zijn al rijke verzameling van gegevens aanvullen met gegevens die stedelingen met hun mobiele telefoons aanleverden en zo een reeks nieuwe commerciële toepassingen creëren. De daartoe opgerichte zustermaatschappij Sidewalk Labs zou in Toronto een proefproject ontwikkelen. Dat mislukte, mede door het groeiend verzet tegen de beoogde verzameling van data.  Dit verzet heeft wereldwijze repercussies gehad en tot wetgeving geleid om de privacy beter te beschermen. Steden in China en Zuidoost-Azië – Singapore voorop – lieten deze kritiek aan zich voorbij gaan en met hun machtig surveillance web dienen ze zowel commerciële als politieke doelen. 

De razendsnelle ontwikkeling van digitale technieken, zoals kunstmatige intelligentie, gaf nieuwe impulsen aan discussie over de ethische implicaties van technologie (afleveringen 9 – 13)   Vooral in de VS werden toepassingen op het gebied van gezichtsherkenning en voorspellend onderzoek naar misdaden zwaar bekritiseerd (aflevering 16.). Maar kunstmatige intelligentie had inmiddels veel breder zijn intrede gedaan, bijvoorbeeld als middel om besluitvorming te automatiseren (denk aan de beruchte toelagenaffaire) of om stedelijke processen te simuleren met bijvoorbeeld digital twins (aflevering 5). 

Dit huidige stand van zaken – met name in Nederland – kan worden getypeerd door enerzijds de ontwikkeling van regelgeving om ethische principes veilig te stellen (aflevering 14) en anderzijds door het zoeken naar verantwoorde toepassingen van digitale technologie (aflevering 15). Het gebruik van de term ‘smart city’ lijkt aan enige erosie onderhevig en daar pakken we de draad op.

De mens centraal?

De vele tientallen omschrijvingen van het begrip ‘smart city’ lopen niet alleen sterk uiteen, ze roepen ook tegengestelde gevoelens op. Sommigen zien (digitale) technologie als een effectief middel voor stedelijke groei; anderen zien er juist een bedreiging in. De vraag is daarom hoe bruikbaar het begrip ‘smart city’ nog is. Touria Meliani, wethouder van Amsterdam, spreekt liever van een ‘wise city’ dan van een ‘smart city’ om te laten zien dat het haar menens is om de mens centraal te stellen[1]. Het begrip ‘smart city’ legt volgens haar vooral de nadruk op “het technisch aanvliegen van zaken”. Zij is niet de eerste. Eerder pleitte Daniel Latorre[2], ‘place making’ specialist in New York en Francesco Schianchi, hoogleraar urban design in Milaan er ook voor om ‘smart’ te vervangen door ‘wise’[3]. Beide willen met deze term tot uitdrukking brengen dat stedelijk beleid voor alles moet uitgaan van de wensen en behoeften van de bewoners. 

Welke term je ook gebruikt, het gaat in de eerste plaats om het antwoord op de vraag hoe je ervoor zorgt dat de mens – bewoners en andere stakeholders van een stad – daadwerkelijk centraal staan. Hierbij kun je aan drie criteria denken

1. Oog voor de impact op het armste deel van de bevolking

In de recente literatuur over smart cities doet zich een opvallende verschuiving voor. Tot voor kort gingen de meeste artikelen over de betekenis van ‘urban tech’ voor mobiliteit, vermindering energiegebruik en openbare veiligheid. In korte tijd is er veel meer aandacht gekomen voor onderwerpen als de toegankelijkheid van het Internet, de (digitale) bereikbaarheid van stedelijke diensten en de gezondheidszorg, energie- en vervoersarmoede en de gevolgen van gentrificatie.

Er vindt een verschuiving plaats van doelmatigheid naar gelijkheid en van fysieke interventies naar sociale verandering[4].

De reden van deze verschuiving is dat veel maatregelen die bedoeld zijn als een verbetering van de woonomgeving tot een stijging leiden van de (huur)prijs en daarmee de bereikbaarheid van woningen verminderen[5]. 

2. Substantieel aandeel van co-creatie

Boyd Cohen onderscheidt drie typen smart city-projecten. Het eerste type (smart city 1.0) is technology driven, ook wel corporate-driven genoemd.  Het betreft technologieën die technologiebedrijven ‘van de plank’ leveren. Bijvoorbeeld een woonwijk voorzien van adaptieve straatverlichting. Het tweede type (smart city 2.0) is technology enabled, ook wel government-driven. In dit geval ontwikkelt een gemeente een plan en besteedt dat vervolgens uit. Bijvoorbeeld, het verbinden en programmeren van verkeerslichteninstallaties, zodat hulpverleners en het openbaar vervoer in principe altijd groen licht krijgen. Het derde type (smart city 3.0) is community-driven en gebaseerd op citizen co-creation, bijvoorbeeld een energie-coöperatie.

In community-driven digitalisering is de kans het grootst dat de wensen van de betrokken burgers voorop staan.

Een goed voorbeeld van co-creatie tussen verschillende stakeholders is de ontwikkeling van Brainport Smart District in Helmond, een gemengde wijk waar wonen, werken, energie opwekken, voedsel produceren en regulering van kringlopenwijk samen zullen gaan. De toekomstige bewoners en ondernemers onderzoeken samen met deskundigen welke state-of-the-art technologie hen daarbij kunnen helpen[6].

3. Diversiteit

Bij het gebruik van kunstmatige intelligentie speelt bias bij ontwikkelaars een grote rol. De beste manier om bias te bestrijden (en overigens ook om diverse andere redenen) is diversiteit als criterium te gebruiken bij de samenstelling van ontwikkelteams. Maar ook (ethische) commissies, die toezien houden op het verantwoord aanschaffen en gebruik van (digitale) technologieën zijn beter op hun taak toegerust naarmate ze een meer diverse samenstelling hebben[7].

Respecteren van de stedelijke complexiteit

Gavin Starks beschrijft in zijn essay The porous city hoe smart cities met hun ‘technisch utopisme’ en marketingjargon voorbijgaan aan de diversiteit van de drijfveren van menselijk gedrag en in plaats daarvan de mens vooral zien als homo economicus, gedreven door materieel gewin en eigenbelang[8].

Een illustratie van deze zienswijze is Singapore – de nummer 1 op de Smart City-lijst, waar het techno-utopisme hoogtij viert[9]. Deze een-partijen staat verschaft iedereen die gewenst gedrag vertoont, welvaart, gemak en luxe met behulp van de meest uiteenlopende technische hulpmiddelen. Voor een afwijkende mening is weinig ruimte. Een snelgroeiend aantal CCTV-camera’s – binnenkort 200.000[10] – zorgt ervoor dat iedereen ook letterlijk binnen de lijnen blijft. Zo niet, dan kan de boosdoener snel met automatisch gezichtsherkenning en ‘crowd analytics, worden gelokaliseerd.

Wie het menselijk leven in de stad wil begrijpen en niet wil uitgaan van simplistische aannames als de homo economicus, moet de complexiteit van de stad accepteren, proberen te begrijpen en weten dat ingrepen in bestaande patronen verregaande en vaak onbedoelde consequenties heeft. 

De complexiteit van den stad is het belangrijkste argument tegen het gebruik van reductionistische adjectieven zoals ‘smart’, maar ook ‘sharing’, circular, climate-neutral’, resilient’ en meer.

Daarbij komt nog dat smart, meer dan de overige adjectieven verwijst naar een middel en zelden wordt gezien als een doel op zich. Als er al zo’n adjectief nodig zou zijn, dan geef ik de voorkeur aan de term ‘humane city’.

Maar, welke term je ook gebruikt, noodzakelijk is om te benadrukken dat een stad een complex organisme is met veel facetten, wier samenhang goed begrepen moet worden om de stad te doorgronden en te ontwikkelen dat haar laten bloeien en de bewoners gelukkig maakt. 

Digitalisering. Twee sporenbeleid.

Stadsbesturen die oog hebben voor de complexiteit en werk willen maken van digitalisering kunnen dat het beste langs twee wegen aanpakken. De eerste heeft ten doel de problemen en ambities van de stad in beleid te vertalen en digitale instrumenten als onderdeel daarvan te zien. De tweede heeft betrekking op het hanteren van ethische principes bij het zoeken naar en ontwikkeling van digitale instrumenten. Beide wegen beïnvloeden elkaar.

De bijdrage van digitale technologie 

Digitale technologie is niet meer of minder dan een van de instrumenten waarmee een stad werkt aan een ecologisch en sociaal duurzame toekomst. Om te verwoorden wat zo’n toekomst inhoudt, introduceerde ik Kate Raworth’ denkbeelden over de donuteconomie (aflevering 9). Het ontwerpen van een toekomstbeeld moet een breed gedragen democratisch proces zijn. Hierin toetsen burgers de oplossing van hun eigen problemen ook aan de duurzame welvaart van toekomstige generaties en die van mensen elders op de wereld. Verder moeten de beleidsmakers digitale instrumenten naadloos invoegen in de overige beleidsinstrumenten, zoals wetgeving, financiering en informatievoorziening (aflevering 8).

De belangrijkste vraag als het om (digitale) technologie gaat is dus welke (digitaal) technologische hulpmiddelen dragen in potentie bij aan de realisering van een in sociaal en ecologisch opzicht duurzame stad.

Het ethisch gebruik van technologie

In de wereld waarin we de duurzame stad van de toekomst realiseren ontwikkelt digitale technologie zich snel. Steden worden met deze technologieën geconfronteerd door een krachtige smart city technology marketing.

De belangrijkste vraag die steden zich in dit verband moeten stellen is ‘Hoe beoordelen we aangeboden technologie en hoe ontwikkelen we nieuwe technologie vanuit een ethisch perspectief’.

De eerste die met deze vraag te maken krijgt – behalve hopelijk de industrie zelf – is de afdeling van de Chief Information/Technology officer. Deze participeert uiteraard in het eerstgenoemde proces en kan beleidsmakers al in een vroeg stadium adviseren. In heb eerder een reeks (ethische) criteria geïnventariseerd die een rol spelen bij de beoordeling van technologische instrumenten[11].

In de besturing van steden komen beide denklijnen bij elkaar, uitmondend in de vraag: Welke (digitale) technologie komt in aanmerking om ons op verantwoorde wijze verder op weg te helpen naar een duurzame toekomst. Deze serie heeft geen pasklare antwoorden gegeven; die zijn afhankelijk van de concrete beleidsinhoud en -context. De afzonderlijke afleveringen van de reeks bevat wel handvaten om de vraag te beantwoorden.

In mijn e-boek Steden van de toekomst. Humaan als keuze. Smart waar dat helpt, heb ik een bestuurlijk proces als hiervoor beschreven uitgevoerd op basis van gangbare kennis over stedelijk beleid en stedelijke ontwikkelingen.  Dit heeft geleid tot het onderscheiden van 13 thema’s en 75 actiepunten, waar mogelijk voorzien van verwijzingen naar potentieel bruikbare technologie. Je kunt het e-boek hier downloaden[12].

[1] https://dutchitchannel.nl/680058/liever-een-wise-city-dan-een-smart-city.html

[2] https://www.ramus.com.au/blog/smart-vs-wise/

[3] https://www.matchup-project.eu/news/smart-city-and-wise-city/

[4] https://www.govtech.com/magazines/gt-special-issue-nov-2020-how-2020-will-impact-smart-cities.html

[5] https://www.archdaily.com/969113/how-smarter-cities-can-exacerbate-inequity?utm_medium=email&utm_source=ArchDaily%20List&kth=

[6] https://stadszaken.nl/smart/wonen/2076/slimste-wijk-van-de-wereld-is-sociaal-experiment

[7] https://www.aspeninstitute.org/publications/diversity-in-urban-tech-procurement/

[8] https://agentgav.medium.com/the-porous-city-92ae986cd43c

[9] https://restofworld.org/2021/singapores-tech-utopia-dream-is-turning-into-a-surveillance-state-nightmare/

[10] https://www.reuters.com/world/asia-pacific/singapore-double-police-cameras-more-than-200000-over-next-decade-2021-08-04/

[11] https://www.dropbox.com/s/c1qlxr9ukks96iw/Uitgangspunten%20verantwoord%20digitaliseringsbeleid.docx?dl=0

[12] https://www.dropbox.com/s/i37xo24smn6zmng/01%20Steden%20van%20de%20toekomst%20NL%20-%20verkleind.pdf?dl=0

Twee ‘100 smart city missies’- Tweemaal een onverstandige vlucht naar voren

De 22ste en voorlaatste aflevering in de reeks Bouwen aan duurzame steden. De bijdrage van digitale technologie gaat over ambitieuze overheidsplannen en de daaraan verbonden risico’s

Onlangs heeft de Europese Commissie een 100-stedenplan gelanceerd, de EU Mission on Climate-Neutral and Smart Cities. Honderd Europese steden die al in 2030 (je leest het goed) klimaatneutraal willen zijn, kunnen zich aanmelden en op extra steun rekenen. Ik moest meteen denken aan dat andere 100-stedenplan, India’s Smart City Mission. In 2015 verkondigde premier Modi dat in zes jaar 100 Indiase steden ‘smart cities’ zouden worden. De officiële looptijd van het project is inmiddels geëindigd en ik ga hieronder na wat er van dit doel terecht is gekomen. Wellicht kan het Europese plan hiervan nog leren.

Ik bespreek eerst de beide plannen en licht vervolgens toe waarom ik ze allebei ‘een vlucht naar voren’ noem. 

India’s Smart City Mission

Het probleem

In India wonen 377 miljoen mensen in steden. Over 15 jaar zullen er 200 miljoen zijn bijgekomen. Nu al is het verkeer in de Indiase steden volkomen vastgelopen, sterven meer dan 600.000 mensen als gevolg van luchtverontreiniging, heeft de helft van de stedelijke gebieden geen drinkwateraansluiting, is de afvalverzameling gebrekkig en wordt slechts 3% van het rioolwater gezuiverd. De rest wordt geloosd op oppervlaktewater, dat ook de belangrijkste bron van drinkwater is[1]. 

De missie

De Smart City Mission was bedoeld om in 100 steden, die samen 30% van de bevolking omvatten, voor alle genoemde problemen wezenlijke verbeteringen door te voeren, waarbij van digitale technologie een belangrijke rol zou spelen moeten spelen[2].

De 100 steden zijn geselecteerd op basis van gunstige vooruitzichten en de kwaliteit van de plannen, die doorgaans bestonden uit een lange reeks projecten. 

Sturing

De aanwezige stedelijke bestuursorganen werden incompetent geacht om de projecten te leiden. Daarom zijn directies (‘special purpose vehicles’) aangesteld, opererend onder het vennootschapsrecht en onder leiding van een CEO, ondersteund door internationale consultancybedrijven. Alle rechten en plichten van de gemeenteraad met betrekking tot het de uitvoering van de missie werden gedelegeerd naar deze directie, inclusief de bevoegdheid om belastingen te innen! Het wekt geen verbazing dat deze maatregel op veel plaatsen is aangevochten. Een aantal steden heeft zich om deze reden uit ‘de missie’ teruggetrokken[3].

Financiering

Om de plannen uit te voeren, zou elke stad $150 miljoen ontvangen, verspreid over vijf opeenvolgende jaren. Dit geld moet worden gezien als startkapitaal aan te vullen door middel van publiek-private partnerschappen, kredietverlening door handelsbanken, externe financiering, leningen en investeringen vanuit het buitenland. 

Gebiedsgerichte en pan-stedelijke aanpak

De plannen bevatten twee componenten: een gebiedsgerichte en een pan-stedelijke aanpak[4].  De eerste beoogt aanpassing, vernieuwing of uitbreiding van delen van de stad en betreft een breed pakket aan ‘smart services’, zoals snel internet, afvalvoorziening, parkeervoorzieningen, energiezuinige gebouwen maar ook vervanging van slums door hoogbouw. De collage hierboven geeft een impressie van de manier waarop architecten zich de nieuw te bouwen delen van smart cities voorstellen. Van deze impressies is nog weinig gerealiseerd.

De pan-stedelijke aanpak omvat minimaal één ‘smart’ voorziening voor een veel groter deel van de stad. Vaak is gekozen voor verbetering van de vervoersinfrastructuur, bijvoorbeeld de aanleg van nieuwe (snel)wegen en aanschaf van elektrische bussen. Maar liefst 70 steden hebben een ‘smart’ controlecentrum gebouwd naar het voorbeeld van Rio de Janeiro[5].

Voortgang

Nu de officiële looptijd van ‘de missie’ is beëindigd kan een eerste inventarisatie worden gemaakt, al beklagen waarnemers zich over een gebrek aan transparantie met betrekking tot de resultaten. Ongeveer de helft van alle ruim 5000 gestarte projecten is (nog) niet afgerond en een aanzienlijk deel van de overheidsmiddelen ook nog niet uitgekeerd[6]. Dit kan de komende jaren nog gebeuren. Dit heeft er ook mee te maken dat het aantrekken van externe middelen ver achter is gebleven bij de verwachtingen. Deze middelen kwamen vooral van overheden en het waren vooral grote technologiebedrijven die over de brug zijn gekomen. Dit heeft een stempel gedrukt op de uitvoering van de plannen. 

De trage gang van zaken binnen de meeste projecten wordt deels geweten aan het feit dat het overgrote deel van de bevolking zich amper van de missie bewust was en gemeenteraden ook niet altijd coöperatief waren[7].

Impact

Voorzien was dat de helft van de beschikbare middelen naar gebiedsgerichte projecten zou gaan; dit werd uiteindelijk 80%. Dit heeft ertoe geleid dat gemiddeld slechts 4% van de inwoners van de betrokken steden baat heeft gehad bij ‘de missie’ en dan nog is het niet duidelijk wat de baten precies inhouden[8].  De stad New Delhi heeft een oppervlak van bijna 1500 km2, terwijl het betrokken gebied slechts 2,2 km2 omvat[9]: So you’re not even going to have 100 smart cities. You’re going to have 100 smart enclaves within cities around the country, aldus Shivani Chaudhry, directeur van het Housing and Land Rights Network[10].

Dat de missie niet meer dan een druppel op een gloeiende plaat zou zijn, was al snel duidelijk. Voor een wezenlijke aanpak van alle ambities was in plaats van $150 miljoen per stad, $10 miljard nodig, dus $1000 miljard in totaal[11]. Deloitte is wat bescheidener en heeft berekend dat er $150 miljard overheidsgeld en $120 miljard uit particuliere bronnen nodig was[12].

Soort projecten

De vele typen projecten die voor financiering in aanmerking kwamen heeft tot een grote variatie geleid. Slechts een enkele stad heeft de kwaliteit van de omgeving vooropgesteld. De meeste steden hebben projecten geïnitieerd op het gebied van schone energie, verbetering elektriciteitsvoorziening, vermindering luchtvervuiling, de aanleg van wegen, de  aanschaf van elektrische bussen, afvalverwijdering en sanitair. Wat verder ontbreekt in de projecten is een focus op mensenrechten, gender en de belangen van de armste bevolkingsgroepen[13].

Op enkele plaatsen is gekozen voor het opruimen van slums en herhuisvesting van de bewoners in hoogbouw aan de rand van de stad. De Indiase meester-architect Doshi waarschuwt dat de stedelijke visie achter de smart city-plannen de informaliteit en diversiteit die de hoeksteen van de landelijke en stedelijke samenleving van het land zal vernietigen. Hij daagt planners uit om de nadruk te verschuiven naar plattelandsgebieden en daar voldoende keuzen en kansen te creëren.

De European Mission on Climate-Neutral and Smart Cities

Het probleem

Steden produceren meer dan 70% van de wereldwijze uitstoot van broeikasgassen en gebruiken meer dan 65% van de totale energie. Daarbij beslaan steden in Europa maar 4% van het totale oppervlak en huisvesten ze 75% van de bevolking. De ecologische voetafdruk van de stedelijke bevolking is meer dan tweemaal zo veel als waar ze recht op heeft, uitgaande van een proportionele verdeling van de aardse hulpbronnen.

De missie

Op 25 november 2021 deed de Europese Commissie een oproep aan Europese steden om hun belangstelling kenbaar te maken voor een nieuwe Europese missie voor ‘klimaatneutrale en smart cities’. De missie heeft als doel dat er al in 2030 100 klimaatneutrale en ‘smart cities’ zijn, die fungeren als toonbeeld voor alle overige Europese steden[14].

De sectoren die bij dit transformatieproces zijn betrokken de gebouwde omgeving, energieproductie en -distributie, vervoer, afvalbeheer, industriële processen en productgebruik, landbouw, bosbouw en ander landgebruik en grootschalige inzet van digitale technologie. Vandaar dat wordt gesproken over the green and digital twin, een gelijktijdige groene en digitale transformatie.  

Sturing

Om het gestelde doel te bereiken is er een nieuwe manier van werken en participatie van de stedelijke bevolking vereist, vandaar het motto 100 klimaatneutrale steden tegen 2030 – door en voor de burgers. 

Het belangrijkste obstakel voor klimaattransitie is volgens de opstellers van het plan niet een gebrek aan klimaatvriendelijke en slimme technologie, maar het onvermogen om deze te implementeren. De huidige gefragmenteerde vorm van bestuur kan geen ambitieuze klimaattransitie tot stand brengen. Cruciaal voor het succes van de missie is de betrokkenheid van burgers in hun verschillende rollen als politieke actoren, gebruikers, producenten, consumenten of eigenaren van gebouwen en vervoermiddelen.

Financiering

De extra investering voor de realisering van de missie wordt geschat op € 96 miljard voor 100 Europese steden tegen 2030, met een netto positief economisch voordeel voor de samenleving van € 25 miljard dat in de periode daarna verder zal oplopen. De Europese Commissie zal €360 miljoen startkapitaal beschikbaar stellen. 

Het overweldigende deel van de financiering zal moeten komen van banken, private-equity fondsen en institutionele beleggers en van de publieke sector op lokaal, regionaal en nationaal niveau[15].

Wat ging mis met de Indiase Missie en hoe nu verder?

De kloof tussen ambities en realiteit

Vrijwel alle commentaren op ‘de missie’ benadrukken dat al bij de start niet was voldaan aan drie noodzakelijk voorwaarden, namelijk een breed geaccepteerd besturingsmodel, een degelijk financieringsmodel en betrokkenheid van de bevolking en het lokale bestuur[16].  

Er gaapte een bij voorbaat onoverbrugbare kloof tussen de ambities en de beschikbare middelen waarbij de bijdrage van extern kapitaal schromelijk is overschat[17].

Het grootste probleem is echter de kloof tussen de ambities van de missie en de aard van de problemen waarmee India kampt zelf: Steden barsten uit hun voegen vanwege de miljoenen armen die jaarlijks naar steden trekken op zoek naar werk en een plek om te wonen die ze alleen in de groeiende sloppenwijken vinden. De prioriteiten waarvoor het land een oplossing moet vinden zijn daarom: verbetering van het leven op het platteland, verbetering van de huisvesting in de steden, zorgen voor veilig drinkwater, afvalverwijdering, sanitair en zuivering van het afvalwater, goed (bus)vervoer en minder vervuilend autoverkeer[18].  Wat hiervoor noodzakelijk is, is een ‘duurzaam ontwikkelingsmodel’, dat ecologische problemen aanpakt, verstedelijking beheersbaar maakt, vervuiling controleert en hulpbronnen efficiënt gebruikt[19].

Vlucht naar voren

De ‘Missie’ is een vlucht naar voren, die deze problemen niet bij de wortel aanpakt, maar in plaats daarvan een oplossing zoekt in ‘smartification’. De beleidsmakers waren in de ban van de beloften van IBM en andere technologiebedrijven dat ICT de basis is voor de aanpak van de meeste stedelijke problemen. 

ICT-oplossingen werden geconcentreerd in enclaves where businesses and prosperous citizens are welcomed[20]. De speciale rapporteur voor huisvestingsaangelegenheden van de Indiase regering stelt dan ook vast dat de ingediende voorstellen een overheersende focus op technologische hadden in plaats van prioriteit te leggen bij betaalbare huisvesting en hij betwijfelt de juistheid van deze keuze[21].

In plaats van de rol van digitale technologie te benadrukken had het accent moeten liggen op rechtvaardige, inclusieve en duurzame woongebieden voor iedereen[22]. Niet de gebiedsgerichte maar de pan-stedelijke aanpak had moeten prevaleren. 

Hoe nu verder

Het lijkt erop dat adviezen die een antwoord geven op de vraag ‘hoe nu verder’ inderdaad de voornoemde kant opgaan:

  • Uitgaan van een langere tijdshorizont, die tevens beter aansluit op de problemen zoals die lokaal gevoeld worden[23].
  • Decentralisatie, gepaard aan versterking van het lokale bestuur in combinatie met participatie van de burgers[24].
  • Een veel beperkter aantal grootschalige pan-stedelijke projecten. Deze projecten moeten een onmiddellijke follow-up krijgen die bruikbaar is voor alle 4000 Indiase steden en het omliggende platteland[25].
  • Veel meer aandacht voor natuur en milieu in plaats van massa’s bomen te kappen voor de aanleg van autowegen[26].
  • Opleidingsprogramma’s op het gebied van de urbanisatie, mede om stedelijke ontwikkelingen veel beter te laten aansluiten bij de Indiase cultuur.

Terug naar de Europese missie

Vlucht naar voren

Europa en India zijn in veel opzichten onvergelijkbaar, maar ik zie wel overeenkomsten tussen beide missies.

Met de proclamatie van de ‘missie’ wilde de Indiase overheid een ultieme vorm van daadkracht laten zien om de overstelpende problemen van het land het hoofd te bieden. Ik noemde deze missie dan ook een vlucht naar voren waarbij het beeld van de ‘smart city’, dat in opkomende landen veel weerklank vond, als een boegbeeld werd gehanteerd. Dit en de andere ingezette middelen stonden in geen enkele verhouding tot de problemen van het land.

Ik acht het aannemelijk dat de Europese Commissie Unie ook zo’n ultieme daad wilde stellen. Na te hebben kennisgenomen van de ambitieuze ‘European Green Deal’ lijkt elke lidstaat zijn eigen plan te trekken. De 100 steden missie kan dan worden gezien als een ‘booster’ over de band van de steden, maar ook hier betwijfel ik het realiteitsgehalte van het gekozen middel.

Smart en green

De Europese Unie spreekt van een green and digital twin, een gelijktijdige groene en digitale transformatie.  

In navolging van de Indiase regering, beschouwt de Europese commissie digitale technologie als een noodzakelijk onderdeel van het streven naar klimaatneutrale steden, naast de rol ervan als aanjager van economische groei[27]. Dat digitale technologie een belangrijke bijdrage kunnen leveren, hoop ik in de vorige 21 afleveringen van deze reeks duidelijk te hebben gemaakt.  Het is echter onjuist en ongewenst om de vermindering van broeikasgassen en digitalisering in elkaars verlengde te zien. Om een stad klimaatneutraal te maken is veel meer nodig dan (digitale) technologie en de geschikte technologie moet deels nog worden ontwikkeld. Vergeten wordt vaak dat technologie zelf een van de oorzaken is van de opwarming van de aarde. Door te spreken van een green and smart twin is er net als in India voortdurend sprake zijn van een spanningsveld tussen beide en valt te bezien waar uiteindelijk de prioriteit komt te liggen. In India was dit duidelijk bij ‘smart’.

Financiering

De financiering van de Indiase ‘missie’ schoot te kort; over de financiering van de Europese missie is nog veel onduidelijk.  Het is zeer de vraag of de Europese staten, die nu al te maken hebben met forse oppositie tegen de kosten van ‘het klimaat’, bereid zullen zijn om langs de band van ’Europa’ extra middelen te laten vloeien naar steden.

Governance

De Europese missie zou door en voor de burgers moeten zijn. Maar het doel ligt al vast: Klimaatneutraal zijn in 2030.  Een nieuwe bestuurlijke aanpak ‘van onderop’ zou zijn geweest om in te onderzoeken of er steden zijn, waarvan een voldoende groot deel van de bevolking ervoor voelt om eerder dan in 2050 klimaatneutraal te worden en hoeveel eerder dat dan wel zou kunnen zijn. Het zou vervolgens aan deze steden zelf overgelaten moeten worden hoe dit doel bereikt wordt in of digitale technologie hen daarbij kan helpen.

Kan Europa alsnog voorkomen dat haar missie net als die van India mislukt?  Ik zou zeggen, zoek de oplossingen in dezelfde richting als India dat nu lijkt te doen:

  • Kies voor één eenduidig doel: Aanzienlijk eerder dan 2050 terugdringen van broeikasgassen.
  • Daag een beperkt aantal steden uit om elk een brede coalitie van lokale stakeholders te vormen die dit doel aanvaart en verder invult.
  • Stel extra middelen beschikbaar, maar vraag ook van de steden zelf een deel van de benodigde investeringen te doen.
  • Stimuleer dat universiteiten en industrie een Europees antwoord geven op Big Tech en dat zij verbindingen leggen met de ‘European Green Deal’.

Mijn e-boek De smart city idee bevat een aantal beschrijvingen van beoogde en vermeende smart cities, waaronder ook het veelbesproken Saudi-Arabische Neom. Hit boek kan hier worden gedownload[28]

[1] http://www.thehindu.com/opinion/columns/smart-cities-dont-make-me-laugh/article19897715.ece

[2] https://www.insightsonindia.com/social-justice/welfare-schemes/schemes-under-ministry-of-housing-and-urban-affairs/smart-cities-mission-scm/

[3] https://indianexpress.com/article/opinion/india-smart-city-mission-7383242/

[4] https://www.orfonline.org/research/indias-smart-cities-mission-2015-2021-a-stocktaking/

[5] https://www.rediff.com/business/report/smart-cities-or-smart-pilots/20151003.htm

[6] https://www.indiaspend.com/governance/smart-city-deadline-looms-but-targets-remain-distant-757360

[7] https://www.dropbox.com/s/44cv6n1gpzpo8m1/a-systematic-overview-of-indias-smart-city-mission-IJERTCONV9IS03113.pdf?dl=0

[8] https://www.archdaily.com/874576/is-indias-plan-to-build-100-smart-cities-inherently-flawed

[9] https://www.orfonline.org/research/indias-smart-cities-mission-2015-2021-a-stocktaking/

[10] http://www.humanosphere.org/human-rights/2017/06/poor-neglected-in-indias-smart-cities-plan-study-says

[11] https://www.rediff.com/business/report/smart-cities-or-smart-pilots/20151003.htm

[12] https://www.dropbox.com/s/5oktum6olic6ghm/India_Smart_Cities_Report_2017.pdf?dl=0

[13] https://www.urbanet.info/india-smart-cities-human-rights/

[14] https://energy-cities.eu/100-climate-neutral-and-smart-cities-by-2030-european-mission-launched/

[15] https://www.dropbox.com/s/y6hllubgc5tnxqj/100-climate-neutral-and-smart-cities.pdf?dl=0

[16] https://www.insightsonindia.com/social-justice/welfare-schemes/schemes-under-ministry-of-housing-and-urban-affairs/smart-cities-mission-scm/

[17] https://www.dropbox.com/s/44cv6n1gpzpo8m1/a-systematic-overview-of-indias-smart-city-mission-IJERTCONV9IS03113.pdf?dl=0

[18] https://www.rediff.com/business/report/pix-column-the-big-loopholes-in-indias-smart-cities-plan/20160720.htm

[19] https://indianexpress.com/article/opinion/india-smart-city-mission-7383242/

[20] http://www.humanosphere.org/human-rights/2017/06/poor-neglected-in-indias-smart-cities-plan-study-says

[21] https://www.dropbox.com/s/5oktum6olic6ghm/India_Smart_Cities_Report_2017.pdf?dl=0

[22] https://www.urbanet.info/india-smart-cities-human-rights/

[23] https://www.orfonline.org/research/indias-smart-cities-mission-2015-2021-a-stocktaking/

[24] https://indianexpress.com/article/opinion/india-smart-city-mission-7383242/

[25] https://www.dropbox.com/s/5oktum6olic6ghm/India%20Smart_Cities_Report_2017.pdf?dl=0

[26] https://www.insightsonindia.com/social-justice/welfare-schemes/schemes-under-ministry-of-housing-and-urban-affairs/smart-cities-mission-scm/

[27] https://www.dropbox.com/s/y6hllubgc5tnxqj/100%20climate%20neutral%20and%20smart%20cities.pdf?dl=0

[28] https://www.dropbox.com/s/k03uilw32un3mp0/2018%2008%2025%20De%20smart%20city%20idee.pdf

De digitaliseringsagenda van Amsterdam tegen het licht gehouden

In de 14de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie onderzoek ik het digitaliseringsbeleid van de gemeente Amsterdam vanuit de eerder geformuleerde richtlijnen en ethische principes.

Amsterdam was 25 jaar geleden met de Digitale Stad koploper op het gebied van toegang tot publiek internet. Nu wil de stad vooroplopen als vrije, inclusieve en creatieve digitale stad. Hoe de gemeente dat wil doen, is voor het eerst beschreven in de nota Een digitale stad voor en ván iedereen (2019)[1]. Een jaar later in Agenda digitale stad (2020)[2] zijn de doelen geherformuleerd tot drie speerpunten: (1) verantwoord inzetten van data en technologie (2) tegengaan van digitale ongelijkheid en (3) toegankelijk maken van de dienstlening. Deze drie speerpunten mondden uit in een reeks concrete activiteiten, waarvan in 2021 een eerste evaluatie aan de gemeenteraad is voorgelegd[3]. Aan de drie genoemde speerpunten is toegevoegd ‘Beschermen van digitale rechten’ (zie bovenstaande illustratie voor de vier speerpunten en de 22 activiteiten. Klik hier voor een grotere weergave).

In dit artikel ga ik na hoe het Amsterdamse digitaliseringsbeleid zich verhoudt tot de uitgangspunten en ethische principes voor digitalisering, die ik in de 9de aflevering heb genoemd. Ik heb deze vanwege de overlap heb samengevoegd in één lijst (zie HIER), genaamd ‘Uitgangspunten voor maatschappelijk verantwoord digitaliseringsbeleid’.  Deze lijst bevat acht uitgangspunten, elk voorzien van een niet-uitputtend aantal richtlijnen. Ik ga voor elk van deze uitgangspunten na wat Amsterdam inmiddels heeft verwezenlijkt en waaraan nu wordt gewerkt. De nummers achter de onderstaande uitgangspunten verwijzen een of meer van de 22 bovengenoemde activiteiten. Bij elk uitgangspunt voeg ik een buitenlands voorbeeld toe.

1. Inbedding (1, 4)

De digitale agenda is onderdeel is van een democratisch vastgestelde en samenhangende stedelijke agenda.

  • De gemeente Amsterdam bouwt samen met AMS Institute, de Hogeschool van Amsterdam, Waag, e.a. aan een breed kennisnetwerk op het gebied van verantwoord gebruik van data en digitale technologie. Vanuit dit netwerk zal onderzoek worden gedaan naar de impact van technologie op de stad.

In 2017 ging in de Poolse stad Lublin[4] het project Foresight Lublin 2050 van start om kansen en bedreigingen te definiëren die verband houden met sociaaleconomische, ecologische en technologische ontwikkeling. Het stelt dat beslissingen rond technologie moeten worden genomen uitgaande van de werkelijke behoeften van de bewoners en die moeten betrokken zijn bij het ontwerp en implementeren van beleid.  Als onderdeel van het democratische karakter van de besluitvorming in Lublin, bepalen bewoners de toewijzing van begrotingsmiddelen

2. Gelijkheid, inclusiviteit en sociale impact (16, 17, 19, 20)

Informatie- en communicatietechnologie toegankelijk maken voor iedereen

  • De gemeente Amsterdam wil dat de publieksdiensten toegankelijk, begrijpelijk en bruikbaar zijn voor iedereen, online en offline. Onderzoek onder laag-geletterde doelgroepen heeft aanwijzingen opgeleverd om de dienstverlening toegankelijker te maken. 
  • De Online-uitvoeringsagenda geeft informatie over lopend beleid (volg.amsterdam.nl). Mijn Amsterdam verschaft informatie over projecten op buurtniveau en mogelijkheden om daarin te participeren.
  • Kwetsbare Amsterdammers vinden op een aantal plaatsen hardware om het Internet te gebruiken en ook is op een aantal plaatsen gratis Wi-Fi beschikbaar. Ook zijn er enkele duizenden laptops beschikbaar gesteld.
  • Samen met maatschappelijke partners wordt de ontwikkeling van digitale vaardigheden ondersteund. Zo is met Cybersoek een ‘train-de-trainer’ programma uitgevoerd en de Openbare Bibliotheek zal de komende jaren alle bezoekers laten kennismaken met de thema’s datawijsheid en digitale vrijheid. 
  • Via het partnership met TechConnect worden in drie jaar 50.000 extra mensen uit ondervertegenwoordigde groepen geattendeerd op de technologie arbeidsmarkt.
  • De gemeente acht uitrol van het 5G-netwerk gewenst, maar volgt kritisch onderzoek over de gezondheidsrisico’s van dit netwerk. Via het 5G-Fieldlab worden de toepassingen van 5G onderzocht en hun belang voor de bewoners.

Barcelona en Madrid zijn voorlopers op het gebied van digitale participatie, mede dankzij hun resp. netwerken Decidem[5] en Decide Madrid[6]. Bewoners gebruiken deze op grote schaal als bron van informatie en om mee te discussiëren resulterend in een (adviserende) stem. Veel van wat de gemeenteraad behandelt, is via deze fora ter tafel gekomen.

3. Rechtvaardigheid (2, 15, 20)

Voorkomen dat toepassing van digitale systemen tot machtsconcentratie en machtsmisbruik leiden.

  • De Agenda Amsterdamse Intelligentie stelt voorwaarden aan algoritmen, om discriminatie te voorkomen. Mede in dit verband zal jaarlijks een aantal algoritmen worden geaudit en worden algoritmen in een register ondergebracht.
  • Het Civic AI Lab gaat de (onbedoelde) implicaties onderzoeken van algoritmen met betrekking tot ongelijke behandeling en discriminatie.
  • Er is voor de domeinen zorg en onderwijs een verkenning gestart naar de wijze waarop deze laagdrempelige toegang tot hun diensten kunnen geven. Hiermee zal de komende jaren verder worden geëxperimenteerd.

Met zijn 116 pagina’s omvattende strategie voor het ethisch gebruik van kunstmatige intelligentie (AI) richt New York[7] zich op het gebruik van AI om bewoners beter van dienst te zijn, het opbouwen van AI-knowhow binnen de overheid, modernisering van de data-infrastructuur, stadsbestuur en beleid rond AI, het ontwikkelen van partnerschappen met externe organisaties en het bevorderen van gelijke kansen.

4. Menselijke waardigheid (20)

Voorkomen dat technologie mensen van hun unieke eigenschappen vervreemdt en in plaats daarvan ervoor zorgen dat zij hun ontplooiing stimuleert.

  • Het programma ‘Moderne Overheid’ onderzoekt hoe digitalisering verschillende domeinen van de gemeentelijke organisatie kan ondersteunen. Voorbeelden zijn: beter matchen van werkzoekenden en werk, 18-jarigen helpen bij het beheer van hun financiën, (vroeg)signalering van mensen met schulden, geven van informatie over schoonmaken en beheer van de stad.

De Database of Affordable Housing Listings, Information, and Applications stelt bewoners van San Francisco[8] in staat om het gehele aanbod aan betaalbare woningen te doorzoeken en hun belangstelling kenbaar te maken via een eenvoudig formulier in verschillende talen. Uit de ingediende aanvragen wordt door middel van loting een kandidaat-bewoner aangewezen, die vervolgens een meer gedetailleerde aanvraag indient. De procedure is geheel in open source software ontwikkelt en andere steden sluiten zich bij dit initiatief aan.

5. Autonomie en privacy (3, 5, 6, 14, 15)

Erkenning menselijke autonomie en van daaruit het recht om in de publieke ruimte te verblijven en zich te verplaatsen zonder digitaal te worden geobserveerd.

  • De gemeente heeft een datastrategie vastgesteld die de bewoners meer zeggenschap geeft over de eigen data
  • Via de app IRMA werkt de gemeente samen met andere gemeenten aan dataminimalisatie en geeft bewoners regie over hun eigen gegevens. Via deze app kunnen bewoners ook ‘meldingen openbare ruimte’ doen. Deze app kan de basis vormen voor de ontwikkeling van een ‘Digitale identiteit’.
  • Het ‘Responsible Sensing Lab’ onderzoekt privacy-vriendelijke meetmethoden om verantwoord data te kunnen verzamelen met behulp van ‘sensing’. De mmWave-sensor bijvoorbeeld meet drukte zonder persoonsgegevens te verzamelen.
  • Een register brengt geplaatste sensoren in kaart. Via een sensorverordening zal het aanmelden van sensoren in de publieke ruimte verplicht worden gesteld.

Om de privacy van de bewoners te beschermen heeft het bestuur van Seattle[9] een reeks stappen gezet waarmee de stad in dit opzicht onbetwist voorloper is. De stad heeft een chief privacy officer aangesteld, een reeks leidende privacy principes vastgesteld en een privacy adviescommissie ingesteld, bestaande uit zowel burgers als ambtenaren. Een belangrijk onderdeel is de uitvoering van een privacy impact assessment telkens wanneer de gemeente een nieuw project ontwikkelt waarbij persoonlijke gegevens worden verzameld.

6. Open data, open software en interoperabiliteit (9, 13, 18)

Data-architectuur, inclusief standaarden, afspraken en normen gericht op hergebruik van data, programma’s en technologie en ook voorkomen van lock-in.

  • Het gemeentelijk beleid met betrekking tot open data is ‘open, tenzij’. Het stedelijk platform data.amsterdam.nl trekt 2500 unieke bezoekers per dag.
  • De sourcing- en opensourcestrategie van de gemeente legt vast het hergebruik van bestaande middelen, het gebruik van standaarden en het beschikbaar stellen van door de gemeente ontwikkelde software.
  • Samen met kennisinstellingen en bedrijven ontwikkelt de gemeente de Amsterdam DataExchange, waarin de betrokken partijen regelen welke en hoe ze data uitwisselen. Met het CBS zijn afspraken gemaakt over beschikbaar stellen van gegevens.
  • De Tada-principes zijn de uitgangspunten voor verantwoord datagebruik. Zij regelen de zeggenschap van de gebruikers en bepalen hoe data ingezet kunnen worden en dat zij open en transparant zijn. Beoogd wordt dat ook andere Amsterdamse instellingen en bedrijven deze principes overnemen.
  • Via ‘Mijn Amsterdam’ kunnen inwoners hun persoonlijke gegevens inzien. Dit geldt inmiddels ook voor ondernemers.

Om startups te ondersteunen heeft het stadsbestuur van Seoul[10] My Neighborhood Analysis ontwikkeld, een tool die een ongekende hoeveelheid commerciële informatie bevat. Het gaat onder andere om bedrijfslicenties, eigendomsinformatie, huurprijzen en transportkaartgegevens, met datasets uit het volledige zakelijke ecosysteem van Seoul. Wanneer een gebruiker informatie invoert over het voorgestelde bedrijfstype, krijgt deze een overzicht van de bedrijfsprestaties in de te verkennen wijk en een indicatie van het verwachte risiconiveau voor een nieuw bedrijf. Gebruikers kunnen vergelijkbare bedrijven selecteren om inzicht te krijgen in hun historische prestaties.

7. Veiligheid (7, 9)

Voorkomen en bestrijden van internetcriminaliteit en beperken van de gevolgen daarvan.

  • De gemeente heeft een Agenda digitale veiligheid opgesteld, mede gericht op het in bedrijf houden van vitale infrastructuur

De gemeente Den Haag[11] heeft samen met Cybersprint een ​​IoT-beveiligingsmonitor ontwikkeld. Deze geeft een realtime overzicht van alle verbonden IoT-apparaten binnen de stadsgrenzen met gedetailleerde informatie, zoals hun verblijfplaats en risiconiveau. De monitor heeft tot nu toe 3100 onveilige apparaten in Den Haag geïdentificeerd. Meestal zijn onveilige apparaten die geen wachtwoord of standaardwachtwoorden of verouderde software gebruiken

8. Operationele en financiële duurzaamheid (12, 20, 21)

Garanderen van een bedrijfszeker, robuust Internet

  • De gemeente overlegt permanent met de Internet- en telefoonaanbieders om de stabiliteit van de netten te garanderen.

Civiele werken die vereist zijn voor het uitrollen van de digitale infrastructuur voor glasvezel bedragen 90% van de totale kosten. Een “Dig Once”-beleid[12] heeft tot doel deze kosten te verminderen door samenwerking tussen steden, providers, nutsbedrijven en andere belanghebbenden. Het gaat er daarbij om dat bij nieuwbouw in een keer alle kabel- en leidingenwerkzaamheden uit te voeren en daarvoor liefst een kleine makkelijk bereikbare tunnel onder de stoep of de straat aan te leggen. De bedrijfszekerheid van alle (digitale) voorzieningen wordt hiermee aanzienlijk vergroot. Bij bestaande bebouwing zouden alle onderhouds- en vervangingswerkzaamheden in een keer uitgevoerd moeten worden.

Knelpunten

Zoals valt te verwachten doen zich bij de uitvoering van het beleid verschillende knelpunten voor. Er is immers sprake van een relatief snel verlopend ontwikkelingsproces waarbij veel partijen en belangen betrokken, terwijl technologische ontwikkelingen snel gaan. Op een aantal terreinen is nog het nodige werk te verrichten om het draagvlak te vergrote, zowel binnen het gemeentelijk apparaat, bedrijven en organisaties en de bevolking. Het gaat daarbij onder andere om de Tada-principes, de naleving van de gemeentelijke sourcingstrategie, het ‘open, tenzij’-beleid en het beleid voor dataminimalisatie. Er is verder nog het nodige te doen aan de ontwikkeling van een betrouwbare digitale infrastructuur en het tegengaan van (onbedoelde) effecten bij toepassing van kunstmatige intelligentie. Vergroting van de digitale zelfredzaamheid en het creëren van de randvoorwaarden voor alle bewoners om digitaal mee te doen vereist structurele inbedding en financiering.

Digitalisering Amsterdam.  Te vroeg voor een oordeel

Zeker is dat de gemeente Amsterdam voortvarend bezig is met op verantwoorde wijze te digitaliseren. De stad heeft een duidelijk beeld van de problematiek waarvoor ze staat. Minder duidelijk is wanneer er naar het oordeel van de gemeente sprake is van een geslaagd beleid en wat de realisering daarvan de komende jaren nog aan verdere inspanningen vraagt. Op elk van de door mij opgestelde uitgangspunten vinden acties plaats, maar er is nog geen dekkend geheel. Dat geldt overigens ook voor andere steden, maar sommige daarvan zijn op onderdelen beslist verder, denk aan de digitale participatie van bewoners van Barcelona, Madrid, Lublin, aan het privacy beleid van Seattle, de informatievoorziening van Seoul en het in ethisch opzicht verantwoord gebruik van kunstmatige intelligentie in New York waarover Milou Jansen, coördinator van de Cities Coalition for Digital Rights zegt: New York’s AI Strategy is a bold and inspiring example of how digital rights can find its way into the operationalisation of AI policies. It shows the way forward to many other cities around the globe who likewise support an approach grounded in digital rights[13].

Mijns inziens heeft de gemeente Amsterdam op het gebied van privacy (5) en open data (6) grote stappen gezet. De grootste opgaven liggen op de volgende terreinen (de nummers verwijzen naar de door mij geformuleerde uitgangspunten):

  • De inbedding van het digitaliseringsbeleid in de overige beleidsterreinen (1).
  • De beschikbaarheid van Internet, computers en digitale vaardigheden voor kwetsbare groepen (2).
  • Het gebruik van digitale middelen ter vergroting van de participatie van de bevolking aan de ontwikkeling en de vaststelling van het beleid (2).
  • De arbeidsomstandigheden van werknemers in de gig economie (3).
  • Het behouden van toezicht op de AI-systemen die autonoom oordelen over mensen vellen (4).
  • De strijd tegen cybercrime (7).
  • Een toekomstbestendige infrastructuur (8).

In de volgende aflevering verleg ik het blikveld naar een aantal andere Nederlandse gemeenten.

[1] https://waag.org/sites/waag/files/2019-03/Agenda-digitale_stad-amsterdam.pdf

[2] https://amsterdam.raadsinformatie.nl/document/8773731/1/2__Magazine_Digitale_stad_2020digitaal_spreads

[3] https://openresearch.amsterdam/nl/page/67000/agenda-digitale-stad-tussenrapportage-2019-2020

[4] https://hub.beesmart.city/city-portraits/smart-lublin-a-smart-city-with-a-social-dimension

[5] https://decidim.org/

[6] https://decide.madrid.es/

[7] https://www1.nyc.gov/assets/cto/downloads/ai-strategy/nyc_ai_strategy.pdf

[8] https://associates.bloomberg.org/digitalcitytools/

[9] https://www.govtech.com/data/seattle-pushes-forward-as-data-privacy-leader.html

[10] https://associates.bloomberg.org/digitalcitytools/

[11] https://associates.bloomberg.org/digitalcitytools/

[12] https://www.weforum.org/whitepapers/governing-smart-cities-policy-benchmarks-for-ethical-and-responsible-smart-city-development

[13] https://cities-today.com/new-york-launches-strategy-for-ethical-ai/

Ethische principes en toepassingen van digitale technologie: Immersieve technologie, blockchain en platformen

In de 13de aflevering van de reeks Bouwen aan duurzame steden – De bijdrage van digitale technologie vervolg ik de beschrijving van een aantal toepassingen van digitale technologie en de beoordeling daarvan aan de hand van relevante ethische principes.

In aflevering 12 kwamen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie. De  ethische principes uit aflevering 9, die ook in deze aflevering worden gebruikt zijn: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen. Deze zijn ontleed aan het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017)[1].

4. Immersieve technologie (augmented en virtual reality)

Augmented reality voegt informatie toe aan onze waarneming. De oudste voorbeelden daarvan zijn berichten die piloten van supersnelle gevechtsvliegtuigen op hun bril konden lezen, zodat ze hun ‘target’ niet uit het zicht zouden verliezen. De ongetwijfeld meest populaire toepassing is het spel Pokémon Go.  Aanvullende informatie via het beeldscherm van de smartphone is ook vaak beschikbaar bij het bezoek aan vele ‘bezienswaardigheden’. De roemruchte Google glasses was een uitgelezen middel voor dit doel, maar vanwege het evidente risico op schending van de privacy is aan de toepassing hiervan al snel een einde gekomen. Voor bepaalde groepen, bijvoorbeeld slechthorenden is dit jammer. 

Virtual reality gaat veel verder. In dit geval wordt onze zintuiglijke waarneming vervangen door beelden van een kunstmatige wereld. Hiervoor is een speciale bril nodig, zoals de Oculus rift.  Toepassingen vinden hun weg vooral via gaming. Maar het is ook mogelijk om met deze set driedimensionale interieurs van woningen te tonen of wandelingen door nieuw te bouwen wijken mogelijk te maken. 

Het metaversum

Virtual reality verplaatst je naar het metaversum wat voor het eerst is beschreven door Neil Stephenson in diens dystopische boek Snow Crash in 1992. Naarmate de kracht van computers toenam, kreeg de idee van het metaversum nieuwe impulsen en recentelijk kondigde Marc Zuckerberg dan ook aan dat het zijn nieuwe bedrijf Meta Platforms, Facebook geleidelijk gaat veranderen in een volledige digitale wereld. Deze dompelt de gebruikers onder in de meest uiteenlopende ervaringen, die deze deels zelf oproept, zoals communiceren met een levensechte avatar van een (on)bekende, een live-concert bijwonen, met naar de disco gaan en daar (on)bekenden ontmoeten en uiteraard ook winkelbezoek, want het blijft een medium om aan te verdienen. 

Nog pas kort tevoren had Microsoft ook al bekend gemaakt zijn operating system (Windows), webservers (Azure), communicatienetwerken (Teams en Linkedin) hardware (HoloLens), entertainment (Xbox) en IP (Minecraft) samen te gaan brengen in een virtuele realiteit[2]. De recente aankoop van gameproducent Activision Blizzard, producent van de Call of Duty-videogames voor € 60 miljard past in dit beleid en wijst erop dat het bedrijd met zijn versie van de metaverse heel wat denkt te gaan verdienen.

Bij de te verwachte machtsstrijd tussen de titanen, zal waarschijnlijk ook Amazon zich voegen en de virtuele mall van en voor ieders dromen bouwen. Het is nog maar de vraag of een jongere minder consumptieverslaafde generatie wel zit te wachten op een volledige artificiële wereld. Ik hoop van niet.

Privacy

De risico’s van augmented reality zijn vanaf het begin breed uitgemeten. Voor onderzoeksdoelen had Google bijvoorbeeld het recht gekregen om de bewegingen van de ogen van mensen die Google glasses droegen op afstand te volgen. Voor het overige geldt dat niet alleen overheden en bedrijven mensen zullen bespieden, maar vooral mensen elkaar. Auteursrechtelijk is interessant wie de eigenaar is van de beelden van je avatar.

Veiligheid

Al na korte tijd krijgen degenen die zich door het metaversum bewegen evenwichtsproblemen. Mogelijk erger is dat de kans op verslaving groot is. 

Menselijke waardigheid

Het gevaar is aanwezig dat mensen die veelvuldig in imaginaire werelden functioneren nep en echt niet meer van elkaar te onderscheiden en van zichzelf vervreemden in de ‘echte’ wereld en de sociale vaardigheid verliezen die daarin noodzakelijk is.

Machtsverhoudingen

Big Tech krijgt nog meer middelen in handen om onze voorkeuren te analyseren en ons te beïnvloeden[3], ook door deep-fakes, waarmee bestaande personen levensecht geïmiteerd kunnen worden. Dat roept vragen op over de risico’s die burgers lopen, en over nog grotere rol van bedrijven die immersieve technologie aanbieden.

5. Blockchain

Blockchain maakt het mogelijk transacties (van geld, waardepapieren, contracten en voorwerpen) vast te leggen zonder bemiddeling van een daartoe gerechtigde instantie (overheid, werkgever, bank, notaris)[4]. De eerste versie van blockchain was de bitcoin, eerst alleen bedoeld voor financiële transacties. Tegenwoordig bestaan er honderden varianten, waarvan Ethereum de meest gebruikte is. De essentie van bockchain is dat de database van alle transacties, de ledger, op ieders computer opgeslagen wordt en dus toegankelijk is voor elke gebruiker. Miners zien erop toe dat een cryptomunt maar voor een transactie wordt gebruikt of dat een contract achteraf niet door een van de betrokken partijen wordt veranderd, overigens zonder te weten wie die gebruikers zijn. Zodra de meerderheid van de miners een reeks transacties heeft goedgekeurd, vormen deze samen een niet meer te veranderen blok. Miners zijn erop gebrand blokken goed te keuren, want degene waarvan achteraf blijkt dit als eerste te hebben gedaan, ontvangt een aanzienlijke vergoeding in cryptocurrency. Mining kost de nodige tijd en vereist vooral gigantisch veel rekenkracht en dus energie. Er wordt naarstig gezocht naar alternatieve methoden, zoals een methode waar het vooral om de reputatie van de miner gaat. 

Blockchain komt voort uit streven naar radicale decentralisatie en vermindering van de macht van staten, banken[5]en bedrijven. Dat pakt in de praktijk anders uit. Het zijn vooral overheden[6] en grote bedrijven in de VS, Rusland[7], China[8], Zuid-Korea en in Nederland bijvoorbeeld Albert Heijn[9], die voor een gestage opmars zorgen.

Als middel voor veilige opslag van transacties en het vastleggen van onderlinge verplichtingen, zoals in het geval van digitale autonome organisaties, heeft blockchain meer potenties dan als cryptocurrency. Absolute voorwaarde is het vinden van een alternatief voor het ongehoord hoge energiegebruik.

Privacy

Blockchain is voortgekomen uit het streven te ontsnappen van de alomtegenwoordige meekijkende ondernemingen en staat. Vandaar ook dat dubieuze transacties bij voorkeur met cryptocurrency worden afgehandeld. Volledige anonimiteit is er niet, omdat cryptocurrency geregeld moet worden omgewisseld in officieel geld en dat zwakke punt weten hackers dan ook te vinden.

Autonomie

Wellicht komt in blockchain meer dan in welk ander systeem menselijke autonomie tot zijn recht. Daarvoor is het wel nodig de werking goed te kennen. Dit geldt eens te meer als er sprake is van niet-financiële transacties.

Veiligheid

Risico’s zijn er zeker: Op het moment dat een miner meer dan 50% van de computercapaciteit in bezit heeft, kan deze het systeem volledig corrumperen.  Deze situatie is niet denkbeeldig.  In 2019 waren er twee Chinese miners die samen meer dan de helpt van de computercapaciteit bezaten. 

Machtsverhoudingen

Over de positie van miners is niet veel bekend.  Er is een tendens naar een steeds verdergaande concentratie, die gevaren in zich heeft over de duurzaamheid van het systeem.  Naarmate de concentratie toeneemt, zal het bezit aan cryptocurrency ook steeds schever worden. Het zijn immers de miners die voor de uitbreiding van de beschikbare hoeveelheid geld zorgen. 

6. Digitale platformen

Bedrijven als Amazon, Uber en Airbnb en op kleine schaal Bol.com vertegenwoordigen een nieuwe vorm van economische activiteit die verstrekkende gevolgen heeft voor andere bedrijven en de inrichting van de ruimte. Zij bestaan in essentie uit digitale platformen waarop ze aanbieders en consumenten bijeenbrengen. 

Stel je voor, je begeeft je in de virtuele paskamer van Amazon. Je zit op een stoel en een reeks modellen komt voorbij die allen precieus jouw figuur en maat hebben en misschien ook wel je uiterlijk. Je kunt eindeloos variëren wat ze aan hebben, tot dat je de outfit van je dromen het gevonden of samengesteld. Dit kan gelden voor alle denkbare aankopen, tot auto’s, inclusief rijsimulator toe. Met een druk op de knop is die besteld en een paar uur later dropt de drone je bestelling voor de deur.

In digitale platformen komt een reeks toepassingen van digitale technologie samen, zoals Internet-of-Things, robotica, immersieve technologie, kunstmatige intelligentie en ook blockchain, om zicht te houden op de immense stromen van goederen en diensten.

Privacy

In de wereld van de platformen telt privacy niet of nauwelijks. Bedrijven willen zo veel mogelijk aan je verdienen en verzamelen daarom massa’s informatie over je gedrag, voorkeuren en uitgaven. Dit in ruil voor gemak, en gratis gadgets als navigatie, zoekmachines en email. 

Autonomie

Platformen zijn behalve geldmachines ook een onderdeel van de deeleconomie. Ze maken directe transacties tussen mensen mogelijk en zorgen, zoals in het geval van Airbnb voor een ongekend groot aanbod van accommodaties waaruit vrij valt te kiezen. 

Rechtvaardigheid

Medewerkers in platformbedrijven hebben veelal slechte arbeidsvoorwaarden, denk bijvoorbeeld aan de chauffeurs van Uber die de hele dag gevolgd, gecontroleerd en beoordeeld worden. In distributiecentra zijn alle nog resterende menselijke handelingen, tot op de minuut voorgeschreven. 

In deze bedrijven ontstaat een grote kloof tussen de kleine binnencirkel van managers en technici en de grote buitencirkel van ‘loonwerkers’ waar het bedrijf verder niets mee heeft en zij ook niet met het bedrijf.

Machtsverhoudingen

Deze bedrijven dragen ook bij aan de vergroting van de kloof tussen arm en rijk; de ongekend grote verdiensten gaan naar het topmanagement en de aandeelhouders en als het kan wordt de belasting ontweken.

Platformen als Airbnb maken op grote schaal concurrentievervalsing mogelijk; de accommodaties die zij verhuren boeven niet te voldoen aan de regels op het gebied van veiligheid, belastingheffing die gelden voor reguliere bedrijven.

De groei van platforms die monopolistische vormen heeft aangenomen is de belangrijke oorzaak van de ontwrichting van de steden, zonder zij bijdragen aan de kosten die dat voor de gemeenschap met zich meebrengt.

Terug naar gouvernance

Ik heb in dit en het voorgaande artikel een kader uitgewerkt voor maatschappelijk verantwoord omgaan met digitalisering. Daarin ontwikkelden zich twee denklijnen, die van de waarde van digitale technologie en die van het ethisch gebruik ervan.

De waarde van digitale technologie

Digitale technologie moet vorm en inhoud krijgen als een van de instrumenten waarmee een stad werkt aan een ecologisch en sociaal duurzame toekomst. Om te helpen verwoorden wat zo’n toekomst inhoudt, introduceerde ik Kate Raworth’ denkbeelden over de donuteconomie. Het ontwerpen van zo’n toekomstbeeld moet een breed gedragen democratisch proces zijn, waarin burgers de oplossing van hun eigen problemen mede toetsen aan de duurzame welvaart van toekomstige generaties en die van mensen elders op de wereld. 

De belangrijkste vraag als het om (digitale) technologie gaat is dus ‘welke (digitaal) technologische hulpmiddelen dragen bij aan de realisering van een in sociaal en ecologisch opzicht duurzame stad‘.

Het ethisch gebruik van technologie

In de wereld waarin we de duurzame stad van de toekomst realiseren ontwikkelt digitale technologie zich snel, vooral onder invloed van commerciële en politieke belangen. Steden worden met deze technologieën geconfronteerd door middel van een krachtige smart city technology marketing.

De belangrijkste vraag die steden zich in dit verband moeten stellen is ‘Hoe beoordelen we beschikbare technologieën vanuit een ethisch perspectief’.

In de besturing van steden komen beide denklijnen bij elkaar: Welke (digitale) technologie help ons verder op weg naar een duurzame toekomst en wat is het ethische gehalte van technologieën die in principe daarbij bruikbaar zijn. Samen kunnen deze leiden tot de keuze, vormgeving en toepassing van digitale technieken als onderdeel van de realisering van een visie op een ecologisch en sociaal duurzame toekomst van de stad.

In de volgende twee artikelen onderzoek ik hoe er in de praktijk wordt omgegaan met ethische principes. In het eerste artikel zetten we Amsterdam voor het voetlicht en daarna bekijken we hoe een aantal gemeenten bezig is op verantwoorde wijze te digitaliseren in het kader van Agenda stad.

[1] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[2] https://is.gd/gIX6qH

[3] https://is.gd/yBkiXi

[4] https://www.archdaily.com/973814/bitcoin-nfts-and-the-metaverse-reflecting-on-the-year-of-digital-real-estate-and-design?utm_medium=email&utm_source=ArchDaily%20List&kth=

[5] https://blogs.worldbank.org/sustainablecities/top-7-disruptive-technologies-cities

[6] https://www3.weforum.org/docs/Top20_Global_Data_Stories_report_2017.pdf

[7] https://ict.moscow/en/projects/blockchain/

[8] https://cointelegraph.com/news/chinese-city-seeks-to-power-urban-governance-and-more-using-blockchain-tech

[9] https://www.capgemini.com/nl-nl/client-story/innovatie-in-de-praktijk-blockchain-technologie-in-de-supply-chain-van-albert-heijn/

Ethische principes en toepassingen van digitale technologie: Internet of things, robotica en biometrie

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

In de 12de en 13de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie gebruik ik de ethische principes uit aflevering 9 om een aantal toepassingen van digitale technologie te beoordelen. In deze aflevering komen aan de orde: (1) Internet of Things, (2) robotica en (3) biometrie.  Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.

Deze technieken leggen wederkerige verbindingen (cybernetische loops) tussen de fysieke en de digitale wereld[1]. Ik geef van elk van deze technieken een korte beschrijving, gevolgd door een aantal opmerkingen over hun ethische aspecten: privacy, autonomie, veiligheid, controle, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen, voor zover relevant. Hierbij is gebruik gemaakt van het boek Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Rathenau Instituut 2017[2].

1. Internet of Things

Het Internet-of-Things verbindt objecten via sensoren met apparaten die deze gegevens (op afstand) verzamelen en bewerken. De stappenteller op de smartphone is een voorbeeld van de verzameling van gegevens van mensen. Dit nog maar het begin, op termijn kunnen de meest uiteenlopende gegevens van ieders gezondheid worden verzameld en opgeslagen. Vooralsnog gaat het nog vooral om gegevens van objecten. Een bekend voorbeeld is de ‘slimme meter’. Steeds meer huishoudelijke apparatuur is met het Internet verbonden en geeft gebruiksgegevens door. Samsung smarttelevisies hadden lange tijd een ingebouwde televisiecamera en microfoon waarmee het gedrag van de kijkers geobserveerd kon worden. Ook de roemruchte digitale huisgenoten als Alexa en Siri zijn technisch in staat om alles wat er in hun omgeving wordt gezegd aan hun bazen door te geven.

Machines, maar ook treinen en vrachtauto’s zitten vol sensoren waarmee functioneren kan worden gemonitord. Het verkeer kan met sensoren in en boven de weg worden gevolgd en uitlaatgassen en fijnstof kan worden gemeten. Op veel plaatsen in de wereld kunnen de gangen van mensen met massa’s camera’s ’s worden nagegaan. Een eenvoudige handtekening van Amerikaanse eigenaars van een Ring-deurbel volstaat om alle gegevens van wie zich aan de voordeur meldt door te geven aan de politie, die deze met gezichtsherkenningsapparatuur kan analyseren. Orwell had het niet kunnen bedenken.

Privacy

Internet of Things maakt het mogelijk om ieder persoon altijd te volgen, binnen- en buiten de woning. Als het om verzamelen van gegevens in huis gaat, is het grootste probleem onbekendheid en gebrek aan transparantie en in verband hiermee groeiend wantrouwen. Digitaal huisrecht kan een oplossing zijn; dit houdt in dat geen enkel apparaat gegevens verzamelt, tenzij hiervoor expliciet toestemming wordt gegeven.

Een betere oplossing is dat fabrikanten zich bezinnen op de vraag waarom ze al deze gegevens willen verzamelen.

Zodra iemand het huis verlaat, wordt het lastiger. In veel Nederlandse steden is ‘tracking’ van mobiele telefoons inmiddels verboden, maar elders is een scala van middelen beschikbaar om ieders (koop)gedrag te registreren. De wetgeving op dit punt in Europa wordt gelukkig steeds stringenter. 

Autonomie

Het steeds maar toevoegen van meer ‘gadges’ aan apparaten en die als ‘slim’ verkopen, heeft uiteindelijk maar één doel, mensen verleiden tot aanschaf ervan ook als eerdere versies nog lang niet zijn versleten. De verkoop is omgeven door al van ‘persuasieve’ technieken die de vrije wil van mensen beïnvloeden. Facebook beïnvloedt heel behendig onze gemoedstoestand door de selectie van berichten.

Media, reclamemakers en bedrijven zouden zich moeten bezinnen over de wenselijkheid om in dit opzicht een aantal stappen terug te doen. Voor zowel mens als milieu.

Veiligheid

Sensoren in huishoudelijke apparaten zijn meestal slecht beveiligd en geven internetcriminelen makkelijk toegang tot alle andere apparaten. Voor degenen die hun apparaten centraal willen bedienen en ook dat deze onderling communiceren, is een gesloten net – een vorm van ‘edge computing’ – een oplossing. De eigenaar kan dan zelf besluiten welke gegevens ‘naar buiten’ mogen, bijvoorbeeld voor alarmering of het balanceren van het elektriciteitsnetwerk. Daarop kom ik in een latere aflevering terug. 

Controle

Nu al ervaren mensen die bijvoorbeeld de verlichting van hun huis via een app regelen, problemen als de batterij van de telefoon leeg is. De ervaring leert bovendien dat het instellen en werkend houden van een zo’n draadloos systeem niet eenvoudig en dat er vaak ongewenste interferenties optreden. Eenvoudig een lamp verwisselen is allang niet meer voldoende op dit soort problemen op te lossen.  Voor veel mensen glipt de controle over hun eigen huis uit handen.

Machtsverhoudingen

De digitale component van veel apparaten en met name de afhankelijkheid van goed ingestelde software maakt mensen steeds afhankelijker van leveranciers, die overigens steeds minder in staat zijn om aan de daarmee samenhangende vraag naar service en ondersteuning te voldoen.

2. Robotica

Robotica doet met grote snelheid zijn intrede. In vrijwel elke hartoperatie wordt robotica gebruikt om de bewegingen van de chirurg preciezer te maken en sommige operaties worden (bijna) geheel automatisch uitgevoerd. Robots worden steeds meer ingezet in de zorg, ter ondersteuning of vervanging van zorgverleners. Denk ook aan robots die 3D kunnen waarnemen door de riolering ‘kruipen’. Ze helpen daar lekkages oplossen of voorkomen[3] of ze nemen monsters om besmettingshaarden op te sporen[4]. Leeds wil op die manier in 2035 de eerste ‘zichzelf reparerende stad’ zijn[5]. ‘Zelfsturende’ auto’s, of wat veel vaker voorkomt, (metro)treinen zijn andere voorbeelden. Dat de meeste magazijnen en fabrieken vol staan met robots behoeft geen toelichting. In huishouders doen ze ook hun intrede, denk aan bijvoorbeeld aan de stofzuiger of de grasmaaier. Robots geven grote hoeveelheden informatie door en zijn daarmee essentiële onderdelen van het Internet of Things.

Privacy

Robots staan vaak ‘by design’ op gespannen voet met de privacy. Dat geldt voor zorgrobots in het bijzonder. Dergelijke apparaten kunnen waardevol zijn, als patiënten en/of hun naasten zich maar voldoende bewust zijn van de impact ervan. Essentieel is transparantie en dat deze apparaten alleen gegevens verzamelen en verzenden voor het doel waarvoor ze bestemd zijn. 

Autonomie

Veel mensen vinden ‘achteruit inparkeren’ een probleem en laten dat graag aan robotica over.  Daarmee geven ze tegelijkertijd een deel van hun autonome vaardigheid als bestuurder af.  De vaardigheid om achteruit in te parkeren is namelijk ook in diverse andere situaties vereist. Dit geldt in nog veel sterkere mate bij vaardigheden die ‘zelfsturende’ auto’s van mensen overnemen.

Bestuurders zullen steeds vaker in situaties terechtkomen waarin ze machteloos staan.

Tegelijkertijd is robotica een uitweg in situaties waarin mensen misbruik maken van hun zelfbeschikkingsrecht, bijvoorbeeld door te hard te rijden, wereldwijd en van de grootste oorzaken van (dodelijke) ongevallen. Een verplichte snelheidsbegrenzer bespaart onnoemelijk veel leed, maar zal door de ‘king of the road’ niet met gejuich worden ontvangen.

Veiligheid

Her overlaten van handelingen aan robots veronderstelt dat veiligheid gegarandeerd is.  Dat zal bij robot-grasmaaiers geen probleem zijn, maar is dat bij ‘zelfsturende auto’s’ vooralsnog wel.  Daarbij komt het risico van het hacken van door software gestuurde apparaten. 

Menselijke waardigheid

Robots kunnen saai, ‘geestdodend’ gevaarlijk en smerig werk overnemen, maar ook werk waarbij een hoge mate van precisie is gewenst. Denk aan de fabricage van computerchips.  De grootste problemen liggen op het potentieel overnemen van werk, wat niet alleen implicaties voor de werkgelegenheid heeft, maar ook de kwaliteit van ons leven ernstig kan beïnvloeden. In de zorg kunnen mensen zich door het wegvallen van menselijk contact ‘verdingelijkt’ gaan voelen. Het dagelijks contact met een zorgmedewerker is voor velen een belangrijk instrument tegen de eenzaamheid.

3. Biometrie

Biometrie omvat alle technieken om mensen te identificeren aan de hand van lichaamskermerken: iris, vingerafdruk, stem, hartritme, schrijfstijl en emotie. Vooral van hun combinatie wordt veel verwacht, hetgeen in het paspoort al in toenemende mate gebeurt. 

Aan beveiliging valt in deze wereld niet te ontkomen, dus biometrie kan – zeker als verschillende lichaamskenmerken worden gebruikt – een goed middel zijn om identiteitsfraude tegen te gaan. 

De toepassing van gezichtsherkenning in de VS neemt hand over hand toe. In vliegvelden kunnen mensen er vaak voor kiezen om het beveiligingspoortje ‘automatisch; te doen openen of in de rij voor de security te gaan staan. Incode, een startup in San Francisco meldt dat zijn digitale identiteitsherkenning apparatuur in 2021 al in 140 miljoen gevallen is gebruikt, vier keer zo veel als in alle jaren daarvoor samen[6].

Privacy

In de EU is de privacy van ingezetenen wettelijk goed geregeld. Het gebruik van deze gegevens is eveneens in de wet vastgelegd. Desondanks zijn ieders persoonsgegevens op talloze plaatsen opgeslagen.

Vooral gezichtsherkenning roept veel verzet op en wordt in de VS steeds vaker verboden in de publieke ruimte. Hiervan is ook sprake in Nederland[7]. 

Biometrische technologie kan ook privacybeschermend zijn, door minimale informatie te verzamelen: Iemand kan bijvoorbeeld toegang krijgen op basis van een irisscan, waarbij de computer alleen controleert of de desbetreffende persoon een machtiging heeft, zonder naam en andere gegevens te registreren. 

Internetcriminelen worden steeds handiger on het bemachtigen van persoonlijke gegevens. Vooral kleinere organisaties en sportclubs zijn een doelwit vanwege hun vaak matige beveiliging. Als het ook lukt om documenten als een identiteitskaart te bemachtigen, dan ligt identiteitsfraude op de loer.

Veiligheid

Op zich draagt het combineren van verschillende technieken om iemand te identificeren bij aan de veiligheid van middelen die bedoeld zijn om iemands identiteit vast te stellen, zoals paspoorten, die steeds vaker ook een irisscan bevatten. Hiermee wordt ook het namaken van identiteitsbewijzen lastiger. De meeste documenten, bijvoorbeeld rijbewijzen en pinpassen kunnen nu nog betrekkelijk makkelijk worden nagemaakt of (tijdelijk) gebruikt nadat ze zijn gestolen, waardoor identiteitsfraude nu nog betrekkelijk makkelijk is.

Menselijke waardigheid

Het verzet tegen gezichtsherkenning heeft niet alleen te maken met de evidente gebreken; de technologie zal de komende jaren ongetwijfeld verder verbeteren. Het gevaar zit voor een groot deel in de onderliggende software, waarin bias nog lastig uit te bannen is. 

Er is als het om menselijke waardigheid gaat, heeft biometrie ook een positieve kant.

Wereldwijd zijn miljarden mensen niet in staat om aan te tonen wie ze zijn. Het Indiase Aadhar-programma heeft naar schatting aan 1,1 miljard mensen een geaccepteerde vorm van digitale identiteit verstrekt, gebaseerd op biometrische gegevens. Het effect is dat financiële inclusie met name van vrouwen aanzienlijk is toegenomen. 

Rechtvaardigheid

In veel situaties waarin biometrische identificatie is toegepast, ontstaat het probleem van omgekeerde bewijslast’. Als er sprake is van persoonsverwisseling, moet het slachtoffer, bewijzen niet de persoon te zijn, die de politie vermoed dat deze is.

Komende week vervolg ik met (4) Immersieve technologie (augmented en virtual reality), (5) blockchain en (6) platforms.Onderstaande link opent een overzicht van alle gepubliceerde en toekomstige artikelen in deze serie. https://www.dropbox.com/s/vnp7b75c1segi4h/Voorlopig%20overzicht%20van%20artikelen.docx?dl=0

[1] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[2] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[3] https://selfrepairingcities.com/2019/11/29/robotic-challenge-2020/

[4] https://qz.com/1923774/covid-19-is-giving-sewage-a-modern-public-health-purpose/

[5] https://www.smartcitiesworld.net/news/how-leeds-could-become-the-worlds-first–self-repairing-city-4925

[6] https://is.gd/7IyGV6

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau%20-%20Zeven_aandachtspunten_voor_%20de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

Ethische principes en kunstmatige intelligentie

In de 11de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie pas ik de ethische principes uit aflevering 9 toe op ontwerp en gebruik van kunstmatige intelligentie.

Hieraan voorafgaand beschrijf ik in het kort wat kunstmatige intelligentie is. Aan bod komen de betekenis van onder andere big data, algoritmen en machineleren. Voor wie er meer van wil weten: Radical technologies van Adam Greenfield (2017) is een zeer leesbare inleiding, ook op technologieën als blockchain, augmented en virtual reality , Internet of Things en robotica, die in de volgende afleveringen aan de orde komen.

Kunstmatige intelligentie

Kunstmatige intelligentie kent waardevolle toepassingen maar ook grove vormen van misbruik.  Waardevol is bijvoorbeeld het gebruik van kunstmatige intelligentie bij de indeling van huizen en buurten, rekening houdend met gebruiksgemak, uitzicht en zonnelicht met AI-technologie van Spacemaker[1] of het maten van lawaai in het centrum van Genk met behulp van Nokia’s Scene Analytics-technologie[2]. Verwerpelijk is het discrimineren van bevolkingsgroepen door de politie in de VS met programma’s als PredPol en de manier waarop de Nederlandse overheid met de toekenning van toelagen is omgegaan.

Algoritmen

Dankzij kunstmatige intelligentie kan een computer zelfstandig patronen herkennen en op grond daarvan ‘beslissingen’ nemen. Op zichzelf is herkennen van patronen niets nieuws Dat kon allang met daartoe geschreven computerprogramma’s. Om bijvoorbeeld afbeeldingen van honden en katten te onderscheiden maakte een programmeur een beschrijving in ‘als….dan’-vorm van alle relevante kenmerken van honden en katten met behulp waarvan kon een computer beide diersoorten onderscheiden.  Het aantal fouten hing af van de gedetailleerdheid van het programma. Als het om meer soorten dieren gaat en om dieren die vanuit verschillende hoeken zijn gefotografeerd is het maken van zo’n programma erg ingewikkeld. In dat geval kan een computer getraind worden zelf relevante patronen te onderscheiden. In dit geval spreken we van kunstmatige intelligentie. Overigens spelen mensen daarbij nog steeds een belangrijke rol. Deze bestaat in de eerste plaats uit het schrijven van een instructie – een algoritme – en vervolgens uit de samenstelling van een trainingset, een selectie van een grote aantal voorbeelden, bijvoorbeeld van dieren zijn die gelabeld als hond of kat en desnoods leeuw, tijger en meer. De computer gaat vervolgens ‘zelf’ op zoek naar bijbehorende kenmerken.  Als er nog te veel fouten voorkomen, worden nieuwe afbeeldingen toegevoegd. 

Deep learning

De manier waarop de dieren zijn afgebeeld kan eindeloos variëren, waarbij het niet meer zozeer om hun kenmerken gaat, maar om schaduwwerking, beweging, stand van de camera of de aard van de beweging. De grootste uitdaging is om de computer ook daar rekening mee te leren houden. Dat gebeurt door de imitatie van de neurale netwerken. Beeldherkenning gebeurt daarbij net als in onze hersenen dankzij het onderscheiden van lagen, variërend van het onderscheiden van simpele lijnen, patronen, kleuren tot verschillen in scherpte.  Vanwege deze gelaagdheid wordt gesproken van ‘deep learning’. Hierbij is uiteraard sprake van grote datasets en veel rekenkracht, maar het is ook een arbeidsintensief proces.

Zelflerende computers

Leren toepassen van algoritmen onder begeleiding, levert betrouwbare resultaten op en de instructeur kan ook na veel iteraties het resultaat nog steeds verklaren. Maar dat houdt op als er verschillende processen tegelijkertijd spelen, bijvoorbeeld als dieren elkaar aanvallen, het soms overleven en dan weer niet en de computer moet voorspellen welke dieren onder welke omstandigheden de grootste overlevingskans hebben. Denk ook aan de patronen die de computer van een auto moet kunnen onderscheiden om veilig zonder chauffeur de weg op te kunnen. Vanwege de vrijwel onbeperkte variatie, werkt begeleid leren dan niet meer.

In het geval van onbegeleid leren, wordt de computer gevoed met gegevens van vele miljoenen realistische situaties, in geval van auto’s van verkeerssituaties en de manier waarop de bestuurders daarop reageerden. Hier kan met recht van ‘big data’ en ‘machine leren’ worden gesproken, al worden deze termen vaak ook breder gebruikt.  Zo ‘leert’ de computer van de auto hoe en wanneer deze binnen de rijstroken moet blijven, mag passeren, hoe voetgangers, fietsen of welk ‘object’ dan ook, ontweken kan worden, wat stoptekens zijn en verkeersborden betekenen en welke de daarbij behorende actie is. Tesla’s geven nog steeds al deze gegevens door aan een datacenter, dat er patronen uit destilleert waarmee de ‘autopilots’ van alle Tesla’s geregeld worden geüpdatet.  Op den duur zou elke Tesla, waar ook ter wereld, elk denkbaar patroon moeten herkennen, daar correct nop moeten reageren en zo het hoogst mogelijke niveau van veiligheid kunnen garanderen. Zover is het nog (lang?) niet en Tesla’s ‘autopilot’ mag daarom niet zonder de aanwezigheid van een chauffeur ’in control’ worden gebruikt. Niemand weet op basis van welke criteria de algoritmen van een Tesla werken, uiteraard wel als ze niet werken. 

Zelflerende computers worden ook ingezet als het gaat om de voorspelling van (belasting)fraude, de kans dan bepaalde personen ‘in de fout’ gaan of plaatsen waar op een bepaald moment de kans op een misdaad het grootst is. Maar ook bij de beoordeling van sollicitanten en de toewijzen van woningen.  Voor deze doelen wordt de waarde van kunstmatige intelligentie overschat[3]. In al deze gevallen is de wijze waarop de computer ‘besluiten’ neemt een ‘blackbox’. Mede om die reden is het moeilijk zo niet onmogelijk om achteraf eventuele fouten op te sporen en recht te zetten.  Dit is een van de problemen bij de beruchte toelagenaffaire.

De cybernetische cirkel

Algoritmische besluitvorming is een onderdeel van een nieuwe digitale golf, gekenmerkt door een cybernetische cirkel van meten (data verzamelen), profileren (data analyseren) en interveniëren (toepassen van data). Op zich komen deze aspecten terug in elk besluitvormingsproces, maar daarbij maken de betrokkenen, politici, volksvertegenwoordigers stapsgewijs bewuste keuzen, terwijl nu het hele proces een blackbox is. 

De rol van ethische principes

Ondertussen groeit de bezorgdheid over het negeren van nagenoeg alle ethische principes die in aflevering 9 zijn genoemd, door de toepassing van kunstmatige intelligentie: Schending van de privacy, discriminatie, gebrek aan transparantie en machtsmisbruik met als gevolg groot (deels onbedoeld) leed, risico’s voor de beveiliging van kritieke infrastructuur, afbrokkeling van menselijk denkvermogen en ondermijning van het vertrouwen in de samenleving. Het is daarom noodzakelijk om richtlijnen te formuleren die de toepassing van kunstmatige intelligentie weer in lijn brengen met de genoemde ethische principes. 

Hiertoe is een belangwekkende aanzet gegeven in de publicatie van het Institute of Electric and Electronic Engineers: Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems[4]. Ook het Rathenau instituut[5] heeft in diverse publicaties een aantal richtlijnen gepubliceerd.

De belangrijkste richtlijnen die uit deze en andere publicaties kunnen worden gedestilleerd, zijn:

  1. Verantwoordelijkheid voor de impact van het gebruik van kunstmatige intelligentie leggen bij zowel degenen die besluiten nemen over de toepassing ervan (politiek, leiding van organisatie of bedrijven) als de ontwikkelaars. Deze verantwoordelijkheid betreft zowel de gebruikte systemen als de kwaliteit, nauwkeurigheid, volledigheid en representativiteit van de data(set).
  2. Voorkomen dat ontwerpers (onbewust) hun eigen normen gebruiken bij de instructie van leerprocessen. Teams met een diversiteit aan achtergronden zijn een goed middel om dit te voorkomen.
  3. Kunnen herleiden van ‘beslissingen’ door computersystemen op de gehanteerde algoritmen, de werking daarvan begrijpen en deze kunnen uitleggen.
  4. Wetenschappelijk kunnen onderbouwen van het model dat aan de algoritme en aan de keuze van de data ten grondslag ligt.
  5. Handmatig verifiëren van ‘beslissingen’ die negatief uitpakken voor de betrokkene. 
  6. Uitsluiten van alle vormen van bias in de inhoud van datasets, de toepassing van algoritmen en het hanteren van uitkomsten[6].
  7. Verantwoording afleggen over de wettelijke grondslag van de combinatie van datasets.
  8. Vaststellen of de berekening beoogt valse positieven dan wel valse negatieven te minimaliseren.
  9. Terugkoppelen naar opdrachtgevers door auteurs van algoritmen als deze in het bronnenmateriaal gebrek aan eenduidigheid aantreffen.
  10. Hanteren van de beginselen van proportionaliteit en subsidiariteit, wat betekent van geval tot geval vaststellen of de baten van gebruik van kunstmatige intelligentie opwegen tegen de risico’s[7].
  11. Verbieden van toepassingen van kunstmatige intelligentie die een groot risico vormen voor schending van ethische principes, zoals gezichtsherkenning, persuasieve technieken en deep-fake technieken[8].
  12. Intrekken van wettelijke bepalingen als blijkt dat deze vanwege hun complexiteit of vaagheid niet op transparante wijze gehandhaafd kunnen worden.  

De derde, de vierde en de vijfde richtlijn moeten in samenhang worden gezien.  Ik leg hieronder uit waarom.

De wetenschappelijke fundering van algoritmische besluitvorming

Bij het gebruik van zelflerende computers zijn het de computers zelf die de algoritmen aanpassen en uitbreiden en gegevens uit uiteenlopende datasets combineren.  Het gevolg kan zijn dat de uiteindelijke ‘beslissingen’ die de computer neemt niet uitgelegd kunnen worden. Dit is uitsluitend aanvaardbaar, nadat gebleken is dat deze beslissingen ‘foutloos’ zijn, bijvoorbeeld omdat, in het geval van ‘zelfsturende’ auto’s, deze vele malen veiliger blijken te rijden dan auto’s met chauffeur.

In de toelagen affaire was hier geen sprake van. Daar zou de vijfde richtlijn uitkomst hebben kunnen bieden.  Met behulp van wetenschappelijk ontwerpgericht onderzoek kan worden onderzocht, uit welke stappen en welke regels een beslissingsproces bestaat om te bepalen wie terecht een toelage krijgt en wie eventueel ten onrechte bezwaar maakt tegen de afwijzing van een verzoek. Aan de hand van zo’n beslisboom kan door een steekproef met voldoende omvang de overeenkomst met de ‘beslissingen’ van de computer worden vastgesteld. Als dit inderdaad in nagenoeg alle gevallen zo is, dan mogen de criteria die in de handmatige berekening zijn gehanteerd worden gebruikt om uit te leggen wat zich in de ‘blackbox’ van de computer heeft afgespeeld. Als er veel en grote afwijkingen zijn, dan moet de computerberekening worden verworpen.

Door toepassing van zelflerende algoritmen kunnen onvermoede verbanden worden ontdekt tussen verschijnselen. Dat kan van grote betekenis zijn. Er is dan altijd sprake van statistische relaties en niet van causale.  

Op basis van deze verbanden kunnen geen maatregelen worden gerechtvaardigd, wel kunnen ze vertrekpunt voor verder onderzoek. 

Governance

In de VS is het gebruik van algoritmen inmiddels in een kwaad daglicht komen te staan, vooral door de ongewenste gevolgen van toepassing door de politie, waarover aflevering 16 gaat.  De problemen daarbij gaan veel verder dan het optreden van ‘bias’. De stad New York heeft daarom een algoritme manager aangesteld, die onderzoekt of de gebruikte algoritmen voldoen aan ethische en wettelijke regels. In steeds meer gemeenten vervult een ethische commissie deze rol.

Op bestuurlijk vlak zijn zowel op Europees niveau als binnen Nederland al stappen gezet om uitwassen van algoritmische besluitvorming tegen te gaan.  

De Algemene Verordening Gegevensbescherming (AVG), die is in 2018 in werking getreden is heeft de bescherming van de privacy aanzienlijk verbeterd. In april 2019 publiceerde de Europese High Level Expert Group on AI ethische richtlijnen voor de toepassing van kunstmatige intelligentie In februari 2020 heeft ook de Europese Commissie zulke richtlijnen vastgesteld onder meer in het White Paper On Artificial Intelligence en een AI-verordening. Verder stelde de regering onder meer vast de nationale digitaliseringsstrategie, het Strategisch Actieplan AI en de beleidsbrief AI, mensenrechten en publieke waarden[9].

Ik realiseer me dat het binden van overheden en hun uitvoeringsorganen aan ethische principes koren op de molen is van degenen die deze principes aan de laars lappen. Daarom blijft de zoektocht naar legitieme methoden om misdaad, corruptie en malversaties met behulp van moderne technieken op te sporen, brede steun verdienen.

Er is nog heel wat werk te verzetten om de kracht van kunstmatige intelligentie voor dit doel op gewetensvolle wijze te gebruiken.

[1] https://stadszaken.nl/artikel/3961/rekenkracht-ai-maakt-gebiedsontwikkeling-beter?utm_source=Mailing+Lijst&utm_medium=email&utm_campaign=24-12-2021_Grote+verdeeldheid+over+Omgevingswet

[2] https://www.smartcitiesworld.net/news/belgian-city-uses-artificial-intelligence-to-tackle-noise-pollution-7243?utm_source=newsletter&utm_medium=email&utm_campaign=Weekly%20Newsletter

[3] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[4] https://www.dropbox.com/s/508gjrmdaexj563/2020_029_Digitale_technologie_Eng.docx?dl=0

[5] https://www.dropbox.com/s/hdx3gwjx1rni3on/Rathenau-Grip_op_algoritmische_besluitvorming_overheid_Rathenau_Instituut.pdf?dl=0

[6] https://medium.com/@BloombergCities/the-promise-and-peril-of-algorithms-in-local-government-f1a2964769f2

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau-Zeven_aandachtspunten_voor_de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

[8] https://www.dropbox.com/s/q2zji5s60y989ea/Rathenau-Verantwoord_Innoveren_met_AI_Rathenau_Instituut.pdf?dl=0

[9] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

Toegankelijkheid, software, digitale infrastructuur en data: De roep om ethiek

De 10de aflevering in de reeks Bouwen aan duurzame steden – De bijdrage van digitale technologie gaat over de betekenis van ethische principes voor vier belangrijke pijlers van digitalisering: toegankelijkheid, programmatuur, infrastructuur en data.

In de vorige aflevering kwam een aantal uitgangspunten (richtlijnen en ethische principes) voor digitale technologie aan de orde. Uit het rapport van het Rathenau Instituut[1] Opwaarderen – Borgen van publieke waarden in de digitale samenleving blijkt dat overheid, bedrijfsleven en samenleving deze nog onvoldoende hanteren. Hieronder sta ik stil wat deze principes en waarden betekenen voor vier fundamentele aspecten van digitalisering: toegankelijkheid, programmatuur, infrastructuur en data.  In de volgende twee afleveringen komen hun implicaties voor een zestal technologieën aan de orde. 

Toegankelijkheid

Toegankelijkheid verwijst naar de beschikbaarheid van snel Internet voor iedereen. Dit gaat verder dan alleen technische toegang.  Het houdt ook in dat een gemeente toeziet op de begrijpelijkheid van de eigen berichtgeving en dat gebruikers de aangeboden opties ook kunnen hanteren. Niet in de laatste plaats zou iedereen moeten beschikken over een werkende computer.

Gratis Internet voor alle inwoners is een waardevolle basisvoorziening, inclusief Wi-Fi in de publieke ruimte, mits goed beveiligd tegen indringers. Overlaten van een Wi-Fi voorziening aan private aanbieders, zoals de LinkNYC reclamezuilen in New York, die ook in andere steden opduiken, is een slechte zaak. Bedrijven als Sidewalk Labs verleiden gemeenten door deze zuilen gratis te plaatsen. Ze zijn uitgerust met sensoren die een enorme hoeveelheid gegevens verzamelen via elk apparaat dat verbinding maakt met hun Wi-Fi-netwerk: Niet alleen de locatie en het besturingssysteem, maar ook het MAC-adres. Met behulp van analysetechnieken kan daarmee het loop-, kijk- en koopgedrag van burgers worden gereconstrueerd. Gecombineerd met andere openbare gegevens van Facebook of Google leveren ze inzicht in persoonlijke interesse, seksuele geaardheid, ras en politieke overtuiging van de betrokkenen.

Het enorme internet dat alles en iedereen verbindt, roept ook schrikbeelden op, die te maken hebben met waarborgen van privacy en in relatie daarmee uiteenlopende vormen van misbruik, tot het hacken van apparatuur die je hartslag regelt toe. Daarom wordt er breed gezocht naar alternatieven.

Wereldwijd komen P2P buurtinitiatieven voor om een besloten eigen netwerk aan te leggen. Veel daarvan maken deel uit van The Things Network[2]. In plaats van Wi-Fi, gebruikt dit netwerk een protocol genaamd LoRaWAN. Door robuuste end-to-end-codering hoeven gebruikers zich geen zorgen te maken over beveiligde draadloze hotspots, mobiele data-abonnementen of haperende Wi-Fi-connectiviteit. Het Things-netwerk beheert duizenden gateways en biedt dekking aan miljoenen mensen en biedt een reeks open tools waarmee burgers en ondernemers IoT-applicaties kunnen bouwen tegen lage kosten, met maximale beveiliging en die makkelijk op te schalen zijn.

Programmatuur

Computerprogramma’s zorgen voor uiteenlopende toepassingen, variërend van tekstverwerking tot managementsystemen. Op zoek naar oplossingen die het best passen bij de richtlijnen en ethische principes uit de vorige aflevering, komen we al snel uit bij open-source software, in tegenstelling tot propriëtaire producten van commerciële aanbieders. Niet dat deze laatste bij voorbaat verwerpelijk zijn of dat ze altijd goedkoper zijn. Het belangrijkste waar je op moet letten is uitwisselbaarheid (interoperabiliteit) met producten van andere aanbieders om te voorkomen dat je er lastig vanaf komt (lock in). 

Open source software kan veel voordelen bieden ten opzichte van prioriëtaire oplossingen, zeker als gemeenten dit stimuleren. Barcelona loopt hierbij voorop[3]. De stad beoogt volledig zelfbeheer van haar ICT-diensten en radicale verbetering van digitale openbare dienstverlening voor de burgers, inclusief ‘privacy by design’ en databescherming dankzij het gebruik van blockchain. Dit resulteert in gegevenssoevereiniteit en in het gebruik van vrije software, open dataformats, open standaarden, interoperabiliteit en herbruikbare applicaties en diensten. 

Wie zich oriënteert op open source software kan niet om de Fiware-gemeenschap[4] heen, qua organisatie vergelijkbaar met Linux en bestaande uit bedrijven, startups en freelance ontwikkelaars en voortgekomen uit een initiatief van de EU. Fiware is een organisatie met als missie bouwen van open, en duurzame software rond publieke, royaltyvrije en implementatie gedreven standaarden. 

Infrastructuur

Computers zijn inmiddels niet meer de grootste groep onderdelen van de digitale infrastructuur. Hun aantal is overtroffen door zogenaamde ubiquitous sensor networks (USN), zoals slimme meters, CCTV, microfoons en sensoren. Sensornetwerken hebben de meest uiteenlopende taken, ze bewaken de omgeving (luchtkwaliteit, verkeersdichtheid, ongewenste bezoekers) en ze zitten in machines, treinen en auto’s en zelfs mensen en geven informatie over het functioneren van vitale onderdelen door. Mike Matson[5] berekende verder dat er in 2050 een stad van 2 miljoen inwoners wel een miljard sensoren zal zijn. Deze zijn verbonden door miljoenen kilometers glasvezelkabel of via Wi-Fi met elkaar, met datacenters, carrier hotels (dat zijn knooppunten waar particuliere netwerken samenkomen) om uiteindelijk het Internet te vormen.

Deze hiërarchisch georganiseerde verknoping staat op gespannen voet met de richtlijnen en ethische principes uit de vorige post. Internet criminelen krijgen vrij baan, bijvoorbeeld door het veroorzaken van denial of service (DoS) en dataleks kunnen grote gevolgen hebben. Bovendien loopt het energieverbruik gigantisch op, ook zonder blockchain. Het kan ook anders. Met edge computing[6] vindt de bewerking van de gegevens lokaal plaats en alleen resultaten worden op verzoek geüpload. Dit geldt voor sensoren, mobiele telefoons en mogelijk ook voor geautomatiseerde auto’s. Een mooi voorbeeld is het Array of things Initiative[7]. Uiteindelijk gaat dit 500 sensoren omvatten, die in overleg met de bevolking in Chicago worden opgehangen en data gaan verzamelen.  Deze data worden in elke sensor opgeslagen en kunnen indien nodig online worden geraadpleegd, waarbij steeds een aantal sensoren en een deel van de data betrokken is. 

Vergelijkbaar zijn federatieve datasystemen[8]. Hierbij worden data decentraal bewaard, maar geautoriseerde gebruikers kunnen dankzij gebruiksinterfaces wel van alle gegevens gebruik maken.

Data

Het besef dringt door dat het bij data niet alleen om de hoeveel gaat, maar ook om de kwaliteit van zowel de data zelf en de bewerking ervan. Ik stip een aantal aspecten aan

Toegang tot data

Als het om gegevens van personen gaat, dan zou de regel moeten zijn dat privégegevens alleen doorzoekbaar zijn na toestemming van de eigenaar. Om deze data te beschermen stelt het EU-project Decode voor eigenaars hun gegevens via blockchaintechnologie te laten beheren[9]. Veel steden hebben inmiddels privacyrichtlijnen, maar slechts een aantal voert privacy impact assessment uit als onderdeel van het beleid (p.18)[10]. 

Kwaliteit

Er komen steeds meer aanwijzingen dat veel data die voor kunstmatige intelligentie worden gebruikt als ‘leersets’ ondeugdelijk zijn.  Dat was al pijnlijk duidelijk geworden uit data voor gezichtsherkenning waarin minderheidsgroepen disproportioneel zijn vertegenwoordigd[11]. Nieuw onderzoek laat zien dat dit ook geldt op het gebied van de gezondheidszorg. Er is hier sprake van data cascades, een optelsom van achtereenvolgende fouten, waarvan de gevolgen pas na enige tijd duidelijk worden[12]. Data bleken niet relevant, onvolledig, onvergelijkbaar en zelfs gemanipuleerd[13]. 

Data commons

Voor wie specifieke data van groot belang zijn, en daarmee ook hun kwaliteit, zal zich extra daarvoor inzetten. Samen kunnen de betrokkenen dan een datacommon vormen. Commons are shared resources managed by empowered communities on the basis of mutually agreed and enforced rules[14]. 

Een mooi voorbeeld is de Data- en Kennishub Gezond Stedelijk Leven (p.152)[15], waarin overheden, bedrijven, milieugroepen en bewoners kennis verzamelen voor de ontwikkeling van een gezonde leefomgeving, met gebruikmaking van een federatief datasysteem. Het gaat hierbij niet alleen om data, maar ook om de terugkoppeling van het effect van maatregelen. 

Open data

Veel steden hanteren het ‘open by default’ principe en maken de meeste gegevens openbaar, al laat de gebruikersvriendelijkheid en doelmatigheid soms nog te wensen over. Er zijn verschillende datamanagementsystemen als open-source portal beschikbaar. Een van de meest vooraanstaande is CKAN, beheert door de Open Knowledge Foundation[16]. Het bevat middelen voor het beheren, publiceren, vinden, gebruiken en delen van gegevensverzamelingen. Het biedt een uitgebreide zoekfunctie en maakt het mogelijk om gegevens te bekijken in de vorm van kaarten, grafieken en tabellen. Er is een actieve gemeenschap van gebruikers, die het systeem verder ontwikkelt en lokaal aanpast. 

Om de gegevens daadwerkelijk toegankelijk te maken bieden sommige steden ook trainingen en workshops aan. Barcelona’s Open Data Challenge is een initiatief voor leerlingen uit het secundair onderwijs, dat hen wegwijs maakt in de enorme gegevensverzameling van de stad[17].

Veiligheid

Naarmate de omvang van de verzamelde data, de hoeveelheid ‘entry points’ en de verbondenheid op het Internet toeneemt, worden de veiligheidsrisico’s ook groter. Decentralisering, onder andere door middel van edgecomputingen federatieve opslag met blockchaintechnologie dragen zeker bij aan de veiligheid. Er is verder nog een lange weg te gaan. Slechts de helft van de steden heeft een seniorbeleidsmedewerker op dit gebied en technieken voor authenticatie, versleuteling en ondertekening die samen de basis vormen voor attribute-based identity worden lang niet altijd toegepast. Het gaat hierbij om identiteitsbepaling op basis van een aantal kenmerken van een gebruiker, zoals functie, locatie en afdeling[18]. 

Iets heel anders is Me and my shadow, een project dat gebruikers van het Internet leert hun eigen spoor te minimaliseren en daarmee hun vindbaarheid voor Internetcriminelen[19].

Er is nog een wereld te winnen voordat voldoende is voldaan aan de richtlijnen en ethische principes die in de vorige aflevering werden genoemd.

Het belangrijkste is wellicht een zekere relativering van begrippen als ‘big data’, ‘datagericht beleid’ en de omvang van datasets.

Het is raadzaam zich opnieuw te verdiepen in de grondslagen van wetenschappelijk onderzoek. Hierin staat voorop een goed geformuleerde vraagstelling, vervolgens de keuze van een hierbij passende onderzoeksmethode, bijvoorbeeld de formulering van hypothetische verbanden op basis van materiekennis, de beantwoording van de vraag welke gegevens hiervoor nodig zijn, de verzameling van deze gegevens en hun statistische bewerking om te zien in hoeverre de onderbouwde hypothetische verbanden aangetroffen worden. In de volgende aflevering komt onder andere machine leren aan de orde en dan zal blijken dat het bij de automatische verwerking van grote datasets vooral gaat om de ontdekking van statistische verbanden en dat kan nare consequenties hebben. 

Volg deze link als je snel een van de vorige afleveringen uit deze reeks wil vinden of wilt zien welke de volgende afleveringen zijn. Vol deze link voor de Engelstalige versie

[1] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[2] https://www.thethingsnetwork.org/

[3] https://www.barcelona.cat/digitalstandards/

[4] https://www.fiware.org

[5] http://smallwarsjournal.com/jrnl/art/complex-cyber-terrain-in-hyper-connected-urban-areas

[6] https://searchdatacenter.techtarget.com/definition/edge-computing

[7] https://datasmart.ash.harvard.edu/news/article/a-guide-to-chicagos-array-of-things-initiative-1190

[8] https://statetechmagazine.com/article/2021/04/researchers-eye-machine-learning-secure-iot-data

[9] https://www.youtube.com/watch?time_continue=2&v=_-ooCbgIiyo&feature=emb_logo

[10] https://www.weforum.org/whitepapers/governing-smart-cities-policy-benchmarks-for-ethical-and-responsible-smart-city-development

[11] https://www.verdict.co.uk/ethnic-data-bias/

[12] https://storage.googleapis.com/pub-tools-public-publication-data/pdf/0d556e45afc54afeb2eb6b51a9bc1827b9961ff4.pdf

[13] https://www.theverge.com/2021/4/27/22403741/deepfake-geography-satellite-imagery-ai-generated-fakes-threat

[14] https://www.dropbox.com/s/wxf4c6x16hb2xdy/Waag-AMS-Strategy-for-urban-data.pdf?dl=0

[15] https://www.dropbox.com/s/qoqp17grtsfoh9u/future-city-magazine-2020-mr.pdf?dl=0

[16] https://ckan.org

[17] https://opendata-ajuntament.barcelona.cat/en/repte-barcelona-dades-obertes

[18] https://media.erepublic.com/document/CDG21_BRIEF_SailPoint_AWS_V.pdf

[19] https://tacticaltech.org/#/projects/me-and-my-shadow

Het ‘Future of urban tech’-project

Wie durft te voorspellen of wij technologie de baas blijven of dat het omgekeerde gebeurt? De zevende editie van de serie Bouwen aan duurzame steden – De bijdrage van digitale technologie gaat over prognoses, trends en signalen met betrekking tot de rol van technologie bij de ontwikkeling van steden, zoals het Future of Urban Tech-project van Cornell University in New York die ziet.

Een bron van nieuwe inzichten

Technologie heeft de planeet ten goede en ten kwade veranderd. Zal deze verandering doorzetten en welke richting zal domineren? Om deze vraag te beantwoorden hebben wetenschappers van het Jacobs Institute aan de Cornell University in New York een horizonscan gemaakt. Als onderdeel van dit ambitieuze project The Future of Urban Tech maakten ze een inhoudsanalyse van honderden recente wetenschappelijke publicaties, waaruit ze 217 signalen destilleerden. Deze signalen werden gegroepeerd in 49 deels tegengestelde trends. Elke trend is voorzien van een indicatie van tijdsbestek, waarschijnlijkheid en maatschappelijke impact. Uiteindelijk hebben ze zes prognoses gemodelleerd. Deze beschrijven dominante richtingen voor verandering.

Elke lezer kan het project dat wordt gepresenteerd door middel van een website, op eigen manier gebruiken. Ik ben uitgegaan van de 17 sectoren zoals gebouwde omgeving, logistiek, mobiliteit en energie en heb de daaraan gerelateerde trends verkend. Het is ook mogelijk om top-down te beginnen met een van de zes prognoses en de plausibiliteit ervan onderzoeken in het licht van de gerelateerde trends en signalen. Ik laat hieronder zien dat elk van de prognoses uitdagend is en uitnodigt tot verder lezen.

De selectie van de inhoud wordt ondersteund door dynamische afbeeldingen, die alle signalen, trends en prognoses met elkaar verbinden en de lezer in staat stellen de onderlinge relaties te overzien. Begin gewoon te scrollen en laat je nieuwsgierigheid de vrije loop en beslis na wat verkenningen hoe je systematischer te werk wilt gaan.

De website beschrijft elk van de prognoses, trends en signalen in het kort. Elk signaal weerspiegelt de inhoud van een handvol (populair) wetenschappelijke publicaties die kort worden samengevat. Lees de artikelen die je intrigeren of beperkt je tot de samenvatting.

Neem de tijd om deze site te verkennen, want je zult veel nieuwe inzichten en meningen tegenkomen.  De link naar het project staat aan het einde van dit artikel.

Hieronder zal ik enkele aspecten van de inhoud van het project toelichten, gevolgd door enkele kanttekeningen.

Zes prognoses

De prognoses weerspiegelen de veelheid aan standpunten in hedendaagse wetenschappelijke literatuur, wat lezers prikkelt om tot een oordeel te komen. Hieronder is de formulering van de prognoses in verkorte vorm overgenomen.

1. Alle gebouwen, huizen, verkeersmiddelen, de infrastructuur maar ook bomen en parken zullen met sensoren en camera’s worden verbonden en één web vormen

Nu al zijn veel gebouwen, bussen, treinen en wegen uitgerust met digitale detectie, maar ze zijn nog slechts in beperkte mate onderling gelinkt. Het komende decennium zal hierin verandering brengen, wat bijvoorbeeld een doorbraak zal betekenen in het beheer over de energiestromen. 

2. Steden zullen gebruikmaken van geavanceerde biotechnologie om de leefbaarheid te doen toenemen.

Groeiend inzicht in de menselijke afhankelijkheid van de natuur zal leiden tot het in kaart brengen van de fysiek-biologische wereld evenals de bedreigingen en de zegeningen daarvan voor mensen. Stadsbesturen zullen bomen, parken en waterwegen van sensoren voorzien om de vitaliteit van ecosystemen te meten en te beheersen.

3. Veerkrachtige corridors zullen het effect van de klimaatverandering matigen en burgers worden voorbereid op de onvermijdelijke schokken die komen gaan.

Steden zullen de CO2-uitstoot verminderen maar zich ook voorbereiden op de gevolgen van de onvermijdelijke gevolgen van klimaatverandering. Politieke en financiële machtscentra zullen worden geconcentreerd op plaatsen waar de impact van de klimaatsverandering met technische middelen beheerst kan worden.

4. Kunstmatige neurale netwerken zorgen voor geavanceerde vormen van machine leren met ongeëvenaarde voorspellende mogelijkheden die orde zal brengen in de chaos van het stedelijk leven.

Machine leren en kunstmatige intelligentie zullen ondoorgrondelijke ‘black boxes’ worden die beslissingen nemen zonder uitleg te geven. De ultieme vragen zijn of de machines waaraan we onze besluiten uitbesteden zelf nog wel bestuurd kunnen worden en of de impact van spontane ontmoetingen en menselijke ideeën verdwijnt als computers toch de beste oplossingen produceren?

5. Nieuwe Screen Deal die de risico’s en voordelen van stedelijke technologie herverdeelt.

“Alles op afstand” – leren, gezondheidszorg, werk en entertainment – wordt het nieuwe normaal. De voorspellende kracht van AI zal leiden tot conflicten over de concentratie van rijkdom en macht die digitale platforms veroorzaken. Maar aan de andere kant zullen nieuwe stakeholders juist rechtvaardigheid centraal stellen.

6. Een wereldwijze toeleveringsketen voor technologieën voor het maken van steden zal ‘de code van de stad kraken’

In de smart cities-beweging bestaat een spanning tussen top-down en bottom-up, tussen propriëtair versus open en tussen Big Tech en ‘Makers’. Een nieuwe stedelijke innovatie-industrie zal de overhand krijgen, maar is meer afgestemd op de maatschappelijke zorgen. Overheden zullen op hun beurt een duidelijker beeld hebben van de problemen die de industrie moet oplossen. Een publiek-private structuur voor investeringen en governance is onmisbaar om de kracht van Big Tech tegen te gaan.

Een paar opmerkingen

Zoals gezegd is elk van de zes prognoses gebaseerd op trends. Negen trends, in het geval van de laatste voorspelling. Elke trend wordt geïllustreerd door een handvol signalen, gedocumenteerd met behulp van verschillende publicaties. Een van de negen trends die de laatstgenoemde prognose ondersteunen, is ‘Regionale clustering van ondernemingen tot ecosystemen’, bijvoorbeeld New York, Londen, Berlijn en Amsterdam. Deze verwijst naar de groeiende kracht van lokale technologiehubs, ondersteund door regionaal kapitaal en waarbij overheden, startups, kennisinstellingen en burgers betrokken zijn. Deze concentratie kan zelfs leiden tot een nieuwe ‘ruimtewedloop’ tussen steden in plaats van landen.

Uit de onderliggende signalen blijkt echter dat deze ‘trend’ veel opener en onzekerder is dan de beschrijving rechtvaardigt.

Ik heb veel publicaties doorgenomen die een signaal documenteren en concludeerde steeds dat ‘trends’ in wezen de bandbreedte in kaart brengen waarbinnen zich ontwikkelingen binnen een domein zullen voordoen. Voor mij doet dit geen afbreuk aan de waarde van het project, want hoe meer twijfels er zijn over de toekomst en hoe meer inzicht we hebben in de krachten die deze vormgeven, hoe meer mogelijkheden we hebben om de toekomst te beïnvloeden.

Uiteraard moeten de zes prognoses aansluiten bij het open karakter van de trends. Om deze reden heb ik elk van de zes prognoses eveneens geherformuleerd als bandbreedtes van conflicterende ontwikkelingstendensen.

1. De commerciële of politieke belangen achter stedelijke technologie versus het welzijn van de burgers.

2. De strijd tussen (supra)nationale politieke macht versus ‘Big Tech’ over leiderschap over de technologische ontwikkeling.

3. Het onbeperkte doordringen van technologie in alle domeinen van de samenleving versus acceptatie van onvoorspelbare uitkomsten van menselijke interacties die het gevolg zijn van creativiteit, innerlijke motieven en intuïtieve beslissingen.

4. Beheersing van de natuur met behulp van biotechnologie versus het herstel van een evenwicht tussen mens en natuurlijke ecosystemen.

5. De concentratie van macht, politieke invloed en rijkdom door zeggenschap over technologie versus open licenties waardoor technologie ten bate van de hele wereldbevolking kan worden aangewend.

6. Oncontroleerbare autonome besluitvorming door machine leren en kunstmatige intelligentie versus het primaat van de democratische en gedecentraliseerde besluitvorming over de toepassing van technologie.

Bestuderen van het Future of Urban Tech-project is een rijke en tot nadenken stemmende leerervaring en heeft mede de inzichten gevoed die aan deze reeks ten grondslag liggen.

Je vindt het Future of Urban Tech-project achter de onderstaande link:

https://futureofurbantech.org/introduction/

Het ‘Boston Smart City Playbook’

Elke vertegenwoordiger van een technologiebedrijf die bij een gemeente aanklopt om kant-en-klare ‘slimme’ oplossingen te verkopen moet dit vooraf lezen. Deze post gaat over wat het Majors Office of New Urban Mechanics (MONUM) in Boston verwacht van hen verwacht maar zelden aantreft. Het is de zesde aflevering van de serie Steden van de toekomst, de rol van digitale technologie.

Jascha Franklin-Hodge, voormalig hoofd van MONUM herinnert zich een ontmoeting met vertegenwoordigers van een Fortune 500 technologiebedrijf dat een offerte had uitgebracht om alle lantaarnpalen in de stad uit te rusten met camera’s en sensoren. Op de vraag of deze apparatuur haar waarde elders al had bewezen, was het antwoord dat het bedrijf het op prijs zou stellen als Boston dit zou onderzoeken. Het behoeft geen betoog dat de stad dit ‘aanbod’ resoluut heeft afgewezen. Het was een van de vele vermoeiende ontmoetingen met enthousiaste verkopers die ‘veelbelovende’ technologische oplossingen aanbieden, zonder enige kennis van stedelijke problemen. Naar aanleiding hiervan besloten Franklin-Hodge en zijn collega Nigel Jacob om de feedback die zij normaal aan deze mensen geven, te verwerken in een document dat ze konden delen met bedrijven. Dit werd het beroemde Boston Smart City Playbook[1], met als voornaamste boodschap technologie aan te bieden die mensgericht en probleemgestuurd is.

Hieronder neem ik het boekje door, waarbij ik elk hoofdstuk parafraseer (cursief) en becommentarieer.

Stop met het sturen van verkopers

De inleiding van het boekje verzucht, stuur ons iemand die verstand heeft van steden, iemand die met de bewoners wil praten over wat ze wel (en niet leuk!) vinden aan Boston. Het MONUM-team stelt het op prijs als technologen komen praten over thema’s die er toe doen, in plaats van goed voorbereide pitches af te vuren. Gedeeld inzicht in stedelijke problemen en de aard van oplossing daarvan is de enige manier om een langdurige relatie tussen het bedrijf en de stad tot stand te brengen. Het team zal ook vragen stellen over voorbeelden van hoe het product elders heeft gewerkt of gefaald en benadrukt dat minder succesvolle toepassingen elders goed kunnen zijn voor Boston.

Hierbij komt volgens mij dat vertegenwoordigers van technologiebedrijven wel eens vergeten dat hun gesprekspartners zelf technologen zijn, die vaak beter opgeleid zijn dan zijzelf. Het ontbreekt de gemeentelijke gesprekspartners vaak aan geslaagde voorbeelden van elders zij hopen oprecht dat vertegenwoordigers van een technologie daarin kunnen voorzien. Helaas blijkt dat zelden het geval.

De beste oplossing is eigenlijk pre-competitieve triple-helix samenwerking tussen vertegenwoordigers van gemeenten, kennisinstellingen en bedrijven. Samen kunnen ze elkaars kennislacunes compenseren.

Echte problemen voor mensen oplossen

Medewerkers van gemeenten hebben vaak het gevoel dat het hun collega’s van bedrijven ontbreekt aan betrokkenheid bij en kennis over de zorgen van gewone mensen. Daarom roept het Playbook hen op te praten met werknemers, werklozen, ondernemers, kunstenaars, burgergroepen, belangenorganisaties en architecten voordat ze MONUM bezoeken. Het team wil graag weten wat bedrijven tijdens deze gesprekken hebben geleerd en vooral waarom hun producten voor deze mensen het verschil gaan maken.

Zo’n opdracht is moeilijk. Burgers spreken zich snel uit over hun problemen en komen ook met oplossingen. Maar deze oplossingen hebben zelden een technologische component. Daarbij moeten de tech bedrijven ‘bruggen bouwen’ en burgers naar hun mening vragen. Zelfs als de burgers de waarde van de voorgestelde technologieën niet zien, kan het gemeentebestuur daar toch  vertrouwen in hebben als oplossing voor de lange termijn.

Steek niet onmiddellijk de loftrompet over efficiëntie

Efficiëntie moet deel uitmaken van de oplossing van elk probleem, aangezien steden eindige hulpbronnen en oneindige behoeften hebben. Efficiëntie is echter nooit een motief in de fase waarin alternatieve keuzen worden afgewogen. Zodra een keuze is gemaakt, is aan de orde hoe deze zo efficiënt mogelijk uitgevoerd kunnen worden.

Voorbarig over efficiëntie praten vloeit  vaak voort uit voorbij gaan aan onderliggende politiek standpunten. De vraag is altijd hoezo efficiënt? Op basis van welke criteria, voor welke doeleinden en in wiens belang? Zoals Ben Green schreef in ‘‘The smart enough city’ (p. 14): For those on the front lines, words like “better” and “more efficient” are the tip of an iceberg, below which sit the competing interests and conflicting values of the city and the people who live in it. 

Volgens mij geldt hetzelfde voor het te pas en te onpas gebruik van het adjectief ‘smart’.

Om een ​​competente partner te worden, moeten vertegenwoordigers van techbedrijven niet alleen bekend zijn met stedelijke problemen, maar ook met het actuele politieke debat en de missie van burgemeester en wethouders. Wie in de discussie over technologische oplossingen voor stedelijke problemen argumenten als ‘kostenbesparing’ en‘efficiëntiewinst’ als hoofdmotieven noemt, zal direct worden doorgevraagd over de echte baten en voor wie.

Betere beslissingen, niet (alleen) betere data

De prijs voor de aankoop van technologie moet direct worden betaald.  Vaak kan een stad pas in de toekomst hiervan de vruchten plukken. Het probleem is dat het succes van de aangeschafte technologie minstens even sterk zal afhangen van de manier waarop deze wordt ingezet. Dit is op zijn beurt afhankelijk van het gedrag van de betrokkenen. Deze moeten zich vaak aanpassen en er moet gericht gestuurd worden om gedragsverandering teweeg te brengen. Technologische innovatie gaat meestal hand in hand met sociale innovatie of in ieder geval met gedragsverandering. Dat kan bijvoorbeeld zijn doorbreken van schotten tussen afdelingen waarvan de gegevens moeten worden gedeeld. In essentie is de kwaliteit van de data afhankelijk van hun vermogen om beslissingen te verbeteren. Betere beslissingen moeten op hun beurt leiden tot meer tevredenheid bij alle betrokken stakeholders.

Mijns inziens, denken vertegenwoordigers van techbedrijven te weinig na over de ‘zachte kant’ van het doorvoeren van technologische veranderingen. Bovendien verwaarlozen ze ‘after sales’-contacten, die hen waardevolle informatie kan opleveren over de impact van organisatorische omstandigheden op technologische innovatie.

We weten niet wat we aan sensoren hebben 

In 2015 schreef Ross Atkin[2] als criticus van smart cities, zijn ‘Manifesto for the clever city‘. In de ‘clever city’ wordt technologie radicaal bottom-up ingezet om de problemen die gewone burgers ervaren met zo min mogelijk data en op een voor burgers begrijpelijke manier op te lossen. In de smart city worden vaak netwerken van sensoren voorgesteld die enorme hoeveelheden data verzamelen die mogelijk gebruikt kunnen worden om problemen op te lossen. Maar veel problemen waar mensen last van hebben, zoals vervuiling, stank en fijnstof, zijn al jaren bekend evenals de oorzaken daarvan: fabrieken, zwaar verkeer en ongezonde woningen. Het installeren van een uitgebreide sensornetwerk vertraagt ​dan de oplossing van deze problemen.

Bovendien riskeren gemeenten jarenlang vast te zitten aan oplossingen die bedrijven ontwikkeld hebben ,zolang er geen standaarden zijn of er geen garantie van interoperabiliteit is. Vertegenwoordigers van technologiebedrijven moet gevraagd worden naar wat de goedkoopste oplossing is om kritieke data te verzamelen is en ook wat de interoperabiliteit van deze oplossing is.

Privacy in de publieke ruimte

De politie monitort videocamera’s verspreid over de stad en vervoerders gebruiken gps-trackers om de locatie van bussen en treinen te detecteren. Aangezien het observeren van personen in de openbare ruimte snel toeneemt, is de vraag wat de ondergrens is van privacy van burgers die altijd gerespecteerd moet worden. Vertegenwoordigers van techbedrijven moeten worden bevraagd om de privacy-risico’s van hun technologieën expliciet te maken en ook of deze technologieën voldoen aan te stellen eisen op het gebied van dataminimalisatie.

Het is mijns inziens aan steden om zowel richtlijnen op te stellen met betrekking tot internetveiligheid, beveiliging van privacy en dataminimalisatie maar ook expliciet te maken welke middelen wenselijk zijn voor misdaadbestrijding en handhaving. De  ontwikkelen van dergelijke richtlijnen is ook een kans voor pre-competitieve samenwerking tussen steden, bedrijven en kennisinstellingen.

Ben Green, ook voormalig lid van het MONUM team en nu docent aan de School of Public Policy, Michigan University, verwijst in zijn al genoemde werk ‘The smart enough city’ ook naar het Smart City Playbook en benadrukt dat the last thing to happen is that technology is considered as imminent and inevitable, thus beyond dispute and deliberation (p. 7).

Technologie moet altijd gerechtvaardigd worden door haar bewezen bijdrage aan menselijk welzijn.

Follow-up

Het Boston Smart City Play Book maakt duidelijk dat techbedrijven, voordat ze ‘oplossingen’ kunnen bieden, vertrouwd moeten raken met stedelijke uitdagingen, bij voorkeur door directe contacten met belanghebbenden en burgers. Bovendien willen steden ook betrokken zijn bij de ontwikkeling van deze technologieën. 

Het Playbook gaf aanleiding tot een reeks onderzoeks- en ontwikkelingsprojecten, bijvoorbeeld het Local Sense Lab[3], een losse groep sensortechnologen die sensoren en andere apparaten ontwikkelt met aantoonbare waarde voor inwoners van Boston.

[1] Boston Smart City Playbook

[2] Manifesto for the clever city

[3] Local Sense Lab

Verzamel betekenisvolle data en blijf ver weg van dataïsme.  

De vijfde aflevering van de reeks Bouwen aan duurzame steden: De rol van technologie gaat over de zin en onzin van big data. ‘Data is the new oil’ is het ergste cliché van de big data-hype tot nu toe. Nog erger dan ‘datagedreven beleid’. Ik dit artikel onderzoek ik – met digital twins als rode draad – wat de bijdrage van data aan stedelijk beleid kan zijn en hoe dataïsm, een religie die zelf de beleidsbepaling overneemt, kan worden voorkomen (lees hierover vooral Harari: Homo Deus).

Ik ben een tevreden gebruiker van een Sonos geluidssysteem. Toch moet de helpdeks er een enkele keer aan te pas komen. Nog onlangs en toen wist de helpdesk na vijf minuten dat mijn probleem het gevolg was van een defecte verbindingskabel tussen het modem en de versterker. Wat bleek, de helpdesk kon op afstand een digitale afbeelding genereren van de componenten van mijn geluidssysteem en hun verbindingen en zag dat de bewuste kabel geen signaal doorgaf. Een eenvoudig voorbeeld van een digital twin. Ik was er blij mee. Maar waar ligt de grens tussen zin en onzin van verzamelen van massa’s data.

Wat is een digital twin. 

Een digital twin is een digitaal model van een object, product of proces[2]. In mijn opleiding tot sociaal geograaf heb ik veel met kaarten te maken gehad, de oudste vorm van ‘twinning’. Kaarten hebben de basis gelegd voor GIS-technologie, die weer de basis is van digital-twins.   Geografische informatiesystemen relateren uiteenlopende data op basis van geografische locatie en maken hun samenhang in de vorm van een model inzichtelijk.  Als dit model met behulp van sensoren permanent met de werkelijkheid wordt verbonden, dan komen de dynamiek in de werkelijkheid en die in het model overeen en spreken we van een ‘digital twin’. Zo’n dynamisch model kan worden gebruikt voor simulatiedoeleinden, toezicht op en onderhoud van machines, processen, gebouwen, maar ook veel grootschaliger entiteiten, bijvoorbeeld het Nederlandse elektriciteitsnet.

Van data naar inzicht

Elke wetenschapsbeoefenaar weet dat data onmisbaarheid zijn, maar weet ook dat er een lange weg is te gaan voordat data tot kennis en inzicht leiden. Die weg begint nog voordat data worden verzameld. De eerste stap zijn aannames over het wezen van de werkelijkheid en dus ook de mogelijkheid om deze te kennen. Hierover is de nodige discussie gevoerd binnen de wetenschapsfilosofie, waaruit in het kort twee standpunten zijn gekristalliseerd, een systeembenadering en een complexiteitsbenadering. 

De systeembenadering gaat uit van de veronderstelling dat de realiteit bestaat uit een stabiele reeks van acties en reacties waarin naar wetmatige verbanden gezocht kan worden. Tegenwoordig neemt bijna iedereen aan dat dit alleen geldt voor fysische en biologische verschijnselen. Toch wordt er ook gesproken van sociale systemen. Het gaat dan niet om wetmatige samenhangen, maar om generaliserende aannames over menselijk gedrag op een hoog aggregatieniveau. De ‘homo economicus’ is daar een goed voorbeeld van. Op basis van zulke aannames kunnen ook conclusies worden getrokken hoe gedrag te beïnvloeden is.

De complexiteitsbenadering – die overigens ook een natuurwetenschappelijke achtergrond heeft – ziet de (sociale) werkelijkheid als een complex adaptief proces dat ontstaat uit ontelbare interacties, die – als het om menselijk handelen gaat – worden gevoed door uiteenlopende motieven. In dat geval wordt het veel moeilijker om generieke uitspraken te doen op een hoog aggregatieniveau en zullen interventies een minder voorspelbaar resultaat hebben. 

Verkeersmodellen

Verkeersbeleid is een goed voorbeeld om het onderscheid tussen een proces- en een complexiteitsbenadering te illustreren. Simulatie met behulp van een digital twin in Chattanooga[3] van het gebruik van flexibele rijstrooktoewijzing en fasering van de verkeerslichten, wees uit hierdoor de congestie met 30% kon afnemen[4]. Had men dit experiment in werkelijkheid uitgevoerd, dan was het resultaat waarschijnlijk heel anders geweest. Verkeersdeskundigen merken keer op keer op dat elke nieuw geopende weg na korte tijd vol slipt, terwijl het verkeersbeeld op andere wegen nauwelijks verandert. In de econometrie heet dit verschijnsel geïnduceerde vraag. In een onderzoek naar stedelijke verkeerspatronen tussen 1983 en 2003, stelden de economen Gilles Duranton en Matthew Turner vast dat autogebruik evenredig toeneemt met de groei van de wegcapaciteit. Dit is alleen te begrijpen vanuit een complexiteitsbenadering: Elke weggebruiker reageert namelijk anders op de opening of afsluiting van een weg. Die reactie kan zijn de rit naar een ander tijdstip te verplaatsen, een andere weg te gebruiken, met iemand anders mee te rijden, het openbaar vervoer te gebruiken of af te zien van de rit. 

Carlos Gershenson[5], een Mexicaanse computerspecialist, heeft verkeersgedrag onderzocht vanuit een complexiteitsbenadering en hij concludeert dat zelfregulering de beste manier is om congestie aan te pakken en de capaciteit van wegen maximaal te benutten. Als de gesimuleerde ingrepen in het verkeer in Chattanooga in werkelijkheid waren uitgevoerd, dat hadden duizenden reizigers binnen korte tijd hun rijgedrag aangepast. Zij waren de ‘smart highway’ gaan uitproberen, en als gevolg van geïnduceerde vraag, zou de congestie daar binnen de kortste tijd toenemen tot op het oude niveau. Iemand die het effect van verkeersmaatregelen zichtbaar wil maken met een digital twin, moet deze voeden met resultaten van onderzoek naar het geïnduceerde-vraageffect, in plaats van alleen historische verkeersdata te manipuleren.

De waarde van digital twins

Digital twins bewijzen hun waarde bij het nabootsen van fysieke systemen, dus processen met een parametrisch verloop. Het gaat dan bijvoorbeeld om de werking van een machine, of in een stedelijke context, de relatie tussen de hoeveelheid UV-licht, de temperatuur, de wind(snelheid) en het aantal bomen per oppervlakte-eenheid. Zo onderzoekt men in Singapore met behulp van digital twins hoe hitte-eilanden in de stad ontstaan en hoe hun effect verminderd kan worden[6]. De luchthaven Schiphol beschikt over een digital twin, die alle bewegende onderdelen op het vliegveld zoals rolbanden en -trappen toont. Daarmee kunnen monteurs in geval van storing onmiddellijk aan het werk[7]. Of de kosten van de bouw van zo’n model opwegen tegen de baten is niet bij voorbaat te zeggen.  Vaak ontwikkelen digital twins zich van klein naar groot, gestuurd door gebleken behoeften. 

Ook Boston heeft in 2017, met technische ondersteuning van ESRI, een digital twin van een deel van de stad ontwikkeld[8].  Er is een beperkt aantal processen in een virtueel 3D-model samengevoegd. Een daarvan is de schaduwvorming als gevolg van de hoogte van gebouwen.  Een van de geliefde groene ruimten in de stad is de Boston Common.  Het is al decennia gelukt om de ontwikkeling van hoogbouw langs de randen van het park en daarmee het beschaduwen ervan te beperken. Keer op keer komen projectontwikkelaars met nieuwe voorstellen voor hoogbouw. Met de digital twin kan het effect van de schaduwwerking van deze gebouwen worden gesimuleerd bij verschillende weersomstandigheden en in verschillende seizoenen (zie titelafbeelding). De digital twin is online te raadplegen, zodat iedereen deze en andere effecten van stedenbouwkundige ingrepen, thuis kan bekijken.

Vragen vooraf

Aan de bouw van een digital twin gaan drie vragen vooraf. In de eerste plaats wat de gebruiker ermee wil bereiken, vervolgens welke processen erbij betrokken gaan worden en welke kennis er van die processen en hun samenhang bestaat. Chris Andrews[9], als stedenbouwkundige werkzaam aan het ESRI ArcGIS platform, benadrukt de noodzaak om het aantal elementen in een digital twin te beperken en vooraf het verband ertussen te beredeneren: To help limit complexity, the number of systems modeled in a digital twin should likely be focused on the problems the twin will be used to solve.

Zowel het voorbeeld van de verkeersprognoses in Chattanooga, de vorming van warmte-eilanden in Singapore als het beschaduwen van de Boston Common laten zien dat onbewerkte data ontoereikend zijn om een digital twin te voeden. In plaats daarvan worden data gebruikt die het resultaat zijn van wetenschappelijk onderzoek, waarbij de onderzoeker zich tevens heeft afgevraagd of een systeem- dan wel een complexiteitsbenadering op zijn plaats is. In de woorden van Nigel Jacob, voormalig Chief Technology Officer in Boston: “For many years now, we’ve been talking about the need to become data-driven… But there’s a step beyond that. We need to make the transition to being science-driven in …… It’s not enough to be data mining to look for patterns. We need to understand root causes of issues and develop policies to address these issues.” 

Digital twins zijn waardevolle hulpmiddelen. Maar als zij gevoed worden met onbewerkte data, geven ze hooguit zicht op statistische verbanden en elke wetenschapper weet hoe gevaarlijk het is om daar conclusies uit te trekken: Trash in, trash out. 

Naarmate digitale tweelingen volwassen worden en meer vitale functies van steden in realtime vastleggen, rijst de vraag of dit de besluitvorming altijd zal verbeteren. Stedelijke maatschappelijke vraagstukken zijn ‘wicked problems’: Er zijn veel belanghebbenden met concurrerende belangen, uiteenlopende macht en invloed en incompatibele logica’s. Tegen deze achtergrond boeten meer data, snellere computers en ‘optimale’ oplossingen al snel in aan betekenis.

[1] https://singularityhub.com/2018/09/30/the-rise-of-dataism-a-threat-to-freedom-or-a-scientific-revolution/

[2] Digital Twins Haskoning

[3] Digital twins Future urban planning

[4] Digital Twins React to changes

[5] https://www.quantamagazine.org/complexity-scientist-beats-traffic-jams-through-adaptation-20200928/

[6] https://www.bloomberg.com/news/features/2020-12-01/singapore-climate-change-reducing-heat-takes-trees-and-technology

[7] Esri: Digital twin

[8] Boston digital twin 3D GIS

[9] https://www.esri.com/about/newsroom/arcuser/arcgis-a-foundation-for-digital-twins/