De Digitaal rechtvaardige stad

Dit artikel gaat over de impact van de nieuwste digitale technologieën, kunstmatige intelligentie in het bijzonder, de onderliggende motieven en de mogelijkheden die de samenleving heeft om negatieven gevolgen te matigen, of beter, om ze te gebruiken om een ​​meer humane plek te worden.

Animatie van neural network. Photo: Kevin Rheese, Licensed under Creative Commons 2.0.

Lewis Mumford schreef in zijn baanbrekende boek The Myth of the Machine dat opkomende nieuwe megatechnieken een uniforme, allesomvattende, boven-planetaire structuur creëren, ontworpen voor autonoom functioneren, waarin de mens een passief, doelloos, machine-geconditioneerd wezen wordt.

Dit was in 1967, voordat iemand zich een voorstelling kon maken van de impact van digitale technologie[1].

Vandaag, amper 50 jaar later, spreken we van een digitale samenleving. Nog steeds weet niemand wat de impact ervan zal zijn, noch hoe deze technologie te beheersen valt.

Aleksandra Mojsilović, directeur van IBM Science for Social Good voegt eraan toe dat als ze ’s nachts ergens van wakker ligt, dit de snelheid is waarmee kunstmatige intelligentie zich ontwikkelt en het achterwege blijven van de regels voor de ontwikkeling en toepassing ervan[2].

Zes digitale technologieën die procesautomatisering stimuleren[3]

Het navolgende gaat vooral over kunstmatige intelligentie en haar toepassingen in de stedelijke omgeving. Aan de orde komt hoe steden de belangen van hun burgers kunnen beschermen. Daarbij spelen strikte wetgeving met betrekking tot het verzamelen en gebruiken van gegevens en het terugdringen van cybercriminaliteit een belangrijke rol. 

De ultieme vraag is dat als technologie ontmenselijkt, het mogelijk is dit proces te keren?


De Digitaal rechtvaardige stad is deel acht van een reeks artikelen over hoe steden humaner kunnen worden. Dat betekent het vinden van een balans tussen duurzaamheid, sociale rechtvaardigheid en kwaliteit van het bestaan. Dit vereist vergaande keuzes. Zodra deze keuzes zijn gemaakt, is het vanzelfsprekend dat slimme technologieën worden gebruikt om deze doelen te realiseren.

De onderstaande artikelen zijn al gepubliceerd.

Kunstmatige intelligentie

Eenvoudig gezegd, autonome en intelligente technische systemen, of kortweg kunstmatige dan wel artificiële intelligentie (AI) verwijzen naar het vermogen van een computer om patronen correct te herkennen en ze te benoemen door zelf te leren in plaats van te worden geprogrammeerd. Zo’n patroon kan van alles zijn: Een voetganger die de weg oversteekt, in het geval van een zelfrijdende auto of het gezicht van een specifieke persoon in het geval van automatische gezichtsherkenning. De rol van mensen in dit proces is tweeledig. In de eerste plaats door een ‘instructie’ (algoritme) te schrijven, in de tweede plaats door de computer te trainen om deze instructie correct toe te passen. Bijvoorbeeld, als de computer in een zelfrijdende auto negatieve feedback ontvangt omdat deze een fiets en een motorfiets door elkaar haalt, zal het apparaat proberen de kenmerken van beide opnieuw te definiëren. 

Alle technologiebedrijven begrijpen dat AI en aanverwante technologieën essentieel zijn om hun toekomstige positie te veilig te stellen. Dientengevolge investeren ze grote hoeveelheden geld in onderzoek, vaak door de acquisitie van startups.

Wereldwijde fusie- en overnames (tot 4 december 2017) gerelateerd aan kunstmatige intelligentie. Bron: The Economist

AI is ontworpen om de betekenis van menselijke tussenkomst in planning en besluitvorming te verminderen. Hetzelfde geldt voor de herkenning van patronen in enorme dataverzamelingen. Ondertussen groeit de bezorgdheid over de negatieve gevolgen van AI, bijvoorbeeld schending van de privacy, discriminatie, afkalving van menselijke vaardigheden, risico’s voor de beveiliging van kritieke infrastructuur en vermindering van welzijn. Het voordeel van deze technologieën hangt ervan af of ontwikkelaars de werking en de toepassing van AI in overeenstemming weten te brengen met ethische principes, zoals rechtvaardigheid, ecologische duurzaamheid en het recht op zelfbeschikking en ze tegen misbruik weten te beschermen.

Gezichtsherkenning

Een van de meest bekritiseerde toepassingen van AI is gezichtsherkenning: De overhaaste introductie ervan, vooral door de politie en de detailhandel (herkenning van winkeldieven) wordt zwaar betwist. Elders ben ik dieper ingegaan op gezichtsherkenning, waarbij ik het gebrek aan nauwkeurigheid noemde, in het bijzonder met betrekking tot gekleurde mensen en vrouwen[4]. Als gevolg hiervan verbieden verschillende steden in de VS inmiddels gezichtsherkenning. Onlangs heeft Portland een totaalverbod uitgevaardigd, zowel in de publieke sector – in het bijzonder de politie – als in de particuliere sector[5].

Het wantrouwen ten opzichte van gezichtsherkenning en de twijfelachtige nauwkeurigheid van andere toepassingen van AI hebben geleid tot initiatieven om hun ontwerp te verbeteren. Het invloedrijke Institute of Electric and Electronic Engineers (IEEE) nam een ​​wereldwijd initiatief met de publicatie van een omvangrijk handboek, Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Dit is tot nu toe de meest uitgebreide, publieksgerichte verhandeling over de ethiek van AI en machine-leren in het algemeen[6]. Voortbouwend op dit baanbrekende werk heeft IBM een eigen gids samengesteld die vijf ethische thema’s centraal stelt[7]:

Verantwoording

Ontwerpers van AI zijn verantwoordelijk om de impact van hun product voor de samenleving in ogenschouw te nemen. Dit geldt dus niet alleen voor de bedrijven of overheden die in de ontwikkeling ervan hebben geïnvesteerd.

Relatie tot normen en waarden

Ontwerpers moeten in een ontwerp ruimte laten voor contextuele factoren die de uitkomst van een te automatiseren proces beïnvloeden, zoals eerdere ervaringen, herinneringen, opvoeding en culturele normen. AI kan dit niet zelf. Hoe groter de diversiteit van het ontwikkelteam, hoe beter de resultaten.

Verklaarbaarheid

Ontwerpers moeten de overwegingen die ten grondslag liggen aan algoritmen en de samenstelling van datasets kunnen verklaren in termen die mensen kunnen begrijpen, omdat deze kennis de sleutel is voor al dan niet instemmen met de conclusies en aanbevelingen.

Eerlijkheid

Ontwikkelaars van AI-systemen moeten zich bewust zijn van de vooroordelen die onbewust hun denken sturen. Als team moeten ze algoritmische vertekening minimaliseren door voortdurende reflectie op de inhoud zowel de gegevens als de algoritmen zelf.

Voorbeelden van onbewust vormen van bias (bron IBM)[8]

Bescherming rechten van gegevens van gebruikers

Ontwikkelaars moeten gebruikers van AI voorlichten over de mate waarin hun ontwerpen zijn afgestemd op nationale en internationale wetgeving, bijvoorbeeld de General Data Protection wetten van de EU.


 Algoritme-manager New Nork

New York City heeft een algoritmemanager aangesteld om te controleren of algoritmen voldoen aan ethische normen en wettelijke regels met betrekking tot datagebruik en privacy[9]. De burgemeester nam deze beslissing, geadviseerd door de Automated Decision Systems Task Force, die werd opgericht als reactie op de kritiek op de manier waarop de New York Police Department gezichtsherkenning toepast. In Amsterdam houdt accountantskantoor KPMG op verzoek van het stadsbestuur toezicht op de kwaliteit van algoritmen door middel van een audit.


Surveillance-kapitalisme

Bedrijven als Amazon, Facebook en Google investeringen op grote schaal in AI om ons koopgedrag te beïnvloeden. Om gericht te kunnen adverteren willen ze ieders winkelgedrag kennen en ook de voorkeuren van elke afzonderlijke consument kunnen  voorspellen en beïnvloeden[10]. Traditionele reclame heeft aan waarde ingeboet vanwege de grote hoeveelheid producten en diensten en de enorme verscheidenheid aan individuele voorkeuren. In plaats daarvan willen deze bedrijven iedereen individueel op het juiste moment een advies geven om een ​​bepaald product in de bepaalde winkel te kopen, dat wil zeggen de winkel die voor deze service heeft betaald.

Een wetenschappelijk rapport van Douglas C. Schmidt, hoogleraar computerwetenschappen aan de Vanderbilt University, onthult welke gegevens Google verzamelt en hoe[11]. Google kent de voorkeuren van miljarden mensen, weet waar deze zich bevinden en verstuurt onophoudelijk gepersonaliseerde commerciële boodschappen. De volgende stap is dat een potentiële klant een sms-bericht ontvangt bij het naderen van een winkel die een van diens favoriete artikelen verkoopt. Of – in de ogen van Google nog beter – als verkopers klanten persoonlijk begroeten dankzij gezichtsherkenning en deze een niet te versmaden aanbieding doen.

Persoonlijke gegevens van een Android-telefoongebruiker die gedurende één dag door Google zijn verzameld. De grijze cirkels vertegenwoordigen locatiegegevens die zijn verzameld terwijl de telefoon niet actief werd gebruikt. Grafiek: Pamela Saxon (Vanderbilit University).

In het geval van Amazon hoeven klanten hun huis niet meer te verlaten. Het bedrijf kan – dankzij AI – op elk moment voorspellen voor welke producten of diensten klanten openstaan en vervolgens komen met een onweerstaanbaar aanbod. De reden kan ook zijn dat de beruchte Alexa je heeft afgeluisterd.


Sidewalk Labs Toronto

Het ontwikkelingsproces van Quayside, een braakliggend stuk land van 12 hectare aan de rand van het centrum van Toronto, laat zien welke rol informatietechnologie speelt bij de ontwikkeling van steden[12]. Elders heb ik aandacht besteed aan de rol van Sidewalk Labs (een zusterbedrijf van Google) in dit project. Ik was blij met de hedendaagse stedenbouwkundige opvattingen. Tegelijkertijd wil het bedrijf een ‘digitale laag’ over Quayside bouwen. Hoe groter de hoeveelheid en diversiteit van de gegevens van bewoners en bezoekers die verzameld worden, des te beter zal Sidewalk Labs erin slagen om derden te interesseren in het doen van investeringen. De oppositie tegen Sidewalk Labs Toronto groeit snel.

Schets van hoe Quayside eruit kan komen te zien. Sidewalk Labs (publiek domein)

Amazon is erin geslaagd een Amerikaanse icoon te worden. Uit onderzoek is gebleken dat Amazon de op een na meest vertrouwde instelling in de Verenigde Staten is, vóór de regering, de politie en het hoger onderwijs. Alleen het vertrouwen in het Amerikaanse leger is groter[13].

Vanwege zijn reputatie heeft Amazon een enorme impact op het koopgedrag. Het heeft bijvoorbeeld met succes de angst voor inbraak bij de gemiddelde Amerikaan uitgebuit door Ring, een deurbel met een ingebouwde camera, te promoten. Het heeft meer dan 100 miljoen exemplaren verkocht, voor $100 per stuk. Alle opnamen worden met goedvinden van de eigenaar continue aan de politie beschikbaar gesteld. 

De reeds genoemde Alexa is een vertrouwde huisgenoot veel gezinnen (‘Alexa, hoe laat is het?’). Zij is ondertussen een bron van een grote hoeveelheid gepersonaliseerde informatie en dus inkomsten voor Amazon. Het moment dat Alexa begint met commerciële berichten is niet ver weg.

Ik begon dit artikel met een verwijzing naar de angst van Lewis Mumford voor de impact van megatechnologieën. Tegenwoordig zijn technologieën die ervoor te zorgen dat geen enkele actie onopgemerkt blijft, zoals Mumford voorspelde, volledig ingeburgerd. Het handjevol gigantische technische conglomeraten dat vandaag de dag de digitale wereld domineert, toont schrikbarende gelijkenis met de megamachines van Mumford[14].

Echter, veel mensen zien deze megamachines niet alleen absolutely irresistible maar ook ultimately beneficial. Mumford geloofde dat deze twee voorwaarden samen leiden tot wat hij de megatechnics bribe noemde. De technologiebedrijven bieden mensen een indrukwekkend scala aan goederen en diensten – vaak gratis – aan. Deze maskeren de ongebreidelde dataverzameling, milieuvernietiging, uitbuiting, vernietiging van werkgelegenheid en de concentratie van rijkdom in een paar handen die ermee samengaan[15].

Zoeken naar regulering

Platforms zoals Amazon en Alibaba mogen dan populair zijn bij veel consumenten; hun schaal heeft naast de voornoemde effecten, rampzalige gevolgen voor de leefbaarheid van stedelijke centra, ze verleiden mensen om goederen te kopen en hun ecologische voetafdruk te vergroten, en ze zijn monopolistische concentraties van economische macht. Als eigenaren van het netwerk en verkopers met het grootste aandeel op de markt, domineren ze alle andere gebruikers van het platform.

Facebook is een ander voorbeeld van een platform. Als sociaal netwerk gedijt het dankzij zijn bijna-monopolistische positie, die een enorm voordeel biedt als advertentiemedium[16].

Zelfs in de VS wordt de roep om regulering steeds luider. In een artikel in de New York Times, pleit Chris Hughes, medeoprichter van Facebook voor het opdelen van zijn voormalige liefdesbaby[17]. Hierbij zou minstens de acquisitie van Instagram en WhatsApp ongedaan gemaakt moeten worden, iets dat presidentskandidaat Elisabeth Warren ook lijkt te willen.

Mark Zuckerberg en Chris Hughes. Foto’s: Jessica Chou / The New York Times (Zuckerberg); Damon Winter / The New York Times (Hughes)

Hughes verwijst naar het feit dat de Amerika is gebouwd op de idee dat macht niet in één persoon moet worden geconcentreerd vanwege zijn of haar feilbaarheid.

Een eeuw geleden zei senator John Sherman in het congres: Als we geen koning willen als politieke machthebber, moeten we ook geen koning accepteren van de productie, het transport en de verkoop van eerste levensbehoeften. Als we ons niet zouden onderwerpen aan een keizer, moeten we ons ook niet onderwerpen aan een autocraat die concurrentie voorkomt en de prijs van artikelen bepaalt.

Vanaf de jaren tachtig van de vorige eeuw nam de concentratie in elke economische sector toe in een voorheen onbekende mate. Facebook is 500 miljard dollar waard, het bedrijf ontvangt ongeveer 80 procent van alle inkomsten uit sociale netwerken ter wereld.

De kracht van Facebook in vergelijking met andere sociale netwerken

Wetgeving met betrekking tot Facebook moet de bescherming van de privacy regelen en giftig taalgebruik voorkomen. Mark Zuckerberg lijkt hier geen bezwaar tegen te hebben: In een ingezonden brief in de Washington Post in maart 2019 schreef hij: Wetgevers zeggen me vaak dat we te veel macht hebben over het gesproken woord en ik ben het ermee eens. Hij gaat nog verder: De regelgeving van de overheid moet niet alleen betrekking hebben op taal, maar ook op privacy en interoperabiliteit, wat betekent dat consumenten het ene netwerk naadloos kunnen verlaten en hun profielen, connecties, foto’s en andere gegevens meenemen. Zijn pleidooi voor wetgeving werd gevolgd door CEO’s van Google, Microsoft en Amazon[18].

Wat ze allemaal proberen te voorkomen, is het aanscherpen van het antitrustbeleid maar dat is nu precies wat nodig is.


Perspective

Perspective[19] is een programma dat de kans berekent dat teksten van websites of online forums als giftig worden ervaren. Om dit algoritme te ontwikkelen, werden enorme datasets gebruikt, bijvoorbeeld de commentaarpagina’s van de New York Times. Mensen werd gevraagd hoe zij deze berichten ervaarden. Hun antwoorden gingen in een machine-leermodel dat ‘leerde’ om berichten te selecteren die met grote waarschijnlijkheid als giftig worden ervaren. Het model is in staat om onderscheid te maken tussen uitdrukkingen als You are a fu … gay (giftig) en I’am a proud gay(niet-giftig)


Platforms als Amazone, Facebook en Google worden ontwikkelen zich tot ‘natuurlijke monopolies’, net als het elektriciteitsnet. Op zich zijn dit soort monopolies niet slecht: Zowel klanten als leveranciers profiteren immers van het bestaan ​​van slechts één virtuele marktplaats, waar ze ‘iedereen’ kunnen ontmoeten. Echter, in het geval van ‘natuurlijke monopolies’ moet er een verplichte scheiding zijn tussen de exploitatie van het platform als medium en de aanbieders van producten en diensten via dit medium. Dit heeft grote gevolgen:

Het nieuwe Amazon

Voor Amazon houdt dit in dat het bedrijf de virtuele marktplaats beheert en eventueel opslag- en transportdiensten aanbiedt. De andere kant van de medaille is dat het bedrijf zijn eigen verkoopactiviteiten afstoot. Elk bedrijf kan ruimte op het platform huren en de gegevens van zijn eigen klanten gebruiken als ze hiermee instemmen.

Het nieuwe Facebook

Facebook als wereldomvattend sociaal medium biedt volwassen voor een redelijke prijs de mogelijkheid om te netwerken zonder hun gegevens te verzamelen en advertenties te versturen. Facebook mag gegevens verzamelen van volwassenen en hen gepersonaliseerde advertenties aanbieden in ruil voor gratis gebruik van de netwerkdienst. Voor jongeren geldt dat het gebruik van Facebook gratis is, er geen gegevens worden verzameld en geen advertenties worden aangeboden.

Het nieuwe Google

Google lijkt iets ingewikkelder. Ik en – neem ik aan – velen met mij zijn blij met de beschikbaarheid van zijn zoekmachines, kaarten, en e-mailfaciliteiten. Ik waardeer het zelfs als het bedrijf op verzoek een overzicht aanbiedt van drogisterijen, loodgieters en dergelijke in mijn buurt. Ik wil graag voor deze service betalen als het bedrijf afziet van het verzamelen van mijn persoonlijke gegevens en het aanbieden van advertenties. Maar het bedrijf mag wat mij betreft de wettelijk toegestane gegevens verzamelen van iedereen die daar toestemming voor geeft in ruil voor gratis gebruik van zijn diensten en het ontvangen van gepersonaliseerde advertenties. 


Cities for Digital Rights Coalition

In november 2018 lanceerden Amsterdam, Barcelona en New York City de Cities for Digital Rights Coalition[20]. Zij staat voor betrouwbare en veilige digitale diensten en infrastructuur en wil op een vijftal punten burgers ondersteunen: internettoegang voor iedereen, privacy en gegevensbescherming, transparantie en niet-discriminerende algoritmen, diversiteit en inclusie, en open en ethische normen voor digitale diensten.

Deze korte video toont de lancering van de Digital Rights Coalition.

De rol van steden als beschermer van digitale rechten; Amsterdam als voorbeeld

De Europese Unie heeft een vergaande Algemene Verordening Gegevensbescherming (AVG) aangenomen. Een samenvatting van de inhoud is hier te vinden en een overzicht van de uitgangspunten hieronder.

Lokale autoriteiten kunnen een belangrijke rol spelen bij het handhaven van netneutraliteit en open gegevensstandaarden, het beschermen van digitale rechten en de bestrijding van cybercriminaliteit[21]. Dit naast hun rol bij het bieden van snel internet voor alle burgers, het verbeteren van digitale zelfvoorziening en veerkracht, het beschikbaar stellen van digitale diensten, het installeren van sensoren om de kwaliteit van de omgeving te verbeteren en het bevorderen van digitale kunst en de creatieve industrie. Deze onderwerpen zijn deels besproken in een ander artikel[22].

Hieronder ligt de nadruk op de rol van stedelijke overheden in het debat over AI en algoritmen, de bescherming van de privacy van burgers in het algemeen, de regulering van data-eigendom, de voorkeur voor open software en de strijd tegen cybercriminaliteit.

Elk onderwerp wordt geïllustreerd met activiteiten die de gemeente Amsterdam zich in 2019 heeft voorgenomen, zoals vermeld in de publicatie Een digitale stad voor en door iedereen. Agenda voor de digitale stad-versie 1.0.

Supervisie en debat over de rol van kunstmatige intelligentie en algoritmen

Steden gebruiken al AI om talloze gegevens te analyseren en beleid te maken. Algoritmen worden geïmplementeerd bij het stroomlijnen van diensten, het prioriteren van operaties en zelfs het voorspellen wanneer restaurantinspecties, wegwerkzaamheden of bouwvergunningen vereist zijn[23].

Het is van het grootste belang om te beseffen dat geen van deze activiteiten zonder menselijke tussenkomst plaatsvindt. Algoritmen zijn ontworpen, gecontroleerd en geleid door mensen, hoewel slechts weinigen de relatie tussen deze menselijke activiteiten en de uitkomst van de berekeningen van de algoritmen begrijpen. Niet voor niets moet het kunnen verklaren van deze relatie onderdeel zijn van de competenties van AI-ontwikkelaars. 

Het is zinvol als (publieke) organisaties die kunstmatige intelligentie en algoritmen gebruiken een ​​onafhankelijke adviesraad kennen die de eerlijke en betrouwbare werking daarvan beoordeelt.

Sommige toepassingen van AI worden op dit moment kritisch onder de loep genomen. Ik noemde al praktijken met betrekking tot gezichtsherkenning, vanwege het geregeld voorkomen van bias bij ontwerpers en in datasets. Een ander voorbeeld is het opsporen van fraude; een legitieme overheidstaak, maar ook hier is transparantie nodig[24].

Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad

  • Stimuleren van het publieke debat over ethische vragen met betrekking tot AI.
  • Onafhankelijke partij voor controle-algoritmen.

De Algorithm-toolkit

Netwerk van neuronen. Bron: De algoritmetoolkit, John Hopkins University

Om bias in algoritmen te helpen verminderen, heeft het Center of Government Excellence van Johns Hopkins University onlangs een toolkit voor algoritmen beschikbaar gesteld ten behoeve van lokale bestuurders[25] .

Het belangrijkste doel is ervoor te zorgen dat geautomatiseerde beslissingen eerlijk zijn en de onbedoelde neveneffecten tot een minimum worden beperkt. De toolkit helpt lokale bestuurders om proactief specifieke vragen te stellen om risico’s te kwantificeren en geeft ook aanbevelingen over de manier om met die risico’s om te gaan.


Transparantie van gegevensverzameling door de overheid zelf: privacy by design

Velen houden zich aan het principe dat mensen in een vrij land het recht hebben zich te verplaatsen, zonder te worden geobserveerd en geregistreerd, met uitzondering om redenen van wetshandhaving, mits dit zorgvuldig gebeurt.

In veel gevallen, bijvoorbeeld crowd control bij grootschalige evenementen, is persoonlijke informatie niet nodig en is hier ‘privacy by design’ op zijn plaats. Een van de regels is dat observaties minimalistisch zijn. Bijvoorbeeld mensen van achteren tellen, of auto’s van bovenaf.

Beleid met betrekking tot gegevensverzameling impliceert het zoeken naar instemming van burgers, het handhaven van ‘checks and balances’ en, in het geval van surveillance, regels vaststellen voor degenen die informatie verzamelen en verwerken.

Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad

  • Openbaar register van alle sensoren.
  • Vergroot technologische kennis.
  • Onderzoek met betrekking tot digitale weerbaarheid bij jonge kinderen.
Data-eigendom; beschikbaarheid van gegevens (open data)

Het aanleggen van een collectie beelden van gezichten door particulieren is bij de wet verboden. De overheid mag dit alleen onder specifieke omstandigheden en voor vastgestelde doelen doen. In principe zijn burgers de eigenaar van alle persoonlijke gegevens, hoewel sommige verplicht aan de gemeente afgestaan dienen te worden op grond van de wet op de persoonsregistratie. Op geaggregeerd niveau zijn deze gegevens openbaar. Dit geldt voor gegevens verzameld door de overheid, maar zou ook voor particuliere bedrijven moeten gelden. Verhandelen van persoonlijke gegevens zonder toestemming van de eigenaar is eveneens verboden. In de praktijk wordt deze toestemming impliciet gevraagd en gegeven[26].

Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad

  • Het zekerstellen van digitale rechten.
  • Ondersteuning van samenwerkingsverbanden die alternatieven bieden voor monopolies van platvormen.
  • Hanteren van privacy by design.
  • Digitale identiteit om burgers in staat te stellen gebruik van gegevens door derden te verminderen.
  • Strategie ontwikkelen voor dataminimalisatie en -soevereiniteit, datacommons en open data.

Decode

Decode[27] is een EU-project dat instrumenten creëert waarmee mensen het beheer over hun eigen gegevens kunnen voeren met behulp van blockchain-technologie.

De onderstaande video is een korte inleiding tot het project.


Privégegevens kunnen doorzoekbaar worden, maar alleen partijen die daar recht op hebben of toestemming hebben gekregen van de eigenaar van de gegevens, krijgen toegang. Dit nieuwe concept van datarechten is ook van toepassing op gegevens die worden verzonden naar of gebruikt door Internet of Things (IoT) -objecten.

Open software

Het gebruik van open source software is in het algemeen aan te raden om ‘lock-in’ te voorkomen als gevolg van afhankelijkheid van leveranciers van software. Deze maken het – op zich begrijpelijk – lastig om over te stappen naar een andere provider. Daarnaast kunnen leveranciers van commerciële software dankzij ingebouwde functies zoveel informatie verzamelen van hun klanten als ze willen. In het geval van open software is de code en de wijze waarop deze wordt gebruikt openbaar. Gratis beschikbaar zijn betekent overigens niet dat deze software goedkoop is, vanwege de noodzaak van maatwerk.

Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad

  • Zoveel mogelijk data open en deelbaar maken op een stadsplatform.
  • Aanstelling van een voorlichtingsfunctionaris om de principes van ‘privacy by design’ en ‘openheid tenzij’ te handhaven
Internet veiligheid

Afgezien van gespecialiseerd politiewerk, kunnen steden en andere gebruikers veel doen om de cyberveiligheid te vergroten. Het Internet of Things verbindt steeds meer apparaten met het Internet. De veiligheid is doorgaans gering omdat ze ontworpen zijn om een zo laag mogelijke kostprijs te hebben. Hier is een rol weggelegd voor regelgevers om de standaarden vast te stellen.

Opvallende datalekken bij internationale bedrijven krijgen veel media-aandacht, maar cybercriminelen richten zich in steeds vaker op verenigingen, scholen, kleine bedrijven en gemeentelijke overheden, die over het algemeen een laag beveiligingsniveau hebben[28]. Door zelf vijf kritieke stappen te hanteren en burgers aan te bevelen hetzelfde te doen, kan het gemeentebestuur bijdragen aan een aanzienlijke verbetering van het beveiligingsniveau[29].

Daarnaast moeten steden burgers beter voorbereiden op denial of service (DoS) – aanvallen, die tot doel hebben functies buiten werking te stellen. Bewoners kunnen dan gebouwen niet meer betreden of verlaten en vitale systemen als verkeerslichten, betalingsverkeer of alarmcentrales worden daarbij op afstand buiten bedrijf gesteld[30].

Bedrijven en instellingen moeten bedreigingen beoordelen en de meest kritische controles ontwikkelen. (Bron: European Union Agency for Network and Information Security)

Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad

  • Veilige Wi-Fi-services voor burgers en bezoekers in openbare gebouwen en op drukke plaatsen.
  • Bestrijden van cybercriminaliteit om vitale infrastructuur en administratieve stabiliteit te beschermen.
  • Productie van handboek voor sociale dienstverlening om op een veilige manier digitale voorzieningen te bieden.

De uitdaging van de digitale rechtvaardige stad

In dit artikel worden zorg voor privacy en bescherming tegen cybercrime gezien als onderdeel van de digitale rechten van burgers vanuit een humaan perspectief. Tegelijkertijd noemde ik het feit dat in de ogen van velen Amazon een van de betrouwbaarste instellingen in de VS is. Ik ben bang dat dit een uitstekend voorbeeld is van wat Lewis Mumford ‘mega technisch smeergeld’ noemt. Amazon bevredigt de materiële verlangens van Amerikaanse consumenten. Deze staan hierdoor ​​onverschillig ten aanzien van hun privacy, hun soevereiniteit als consument en uiteindelijk ook hun eigen banen in ruil voor de lage prijzen, rijke keuze en snelle levering door het bedrijf. Voor degenen die consumentisme als de heilige graal prediken, is dit geen slechte deal, maar anderen zouden beter moeten weten. In mijn zoektocht naar een humane stad, waar principes als duurzaamheid, rechtvaardigheid en levenskwaliteit overheersen, is deze tendens verontrustend.

De groeiende penetratie van megatechnologiebedrijven in ieders leven met de bedoeling om gedrag van consumenten vorm te geven is evenzeer verontrustend omdat mensen eigenlijk hun gemeenschappelijke ecologische voetstap zouden moeten verminderen, het sociaal kapitaal moeten vergroten en zich meer moesten richten op niet-materiële levenskwaliteiten. 

Helaas is vooralsnog het armste deel van de wereldbevolking van de toename van materiele welvaart uitgesloten. 

Overheden hebben een belangrijke taak. Ze moeten ervoor zorgen dat producten worden verkocht tegen reële prijzen, inclusief compensatie voor emissie van broeikasgassen en dat winsten worden aangewend voor de samenleving als geheel in plaats van een handvol megarijke tycoons ten goede komen. Dit opent de weg voor steden die tegelijkertijd humaan en welvarend zijn.

Hieronder vat ik samen hoe digitale technologie rechtvaardig kan worden toegepast om zo de ontwikkeling van humane steden te ondersteunen.


Rechtvaardige toepassing van digitale technologie ter ondersteuning van de ontwikkeling van humane steden

1. De lokale overheid kan bijdragen aan rechtvaardige en veilige digitale diensten door snel internet voor al haar burgers mogelijk te maken, digitale zelfredzaamheid en veerkracht te verbeteren, digitale diensten beschikbaar te stellen, sensoren te plaatsen om de kwaliteit van het milieu te verbeteren, digitale kunstvormen en creatieve industrie te versterken , netneutraliteit te beschermen, open datastandaarden te hanteren, privacy te beschermen, toepassingen van kunstmatige intelligentie kritisch te beoordelen en cybercriminaliteit effectief te bestrijden en te voorkomen.

2. Van eerlijke concurrentie is geen sprake als monopolistische eigenaren van platforms ook invloedrijke verkopers zijn op hun eigen platforms.

3. Wetgeving met betrekking tot monopolistische technologiebedrijven zoals Facebook, Google en Amazon moet bescherming bieden van de privacy, giftig taalgebruik verbieden, interoperabiliteit tot regel verheffen en monopolistische concentraties onmogelijk maken en opheffen.

4. Bedrijven die gratis internetdiensten aanbieden in ruil voor toegang tot de data van gebruikers, moeten dezelfde diensten eveneens tegen faire betaling aanbieden, zonder gegevens te verzamelen en advertenties aan te bieden.

5. Kunstmatige intelligentie dient afgestemd te zijn op sociale waarden en ethische principes, waaronder billijkheid, ecologische duurzaamheid en het recht op zelfbeschikking. Premature toepassing van deze en andere technologieën ten gunste van snelle winsten of resultaten moet worden verboden.

6. Het gebruik van kunstmatige intelligentie voor de beheersing van processen waarvoor het stadsbestuur verantwoordelijk is, kan bijdragen aan principes als diversiteit, respect, gelijkheid, kwaliteit van leven en duurzaamheid. Voorwaarde daarbij is dat hun ontwikkeling onderworpen is aan principes als transparantie, verantwoordingsplicht, verklaarbaarheid en billijkheid.

7. Vormen van digitale connectiviteit, inclusief het op afstand volgen van smartphones, zijn vastgelegd en overeengekomen in een brede discussie waarin voor- en nadelen voor verschillende groepen binnen de bevolking zonder terughoudendheid worden besproken.

8. In principe zijn burgers de eigenaren van hun persoonlijke gegevens. Bijgevolg moeten zij in staat worden gesteld om de overheid en andere partijen toestemming te geven voor het verzamelen daarvan, met uitzondering van gegevens waarvan de verzameling bij wet is geregeld.

9. De lokale overheid zal restrictief zijn met betrekking tot het verzamelen van persoonlijke gegevens. Het verzamelen van gegevens, volgens het principe ‘privacy by design’, is gericht op het handhaven van de wet, het verbeteren van het welzijn van de stad als geheel en het dienen van het legitieme belang van de burgers zelf.

10. Alle niet-persoonlijke gegevens die in het publieke domein worden verzameld, zijn ‘open’, wat betekent dat ze beschikbaar zijn in een openbaar gegevensportaal, tenzij er juridische bezwaren zijn.

11. Bij het functioneren van computersystemen is interoperabiliteit een leidend beginsel. Over het algemeen zal dit principe worden gerealiseerd door open software te gebruiken.

12. Aanbieders van (openbare) Wi-Fi zijn verantwoordelijk voor de veiligheid van het gebruik ervan, ook al bemoeilijkt dit de toegang tot het Internet zonder beveiligde aanmelding. Evenzo is het verplicht dat alle apparatuur die op internet is aangesloten, een ​​certificaat voor cyberkwaliteit heeft.

13. Bedrijven en organisaties die de bescherming van hun hardware, software en gegevens verwaarlozen, kunnen aansprakelijk worden gesteld voor de schade die cybercriminelen aan derden toebrengen.


[1] https://www.boundary2.org/2018/07/loeb/

[2] https://medium.com/fast-company/ais-leading-developers-share-their-fears-about-the-tech-developing-too-fast-4091c21ddaf8

[3] https://www.mckinsey.com/~/media/mckinsey/industries/public%20sector/mckinsey%20on%20government%20may%202019%202/mck-on-government_5-2019_june19.ashx

[4] https://hmjvandenbosch.com/2019/09/19/de-veilige-stad/

[5] https://www.fastcompany.com/90436355/portlands-proposed-facial-recognition-ban-could-be-the-strictest-yet?utm_campaign=eem524%3A524%3As00%3A20191202_fc&utm_medium=Compass&utm_source=newsletter

[6] https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e.pdf?utm_medium=undefined&utm_source=undefined&utm_campaign=undefined&utm_content=undefined&utm_term=undefined

[7] https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf

[8] https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf

[9] https://www.smartcitiesdive.com/news/nycs-new-algorithm-management-position-to-oversee-equitable-use-of-tech/567722/

[10] https://medium.com/the-guardian/its-not-that-we-ve-failed-to-rein-in-facebook-and-google-we-ve-not-even-tried-5567da75d3be

[11]

https://bloximages.newyork1.vip.townnews.com/wsmv.com/content/tncms/assets/v3/editorial/f/1b/f1bc6c94-a539-11e8-905a-136f4f930796/5b7bff66f1d7a.pdf.pdf

[12] https://smartcityhub.com/urban-planning-and-building/toronto-too-smart-for-comfort/

[13] http://aicpoll.com

[14] http://aicpoll.com

[15] https://www.boundary2.org/2018/07/loeb/

[16] https://www.fastcompany.com/40567706/heres-how-to-see-the-data-that-tech-giants-have-about-you

[17] https://medium.com/new-york-times-opinion/its-time-to-break-up-facebook-8b6ae2cb3d9d

[18] https://www.businessinsider.nl/artificial-intelligence-vooroordelen-google/?tid=822213668&utm_medium=email&utm_source=nieuwsbrief

[19] https://www.perspectiveapi.com/#/home

[20] https://citiesfordigitalrights.org

[21] https://medium.com/city-as-a-service/why-urban-tech-should-empower-cities-not-solve-them-d5e02e2fd8d6

[22] http://smartcityhub.com/governance-economy/well-governed-cities/

[23] https://medium.com/@BloombergCities/the-promise-and-peril-of-algorithms-in-local-government-f1a2964769f2

[24] https://www.mckinsey.com/~/media/mckinsey/industries/public%20sector/mckinsey%20on%20government%20may%202019%202/mck-on-government_5-2019_june19.ashx

[25] https://govex.jhu.edu/wiki/center-for-government-excellence-releases-first-of-its-kind-algorithm-toolkit-to-reduce-bias-affecting-residents-from-automated-decisions-made-by-local-governments/

[26] https://medium.com/the-guardian/its-not-that-we-ve-failed-to-rein-in-facebook-and-google-we-ve-not-even-tried-5567da75d3be

[27] https://decodeproject.eu/what-decode

[28] https://theconversation.com/hackers-seek-ransoms-from-baltimore-and-communities-across-the-us-118089

[29] https://www.fastcompany.com/90391332/take-these-5-critical-steps-to-protect-yourself-from-cybercrime?utm_campaign=eem524%3A524%3As00%3A20190817_fc&utm_medium=Compass&utm_source=newsletter

[30] https://www.archdaily.com/921298/the-city-to-be-deceived-geoff-manaugh-for-the-shenzhen-biennale-uabb-2019?utm_medium=email&utm_source=ArchDaily%20List&kth=

Monopolie: meestal verwerpelijk, soms niet

De maker van een platform en de gebruikers ervan dienen strikt gescheiden te zijn om ongewenste monopolievorming en accumulatie van kapitaal te voorkomen

Waar ik woon is één buurtvereniging. Een monopolie dus. Maar het is een goede zaak want alleen zo leren de bewoners elkaar kennen. In wezen geldt dat ook voor Facebook, maar dit bedrijf staat in het middelpunt van kritiek. Ik kom hier aanstonds op terug.

Eerst een ander voorbeeld. In een snelgroeiend aantal steden kun je via een app een elektrische step huren. Via een kaartje zie je waar de dichtstbijzijnde step te vinden is. Alleen, er zijn wel zes concurrerende verhuurbedrijven die elk een eigen app hebben. Wat je dus zou willen is dat er één app was, waarop je alle steps aantreft die binnen een afstand van zeg 100 meter vrij zijn en dat je daarvan een kiest. 

Zo’n algemene app noemen we een platform en dit soort platforms worden steeds belangrijker. Neem het platform waarop je alle beschikbare steps aantreft. Het maken en onderhouden ervan kost geld. Om aan dit geld te komen zijn verschillende verdienmodellen mogelijk. 

  • De verhuurbedrijven zijn samen de eigenaar zijn van de app en ze overleggen over het gebruik ervan. De kosten worden via opcenten verhaald op de gebruikers.
  • Het grootste verhuurbedrijf stelt zijn app open voor andere bedrijven.
  • Een bedrijf ontwikkelt de app en de verhuurbedrijven mogen deze gratis gebruiken. De maker verzamelt alle gegevens van de gebruikers en verkoopt die aan bedrijven die de gebruikers van de app vervolgens bestoken met gepersonaliseerde advertenties:

Dag Peter, ik hoop dat de rit voorspoedig ging. Je staat nu voor Starbucks en daar wacht een heerlijke kop koffie op je met 25% korting. 

Verreweg de beste optie is dat de verhuurbedrijven samen de app (laten) maken zonder dat deze zelf een commerciële functie heeft. Je zou er dan op moeten kunnen vertrouwen dat deze app je niet bespioneert. Dit benadert het principe van de netneutraliteit het meest. Niemand zal het betreuren dat zo’n app een monopolie heeft. Dan nog kan elke stepverhuurder de gegevens van de eigen klanten doorverkopen. 

Terug naar facebook

Oorspronkelijk was Facebook een gezellige babbelbox en omdat het handig is dat iedereen in dezelfde babbelbox zit, ontstond er op organische wijze een monopolie. Daar had niemand moeite mee.  Geleidelijk is er een verdienmodel ontstaan dat erop gebaseerd is zo veel mogelijk data van je te verzamelen. Op basis van die data krijgen adverteerders de mogelijkheid om gepersonaliseerd te adverteren. Jou gelegenheid geven om te babbelen met je ‘vrienden’ is langzaam maar zeker dekmantel geworden voor puur commerciële activiteiten en het verdienen van een hele hoop geld. 

Het hoeft niet te verbazen dat op dit moment Facebook wereldwijd wordt beschuldigd van schending van zowel de antitrust- als de privacywetgeving. Uniek is de recente uitspraak van de Duitse Bundeskartellamt dat Facebook verbiedt persoonlijke gegevens van dochterondernemingen als WhatsApp en Instagram te gebruiken zonder daarvoor nadrukkelijk toestemming te hebben gevraagd.

Dat het monopolie van Facebook onder vuur ligt, komt door het de verstrengeling van de platformfunctie en de lucratieve commerciële strategie. Net als bij de stepverhuurders het geval was, ligt de oplossing in het ontvlechten van beide. Facebook als platform biedt dan gelegenheid tot babbelen en de deelnemers dragen in een ideale wereld dan samen de kosten ervan. Zij zouden individueel moeten kunnen beslissen over het gebruik van hun gegevens voor advertentiedoeleinden en hier kan dan een vergoeding tegenover staan, bijvoorbeeld gratis gebruik van de babbelbox. 

Het beginsel van ontkoppeling van platform en daarop uitgeoefende commerciële activiteiten kan leiden tot meer transparantie, bewaking van de privacy en voorkomen van vorming van monopolies

Amazon

Elk platform is handiger naarmate de aangeboden keus groter is. Als Amazon een platform op de markt zet waarop een groot aantal – ook onderling concurrerende – bedrijven hun producten verkopen dan is iedereen daar blij mee. Echter Amazon biedt op het platform tevens zijn eigen producten aan. Op dit moment is er veel ophef over het feit dat Amazon concurrerende producten op oneerlijke wijze ‘wegdrukt’.

Uber

Menigeen zou blij zijn met één platform voor alle taxidiensten. Uber zou kunnen kiezen voor de rol van ‘exploitant’ van het platform of die van aanbieder van vervoersdiensten.  De indruk ontstaat dat het bedrijf aan het verschuiven is naar de eerste optie. In dat geval ontvangt het bedrijf commissie over alle ritten die via zijn platform tot stand komen. Overigens zou het mijn voorkeur hebben als alle taxibedrijven samen zo’n platform (lieten) ontwikkelen in plaats van dat Uber dit doet, maar daar gaat het nu niet om.

Google

Als er een bedrijf is waar platform en verdienmodel door elkaar lopen dan is het wel Google. Mede hierdoor groeit het wantrouwen tegen de kwaliteit van zijn zoekmachine. Het bedrijf beschikt over een onwaarschijnlijke hoeveelheid gegevens van meer dan twee miljard mensen. Deze gegevens zijn verzameld zonder dat de betrokkenen zich daarvan bewust zijn, mede dankzij het gebruik van de Androïd telefoon en de Chrome webbrowser. Apple heeft tot nu toe de gegevens van iPhone gebruikers en van Safari deels weten af te schermen. 

Google kan met deze gegevens het resultaat van elke zoekopdracht manipuleren om het koopgedrag te beïnvloeden ten gunste van zijn klanten[1]. Het bovenaan plaatsen van betaalde zoekresultaten, voor elke individuele gebruiker op maat gemaakt, is daar een voorbeeld van. Daarnaast beschikt het bedrijf over kennis van honderden miljoenen personen, die bij alle grote bedrijven een onmisbaar onderdeel voor marketing en verkoop is. Ook Google moet, afgezien van betaling van miljardenboetes aan onder andere de EU, grote stappen terugzetten.

Hoe zit het eigenlijk met de antitrust wetgeving?

In de eerste helft van de 20steeeuw kenden de VS een streng antitrust beleid. 1936 noemde president Rooseveld de industriële dictatuur nog als een van de grootste bedreigingen van de democratie. Harry Truman herhaalde deze woorden in het begin van de jaren ’50 en kondigde een verdubbeling van de strijd tegen monopolyvorming aan[2]

In de jaren ’70 voltrok zich een omwenteling. Het neoliberalisme van Reagan en Thatcher maakte dat de inhoud van het begrip marktwerking verschoof van de bescherming van de vrije markt naar de afschaffing van wetten die markten reguleren.

Antitrustweten werden versoepeld met als gevolg een enorme concentratie van bedrijven.  In de VS heeft de laatste 20 jaar voor een totale waarde van $ 1.140 miljard aan overnames plaatsgevonden[3]. Op dit moment produceren twee bedrijven 67% van het bier, vijf banken beheren bijna de helft van alle geld, Wal-Mart lever meer dan de helft van alle levensmiddelen, Amazon heeft het grootste deel van de internetverkopen in handen en vier luchtvaartmaatschappijen verzorgen vrijwel alle luchtvaartverkeer. 

Daarnaast zijn er uiteraard de grote technologiebedrijven: Microsoft, Apple, Facebook en Google, die op hun gebied quasi-monopolisten zijn. In zijn book The Curse of Bigness; Antitrust in the New Gilded Age beschrijft Tim WU de opkomst en het verval van de Amerikaanse antitrustwetten en bij laat zien dat elk van de genoemde bedrijven (en nog een aantal anderen) zonder meer in aanmerking komen voor een strafrechtelijk onderzoek[4].

Inmiddels gaat de pendule weer de andere kant op. De stagnerende lonen, groeiende ongelijkheid in inkomens in de VS roepen verzet op, dat vooral het laatste jaar wordt gevoed door de vermoede onwettelijke praktijken van bedrijven en het ‘ontwijken’ van belastingen. Boeken als The age of surveillance capitalism van  Soshana Zuboff (Harvard) worden gretig gelezen en voeden ook in politieke kringen het verzet tegen de groeiende almacht van techbedrijven, Google voorop.

De Europese Commissie heeft zich een stuk waakzamer getoond dan de autoriteiten in de VS, en heeft Google inmiddels een boete van € 2,4 miljard opgelegd. Bewezen werd geacht dat het bedrijf zijn monopolie op de markt van generiek zoeken heeft misbruikt om zich een monopolie te verwerven op de markt van prijsvergelijkend winkelen[5]

No more Googles

Voor bedrijven die beloven af te zien van het verzamelen van persoonsgebonden data, zoals de nieuwe zoekmachine DuckDuckGo[6]zijn er ineens nieuwe kansen. Er is inmiddels al een website met een overzicht van sites die bruikbare informatie helpen verzamelen voor bedrijven en individuele personen, gebaseerd op data die niet door ‘tracking’ van persoonlijke gegevens zijn verkregen[7].

In een volgende blogpost ga ik op de verhullende betekenis van het begrip marktwerking in.


[1]Douglas C. Schmidt: Google Data Collection. Vanderbilt University August 15, 2018:  https://bloximages.newyork1.vip.townnews.com/wsmv.com/content/tncms/assets/v3/editorial/f/1b/f1bc6c94-a539-11e8-905a-136f4f930796/5b7bff66f1d7a.pdf.pdf

[2]https://www.theatlantic.com/business/archive/2017/06/word-monopoly-antitrust/530169/

[3]https://www.thenation.com/article/by-the-numbers-the-rise-of-monopolies/

[4]https://medium.com/s/story/antitrusts-most-wanted-6c05388bdfb7

[5]https://www.emerce.nl/nieuws/beslistnl-google-shopping-weg-verdubbeling-bezoek-omzet

[6]https://medium.com/s/story/nothing-can-stop-google-duckduckgo-is-trying-anyway-718eb7391423

[7]https://nomoregoogle.com