Lewis Mumford schreef in zijn baanbrekende boek The Myth of the Machine dat opkomende nieuwe megatechnieken een uniforme, allesomvattende, boven-planetaire structuur creëren, ontworpen voor autonoom functioneren, waarin de mens een passief, doelloos, machine-geconditioneerd wezen wordt.
Dit was in 1967, voordat iemand zich een voorstelling kon maken van de impact van digitale technologie[1].
Vandaag, amper 50 jaar later, spreken we van een digitale samenleving. Nog steeds weet niemand wat de impact ervan zal zijn, noch hoe deze technologie te beheersen valt.
Aleksandra Mojsilović, directeur van IBM Science for Social Good voegt eraan toe dat als ze ’s nachts ergens van wakker ligt, dit de snelheid is waarmee kunstmatige intelligentie zich ontwikkelt en het achterwege blijven van de regels voor de ontwikkeling en toepassing ervan[2].
Het navolgende gaat vooral over kunstmatige intelligentie en haar toepassingen in de stedelijke omgeving. Aan de orde komt hoe steden de belangen van hun burgers kunnen beschermen. Daarbij spelen strikte wetgeving met betrekking tot het verzamelen en gebruiken van gegevens en het terugdringen van cybercriminaliteit een belangrijke rol.
De ultieme vraag is dat als technologie ontmenselijkt, het mogelijk is dit proces te keren?
De Digitaal rechtvaardige stad is deel acht van een reeks artikelen over hoe steden humaner kunnen worden. Dat betekent het vinden van een balans tussen duurzaamheid, sociale rechtvaardigheid en kwaliteit van het bestaan. Dit vereist vergaande keuzes. Zodra deze keuzes zijn gemaakt, is het vanzelfsprekend dat slimme technologieën worden gebruikt om deze doelen te realiseren.
De onderstaande artikelen zijn al gepubliceerd.
- Inleiding: Steden in de toekomst: Vanzelfsprekend smart. Humaan als keuze
- De gezonde stad
- De veerkrachtige stad
- De klimaat-neutrale stad
- De veilige stad
- De goed-bestuurde stad
- De donut stad
- De circulaire stad
Kunstmatige intelligentie
Eenvoudig gezegd, autonome en intelligente technische systemen, of kortweg kunstmatige dan wel artificiële intelligentie (AI) verwijzen naar het vermogen van een computer om patronen correct te herkennen en ze te benoemen door zelf te leren in plaats van te worden geprogrammeerd. Zo’n patroon kan van alles zijn: Een voetganger die de weg oversteekt, in het geval van een zelfrijdende auto of het gezicht van een specifieke persoon in het geval van automatische gezichtsherkenning. De rol van mensen in dit proces is tweeledig. In de eerste plaats door een ‘instructie’ (algoritme) te schrijven, in de tweede plaats door de computer te trainen om deze instructie correct toe te passen. Bijvoorbeeld, als de computer in een zelfrijdende auto negatieve feedback ontvangt omdat deze een fiets en een motorfiets door elkaar haalt, zal het apparaat proberen de kenmerken van beide opnieuw te definiëren.
Alle technologiebedrijven begrijpen dat AI en aanverwante technologieën essentieel zijn om hun toekomstige positie te veilig te stellen. Dientengevolge investeren ze grote hoeveelheden geld in onderzoek, vaak door de acquisitie van startups.
AI is ontworpen om de betekenis van menselijke tussenkomst in planning en besluitvorming te verminderen. Hetzelfde geldt voor de herkenning van patronen in enorme dataverzamelingen. Ondertussen groeit de bezorgdheid over de negatieve gevolgen van AI, bijvoorbeeld schending van de privacy, discriminatie, afkalving van menselijke vaardigheden, risico’s voor de beveiliging van kritieke infrastructuur en vermindering van welzijn. Het voordeel van deze technologieën hangt ervan af of ontwikkelaars de werking en de toepassing van AI in overeenstemming weten te brengen met ethische principes, zoals rechtvaardigheid, ecologische duurzaamheid en het recht op zelfbeschikking en ze tegen misbruik weten te beschermen.
Gezichtsherkenning
Een van de meest bekritiseerde toepassingen van AI is gezichtsherkenning: De overhaaste introductie ervan, vooral door de politie en de detailhandel (herkenning van winkeldieven) wordt zwaar betwist. Elders ben ik dieper ingegaan op gezichtsherkenning, waarbij ik het gebrek aan nauwkeurigheid noemde, in het bijzonder met betrekking tot gekleurde mensen en vrouwen[4]. Als gevolg hiervan verbieden verschillende steden in de VS inmiddels gezichtsherkenning. Onlangs heeft Portland een totaalverbod uitgevaardigd, zowel in de publieke sector – in het bijzonder de politie – als in de particuliere sector[5].
Het wantrouwen ten opzichte van gezichtsherkenning en de twijfelachtige nauwkeurigheid van andere toepassingen van AI hebben geleid tot initiatieven om hun ontwerp te verbeteren. Het invloedrijke Institute of Electric and Electronic Engineers (IEEE) nam een wereldwijd initiatief met de publicatie van een omvangrijk handboek, Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Dit is tot nu toe de meest uitgebreide, publieksgerichte verhandeling over de ethiek van AI en machine-leren in het algemeen[6]. Voortbouwend op dit baanbrekende werk heeft IBM een eigen gids samengesteld die vijf ethische thema’s centraal stelt[7]:
Verantwoording
Ontwerpers van AI zijn verantwoordelijk om de impact van hun product voor de samenleving in ogenschouw te nemen. Dit geldt dus niet alleen voor de bedrijven of overheden die in de ontwikkeling ervan hebben geïnvesteerd.
Relatie tot normen en waarden
Ontwerpers moeten in een ontwerp ruimte laten voor contextuele factoren die de uitkomst van een te automatiseren proces beïnvloeden, zoals eerdere ervaringen, herinneringen, opvoeding en culturele normen. AI kan dit niet zelf. Hoe groter de diversiteit van het ontwikkelteam, hoe beter de resultaten.
Verklaarbaarheid
Ontwerpers moeten de overwegingen die ten grondslag liggen aan algoritmen en de samenstelling van datasets kunnen verklaren in termen die mensen kunnen begrijpen, omdat deze kennis de sleutel is voor al dan niet instemmen met de conclusies en aanbevelingen.
Eerlijkheid
Ontwikkelaars van AI-systemen moeten zich bewust zijn van de vooroordelen die onbewust hun denken sturen. Als team moeten ze algoritmische vertekening minimaliseren door voortdurende reflectie op de inhoud zowel de gegevens als de algoritmen zelf.
Bescherming rechten van gegevens van gebruikers
Ontwikkelaars moeten gebruikers van AI voorlichten over de mate waarin hun ontwerpen zijn afgestemd op nationale en internationale wetgeving, bijvoorbeeld de General Data Protection wetten van de EU.
Algoritme-manager New Nork
New York City heeft een algoritmemanager aangesteld om te controleren of algoritmen voldoen aan ethische normen en wettelijke regels met betrekking tot datagebruik en privacy[9]. De burgemeester nam deze beslissing, geadviseerd door de Automated Decision Systems Task Force, die werd opgericht als reactie op de kritiek op de manier waarop de New York Police Department gezichtsherkenning toepast. In Amsterdam houdt accountantskantoor KPMG op verzoek van het stadsbestuur toezicht op de kwaliteit van algoritmen door middel van een audit.
Surveillance-kapitalisme
Bedrijven als Amazon, Facebook en Google investeringen op grote schaal in AI om ons koopgedrag te beïnvloeden. Om gericht te kunnen adverteren willen ze ieders winkelgedrag kennen en ook de voorkeuren van elke afzonderlijke consument kunnen voorspellen en beïnvloeden[10]. Traditionele reclame heeft aan waarde ingeboet vanwege de grote hoeveelheid producten en diensten en de enorme verscheidenheid aan individuele voorkeuren. In plaats daarvan willen deze bedrijven iedereen individueel op het juiste moment een advies geven om een bepaald product in de bepaalde winkel te kopen, dat wil zeggen de winkel die voor deze service heeft betaald.
Een wetenschappelijk rapport van Douglas C. Schmidt, hoogleraar computerwetenschappen aan de Vanderbilt University, onthult welke gegevens Google verzamelt en hoe[11]. Google kent de voorkeuren van miljarden mensen, weet waar deze zich bevinden en verstuurt onophoudelijk gepersonaliseerde commerciële boodschappen. De volgende stap is dat een potentiële klant een sms-bericht ontvangt bij het naderen van een winkel die een van diens favoriete artikelen verkoopt. Of – in de ogen van Google nog beter – als verkopers klanten persoonlijk begroeten dankzij gezichtsherkenning en deze een niet te versmaden aanbieding doen.
In het geval van Amazon hoeven klanten hun huis niet meer te verlaten. Het bedrijf kan – dankzij AI – op elk moment voorspellen voor welke producten of diensten klanten openstaan en vervolgens komen met een onweerstaanbaar aanbod. De reden kan ook zijn dat de beruchte Alexa je heeft afgeluisterd.
Sidewalk Labs Toronto
Het ontwikkelingsproces van Quayside, een braakliggend stuk land van 12 hectare aan de rand van het centrum van Toronto, laat zien welke rol informatietechnologie speelt bij de ontwikkeling van steden[12]. Elders heb ik aandacht besteed aan de rol van Sidewalk Labs (een zusterbedrijf van Google) in dit project. Ik was blij met de hedendaagse stedenbouwkundige opvattingen. Tegelijkertijd wil het bedrijf een ‘digitale laag’ over Quayside bouwen. Hoe groter de hoeveelheid en diversiteit van de gegevens van bewoners en bezoekers die verzameld worden, des te beter zal Sidewalk Labs erin slagen om derden te interesseren in het doen van investeringen. De oppositie tegen Sidewalk Labs Toronto groeit snel.
Amazon is erin geslaagd een Amerikaanse icoon te worden. Uit onderzoek is gebleken dat Amazon de op een na meest vertrouwde instelling in de Verenigde Staten is, vóór de regering, de politie en het hoger onderwijs. Alleen het vertrouwen in het Amerikaanse leger is groter[13].
Vanwege zijn reputatie heeft Amazon een enorme impact op het koopgedrag. Het heeft bijvoorbeeld met succes de angst voor inbraak bij de gemiddelde Amerikaan uitgebuit door Ring, een deurbel met een ingebouwde camera, te promoten. Het heeft meer dan 100 miljoen exemplaren verkocht, voor $100 per stuk. Alle opnamen worden met goedvinden van de eigenaar continue aan de politie beschikbaar gesteld.
De reeds genoemde Alexa is een vertrouwde huisgenoot veel gezinnen (‘Alexa, hoe laat is het?’). Zij is ondertussen een bron van een grote hoeveelheid gepersonaliseerde informatie en dus inkomsten voor Amazon. Het moment dat Alexa begint met commerciële berichten is niet ver weg.
Ik begon dit artikel met een verwijzing naar de angst van Lewis Mumford voor de impact van megatechnologieën. Tegenwoordig zijn technologieën die ervoor te zorgen dat geen enkele actie onopgemerkt blijft, zoals Mumford voorspelde, volledig ingeburgerd. Het handjevol gigantische technische conglomeraten dat vandaag de dag de digitale wereld domineert, toont schrikbarende gelijkenis met de megamachines van Mumford[14].
Echter, veel mensen zien deze megamachines niet alleen absolutely irresistible maar ook ultimately beneficial. Mumford geloofde dat deze twee voorwaarden samen leiden tot wat hij de megatechnics bribe noemde. De technologiebedrijven bieden mensen een indrukwekkend scala aan goederen en diensten – vaak gratis – aan. Deze maskeren de ongebreidelde dataverzameling, milieuvernietiging, uitbuiting, vernietiging van werkgelegenheid en de concentratie van rijkdom in een paar handen die ermee samengaan[15].
Zoeken naar regulering
Platforms zoals Amazon en Alibaba mogen dan populair zijn bij veel consumenten; hun schaal heeft naast de voornoemde effecten, rampzalige gevolgen voor de leefbaarheid van stedelijke centra, ze verleiden mensen om goederen te kopen en hun ecologische voetafdruk te vergroten, en ze zijn monopolistische concentraties van economische macht. Als eigenaren van het netwerk en verkopers met het grootste aandeel op de markt, domineren ze alle andere gebruikers van het platform.
Facebook is een ander voorbeeld van een platform. Als sociaal netwerk gedijt het dankzij zijn bijna-monopolistische positie, die een enorm voordeel biedt als advertentiemedium[16].
Zelfs in de VS wordt de roep om regulering steeds luider. In een artikel in de New York Times, pleit Chris Hughes, medeoprichter van Facebook voor het opdelen van zijn voormalige liefdesbaby[17]. Hierbij zou minstens de acquisitie van Instagram en WhatsApp ongedaan gemaakt moeten worden, iets dat presidentskandidaat Elisabeth Warren ook lijkt te willen.
Hughes verwijst naar het feit dat de Amerika is gebouwd op de idee dat macht niet in één persoon moet worden geconcentreerd vanwege zijn of haar feilbaarheid.
Een eeuw geleden zei senator John Sherman in het congres: Als we geen koning willen als politieke machthebber, moeten we ook geen koning accepteren van de productie, het transport en de verkoop van eerste levensbehoeften. Als we ons niet zouden onderwerpen aan een keizer, moeten we ons ook niet onderwerpen aan een autocraat die concurrentie voorkomt en de prijs van artikelen bepaalt.
Vanaf de jaren tachtig van de vorige eeuw nam de concentratie in elke economische sector toe in een voorheen onbekende mate. Facebook is 500 miljard dollar waard, het bedrijf ontvangt ongeveer 80 procent van alle inkomsten uit sociale netwerken ter wereld.
Wetgeving met betrekking tot Facebook moet de bescherming van de privacy regelen en giftig taalgebruik voorkomen. Mark Zuckerberg lijkt hier geen bezwaar tegen te hebben: In een ingezonden brief in de Washington Post in maart 2019 schreef hij: Wetgevers zeggen me vaak dat we te veel macht hebben over het gesproken woord en ik ben het ermee eens. Hij gaat nog verder: De regelgeving van de overheid moet niet alleen betrekking hebben op taal, maar ook op privacy en interoperabiliteit, wat betekent dat consumenten het ene netwerk naadloos kunnen verlaten en hun profielen, connecties, foto’s en andere gegevens meenemen. Zijn pleidooi voor wetgeving werd gevolgd door CEO’s van Google, Microsoft en Amazon[18].
Wat ze allemaal proberen te voorkomen, is het aanscherpen van het antitrustbeleid maar dat is nu precies wat nodig is.
Perspective
Perspective[19] is een programma dat de kans berekent dat teksten van websites of online forums als giftig worden ervaren. Om dit algoritme te ontwikkelen, werden enorme datasets gebruikt, bijvoorbeeld de commentaarpagina’s van de New York Times. Mensen werd gevraagd hoe zij deze berichten ervaarden. Hun antwoorden gingen in een machine-leermodel dat ‘leerde’ om berichten te selecteren die met grote waarschijnlijkheid als giftig worden ervaren. Het model is in staat om onderscheid te maken tussen uitdrukkingen als You are a fu … gay (giftig) en I’am a proud gay(niet-giftig)
Platforms als Amazone, Facebook en Google worden ontwikkelen zich tot ‘natuurlijke monopolies’, net als het elektriciteitsnet. Op zich zijn dit soort monopolies niet slecht: Zowel klanten als leveranciers profiteren immers van het bestaan van slechts één virtuele marktplaats, waar ze ‘iedereen’ kunnen ontmoeten. Echter, in het geval van ‘natuurlijke monopolies’ moet er een verplichte scheiding zijn tussen de exploitatie van het platform als medium en de aanbieders van producten en diensten via dit medium. Dit heeft grote gevolgen:
Het nieuwe Amazon
Voor Amazon houdt dit in dat het bedrijf de virtuele marktplaats beheert en eventueel opslag- en transportdiensten aanbiedt. De andere kant van de medaille is dat het bedrijf zijn eigen verkoopactiviteiten afstoot. Elk bedrijf kan ruimte op het platform huren en de gegevens van zijn eigen klanten gebruiken als ze hiermee instemmen.
Het nieuwe Facebook
Facebook als wereldomvattend sociaal medium biedt volwassen voor een redelijke prijs de mogelijkheid om te netwerken zonder hun gegevens te verzamelen en advertenties te versturen. Facebook mag gegevens verzamelen van volwassenen en hen gepersonaliseerde advertenties aanbieden in ruil voor gratis gebruik van de netwerkdienst. Voor jongeren geldt dat het gebruik van Facebook gratis is, er geen gegevens worden verzameld en geen advertenties worden aangeboden.
Het nieuwe Google
Google lijkt iets ingewikkelder. Ik en – neem ik aan – velen met mij zijn blij met de beschikbaarheid van zijn zoekmachines, kaarten, en e-mailfaciliteiten. Ik waardeer het zelfs als het bedrijf op verzoek een overzicht aanbiedt van drogisterijen, loodgieters en dergelijke in mijn buurt. Ik wil graag voor deze service betalen als het bedrijf afziet van het verzamelen van mijn persoonlijke gegevens en het aanbieden van advertenties. Maar het bedrijf mag wat mij betreft de wettelijk toegestane gegevens verzamelen van iedereen die daar toestemming voor geeft in ruil voor gratis gebruik van zijn diensten en het ontvangen van gepersonaliseerde advertenties.
Cities for Digital Rights Coalition
In november 2018 lanceerden Amsterdam, Barcelona en New York City de Cities for Digital Rights Coalition[20]. Zij staat voor betrouwbare en veilige digitale diensten en infrastructuur en wil op een vijftal punten burgers ondersteunen: internettoegang voor iedereen, privacy en gegevensbescherming, transparantie en niet-discriminerende algoritmen, diversiteit en inclusie, en open en ethische normen voor digitale diensten.
Deze korte video toont de lancering van de Digital Rights Coalition.
De rol van steden als beschermer van digitale rechten; Amsterdam als voorbeeld
De Europese Unie heeft een vergaande Algemene Verordening Gegevensbescherming (AVG) aangenomen. Een samenvatting van de inhoud is hier te vinden en een overzicht van de uitgangspunten hieronder.
Lokale autoriteiten kunnen een belangrijke rol spelen bij het handhaven van netneutraliteit en open gegevensstandaarden, het beschermen van digitale rechten en de bestrijding van cybercriminaliteit[21]. Dit naast hun rol bij het bieden van snel internet voor alle burgers, het verbeteren van digitale zelfvoorziening en veerkracht, het beschikbaar stellen van digitale diensten, het installeren van sensoren om de kwaliteit van de omgeving te verbeteren en het bevorderen van digitale kunst en de creatieve industrie. Deze onderwerpen zijn deels besproken in een ander artikel[22].
Hieronder ligt de nadruk op de rol van stedelijke overheden in het debat over AI en algoritmen, de bescherming van de privacy van burgers in het algemeen, de regulering van data-eigendom, de voorkeur voor open software en de strijd tegen cybercriminaliteit.
Elk onderwerp wordt geïllustreerd met activiteiten die de gemeente Amsterdam zich in 2019 heeft voorgenomen, zoals vermeld in de publicatie Een digitale stad voor en door iedereen. Agenda voor de digitale stad-versie 1.0.
Supervisie en debat over de rol van kunstmatige intelligentie en algoritmen
Steden gebruiken al AI om talloze gegevens te analyseren en beleid te maken. Algoritmen worden geïmplementeerd bij het stroomlijnen van diensten, het prioriteren van operaties en zelfs het voorspellen wanneer restaurantinspecties, wegwerkzaamheden of bouwvergunningen vereist zijn[23].
Het is van het grootste belang om te beseffen dat geen van deze activiteiten zonder menselijke tussenkomst plaatsvindt. Algoritmen zijn ontworpen, gecontroleerd en geleid door mensen, hoewel slechts weinigen de relatie tussen deze menselijke activiteiten en de uitkomst van de berekeningen van de algoritmen begrijpen. Niet voor niets moet het kunnen verklaren van deze relatie onderdeel zijn van de competenties van AI-ontwikkelaars.
Het is zinvol als (publieke) organisaties die kunstmatige intelligentie en algoritmen gebruiken een onafhankelijke adviesraad kennen die de eerlijke en betrouwbare werking daarvan beoordeelt.
Sommige toepassingen van AI worden op dit moment kritisch onder de loep genomen. Ik noemde al praktijken met betrekking tot gezichtsherkenning, vanwege het geregeld voorkomen van bias bij ontwerpers en in datasets. Een ander voorbeeld is het opsporen van fraude; een legitieme overheidstaak, maar ook hier is transparantie nodig[24].
Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad
- Stimuleren van het publieke debat over ethische vragen met betrekking tot AI.
- Onafhankelijke partij voor controle-algoritmen.
De Algorithm-toolkit
Om bias in algoritmen te helpen verminderen, heeft het Center of Government Excellence van Johns Hopkins University onlangs een toolkit voor algoritmen beschikbaar gesteld ten behoeve van lokale bestuurders[25] .
Het belangrijkste doel is ervoor te zorgen dat geautomatiseerde beslissingen eerlijk zijn en de onbedoelde neveneffecten tot een minimum worden beperkt. De toolkit helpt lokale bestuurders om proactief specifieke vragen te stellen om risico’s te kwantificeren en geeft ook aanbevelingen over de manier om met die risico’s om te gaan.
Transparantie van gegevensverzameling door de overheid zelf: privacy by design
Velen houden zich aan het principe dat mensen in een vrij land het recht hebben zich te verplaatsen, zonder te worden geobserveerd en geregistreerd, met uitzondering om redenen van wetshandhaving, mits dit zorgvuldig gebeurt.
In veel gevallen, bijvoorbeeld crowd control bij grootschalige evenementen, is persoonlijke informatie niet nodig en is hier ‘privacy by design’ op zijn plaats. Een van de regels is dat observaties minimalistisch zijn. Bijvoorbeeld mensen van achteren tellen, of auto’s van bovenaf.
Beleid met betrekking tot gegevensverzameling impliceert het zoeken naar instemming van burgers, het handhaven van ‘checks and balances’ en, in het geval van surveillance, regels vaststellen voor degenen die informatie verzamelen en verwerken.
Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad
- Openbaar register van alle sensoren.
- Vergroot technologische kennis.
- Onderzoek met betrekking tot digitale weerbaarheid bij jonge kinderen.
Data-eigendom; beschikbaarheid van gegevens (open data)
Het aanleggen van een collectie beelden van gezichten door particulieren is bij de wet verboden. De overheid mag dit alleen onder specifieke omstandigheden en voor vastgestelde doelen doen. In principe zijn burgers de eigenaar van alle persoonlijke gegevens, hoewel sommige verplicht aan de gemeente afgestaan dienen te worden op grond van de wet op de persoonsregistratie. Op geaggregeerd niveau zijn deze gegevens openbaar. Dit geldt voor gegevens verzameld door de overheid, maar zou ook voor particuliere bedrijven moeten gelden. Verhandelen van persoonlijke gegevens zonder toestemming van de eigenaar is eveneens verboden. In de praktijk wordt deze toestemming impliciet gevraagd en gegeven[26].
Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad
- Het zekerstellen van digitale rechten.
- Ondersteuning van samenwerkingsverbanden die alternatieven bieden voor monopolies van platvormen.
- Hanteren van privacy by design.
- Digitale identiteit om burgers in staat te stellen gebruik van gegevens door derden te verminderen.
- Strategie ontwikkelen voor dataminimalisatie en -soevereiniteit, datacommons en open data.
Decode
Decode[27] is een EU-project dat instrumenten creëert waarmee mensen het beheer over hun eigen gegevens kunnen voeren met behulp van blockchain-technologie.
De onderstaande video is een korte inleiding tot het project.
Privégegevens kunnen doorzoekbaar worden, maar alleen partijen die daar recht op hebben of toestemming hebben gekregen van de eigenaar van de gegevens, krijgen toegang. Dit nieuwe concept van datarechten is ook van toepassing op gegevens die worden verzonden naar of gebruikt door Internet of Things (IoT) -objecten.
Open software
Het gebruik van open source software is in het algemeen aan te raden om ‘lock-in’ te voorkomen als gevolg van afhankelijkheid van leveranciers van software. Deze maken het – op zich begrijpelijk – lastig om over te stappen naar een andere provider. Daarnaast kunnen leveranciers van commerciële software dankzij ingebouwde functies zoveel informatie verzamelen van hun klanten als ze willen. In het geval van open software is de code en de wijze waarop deze wordt gebruikt openbaar. Gratis beschikbaar zijn betekent overigens niet dat deze software goedkoop is, vanwege de noodzaak van maatwerk.
Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad
- Zoveel mogelijk data open en deelbaar maken op een stadsplatform.
- Aanstelling van een voorlichtingsfunctionaris om de principes van ‘privacy by design’ en ‘openheid tenzij’ te handhaven
Internet veiligheid
Afgezien van gespecialiseerd politiewerk, kunnen steden en andere gebruikers veel doen om de cyberveiligheid te vergroten. Het Internet of Things verbindt steeds meer apparaten met het Internet. De veiligheid is doorgaans gering omdat ze ontworpen zijn om een zo laag mogelijke kostprijs te hebben. Hier is een rol weggelegd voor regelgevers om de standaarden vast te stellen.
Opvallende datalekken bij internationale bedrijven krijgen veel media-aandacht, maar cybercriminelen richten zich in steeds vaker op verenigingen, scholen, kleine bedrijven en gemeentelijke overheden, die over het algemeen een laag beveiligingsniveau hebben[28]. Door zelf vijf kritieke stappen te hanteren en burgers aan te bevelen hetzelfde te doen, kan het gemeentebestuur bijdragen aan een aanzienlijke verbetering van het beveiligingsniveau[29].
Daarnaast moeten steden burgers beter voorbereiden op denial of service (DoS) – aanvallen, die tot doel hebben functies buiten werking te stellen. Bewoners kunnen dan gebouwen niet meer betreden of verlaten en vitale systemen als verkeerslichten, betalingsverkeer of alarmcentrales worden daarbij op afstand buiten bedrijf gesteld[30].
Activiteiten voorzien in de Amsterdamse agenda voor de digitale stad
- Veilige Wi-Fi-services voor burgers en bezoekers in openbare gebouwen en op drukke plaatsen.
- Bestrijden van cybercriminaliteit om vitale infrastructuur en administratieve stabiliteit te beschermen.
- Productie van handboek voor sociale dienstverlening om op een veilige manier digitale voorzieningen te bieden.
De uitdaging van de digitale rechtvaardige stad
In dit artikel worden zorg voor privacy en bescherming tegen cybercrime gezien als onderdeel van de digitale rechten van burgers vanuit een humaan perspectief. Tegelijkertijd noemde ik het feit dat in de ogen van velen Amazon een van de betrouwbaarste instellingen in de VS is. Ik ben bang dat dit een uitstekend voorbeeld is van wat Lewis Mumford ‘mega technisch smeergeld’ noemt. Amazon bevredigt de materiële verlangens van Amerikaanse consumenten. Deze staan hierdoor onverschillig ten aanzien van hun privacy, hun soevereiniteit als consument en uiteindelijk ook hun eigen banen in ruil voor de lage prijzen, rijke keuze en snelle levering door het bedrijf. Voor degenen die consumentisme als de heilige graal prediken, is dit geen slechte deal, maar anderen zouden beter moeten weten. In mijn zoektocht naar een humane stad, waar principes als duurzaamheid, rechtvaardigheid en levenskwaliteit overheersen, is deze tendens verontrustend.
De groeiende penetratie van megatechnologiebedrijven in ieders leven met de bedoeling om gedrag van consumenten vorm te geven is evenzeer verontrustend omdat mensen eigenlijk hun gemeenschappelijke ecologische voetstap zouden moeten verminderen, het sociaal kapitaal moeten vergroten en zich meer moesten richten op niet-materiële levenskwaliteiten.
Helaas is vooralsnog het armste deel van de wereldbevolking van de toename van materiele welvaart uitgesloten.
Overheden hebben een belangrijke taak. Ze moeten ervoor zorgen dat producten worden verkocht tegen reële prijzen, inclusief compensatie voor emissie van broeikasgassen en dat winsten worden aangewend voor de samenleving als geheel in plaats van een handvol megarijke tycoons ten goede komen. Dit opent de weg voor steden die tegelijkertijd humaan en welvarend zijn.
Hieronder vat ik samen hoe digitale technologie rechtvaardig kan worden toegepast om zo de ontwikkeling van humane steden te ondersteunen.
Rechtvaardige toepassing van digitale technologie ter ondersteuning van de ontwikkeling van humane steden
1. De lokale overheid kan bijdragen aan rechtvaardige en veilige digitale diensten door snel internet voor al haar burgers mogelijk te maken, digitale zelfredzaamheid en veerkracht te verbeteren, digitale diensten beschikbaar te stellen, sensoren te plaatsen om de kwaliteit van het milieu te verbeteren, digitale kunstvormen en creatieve industrie te versterken , netneutraliteit te beschermen, open datastandaarden te hanteren, privacy te beschermen, toepassingen van kunstmatige intelligentie kritisch te beoordelen en cybercriminaliteit effectief te bestrijden en te voorkomen.
2. Van eerlijke concurrentie is geen sprake als monopolistische eigenaren van platforms ook invloedrijke verkopers zijn op hun eigen platforms.
3. Wetgeving met betrekking tot monopolistische technologiebedrijven zoals Facebook, Google en Amazon moet bescherming bieden van de privacy, giftig taalgebruik verbieden, interoperabiliteit tot regel verheffen en monopolistische concentraties onmogelijk maken en opheffen.
4. Bedrijven die gratis internetdiensten aanbieden in ruil voor toegang tot de data van gebruikers, moeten dezelfde diensten eveneens tegen faire betaling aanbieden, zonder gegevens te verzamelen en advertenties aan te bieden.
5. Kunstmatige intelligentie dient afgestemd te zijn op sociale waarden en ethische principes, waaronder billijkheid, ecologische duurzaamheid en het recht op zelfbeschikking. Premature toepassing van deze en andere technologieën ten gunste van snelle winsten of resultaten moet worden verboden.
6. Het gebruik van kunstmatige intelligentie voor de beheersing van processen waarvoor het stadsbestuur verantwoordelijk is, kan bijdragen aan principes als diversiteit, respect, gelijkheid, kwaliteit van leven en duurzaamheid. Voorwaarde daarbij is dat hun ontwikkeling onderworpen is aan principes als transparantie, verantwoordingsplicht, verklaarbaarheid en billijkheid.
7. Vormen van digitale connectiviteit, inclusief het op afstand volgen van smartphones, zijn vastgelegd en overeengekomen in een brede discussie waarin voor- en nadelen voor verschillende groepen binnen de bevolking zonder terughoudendheid worden besproken.
8. In principe zijn burgers de eigenaren van hun persoonlijke gegevens. Bijgevolg moeten zij in staat worden gesteld om de overheid en andere partijen toestemming te geven voor het verzamelen daarvan, met uitzondering van gegevens waarvan de verzameling bij wet is geregeld.
9. De lokale overheid zal restrictief zijn met betrekking tot het verzamelen van persoonlijke gegevens. Het verzamelen van gegevens, volgens het principe ‘privacy by design’, is gericht op het handhaven van de wet, het verbeteren van het welzijn van de stad als geheel en het dienen van het legitieme belang van de burgers zelf.
10. Alle niet-persoonlijke gegevens die in het publieke domein worden verzameld, zijn ‘open’, wat betekent dat ze beschikbaar zijn in een openbaar gegevensportaal, tenzij er juridische bezwaren zijn.
11. Bij het functioneren van computersystemen is interoperabiliteit een leidend beginsel. Over het algemeen zal dit principe worden gerealiseerd door open software te gebruiken.
12. Aanbieders van (openbare) Wi-Fi zijn verantwoordelijk voor de veiligheid van het gebruik ervan, ook al bemoeilijkt dit de toegang tot het Internet zonder beveiligde aanmelding. Evenzo is het verplicht dat alle apparatuur die op internet is aangesloten, een certificaat voor cyberkwaliteit heeft.
13. Bedrijven en organisaties die de bescherming van hun hardware, software en gegevens verwaarlozen, kunnen aansprakelijk worden gesteld voor de schade die cybercriminelen aan derden toebrengen.
[1] https://www.boundary2.org/2018/07/loeb/
[2] https://medium.com/fast-company/ais-leading-developers-share-their-fears-about-the-tech-developing-too-fast-4091c21ddaf8
[3] https://www.mckinsey.com/~/media/mckinsey/industries/public%20sector/mckinsey%20on%20government%20may%202019%202/mck-on-government_5-2019_june19.ashx
[4] https://hmjvandenbosch.com/2019/09/19/de-veilige-stad/
[5] https://www.fastcompany.com/90436355/portlands-proposed-facial-recognition-ban-could-be-the-strictest-yet?utm_campaign=eem524%3A524%3As00%3A20191202_fc&utm_medium=Compass&utm_source=newsletter
[6] https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e.pdf?utm_medium=undefined&utm_source=undefined&utm_campaign=undefined&utm_content=undefined&utm_term=undefined
[7] https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf
[8] https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf
[9] https://www.smartcitiesdive.com/news/nycs-new-algorithm-management-position-to-oversee-equitable-use-of-tech/567722/
[10] https://medium.com/the-guardian/its-not-that-we-ve-failed-to-rein-in-facebook-and-google-we-ve-not-even-tried-5567da75d3be
Klik om toegang te krijgen tot 5b7bff66f1d7a.pdf.pdf
[12] https://smartcityhub.com/urban-planning-and-building/toronto-too-smart-for-comfort/
[15] https://www.boundary2.org/2018/07/loeb/
[16] https://www.fastcompany.com/40567706/heres-how-to-see-the-data-that-tech-giants-have-about-you
[17] https://medium.com/new-york-times-opinion/its-time-to-break-up-facebook-8b6ae2cb3d9d
[18] https://www.businessinsider.nl/artificial-intelligence-vooroordelen-google/?tid=822213668&utm_medium=email&utm_source=nieuwsbrief
[19] https://www.perspectiveapi.com/#/home
[20] https://citiesfordigitalrights.org
[21] https://medium.com/city-as-a-service/why-urban-tech-should-empower-cities-not-solve-them-d5e02e2fd8d6
[22] http://smartcityhub.com/governance-economy/well-governed-cities/
[23] https://medium.com/@BloombergCities/the-promise-and-peril-of-algorithms-in-local-government-f1a2964769f2
[24] https://www.mckinsey.com/~/media/mckinsey/industries/public%20sector/mckinsey%20on%20government%20may%202019%202/mck-on-government_5-2019_june19.ashx
[25] https://govex.jhu.edu/wiki/center-for-government-excellence-releases-first-of-its-kind-algorithm-toolkit-to-reduce-bias-affecting-residents-from-automated-decisions-made-by-local-governments/
[26] https://medium.com/the-guardian/its-not-that-we-ve-failed-to-rein-in-facebook-and-google-we-ve-not-even-tried-5567da75d3be
[27] https://decodeproject.eu/what-decode
[28] https://theconversation.com/hackers-seek-ransoms-from-baltimore-and-communities-across-the-us-118089
[29] https://www.fastcompany.com/90391332/take-these-5-critical-steps-to-protect-yourself-from-cybercrime?utm_campaign=eem524%3A524%3As00%3A20190817_fc&utm_medium=Compass&utm_source=newsletter
[30] https://www.archdaily.com/921298/the-city-to-be-deceived-geoff-manaugh-for-the-shenzhen-biennale-uabb-2019?utm_medium=email&utm_source=ArchDaily%20List&kth=
Betrokken wetenschap 