Misbruik kunstmatige intelligentie door de politie in de VS.  Meer dan bias

De 16de aflevering van de reeks ‘Bouwen aan duurzame steden – De bijdrage van digitale technologie’ laat zien wat er kan gebeuren als de kracht van kunstmatige intelligentie op onverantwoordelijke wijze wordt gebruikt.

De misdaadbestrijding in de Verenigde Staten is al jaren het toneel van misbruik van kunstmatige intelligentie. Zoals zal blijken, is dat niet alleen het gevolg van bias. In aflevering 11 liet ik zien waarom kunstmatige intelligentie een wezenlijk nieuwe vorm van het gebruik van computers is. Tot dan toe werden computers geprogrammeerd om bewerkingen uit te voeren, zoals structureren van gegevens en nemen van beslissingen. In het geval van kunstmatige intelligentie worden ze daartoe getraind[1]. Het blijven mensen die de instructies (algoritmen) ontwerpen en er verantwoordelijk voor zijn voor het resultaat, al is de manier waarop de computer de berekeningen uitvoert steeds vaker een ‘blackbox’. 

Toepassingen van kunstmatige intelligentie bij de politie

Ervaren rechercheurs zijn van oudsher getraind om de ‘modus operandi’ van misdaden te vergelijken om zo daders op het spoor te komen. Vanwege het arbeidsintensieve karakter van de handmatige uitvoering daarvan, rees al vlug de vraag of computers daarbij behulpzaam konden zijn. Een eerste poging daartoe in 2012 in samenwerking met Het Massachusetts Institute of Technology resulteerde in het groeperen van misdaden uit het verleden tot clusters waarvan de kans groot was dat deze door dezelfde dader(s) begaan zijn. Bij het maken van de algoritme gold de intuïtie van ervaren politiemensen als vertrekpunt. Het resultaat is dat soms kon worden voorspeld waar en wanneer een inbreker mogelijk zou kunnen toeslaan, wat tot extra toezicht en een arrestatie leidde. 

Deze eerste pogingen werden al snel verfijnd en opgepakt door commerciële bedrijven.  De twee meest gebruikte technieken die eruit resulteerden zijn voorspellend politiewerk (PredPol) en gezichtsherkenning.

In het geval van voorspellend politiewerk krijgen patrouilles aanwijzingen in welke wijk of zelfs straat ze op een gegeven moment moeten patrouilleren omdat berekend is dat de kans op misdaden (vandalisme, inbraken, geweldpleging) dan het grootst is. Iedereen die zich ‘verdacht’ gedraagt loopt dan de kans te worden aangehouden.  Gezichtsherkenning speelt daarbij een belangrijke rol. 

Zowel voorspellend politiewerk als gezichtsherkenning zijn gebaseerd op een ‘leerset’ van tienduizenden ‘verdachte’ personen. Op een gegeven moment beschikte de politie in New York over een database van 42.000 personen. 66% daarvan was zwart, 31,7% Latino en slechts 1% was blank. Deze samenstelling heeft alles te maken met de werkwijze van de politie.  Ofschoon drugsgebruik in steden in de VS in alle wijken voorkomt, richt de politie op basis van PredPol en soortgelijke systemen der aandacht op enkele wijken. Het is dan niet verwonderlijk dat daar dan ook de meeste aan drugs gerelateerde misdaden worden gerapporteerd en als gevolg daarvan de samenstelling van de database nog schever wordt.

In deze gevallen is ‘bias’ de oorzaak van het onethische effect van de toepassing van kunstmatige intelligentie.  Algoritmes weerspiegelen altijd de aannames, zienswijzen en waarden van hun makers. Ze voorspellen geen toekomst, maar zorgen ervoor dat het verleden wordt gereproduceerd.  Dit geldt overigens ook voor toepassingen buiten de politie[2].  De St. George Hospital Medical School in Londen heeft minstens een decennium lang buitenproportioneel veel blanke mannen in dienst genomen, omdat de leerset een afspiegeling was van de zittende staf. Ook het bekritiseerde Nederlandse Risico Indicatiesysteem gebruikt historische data over onder andere boetes, schulden, uitkeringen, onderwijs en inburgering om effectiever te zoeken naar mensen die uitkeringen of toeslagen misbruiken[3]. Dit is op zich niet verwerpelijk maar zou nooit mogen leiden tot het ‘automatisch’ beschuldigen zonder nader onderzoek en het uitsluiten van minder voor de hand liggende personen[4].

Het simpele feit fat de politie buiten proportioneel aanwezig is in vermeende hotspots en daar zeer gespitst is op elke vorm van verdacht gedrag, maakt dat het aantal confrontaties met gewelddadige afloop snel is toegenomen. Alleen al in 2017 leidde politieoptreden in de VS tot een ongekend aantal van 1100 slachtoffers, waarvan slechts een beperkt aantal blanken. Bovendien houdt de politie zich al tientallen jaren bezig met raciale profilering. Tussen 2004-2012 heeft de New Yorkse politie meer dan 4,4 miljoen inwoners gecontroleerd. Het leeuwendeel van deze checks resulteerde niet in verdere actie. In ongeveer 83% van de gevallen was de persoon zwart of Latino, hoewel de twee groepen samen goed zijn voor iets meer dan de helft van de bevolking.

Er is hierdoor een groeiend risico – althans in sommige landen waaronder de VS, dat de politie zelf een onevenredige bron van geweld wordt en een organisatie die delen van de bevolking onderdrukt[5]. Voor de meerderheid van de gekleurde burgers in de VS vertegenwoordigt de politie niet ‘het goede’, maar is zij onderdeel geworden van een vijandige staatsmacht[6].

In New York werd in 2017 een gemeentelijke bepaling aangenomen om het gebruik van kunstmatige intelligentie te reguleren, de Public Oversight of Surveillance Technology Act (POST)[7]. In tegenstelling tot vergelijkbare verordeningen in San Francisco en Oakland vereist de wet van New York City alleen dat de politie informatie beschikbaar stelt over de technologie die wordt ingezet.

Het Legal Defence and Educational Fund, een prominente burgerrechten-organisatie in de VS, drong er bij het stadsbestuur van New York op aan het gebruik van gegevens te verbieden die beschikbaar zijn gekomen ten gevolge van een discriminerend of bevooroordeeld handhavingsbeleid[8]. Deze wens is in juni 2019 ingewilligd en dit leidde ertoe dat het aantal personen dat is opgenomen in de database van 42.000 is teruggebracht naar 18.000. Het betrof alle personen die zonder concrete verdenking in het systeem waren opgenomen[9].

San Francisco, Portland en een reeks andere steden zijn een paar stappen verder gegaan en zij hebben het gebruik van gezichtsherkenningstechnologie door de politie en andere openbare instanties verbood[10]. Experts erkennen dat de kunstmatige intelligentie die aan gezichtsherkenningssystemen ten grondslag ligt nog steeds onnauwkeurig is, vooral als het gaat om het identificeren van de niet-blanke bevolking[11].

Voorbij bias

Er is inmiddels de nodige kennis over hoe bias in algoritmen voorkomen kan worden[12], maar in plaats van dat daarmee het probleem wordt opgelost, ontstaat er zicht op een veel dieperliggend probleem. Dit betreft de oorzaken van misdaad zelf en het inzicht dat de politie deze nooit kan wegnemen[13].

Criminaliteit en recidive hangt samen met ongelijkheid, armoede, slechte huisvesting, werkloosheid, alcohol- en drugsgebruik en onbehandelde psychische aandoeningen[14]. Dit zijn dan ook de belangrijkste kenmerken van buurten waar veel criminaliteit voorkomt. Bewoners van deze buurten kunnen hierdoor geen menswaardig leven leiden[15]. Het zijn stressoren die tevens de kwaliteit van de ouder-kindrelatie beïnvloeden: hechtingsproblemen, onvoldoende ouderlijk toezicht, ook op het gebruik van alcohol en drugs, gebrek aan discipline of een overmaat aan autoritair gedrag.  Alles bij elkaar vergroten deze omstandigheden de kans dat jongeren te maken krijgen met criminaliteit en ze verminderen het vooruitzicht op een succesvolle carrière op school en elders.

De ultieme maatregelen om misdaad op langere termijn terug te dringen en veiligheid te verbeteren zijn: voldoende inkomen, adequate huisvesting, betaalbare kinderopvang, vooral voor ‘gebroken gezinnen’ en ongehuwde moeders en ruime mogelijkheden voor onderwijs aan meisjes. Maar ook aandacht voor jongeren die voor het eerst met criminaliteit in aanraking zijn gekomen om hen ervan te weerhouden opnieuw in de fout te gaan. 

Dit lost de problemen op de korte termijn niet op. Een groot deel van degenen die de politie in de VS oppakt is verslaafd aan drugs of alcohol en is psychisch ernstig gestoord, kampt met ernstige problemen in de huiselijke omgeving – voor zover aanwezig – en heeft de hoop op een betere toekomst opgegeven. Vanuit dit inzicht heeft de politie in Johnson County in Kansas al jaren geleden hulp ingeroepen van hulpverleners in plaats van arrestanten meteen in de boeien te slaan. Deze aanpak is succesvol gebleken en trok de aandacht van het Witte Huis ten tijde van de regering van Obama. Lynn Overmann, werkzaam als senior-adviseur in het bureau van de chief technology officer is daarom het Data-Driven Justice initiative gestart. De directe aanleiding was dat de gevangenissen overvol zaten met ernstig gestoorde patiënten. Toevallig beschikte Johnson County over een geïntegreerd datasysteem waarin zowel criminaliteitsgegevens als gegevens over gezondheid zijn opgeslagen. In andere steden worden deze bewaard in onvergelijkbare datasilo’s.  Samen met het University of Chicago Data Science for Social Good Programwerd met kunstmatige intelligentie een analyse gemaakt van een bestand van 127.000 personen om op basis van historische gegevens te achterhalen wie van de betrokkenen de komende maand de grootste kans had om te worden gearresteerd.  Dit niet met de bedoeling om met voorspellende technieken een arrestatie te bespoedigen, maar om hen in plaats daarvan gerichte hulpverlening te bieden. Dit programma werd in een reeks steden opgepakt en in Miami leidde het tot 40% minder arrestaties en het sluiten van een gevangenis. 

Wat leert dit voorbeeld?  De opkomst van kunstmatige intelligentie deed Chris Anderson, hoofdredacteur van het tijdschrift Wire, uitroepen dat deze het einde van de theorie betekent. Hij kon niet meer ongelijk hebben!  Theorie is nooit weggeweest, hooguit verdwenen uit het bewustzijn van degenen die met kunstmatige intelligentie werken. Ben Green drukt het kernachtig uit.  The assumption is: we predicted crime here and you send in police. But what if you used data and sent in resources? (The smart enough city, p. 78).

Waar het om gaat is de vervanging van het dominante paradigma van het opsporen, berechten en opsluiten van criminelen door het paradigma van het tijdig vinden van potentiële daders en hen de hulp te geven die ze nodig hebben. Dat is nog goedkoper ook, zo blijkt. De noodzaak van het gebruik van kunstmatige intelligentie wordt er niet minder om, maar de training van de computers, inclusief de samenstelling van de trainingssets verandert wezenlijk. Aanbevolen wordt daarom om divers samengestelde teams zo’n trainingsprogramma te laten ontwerpen op basis van wetenschappelijk gefundeerde zienswijzen op het onderliggende probleem en deze taak niet bij de politie zelf te beleggen.

Dit artikel is een beknopte versie van een eerder artikel: De veilige stad[16] (september 2019), aangevuld met gegevens uit hoofdstuk 4 Machine learning’s social and political foundations uit het boek The smart enough city van Ben Green (2020).


[1] https://www.technologyreview.com/2021/10/22/1037179/ai-reinventing-computers/?truid=&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=&utm_content=10-27-2021&mc_cid=fb6d84b8ae&mc_eid=fdb8891aed

[2] https://www.verdict.co.uk/ethnic-data-bias/

[3] https://www.dropbox.com/s/qom95p4hwph1cie/Rathenau-Opwaarderen.pdf?dl=0

[4] https://www.dropbox.com/s/hdx3gwjx1rni3on/Rathenau-grip_op_algoritmische_besluitvorming_overheid_Rathenau_Instituut.pdf?dl=0

[5] https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[6] https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[7] https://en.wikipedia.org/wiki/Police_surveillance_in_New_York_City#Governance_/_Policy

[8] https://web.archive.org/web/20190608190638/https://www1.nyc.gov/assets/adstaskforce/downloads/pdf/ADS-Public-Forum-Comments-NAACP-LDF.pdf

[9] http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

[10] https://www.sfchronicle.com/politics/article/San-Francisco-bans-city-use-of-facial-recognition-13845370.php?psid=4m7j0

[11] http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

[12] https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e.pdf?utm_medium=undefined&utm_source=undefined&utm_campaign=undefined&utm_content=undefined&utm_term=undefined

[13] https://www.bocsar.nsw.gov.au/Documents/CJB/cjb54.pdf

[14] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3969807/

[15] https://medium.com/@bikomandelagray/when-poverty-becomes-criminality-4c712ac1334e

[16] https://hmjvandenbosch.com/2019/09/

Ethische principes en kunstmatige intelligentie

In de 11de aflevering van de reeks Bouwen aan duurzame steden: De bijdrage van digitale technologie pas ik de ethische principes uit aflevering 9 toe op ontwerp en gebruik van kunstmatige intelligentie.

Hieraan voorafgaand beschrijf ik in het kort wat kunstmatige intelligentie is. Aan bod komen de betekenis van onder andere big data, algoritmen en machineleren. Voor wie er meer van wil weten: Radical technologies van Adam Greenfield (2017) is een zeer leesbare inleiding, ook op technologieën als blockchain, augmented en virtual reality , Internet of Things en robotica, die in de volgende afleveringen aan de orde komen.

Kunstmatige intelligentie

Kunstmatige intelligentie kent waardevolle toepassingen maar ook grove vormen van misbruik.  Waardevol is bijvoorbeeld het gebruik van kunstmatige intelligentie bij de indeling van huizen en buurten, rekening houdend met gebruiksgemak, uitzicht en zonnelicht met AI-technologie van Spacemaker[1] of het maten van lawaai in het centrum van Genk met behulp van Nokia’s Scene Analytics-technologie[2]. Verwerpelijk is het discrimineren van bevolkingsgroepen door de politie in de VS met programma’s als PredPol en de manier waarop de Nederlandse overheid met de toekenning van toelagen is omgegaan.

Algoritmen

Dankzij kunstmatige intelligentie kan een computer zelfstandig patronen herkennen en op grond daarvan ‘beslissingen’ nemen. Op zichzelf is herkennen van patronen niets nieuws Dat kon allang met daartoe geschreven computerprogramma’s. Om bijvoorbeeld afbeeldingen van honden en katten te onderscheiden maakte een programmeur een beschrijving in ‘als….dan’-vorm van alle relevante kenmerken van honden en katten met behulp waarvan kon een computer beide diersoorten onderscheiden.  Het aantal fouten hing af van de gedetailleerdheid van het programma. Als het om meer soorten dieren gaat en om dieren die vanuit verschillende hoeken zijn gefotografeerd is het maken van zo’n programma erg ingewikkeld. In dat geval kan een computer getraind worden zelf relevante patronen te onderscheiden. In dit geval spreken we van kunstmatige intelligentie. Overigens spelen mensen daarbij nog steeds een belangrijke rol. Deze bestaat in de eerste plaats uit het schrijven van een instructie – een algoritme – en vervolgens uit de samenstelling van een trainingset, een selectie van een grote aantal voorbeelden, bijvoorbeeld van dieren zijn die gelabeld als hond of kat en desnoods leeuw, tijger en meer. De computer gaat vervolgens ‘zelf’ op zoek naar bijbehorende kenmerken.  Als er nog te veel fouten voorkomen, worden nieuwe afbeeldingen toegevoegd. 

Deep learning

De manier waarop de dieren zijn afgebeeld kan eindeloos variëren, waarbij het niet meer zozeer om hun kenmerken gaat, maar om schaduwwerking, beweging, stand van de camera of de aard van de beweging. De grootste uitdaging is om de computer ook daar rekening mee te leren houden. Dat gebeurt door de imitatie van de neurale netwerken. Beeldherkenning gebeurt daarbij net als in onze hersenen dankzij het onderscheiden van lagen, variërend van het onderscheiden van simpele lijnen, patronen, kleuren tot verschillen in scherpte.  Vanwege deze gelaagdheid wordt gesproken van ‘deep learning’. Hierbij is uiteraard sprake van grote datasets en veel rekenkracht, maar het is ook een arbeidsintensief proces.

Zelflerende computers

Leren toepassen van algoritmen onder begeleiding, levert betrouwbare resultaten op en de instructeur kan ook na veel iteraties het resultaat nog steeds verklaren. Maar dat houdt op als er verschillende processen tegelijkertijd spelen, bijvoorbeeld als dieren elkaar aanvallen, het soms overleven en dan weer niet en de computer moet voorspellen welke dieren onder welke omstandigheden de grootste overlevingskans hebben. Denk ook aan de patronen die de computer van een auto moet kunnen onderscheiden om veilig zonder chauffeur de weg op te kunnen. Vanwege de vrijwel onbeperkte variatie, werkt begeleid leren dan niet meer.

In het geval van onbegeleid leren, wordt de computer gevoed met gegevens van vele miljoenen realistische situaties, in geval van auto’s van verkeerssituaties en de manier waarop de bestuurders daarop reageerden. Hier kan met recht van ‘big data’ en ‘machine leren’ worden gesproken, al worden deze termen vaak ook breder gebruikt.  Zo ‘leert’ de computer van de auto hoe en wanneer deze binnen de rijstroken moet blijven, mag passeren, hoe voetgangers, fietsen of welk ‘object’ dan ook, ontweken kan worden, wat stoptekens zijn en verkeersborden betekenen en welke de daarbij behorende actie is. Tesla’s geven nog steeds al deze gegevens door aan een datacenter, dat er patronen uit destilleert waarmee de ‘autopilots’ van alle Tesla’s geregeld worden geüpdatet.  Op den duur zou elke Tesla, waar ook ter wereld, elk denkbaar patroon moeten herkennen, daar correct nop moeten reageren en zo het hoogst mogelijke niveau van veiligheid kunnen garanderen. Zover is het nog (lang?) niet en Tesla’s ‘autopilot’ mag daarom niet zonder de aanwezigheid van een chauffeur ’in control’ worden gebruikt. Niemand weet op basis van welke criteria de algoritmen van een Tesla werken, uiteraard wel als ze niet werken. 

Zelflerende computers worden ook ingezet als het gaat om de voorspelling van (belasting)fraude, de kans dan bepaalde personen ‘in de fout’ gaan of plaatsen waar op een bepaald moment de kans op een misdaad het grootst is. Maar ook bij de beoordeling van sollicitanten en de toewijzen van woningen.  Voor deze doelen wordt de waarde van kunstmatige intelligentie overschat[3]. In al deze gevallen is de wijze waarop de computer ‘besluiten’ neemt een ‘blackbox’. Mede om die reden is het moeilijk zo niet onmogelijk om achteraf eventuele fouten op te sporen en recht te zetten.  Dit is een van de problemen bij de beruchte toelagenaffaire.

De cybernetische cirkel

Algoritmische besluitvorming is een onderdeel van een nieuwe digitale golf, gekenmerkt door een cybernetische cirkel van meten (data verzamelen), profileren (data analyseren) en interveniëren (toepassen van data). Op zich komen deze aspecten terug in elk besluitvormingsproces, maar daarbij maken de betrokkenen, politici, volksvertegenwoordigers stapsgewijs bewuste keuzen, terwijl nu het hele proces een blackbox is. 

De rol van ethische principes

Ondertussen groeit de bezorgdheid over het negeren van nagenoeg alle ethische principes die in aflevering 9 zijn genoemd, door de toepassing van kunstmatige intelligentie: Schending van de privacy, discriminatie, gebrek aan transparantie en machtsmisbruik met als gevolg groot (deels onbedoeld) leed, risico’s voor de beveiliging van kritieke infrastructuur, afbrokkeling van menselijk denkvermogen en ondermijning van het vertrouwen in de samenleving. Het is daarom noodzakelijk om richtlijnen te formuleren die de toepassing van kunstmatige intelligentie weer in lijn brengen met de genoemde ethische principes. 

Hiertoe is een belangwekkende aanzet gegeven in de publicatie van het Institute of Electric and Electronic Engineers: Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems[4]. Ook het Rathenau instituut[5] heeft in diverse publicaties een aantal richtlijnen gepubliceerd.

De belangrijkste richtlijnen die uit deze en andere publicaties kunnen worden gedestilleerd, zijn:

  1. Verantwoordelijkheid voor de impact van het gebruik van kunstmatige intelligentie leggen bij zowel degenen die besluiten nemen over de toepassing ervan (politiek, leiding van organisatie of bedrijven) als de ontwikkelaars. Deze verantwoordelijkheid betreft zowel de gebruikte systemen als de kwaliteit, nauwkeurigheid, volledigheid en representativiteit van de data(set).
  2. Voorkomen dat ontwerpers (onbewust) hun eigen normen gebruiken bij de instructie van leerprocessen. Teams met een diversiteit aan achtergronden zijn een goed middel om dit te voorkomen.
  3. Kunnen herleiden van ‘beslissingen’ door computersystemen op de gehanteerde algoritmen, de werking daarvan begrijpen en deze kunnen uitleggen.
  4. Wetenschappelijk kunnen onderbouwen van het model dat aan de algoritme en aan de keuze van de data ten grondslag ligt.
  5. Handmatig verifiëren van ‘beslissingen’ die negatief uitpakken voor de betrokkene. 
  6. Uitsluiten van alle vormen van bias in de inhoud van datasets, de toepassing van algoritmen en het hanteren van uitkomsten[6].
  7. Verantwoording afleggen over de wettelijke grondslag van de combinatie van datasets.
  8. Vaststellen of de berekening beoogt valse positieven dan wel valse negatieven te minimaliseren.
  9. Terugkoppelen naar opdrachtgevers door auteurs van algoritmen als deze in het bronnenmateriaal gebrek aan eenduidigheid aantreffen.
  10. Hanteren van de beginselen van proportionaliteit en subsidiariteit, wat betekent van geval tot geval vaststellen of de baten van gebruik van kunstmatige intelligentie opwegen tegen de risico’s[7].
  11. Verbieden van toepassingen van kunstmatige intelligentie die een groot risico vormen voor schending van ethische principes, zoals gezichtsherkenning, persuasieve technieken en deep-fake technieken[8].
  12. Intrekken van wettelijke bepalingen als blijkt dat deze vanwege hun complexiteit of vaagheid niet op transparante wijze gehandhaafd kunnen worden.  

De derde, de vierde en de vijfde richtlijn moeten in samenhang worden gezien.  Ik leg hieronder uit waarom.

De wetenschappelijke fundering van algoritmische besluitvorming

Bij het gebruik van zelflerende computers zijn het de computers zelf die de algoritmen aanpassen en uitbreiden en gegevens uit uiteenlopende datasets combineren.  Het gevolg kan zijn dat de uiteindelijke ‘beslissingen’ die de computer neemt niet uitgelegd kunnen worden. Dit is uitsluitend aanvaardbaar, nadat gebleken is dat deze beslissingen ‘foutloos’ zijn, bijvoorbeeld omdat, in het geval van ‘zelfsturende’ auto’s, deze vele malen veiliger blijken te rijden dan auto’s met chauffeur.

In de toelagen affaire was hier geen sprake van. Daar zou de vijfde richtlijn uitkomst hebben kunnen bieden.  Met behulp van wetenschappelijk ontwerpgericht onderzoek kan worden onderzocht, uit welke stappen en welke regels een beslissingsproces bestaat om te bepalen wie terecht een toelage krijgt en wie eventueel ten onrechte bezwaar maakt tegen de afwijzing van een verzoek. Aan de hand van zo’n beslisboom kan door een steekproef met voldoende omvang de overeenkomst met de ‘beslissingen’ van de computer worden vastgesteld. Als dit inderdaad in nagenoeg alle gevallen zo is, dan mogen de criteria die in de handmatige berekening zijn gehanteerd worden gebruikt om uit te leggen wat zich in de ‘blackbox’ van de computer heeft afgespeeld. Als er veel en grote afwijkingen zijn, dan moet de computerberekening worden verworpen.

Door toepassing van zelflerende algoritmen kunnen onvermoede verbanden worden ontdekt tussen verschijnselen. Dat kan van grote betekenis zijn. Er is dan altijd sprake van statistische relaties en niet van causale.  

Op basis van deze verbanden kunnen geen maatregelen worden gerechtvaardigd, wel kunnen ze vertrekpunt voor verder onderzoek. 

Governance

In de VS is het gebruik van algoritmen inmiddels in een kwaad daglicht komen te staan, vooral door de ongewenste gevolgen van toepassing door de politie, waarover aflevering 16 gaat.  De problemen daarbij gaan veel verder dan het optreden van ‘bias’. De stad New York heeft daarom een algoritme manager aangesteld, die onderzoekt of de gebruikte algoritmen voldoen aan ethische en wettelijke regels. In steeds meer gemeenten vervult een ethische commissie deze rol.

Op bestuurlijk vlak zijn zowel op Europees niveau als binnen Nederland al stappen gezet om uitwassen van algoritmische besluitvorming tegen te gaan.  

De Algemene Verordening Gegevensbescherming (AVG), die is in 2018 in werking getreden is heeft de bescherming van de privacy aanzienlijk verbeterd. In april 2019 publiceerde de Europese High Level Expert Group on AI ethische richtlijnen voor de toepassing van kunstmatige intelligentie In februari 2020 heeft ook de Europese Commissie zulke richtlijnen vastgesteld onder meer in het White Paper On Artificial Intelligence en een AI-verordening. Verder stelde de regering onder meer vast de nationale digitaliseringsstrategie, het Strategisch Actieplan AI en de beleidsbrief AI, mensenrechten en publieke waarden[9].

Ik realiseer me dat het binden van overheden en hun uitvoeringsorganen aan ethische principes koren op de molen is van degenen die deze principes aan de laars lappen. Daarom blijft de zoektocht naar legitieme methoden om misdaad, corruptie en malversaties met behulp van moderne technieken op te sporen, brede steun verdienen.

Er is nog heel wat werk te verzetten om de kracht van kunstmatige intelligentie voor dit doel op gewetensvolle wijze te gebruiken.


[1] https://stadszaken.nl/artikel/3961/rekenkracht-ai-maakt-gebiedsontwikkeling-beter?utm_source=Mailing+Lijst&utm_medium=email&utm_campaign=24-12-2021_Grote+verdeeldheid+over+Omgevingswet

[2] https://www.smartcitiesworld.net/news/belgian-city-uses-artificial-intelligence-to-tackle-noise-pollution-7243?utm_source=newsletter&utm_medium=email&utm_campaign=Weekly%20Newsletter

[3] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

[4] https://www.dropbox.com/s/508gjrmdaexj563/2020_029_Digitale_technologie_Eng.docx?dl=0

[5] https://www.dropbox.com/s/hdx3gwjx1rni3on/Rathenau-Grip_op_algoritmische_besluitvorming_overheid_Rathenau_Instituut.pdf?dl=0

[6] https://medium.com/@BloombergCities/the-promise-and-peril-of-algorithms-in-local-government-f1a2964769f2

[7] https://www.dropbox.com/s/xe962n2m7ik6gt2/Rathenau-Zeven_aandachtspunten_voor_de_AI-verordening_Bericht_aan_het_Parlement_Rathenau_Instituut.pdf?dl=0

[8] https://www.dropbox.com/s/q2zji5s60y989ea/Rathenau-Verantwoord_Innoveren_met_AI_Rathenau_Instituut.pdf?dl=0

[9] https://www.dropbox.com/s/22ekhzws9gpb4nd/Rapport_De_stand_van_digitaal_Nederland_Rathenau_Instituut.pdf?dl=0

De veilige stad

De vermindering van criminaliteit is niet in de eerste plaats te verwachten van politie en justitie, ondanks de beste technologische ondersteuning, maar van een samenleving met meer gelijkheid en voldoende inkomen, adequate huisvesting en goed onderwijs voor iedereen.

Foto: The Ascent: een gemeenschap van vertellers die de reis naar geluk en voldoening beschrijven

Een prettige en veilige omgeving om te leven. Voor veel mensen staan deze wensen bovenaan hun verlanglijstje. Veiligheid heeft veel facetten, van bescherming tegen natuurgeweld en epidemische ziekten tot veiligheid in het verkeer, brandweer en een veilig internet. Al deze vormen van veiligheid komen aan bod in een van de essays in deze serie. Hieronder ligt de nadruk op bescherming tegen misdaad: Geweld, overvallen, inbraken, chantage en diefstal. 


De veilige stad is de vierde van een reeks korte essays over hoe steden humaner kunnen worden. Dat betekent het vinden van een evenwicht tussen duurzaamheid, rechtvaardigheid en leefbaarheid. Dit vereist het maken van keuzen. Zodra deze zijn gemaakt, is het gebruik van slimme technologieën vanzelfsprekend.

De essays die al zijn gepubliceerd zijn:


Volgens de Wereldgezondheidsorganisatie doet het risico te worden geconfronteerd met fysiek geweld in belangrijke mate af aan de kwaliteit van leven. In 2000 resulteerden moorden wereldwijd in een half miljoen doden; bijna twee keer zoveel als in oorlogen in hetzelfde jaar[1]. Het aantal moorden in de Europese Unie was ongeveer 5200. Weliswaar is in de EU sprake van een vermindering van criminaliteit[2]. Tussen 2008 en 2016 daalden autodiefstallen met 36% en overvallen met 24%. Beide trends zijn na 2010 afgevlakt. Het door de politie geregistreerde seksueel geweld in de EU vertoont echter tussen 2013 en 2016 een stijging van 26%

Oorzaken van criminaliteit

Alvorens het te hebben over oplossingen, kijk ik naar wat onderzoek heeft te melden over de oorzaken van criminaliteit.

Het is belangrijk om te beseffen dat factoren die worden gezien als de oorzaken van crimineel gedrag lang niet altijd tot dat gedrag hoeven te leiden. Ze verhogen veeleer het risico daarvan. Er moet onderscheid worden gemaakt tussen rechtstreekse oorzaken en oorzaken op wat grotere afstand, die voorwaarden scheppen, maar niet noodzakelijk minder invloedrijk of belangrijk zijn.

De onderstaande figuur vat de essentie van een aantal publicaties uit de laatste jaren samen, met voorbijgaan aan details en nuances[3]

Criminaliteit hangt samen met ongelijkheid, armoede, slechte huisvesting, werkloosheid, alcoholgebruik en drugs. Dit zijn dan ook de belangrijkste kenmerken van buurten waar veel criminaliteit voorkomt. Voor bewoners van deze buurten belemmeren deze omstandigheden een fatsoenlijk leven[4]. Het zijn stressoren die bijvoorbeeld de kwaliteit van de ouder-kindrelatie beïnvloeden. Het zijn hechtingsproblemen, onvoldoende ouderlijk toezicht, ook op het gebruik van alcohol en drugs, gebrek aan discipline of een overmaat aan autoritair gedrag, die het risico dat jongeren te maken krijgen met criminaliteit doen toenemen en tevens het vooruitzicht op een succesvolle carrière op school en elders verminderen.

In wijken waarin deze problemen aan de orde van de dag zijn, is vaak tevens sprake van gebrekkige informele sociale controle door buurtbewoners en zoeken jongeren hun heil bij bendes en andere criminele organisaties die de criminaliteit verder doen toenemen, zowel in de eigen buurt als elders.

Volgens een Australische studie worden de meeste criminele handelingen gepleegd door personen jonger dan 20 en is 29% van alle kinderen minstens één keer betrokken geweest bij criminele activiteiten. 70% van alle jongeren die in voor de rechter verschijnen komt daar echter niet meer terug. De meeste misdaden worden gepleegd door een relatief kleine groep. Een onderzoek uit Zweden, dat criminaliteit analyseert in de periode 1973 – 2004, toonde aan dat 3,9% van de bevolking werd veroordeeld voor een totaal van 93.643 gewelddadige misdrijven. 25% van deze groep was echter verantwoordelijk voor 63% van alle geweldsmisdrijven[5].

Onderzoek naar de percentages geweldsmisdrijven in de afgelopen decennia maakt het mogelijk om een ​​dieper inzicht te krijgen in de achterliggende oorzaken van criminaliteit[6]. In de tweede helft van de 20e eeuw namen de misdaadcijfers in de VS jaar jaarlijks toe. In de jaren negentig zette echter een daling in en criminaliteit bevindt zich tegenwoordig op veel plaatsen op een historisch dieptepunt. In New York City bijvoorbeeld waren er in 1990 meer dan 2200 moorden. De afgelopen jaren waren dat er minder dan 300 per jaar.

Levitt onderzocht alle mogelijke redenen voor deze daling[7]en samen met Donohue concludeerde hij in 2001 in een wetenschappelijk artikel dat de alles omvattende verklaring de legalisatie van abortus was[8]. Op het hoogtepunt in 1990 waren er 1,5 miljoen abortussen in de VS vergeleken met 4 miljoen levendgeborenen. Ze verwezen daarbij naar het grote aantal publicaties dat aantoont dat ongewenste kinderen meer kans hebben om met criminaliteit in aanraking te komen, vooral vanwege de eerdergenoemde hechtingsproblemen. En juist deze groep kinderen neemt drastisch af door de legalisatie van abortus. 

In een recente update van hun eerdere paper, bevestigen Levitt en Donohue de sterkte van de relatie tussen abortus en criminaliteit in de VS met gegevens uit de periode 1997 – 2014: In staten met de hoogste abortuscijfers waren de criminaliteitscijfers 60 procent lager dan in staten met de laagste percentages[9].

Het is belangrijk om te waarschuwen voor een monocausale redenering bij het aanwijzen van oorzaken van criminaliteit. Economische stressoren zoals armoede, werkloosheid en schulden kunnen leiden tot criminaliteit, bijvoorbeeld omdat ze het gezin ontwrichten. De meeste arme mensen houden zich echter aan de wet en zorgen goed voor hun kinderen. Hechtingsproblemen in de ouder-kindrelaties komen ook voor in welgestelde gezinnen. Het is echter de frequentie en cumulatie van stressoren die telt.

De ultieme maatregelen om misdaad te verminderen en veiligheid te verbeteren zijn: Voldoende inkomen, adequate huisvesting, betaalbare kinderopvang, vooral voor ‘gebroken gezinnen’ en ongehuwde moeders en ruime mogelijkheden voor onderwijs aan meisjes.

Zorg voor jongeren die voor het eerst met criminaliteit in aanraking zijn gekomen is van het grootste belang, omdat deze velen ervan weerhoudt opnieuw in de fout te gaan. 

Wereldwijd neemt het besef van de economische oorzaken van criminaliteit toe. Het is echter verbazingwekkend dat deze – zij het complexe – relatie in het beleid geen centrale plaats inneemt. Tegelijkertijd moet worden benadrukt dat de samenleving recht heeft op effectieve bescherming tegen de relatief kleine groep recidivisten, die verantwoordelijk is voor de meeste misdaden, met name gewelddadige misdaden.

Sociaal kapitaal

Hoe intensiever bewoners van een buurt met elkaar omgaan en oog houden op elkaars bezittingen, hoe minder criminaliteit een kans krijgt. Sociale controle is altijd een machtig wapen tegen criminaliteit geweest[10]. Om een ​​veilige leefomgeving te creëren, hoeven contacten niet tot buren te worden beperkt. Een onderzoek onder de 12 Nederlandse ‘veiligste’ gemeenten heeft aangetoond dat nauwe samenwerking tussen inwoners en de politie op buurtniveau bijdraagt aan de veiligheid en aan zich veilig te voelen[11]. Andere voorwaarden zijn de visuele aanwezigheid van politie op de fiets (beter dan in de auto), gedetailleerde kennis van en communicatie met jeugdgroepen, daklozen onderdak bieden om druggerelateerde misdaden te voorkomen en hoge prioriteit voor de bestrijding van geweld en inbraak.

Beoordeling van veiligheid met betrekking tot crimineel gedrag in 60 wereldsteden: The Economist

Een buurtgerichte aanpak hangt niet af van de grootte van de stad. Om deze reden behoort Amsterdam, de meest onveilige stad van Nederland, tot de veiligste steden ter wereld[12]. Voor steden in Latijns-Amerika, te midden van een golf van criminaliteit en geweld, is de prijs van de misdaad hoog. Een recente studie toont aan dat misdaad en geweld voor Latijns-Amerika landen gemiddeld 3% van het BBP per jaar kost, wat ongeveer $ 261 miljard is voor de regio. Steden in Latijns-Amerika en Azië investeren in technologische apparatuur om misdaad te bestrijden. Medellin, de voormalige hoofdstad van criminaliteit, bereikte daarentegen aanzienlijke verbeteringen door de wortels van criminaliteit aan te pakken: armoede, drugshandel en sociale contacten[13]. Interventieprogramma’s die het sociaal kapitaal versterken, worden op verschillende plaatsen gestart.

APPS-programma (toepassingen voor doel, trots en succes) in Columbus

De missie van het APPS-programma is vermindering van criminaliteit door beschermende omstandigheden te creëren in het leven van jongeren in Columbus (14-23 jaar)[14]. De preventiestrategie van het initiatief bestaat ​​uit tussen beide komen in geval van geweld op straat en conflictbemiddeling door getrainde mediatoren. Bovendien voorziet het programma in educatieve, recreatieve, trainingsgerichte en artistieke activiteiten in vier buurthuizen.

De rol van politie en justitie

De strijd tegen criminaliteit in onze samenleving is vooral een strijd tegen criminelen met behulp van traditionele en geavanceerde technologische middelen. Over het algemeen wordt de politie als de belangrijkste speler beschouwd, die bijna als vanzelf aan de goede kant staat. Er is echter een groeiend risico – althans in sommige landen waaronder de VS, dat de politie zelf een onevenredige bron van geweld wordt en een organisatie die delen van de bevolking onderdrukt[15]. Voor de meerderheid van de gekleurde burgers in de VS vertegenwoordigt de politie niet ‘het goede’, maar is zij onderdeel geworden van een  vijandige staatsmacht[16]. In het navolgende besteed ik veel aandacht aan de politie in de VS, want ontwikkelingen in dat land vinden elders navolging. In veel andere, waaronder Nederland, is de politie een veel meer geïntegreerd onderdeel van de samenleving, ondanks haar masculiene en autoritaire cultuur, die ten koste gaat van een soepele integratie van vertegenwoordigers van minderheden en vrouwen.

Historisch gezien is de politie in de meeste landen de beschermer van staatsmacht en is deze uitgerust om opstanden en vaak ook protesten de kop in te drukken[17]. Vroege politieorganisaties in de VS droegen dezelfde blauwe uniformen als de voormalige slavenpatrouilles. In de meeste landen is de politie georganiseerd naar het voorbeeld van een militaire hiërarchie. Leden van de politie moeten, net als soldaten, bevelen opvolgen, wat nadelig is voor de ontwikkeling van een persoonlijk moreel ‘agent’schap[18].

In 2017 leidde politieoptreden in de VS tot een ongekend aantal van 1100 slachtoffers, waarvan slechts een beperkt aantal blanken. Bovendien houdt de politie zich al tientallen jaren bezig met raciale profilering. Tussen 2004-2012 heeft de New Yorkse politie meer dan 4,4 miljoen inwoners gecontroleerd. Het leeuwendeel van deze checks resulteerde niet in verdere actie. In ongeveer 83% van de gevallen was de persoon zwart of Latino, hoewel de twee groepen samen goed zijn voor iets meer dan de helft van de bevolking.

Artwork Nafis White: “Het vertoont geen tekenen van stoppen”

Gedragsregels om het aantal dodelijke slachtoffers van politieoptreden te verminderen

Wetenschappers hebben acht gedragsregels opgesteld die het aantal doden door de politie kunnen stoppen en meer in het algemeen bijdragen aan een positiever imago[19].

  • De-escaleren van situaties voordat een toevlucht tot geweld wordt genomen.
  • Beperking van het aantal vormen van geweld dat in specifieke situaties gebruikt kan worden.
  • Beperking van het gebruik van de nekklem.
  • Geven van een waarschuwing voordat geweld wordt gebruikt.
  • Niet schieten op bewegende voertuigen.
  • Eerst alle alternatieven voor dodelijk geweld toepassen.
  • Beletten dat collega’s buitensporig geweld uitoefenen.
  • Het gebruik van geweld altijd rapporteren.

De onderzoekers wilden weten in hoeverre dit soort regels al worden toegepast en daarom onderzochten ze 90 politiedistricten in de VS. Het bleek dat geen enkele afdeling alle acht beleidsmaatregelen had geïmplementeerd. In slechts 34 resp. 31 onderzochte afdelingen waren de-escalerende situaties of uitputtend gebruik van alternatieven vereist alvorens toevlucht te nemen tot dodelijk geweld. Slechts in 30 afdelingen grepen agenten in als een collega buitensporig geweld uitoefende en slechts 15 gevallen was rapporteren van alle vormen van geweld verplicht, inclusief het bedreigen van burgers met een vuurwapen.

Onderzoekers berekenden dat het in acht nemen van alle genoemde maatregelen zou kunnen leiden tot een vermindering van 72% van het aantal geweldsdoden door de politie.

Gevangenissen

Het Amerikaanse rechtssysteem wordt nauwlettend in de gaten gehouden en staat onder druk om te hervormen dankzij initiatieven zoals het Art for Justice Fund, Open Society Foundation en vele rapporten[20]. Hierbij wordt één aspect grotendeels over het hoofd gezien: Het ontwerp van gevangenissen[21]. Het Amerikaanse gevangeniswezen is hard en bruut. Het is niet verwonderlijk dat de meeste mensen een gevangenis verlaten als crimineel voor het leven.

Sinds 2016 richt niemand minder dan sterarchitect Frank Gehry (Guggenheim Bilbao!) zich op dit onderwerp. De inspanningen van Gehry, samen met zijn studenten, worden geïllustreerd in de documentaire ‘Frank Gehry: Building Justice’: Wat als we mensen als mensen gaan behandelen – hoe zou de gevangenis er dan uit zien?, vraagt ​​Gehry zich af in deze documentaire. De documentaire is hier te bekijken.

We zien dat Gehry’s studenten Scandinavische gevangenissen bezoeken, die gbaseerd zijn op herintrede in plaats van afstraffing door ontbering.

Impact van de politieacademie

Susan Rahr’s verwisselde haar rol als sheriff van King County, Washington, met die van hoofd van een regionale politieacademie. Ze was al jaren verontrust door het gemak en de gretigheid van het gebruik van geweld door politieagenten en nam aan dat de politieacademie het verschil kan maken. Toen ze de academie betrad, was haar eerste indruk de dominantie van een militaristische cultuur. Naleving van regels was gebaseerd op de dreiging met straf in plaats van op het hanteren van ethische principes.

Haar intentie, die landelijk de aandacht trok, was dat politieagenten het imago van ‘beschermer’ gaan krijgen: Personen met een breed scala aan vaardigheden, die tegelijkertijd wijs en humaan zijn[22]. Om dit doel te bereiken, breidde ze de opleiding uit met oefeningen om gespannen situaties te hanteren zonder toevlucht te nemen tot geweld, om een probleem op te lossen zonder een arrestatie te doen, en om politieoptreden te bekijken door de ogen van een veronderstelde dader.

In een interessant interview[23]met vijf vertegenwoordigers van groepen die zich slachtoffer voelen van het justitieel beleid in de VS, betwist niemand de rol van politie als zodanig. Daarentegen pleiten alle deelnemers pleiten voor burger-toezicht, wat betekent dat gemeenten beslissen over wat een veilige samenleving is en met welke methoden het recht wordt gehandhaafd.

De rol van technologie

Gezien deze achtergrond, is het lastig om het enthousiasme te delen van ‘smart city’ adepten jegens de voordelen van technologie om misdaad te bestrijden[24]. Technologie zal criminaliteit niet doen verdwijnen en criminele organisaties zullen uiteindelijk de technologische expertise van de politie overtreffen. Technologie is ook geen oplossing voor de oorzaken van criminaliteit zoals armoede, uiteengevallen gezinnen, gender-gerelateerd en ander geweld en verslaving. 

Toch kan technologie een aanvullend hulpmiddel zijn binnen een meer humane benadering van veiligheid, gesteld dat de techniek betrouwbaar is en er geen twijfel hoeft te bestaan over de integriteit van degenen die over het gebruik ervan beslissen. Hieronder volgt een beknopt overzicht van huidige trends in de inzet van technologie in de bestrijding van de misdaad. De voorbeelden komen onder andere uit de Smart City Solution Database, een uitgebreide verzameling smart city-applicaties, tools en beleid [25]en een rapport van het McKinsey Global Institute, Smart Cities: digitale oplossingen voor een leefbare toekomst[26].

Misdaden oplossen

De snelheid waarmee de politie op de plaats van een misdrijf arriveert beïnvloedt de kans op oplossing ervan. Soms kunnen daders nog worden aangetroffen of zijn hun sporen nog vers. Daarom rusten steden wijken waarin veel misdrijven plaatsvinden uit met sensoren die schoten registreren.


Shotspotter

Om schoten te detecteren, zijn er ongeveer 30 – 40 akoestische sensoren per vierkante kilometer nodig. Deze akoestische sensoren registreren geluid, locatie en tijd. Wanneer een wapen wordt afgevuurd, lokaliseert audio-triangulatie de juiste locatie en algoritmen analyseren het geluid. Tussen het moment waarop de schoten worden gelost en het alarm in het dichtstbijzijnde politiebureau afgaat, liggen slechts 45 seconden[27]. Deze korte video laat zien hoe de shotspotter werkt.


Er zijn nog andere hulpmiddelen die de opsporing van criminelen ondersteunen. Elk misdrijf laat een voetafdruk achter, soms letterlijk, en technologie als de Criminal Finder, helpen om de eigenaars van die ‘voetafdruk te vinden.


Criminal Finder

De Criminal Finder gebruikt kunstmatige intelligente om criminelen te vinden door gegevens over een groot aantal misdrijven in het nabije verleden te vergelijken met gegevens over de plaats van het misdrijf. Met elk nieuw misdrijf neemt het vergelijkingsmateriaal van de database toe[28].


Misdaadpreventie

Misdaadpreventie is het ultieme doel van politieactiviteit, uiteraard zonder de wortels van de criminaliteit aan te pakken. Desalniettemin zal niemand ontkennen dat het voorkomen van criminaliteit een groot goed is. Een elementair voorbeeld van criminaliteitspreventie is het in kaart brengen van gegevens over de tijden, locaties en aard van eerdere misdaden om inzicht te geven waar en op welke tijden politiepatrouilles moeten patrouilleren. Soms worden deze gegevens met het publiek gecommuniceerd. De mobiele app CrimeRadar onthult realtime gevarenzones die het publiek beter kan vermijden.


CrimeRadar (Rio de Janeiro)

CrimeRadar gebruikt algoritmen om misdaadpatronen te voorspellen op basis van misdaadrapporten[29]. De applicatie schat de waarschijnlijkheid van toekomstige misdrijven, op basis van een wiskundige beoordeling van de locatie, timing en kenmerken van miljoenen individuele misdaden (moord, geweld, ontvoering, diefstal, verkrachting) van januari 2010 tot april 2016. Na deze datum wordt de onderliggende dataset om onbekende redenen niet meer bijgewerkt. Burgers weten het met deze app. wanneer ze bepaalde plaatsen moeten vermijden.


Voorspellend politieonderzoek

Voorspellend politieonderzoek gebruikt wiskundige methoden en analytische technieken om potentiële criminele activiteiten te identificeren. De politie van New York gebruikt een geavanceerd programma en een database van meer dan 42.000 mensen. Eén procent (!) van de mensen in de database is wit, 66%  zwart en 31,7% Latino.

Met dit systeem kan de politie onmiddellijk gedetailleerde informatie krijgen over personen die worden gevolgd of gearresteerd. Het systeem is verbonden met 9.000 videocamera’s en het heeft ook toegang tot gegevens van 2 miljoen nummerplaten, 100 miljoen aangiften, 54 miljoen oproepen met het alarmnummer, 15 miljoen klachten, 12 miljoen strafregisters, 11 miljoen arrestaties en 2 miljoen huiszoekingen.

Een machine learning-algoritme die bekend staat als Patternizr verbindt verdachte personen met onopgeloste misdaden door vergelijkbare patronen en gedragskenmerken op te sporen. De algoritme is getraind met behulp van politiegegevens van tien achtereenvolgende jaren aan de hand van handmatig geïdentificeerde misdaadpatronen. Patternizr werd in 2017 in gebruik genomen met de hulp van honderd civiele analisten. De initiële ontwikkelingskosten waren $ 350 miljoen.

Veel andere steden implementeren vergelijkbare systemen, bijvoorbeeld York[30]en Glasgow[31]. Een volledig operationeel systeem, zij het minder technologisch geavanceerd, is te vinden in Moskou[32].


Moskou videobewakingssysteem

Het systeem – dat $ 250 miljoen kost – maakt gebruik van 128.000 (!) particuliere videobewakingscamera’s in openbare ruimtes, binnenplaatsen, ingangen, scholen en nog eens 9.000 camera’s op verkeersknooppunten, in de metro en in culturele, sportieve en sociale ruimtes. Het is in staat om gezichten te identificeren en ondersteunt een breed scala aan politietaken, zoals de automatische productie van bekeuringen. Er worden ongeveer 75.000 boetes worden per dag uitgeschreven.


Deze geavanceerde systemen werken nog te kort om hun effectiviteit te evalueren. De politie zelf meldt een aanzienlijke daling van criminele activiteiten. Een studie van het Max Planck Instituut voor Buitenlands en Internationaal Strafrecht concludeert na drie jaar onderzoek dat het nog niet mogelijk is om definitieve uitspraken te doen over de effectiviteit van de software. Het pilotproject is in 2018 daarom een tweede fase ingaan[33].

De behoefte aan burgertoezicht

In de VS heerst sepsis over de integriteit van het justitiële systeem, inclusief de politie. Een aantal steden, zoals Seattle, Oakland, Berkeley en Davis, heeft burgertoezicht op het gebruik van nieuwe technologieën door de politie verplicht gesteld. Bovendien hebben zij het gebruik ervan verboden zonder goedkeuring van de lokale overheid.

In New York werd in 2017 een gemeentelijke bepaling voorgesteld om het gebruik van kunstmatige intelligentie te reguleren, de Public Oversight of Surveillance Technology Act (POST)[34]. In tegenstelling tot vergelijkbare verordeningen in San Francisco en Oakland vereist deze bepaling alleen dat de politie informatie beschikbaar stelt over de technologie die wordt ingezet. Het gebruik van nieuwe bewakingstechnologie wordt daarentegen niet ter goedkeuring voorgelegd aan de gemeenteraad[35]. Tot op de dag van vandaag is deze bepaling nog steeds niet aangenomen. 

Het Legal Defence and Educational Fund, een prominente burgerrechtenorganisatie in de VS, drong er bij het stadsbestuur van New York op aan het gebruik van gegevens te verbieden die beschikbaar zijn gekomen met behulp van een discriminerend danwel bevooroordeeld handhavingsbeleid[36]. Deze wens is in juni 2019 ingewilligd en dit leidde ertoe dat het aantal personen dat is opgenomen in de database is teruggebracht van 42.000 naar 18.000. Het betrof alle personen die zonder concrete verdenking in het systeem waren opgenomen.

Terwijl de beraadslagingen in New York doorgaan, ging San Francisco een paar stappen verder en werd de eerste stad die het gebruik van gezichtsherkenningstechnologie door de politie en andere openbare instanties verbood[37]. De gemeenteraad was het ermee eens dat gezichtsherkenning ooit een waardevol hulpmiddel zou kunnen worden. Op dit moment kan echter niet worden gegarandeerd dat gezichtsherkenning op verantwoorde wijze en zonder discriminerende effecten wordt gebruikt. Gewoon door het feit dat de technologie er niet klaar voor is.

Experts erkennen dat de kunstmatige intelligentie die aan gezichts-herkenningssystemen ten grondslag ligt nog steeds onnauwkeurig is, vooral als het gaat om het identificeren van de niet-blanke bevolking[38].

Rekognition: Amazon’s technologie voor gezichtsbewaking

In een test vorig jaar door de ACLU, verwarde Rekognition, de gezichtsherkenningssoftware van Amazon ten onrechte de gezichten van 28 leden van het Amerikaanse Congres met die van arrestanten. Ook hier waren het vooral niet-blanke leden van het congres[39].  

Het Center on Privacy and Technology van Georgetown concludeert dat er sinds 2016 zo veel gevallen bekend zijn geworden van fouten in en misbruik van gezichtsherkenningstechnologie dat dat lokale, provinciale en federale overheden deze technologie zouden moeten verbieden[40].

Privé domein

Terwijl in het publieke domein de weerstand tegen gezichtsherkenning op basis van algoritmen en kunstmatige intelligentie snel toeneemt, nemen de commerciële toepassingen van deze technologie in sneltreinvaart toe. De technologie belooft bijvoorbeeld een alternatief voor falende politie-interventie tegen winkeldieven.

Facewatch

Facewatch is een gezichtsherkenningsbedrijf in het Verenigd Koninkrijk. Het cloudgebaseerde beveiligingssysteem voor gezichtsherkenning beschermt bedrijven tegen criminaliteit. Het systeem stuurt onmiddellijk waarschuwingen wanneer personen die betrokken waren bij winkeldiefstal en andere criminele activiteiten het bedrijf betreden[41].


Afgezien van hun twijfelachtige betrouwbaarheid, brengen dit soort systemen winkelpersoneel in een onmogelijke positie. Het is te veel gevraagd dat een winkelbediende een klant weigert op basis van een waarschuwing van het systeem. De politie bellen, als deze klant inderdaad de winkel verlaat zonder te betalen, zet ook geen zoden aan de dijk. Fysieke weerstand bieden is een slecht idee. In een warenhuis kunnen veiligheidsbeambten de verdachte stalken die dan waarschijnlijk het pand zal verlaten en om elders slag te slaan.

Veiligheid in de humane stad

Daling van criminaliteit hangt samen met het verbeteren van de kwaliteit van leven van het armste deel van de samenleving in plaats van groeiende ongelijkheid toe te laten. Dit gaat noodzakelijkerwijs gepaard met het verbeteren van de opleidingsmogelijkheden voor de jongste kinderen, het creëren van een respectvolle en uitdagende omgeving op scholen en het voorkomen van genderongelijkheid.

Het zou naïef zijn om te denken dat minder ongelijkheid en verbetering van inkomen, banen en huisvesting voor de armste groepen de criminaliteit geheel zullen doen verdwijnen. Hebzucht, zoeken naar sensatie, verveling, lidmaatschap van verkeerde groepen, foute connecties, imitatie, psychische aandoeningen hangen niet noodzakelijk samen met armoede. Bovendien zijn ook rijke mensen op veel manieren betrokken bij activiteiten op de rand van de wet en daar overheen maar zij zijn omringd door advocaten, en invloedrijke relaties die effectieve bescherming bieden.

Scholing, zeker als deze al op zeer jonge leeftijd begint, kan problemen in de huiselijke sfeer gedeeltelijk compenseren. Ook de kwaliteit van het sociale leven in buurten, inclusief een bepaald niveau van sociale controle, heeft invloed. In al deze gevallen ondersteunt zichtbare aanwezigheid van wijkagenten zonder onnodig machtsvertoon de noodzakelijke samenwerking tussen politie en burgers. Dit is noodzakelijk om te voorkomen dat jonge kinderen na een ongedwongen eerste criminele activiteit recidive worden.

Dit alles laat onverlet de noodzaak van een professionele en politie, ondersteund door geavanceerde technische hulpmiddelen. Geen enkele technologie, indien bewezen effectief en niet discriminerend, is bij voorbaat uitgesloten. Het is echter de vraag of dit moet leiden tot de huidige ontwikkeling van bewaakte steden, aangemoedigd door ‘smart city’ adepten. 

Het pad dat hierboven is geschetst is lang, maar het wijkt radicaal af van wat er momenteel over de hele wereld gebeurt. Ik ben bang dat het gebruik van technologie door een militaristische en autoritaire politieorganisatie de politie van burgers vervreemdt. De torenhoge investeringen in technologische expertise halen het niet bij hetgeen waartoe een onzichtbare, gedistribueerde en ‘agile’ organisatie binnen de criminele wereld in staat is, die zich bovendien – per definitie – niet aan de wet hoeft te houden.

Tot slot vat ik de kenmerken samen van een humane benadering van veiligheid in onze steden, rekening houdend met de relatie tussen criminaliteit en armoede, levensomstandigheden, gebrek aan opleiding en ontwrichtende gezinsomstandigheden. Ook het gedeeltelijk falen van politie en justitie om criminelen op he rechte pad te krijgen speelt daarbij een rol.


Acties voor een humane weg naar veilige steden

1. Beschikbaarheid van banen, voldoende inkomen en goede levensomstandigheden voor alle volwassen leden van de samenleving, rekening houdend met individuele voorkeuren.

2. Het aanbieden van kwalitatief goede verplichte scholing voor alle kinderen van twee jaar en ouder, waardoor hun intellectuele, sociale en creatieve ontwikkeling wordt versterkt en voldoende mogelijkheden voor pre-schoolse opvang van kinderen van drie maanden en ouder.

3. Ontwikkeling van een veelzijdige leefomgeving in buurten, die ruime mogelijkheden biedt voor spelen en sociale activiteiten voor alle bewoners, waardoor een bepaald niveau van sociale controle wordt gecreëerd.

4. Niet-agressieve zichtbaarheid van politie in buurten, ter ondersteuning van de leefbaarheid en met een geschoolde blik op opkomend afwijkend gedrag van kinderen (en volwassenen) in samenwerking met relevante instellingen

5. Zichtbaarheid van politie in centrale delen van de stad ondersteund door technologische en niet-discriminerende hulpmiddelen.

6. Het gebruik van technologische hulpmiddelen door politie en justitie, inclusief het gebruik van algoritmen en kunstmatige intelligentie, staat onder toezicht van vertegenwoordigers van de gemeenschap. Deze worden ondersteund door experts die adviseren over de effectiviteit van ingezette en toekomstige apparatuur en de (ongewenste) bij- bijwerkingen.

7. Witteboordencriminaliteit wordt krachtig aangepakt mede om te voorkomen dat deze een alibi wordt voor andere mensen om de wet te overtreden.

8. Gevangenissen bieden humane levensomstandigheden, ook als het beschermen van de samenleving voor recidive een lange periode van hechtenis vereist.

9. De maatschappij investeert het voorkomen dat (jonge) criminelen recidivisten worden, hetgeen veel verder gaat dan alleen het verlenen van taakstraffen.

10. Degenen die schade toebrengen aan openbare en privé-eigendommen zijn altijd verplicht om deze te vergoeden. Terugbetaling vindt plaats in realistische maandelijkse termijnen en de schuld kan worden verminderd in geval van aanhoudend goed gedrag.

11. De organisatie van de politie verandert van een militaire in een moderne publieke organisatie die balanceert tussen individuele verantwoordelijkheid en doelmatige coördinatie van activiteiten.


[1]https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(02)11133-0/fulltext

[2]https://ec.europa.eu/eurostat/statistics-explained/index.php?title=Crime_statistics

[3]https://www.bocsar.nsw.gov.au/Documents/CJB/cjb54.pdf

[4]https://medium.com/@bikomandelagray/when-poverty-becomes-criminality-4c712ac1334e

[5]https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3969807/

[6]https://medium.com/s/freakonomicsradio/abortion-and-crime-revisited-c33c70e2b447

[7]https://www.aeaweb.org/articles?id=10.1257/089533004773563485

[8]https://www.nber.org/papers/w8004

[9]https://www.nber.org/papers/w25863

[10]https://medium.com/s/social-network-theory/social-capital-and-norms-how-we-police-our-networks-9cae2de641d

[11]https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&cad=rja&uact=8&ved=2ahUKEwicz_zJtufjAhUHqaQKHSo5ALEQFjAAegQIABAC&url=http%3A%2F%2Fwww.veiligheidsmonitor.nl%2Fdsresource%3Fobjectid%3D340&usg=AOvVaw3Zf-fGHge0wN-Swy6Q9qqw

[12]http://safecities.economist.com/safe-cities-index-2017

[13]https://dkf1ato8y5dsg.cloudfront.net/uploads/5/82/safe-cities-index-eng-web.pdf

[14]https://www.beesmart.city/solutions/apps-program

[15]https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[16]https://medium.com/@avivash/what-drives-police-to-abuse-power-3d0ec6b4ecf5

[17]https://medium.com/s/story/slavery-and-the-origins-of-the-american-police-state-ec318f5ff05b

[18]https://extranewsfeed.com/all-cops-are-bad-how-modern-police-institutions-negate-moral-responsibility-700629756fa4

[19]https://medium.com/theintercept/here-are-eight-policies-that-can-prevent-police-killings-b94fe8b2bdf3

[20]https://www.prisonpolicy.org/blog/2017/12/28/investigative-reporting-2017/?utm_medium=website&utm_source=archdaily.com

[21]https://www.archdaily.com/920799/documentary-film-explores-how-architects-can-help-reform-the-criminal-justice-system?utm_medium=email&utm_source=ArchDaily%20List&kth=

[22]https://medium.com/upstanders/the-empathetic-police-academy-266e7f47e44b

[23]https://medium.com/embrace-race/black-native-lgbtq-immigrant-and-masa-community-organizers-weigh-in-on-policing-2ece3f7b1483

[24]https://blog.sbo.nl/veiligheid/de-slimme-en-veilige-stad/

[25]https://www.beesmart.city

[26]https://www.mckinsey.com/~/media/mckinsey/industries/capital%20projects%20and%20infrastructure/our%20insights/smart%20cities%20digital%20solutions%20for%20a%20more%20livable%20future/mgi-smart-cities-full-report.ashx

[27]https://www.beesmart.city/solutions/shotspotter

[28]https://www.beesmart.city/solutions/criminal-finder

[29]rio.crimeradar.org/about

[30]ttps://www.beesmart.city/solutions/york-regional-police-yrp-business-intelligence-bi-initiative

[31]https://www.beesmart.city/solutions/glasgow-operations-centre

[32]https://www.mos.ru/en/news/item/20619073/

[33]https://www.ifmpt.de

[34]https://en.wikipedia.org/wiki/Police_surveillance_in_New_York_City#Governance_/_Policy

[35]https://www.brennancenter.org/sites/default/files/analysis/Fact-Check-The-POST-Act-National-Security.pdf

[36]https://web.archive.org/web/20190608190638/https://www1.nyc.gov/assets/adstaskforce/downloads/pdf/ADS-Public-Forum-Comments-NAACP-LDF.pdf

[37]https://www.sfchronicle.com/politics/article/San-Francisco-bans-city-use-of-facial-recognition-13845370.php?psid=4m7j0

[38]http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

[39]https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28

[40]https://www.georgetowntech.org/news-fullposts/2019/5/16/may-16-2019

[41]https://www.facewatch.co.uk