oktober 1, 2020

Amsterdam openbaart algoritmes

Amsterdam is samen met Helsinki de eerste stad ter wereld die de gebruikte algoritmes in kaart brengt en deelt met haar burgers.

Amsterdam openbaart algoritmes

Amsterdam heeft een wereldprimeur. De stad is gestart met een algoritmeregister waarin de algoritmes waar de gemeente gebruik van maakt in vermeld staan. Nog niet alle algoritmes zijn toegevoegd, omdat het het register nog in een publieke betafase verkeerd. Uiteindelijk moet alles in het register komen te staan.

Het register is niet beperkt tot oppervlakkige informatie over de de bedoeling en werking van de verschillende algoritmes. Er wordt ook gedetailleerde technische informatie vrijgegeven. Dat is niet voor niets. De gemeente hoopt namelijk door feedback de algoritmes te verbeteren en aan te scherpen.

De eerste drie algoritmes staan online

Momenteel zijn drie algoritmes op de website uitgewerkt. Via het register kan men inzage krijgen in de werking van algoritmes bij parkeercontrole, meldingen openbare ruimte en vakantieverhuur woningsfraude.

Onder de gedetailleerde informatie geeft de gemeente onder andere inzicht in welke programmeerregels er worden gevolgd en welke waarborgen er zijn ingebouwd om te zorgen dat de risico's op bijvoorbeeld discriminatie beperkt blijven.

Inzicht in afweging algoritme door gebruik SHAP-methodiek

Neem bijvoorbeeld het woningfraude-algoritme. Dat gebruikt een kansboom-principe om een gemiddelde te bepalen. Dit gemiddelde wordt dan vervolgens ingezet om een verwachting te maken van de kans dat een woning illegaal verhuurd wordt. Dit algoritme gaat pas werken, zodra er een melding binnen komt van mogelijke illegale vakantieverhuur.

De afwegingen die door dit zogenoemde random forest regressie algoritme worden gemaakt, zijn inzichtelijk door gebruik te maken van de SHAP-methodiek. Hiermee wordt duidelijk welke indicatoren hebben bijgedragen aan de voorspelling zodat medewerkers een afgewogen besluit kunnen nemen aan de hand van de beschikbare data.

Om te voorkomen dat een complex algoritme als deze te specifiek wordt en niet meer generiek inzetbaar is, is goed onderzocht hoeveel lagen het model nodig heeft, stelt de gemeente op de website.

Algoritme bepaalt risico, toezichthouder neemt besluit

Data over eerdere illegale vakantieverhuur staat aan de basis van het algoritme. Het algoritme neemt zelf geen besluit, maar helpt medewerkers van toezicht en handhaving in het bepalen waar de kans op fraude het grootst is. Die meldingen kunnen dan als eerste worden onderzocht. De medewerker krijgt een overzicht op welke gronden het risico op fraude door het algoritme laag of hoog wordt ingeschat. De toezichthouder bepaalt uiteindelijk, na verder onderzoek, of er sprake is van woonfraude. Voorlopig heeft een mens dus nog steeds het laatste woord.