Amnesty roept Heerlen op te stoppen met AI-project

Amnesty International roept de gemeente Heerlen op om te stoppen met Pulse-Twin, een AI-project waarmee de gemeente wil onderzoeken of kunstmatige intelligentie kan helpen bij het voorspellen van criminaliteit en overlast. Dat meldt Binnenlands Bestuur.

Pulse-Twin moet een digitale 3D-weergave van Heerlen-Noord worden. Daarin worden verschillende gegevens over de stad samengebracht, zoals informatie over gebouwen, straten, leefbaarheid en veiligheid. Met behulp van AI wil de gemeente patronen herkennen en mogelijke risico’s in beeld brengen. Voor het project is vijf miljoen euro Europese subsidie beschikbaar. De gemeente wil met de pilot onderzoeken of de technologie kan helpen bij het verbeteren van de leefbaarheid en veiligheid.

Mensenrechtenorganisatie betwist effectiviteit
Amnesty maakt zich zorgen over de mogelijke gevolgen van zogenoemde predictive policing. Volgens de mensenrechtenorganisatie is onvoldoende aangetoond dat dergelijke systemen effectief zijn. Ook bestaat volgens Amnesty het risico dat bepaalde wijken of groepen inwoners vaker als risicovol worden aangemerkt.

Een mogelijk probleem is volgens Amnesty dat een wijk waarin extra wordt gecontroleerd ook meer geregistreerde incidenten kan opleveren. Die gegevens kunnen vervolgens weer worden gebruikt om dezelfde wijk als risicogebied aan te merken.

Geen gezichtsherkenning
De gemeente Heerlen zegt dat het project zorgvuldig wordt opgezet. Volgens burgemeester Roel Wever worden alleen openbare en algemeen beschikbare gegevens gebruikt. Het systeem is volgens de gemeente niet bedoeld voor gezichtsherkenning of het volgen van individuele inwoners.

Maastricht University is betrokken bij de juridische en ethische beoordeling van het project. Ook wordt gekeken naar de privacyrisico's. De gemeente heeft aangegeven dat de pilot wordt beëindigd als blijkt dat de toepassing niet verantwoord is. Amnesty vindt dat onvoldoende en roept Heerlen op het project helemaal te stoppen.