«Storbritannia utvikler verktøy for å «forutsi drap» – skal identifisere personer som mest sannsynlig vil drepe» er ikke slagordet til en ny Minority Report-film, men faktisk tittelen på en nyhetsartikkel fra The Guardian.
Er 2002-filmen i ferd med å bli virkelighet?
Det er en organisasjonen for sivile rettigheter, Statewatch, som oppdaget programmet via «Freedom of Information Act» etter at en innsynsbegjæring ble godkjent, noe som minner om denne episoden med Apple i samme land. Statewatch publiserte saken 31. mars, men ble ikke plukket opp av The Guardian før i går.
Et britisk myndighetsprosjekt har avslørt utviklingen av et prediksjonsverktøy som analyserte data om mellom 100 000 og 500 000 personer. Verktøyet hadde som mål å kartlegge så mye som mulig om enkeltindivider, inkludert svært sensitive opplysninger som psykisk helse, selvmordstanker og andre personlige forhold.
The Guardian:
Annonse
Den britiske regjeringen utvikler et «mordprediksjonsprogram» som de håper kan bruke personopplysninger om personer kjent for myndighetene til å identifisere de som mest sannsynlig vil bli mordere. Det påstås at forskere bruker algoritmer til å analysere informasjon om tusenvis av mennesker, inkludert ofre for kriminalitet, mens de prøver å identifisere de som har størst risiko for å begå alvorlige voldelige forbrytelser.
En stor operasjon
Prosjektnavnet ble endret fra «drapsprediksjonsprosjektet», som tatt rett ut fra Tom Cruise-filmen fra 2002, men har nå fått navnet «deling av data for å forbedre risikovurdering,» rapporterer avisen. Ifølge The Guardian håper Justisdepartementet at prosjektet vil bidra til et tryggere samfunn, samtidig som mange er redde en dystopisk samfunn der staten overvåker alt og alle.
Statewatch avslører at datane stammer blant annet fra Greater Manchester Police og Politiets nasjonale datasystem, og inkluderer mistenkte, vitner og savnede personer. Det er også flere grupperinger som samarbeider, inkludert Justisdepartementet, Innenriksdepartementet og politienhetene i Manchester og London, «og er en del av regjeringens “datascience”-satsing. Målet er å utvikle modeller som kan vurdere risiko for fremtidige drap,» avslører organisasjonen.
Storbritannia har allerede vært i søkelyset for forsøk på å få tilgang til iMessage- og iCloud-data globalt.
Meldingen fra Sofia Lyall, forsker hos Statewatch, er klar: programmet måopphøre:
«Justisdepartementets forsøk på å bygge dette drapsprediksjonssystemet er det siste skremmende og dystopiske eksempelet på regjeringens intensjon om å utvikle såkalte ‘forbrytelsesprediksjonssystemer’.
Gang på gang viser forskning at algoritmiske systemer for å ‘forutsi’ kriminalitet er grunnleggende mangelfulle. Likevel fortsetter regjeringen å presse på for AI-systemer som skal profilere mennesker som kriminelle før de har gjort noe som helst.
Denne nyeste modellen, som baserer seg på data fra vårt institusjonelt rasistiske politi og Innenriksdepartementet, vil forsterke og forverre den strukturelle diskrimineringen som ligger til grunn i det strafferettslige systemet. Som lignende systemer, vil det programmere inn skjevheter mot rasialiserte og lavinntektsgrupper. Å bygge automatiserte verktøy for å profilere mennesker som voldelige kriminelle er dypt uetisk, og bruken av så sensitive data om psykisk helse, avhengighet og funksjonsnedsettelser er svært inngripende og alarmerende.
Justisdepartementet må umiddelbart stanse videre utvikling av dette drapsprediksjonsverktøyet. I stedet for å bruke penger på tvilsom og rasistisk AI og algoritmer, bør regjeringen investere i reelle velferdstjenester. Å kutte i velferden samtidig som man investerer i teknologiske ‘quick fixes’ vil bare svekke folks trygghet og livskvalitet ytterligere.»
