Pre-crimine nella realtà: i software di “predictive policing” utilizzati dalla polizia americana

Avete capito bene: come in Minority Report… o quasi.

La prima volta che ho sentito parlare di Pre-crimine, anche io ho pensato subito a Minority Report, quel film di Spielberg tanto bello in cui Tom Cruise (un po’ meno bello) fa il “pre-poliziotto” e rimane fregato dallo stesso sistema. Nel film si sfiora il paranormale: a predire i futuri crimini sono tre menti molto particolari, tenere e innocenti, con capacità fuori dal comune. E dove il paranormale nella vita vera non può aiutare, si sa, interviene la tecnologia.

Facendo ricerche sparse scopro che non solo gli Stati Uniti ma anche altri paesi, come Cina o Giappone (l’Italia manco a chiederlo…), si servono di sistemi di Pre-crimine nelle loro stazioni di polizia. I dati vengono calcolati da software di vario genere ed esistono non pochi eclatanti casi in cui tali calcoli hanno condotto ad arresti e risoluzioni di indagini da film di fantascienza.

Tutti sanno che “prevenire è meglio che curare”, è sacrosanto per la medicina e a quanto pare per le forze dell’ordine. Vale quindi la pena fare un piccolo, e pur sempre riduttivo, approfondimento sulla questione… mi viene da pensare, per un motivo su tutti: in quel film di Spielberg le cose non si mettono per niente bene e il sistema di Pre-crimine finisce per essere smantellato per colpa degli ovvi problemi connessi.

Predictive Policing

Pre-crimine

Cercare di identificare specifici pattern nei comportamenti criminali è sempre stata una sfida, anche molto prima della possibilità di utilizzo di software così avanzati. Gli analisti forensi possono spendere innumerevoli ore tra dati, archivi e prove per determinare se un crimine corrisponde a tali pattern o scoprirne di nuovi. Ed è proprio su questo che i software di Predictive Policing (PredPol) si basano in prima battuta: una volta che il pattern è stato individuato è possibile azzardare previsioni utilizzando appunto un approccio analitico.

L’analisi dei pattern ha condotto a sistemi, opera del MIT, come SeriesFinder, basato soprattutto su crimini minori e sui Modus Operandi di scassinatori o rapinatori.

E il sistema cresce in qualità, precisione e raggio di utilizzo ogni anno negli USA, estendendosi all’analisi dei dati di natura più varia. Il dipartimento di Giustizia e il National Institute of Justice hanno, anche di recente, proposto numerose iniziative per supportare la PredPol, attirando non poco l’attenzione dei media.

L’uso di dati statistici non è niente di nuovo per la polizia, in ogni caso. Un pioniere sistema analitico per tenere traccia del crimine, chiamato Compstat, ha fatto la sua prima comparsa nel 1994 a New York e si è presto diffuso un po’ ovunque. E i successi si sono subito fatti sentire: con un calo del tasso di criminalità del 75%. Pur sembrando una percentuale pazzesca e da imputare a numerosi diversi fattori, questo è stato un primo effetto dell’utilizzo della tecnologia nelle analisi forensi.

Ma laddove Compstat aiutava semplicemente a identificare i “punti storici di interesse”, la PredPol usa algoritmi intelligenti per anticipare punti di interesse futuri e i potenziali criminali coinvolti. Software come PredPol, HunchLab e prodotti di IBM, Microsoft e Hitachi analizzano dati dalle fonti statistiche più diverse, dalle previsioni del tempo agli orari di chiusura di locali o scolastici, qualunque tipo di informazione utile che possa condurre a una previsione più o meno precisa di dove un crimine potrà avvenire. Altri software, “offender-based”, quindi con lo scopo di identificare criminali potenziali, utilizzano fattori come precedenti penali, carriere e dati anagrafici o di anamnesi medica per creare dei “profili ad alto rischio”. Sarà poi da valutare l’intervento tramite indagini o sorveglianza speciale.

Pre-crimine

Nonostante il supporto tecnologico costituisca una componente ormai non indifferente, il lavoro dell’analista forense, specialmente per pattern ripetuti di singoli individui o gruppi (le crime series), rimane manuale o “mentale”, per meglio dire. I sistemi automatizzati non hanno ancora la capacità di giungere a livelli di precisione tali da evitare errori, la tecnologia per quanto avanzata non tiene sempre conto di moltissimi fattori.

Proprio qui, utilizzando un’espressione terra terra, “casca l’asino”. Nel film, come in maniera prevedibile nella realtà, un sistema di Pre-crimine per quanto avanzato (e nel caso di Minority Report parliamo di visioni… più accurato di così) porta con sé inevitabili problemi. E se in mente vi stanno venendo proteste come: “oh mio Dio! E la privacy?!”, credetemi, quella è solo l’ultima e la meno disastrosa delle controindicazioni.

Il razzismo e gli errori del Pre-crimine

Uno degli studi più importanti sull’argomento (ma ce ne sono infiniti) è quello di Aaron Shapiro, della Annenberg School for Communication at the University of Pennsylvania (che invito a leggere anche se non esistono traduzioni).

Sono ancora poche le prove che sostengono il funzionamento eccellente della PredPol, dice Shapiro in un articolo per Nature. Ci sono state poche valutazioni indipendenti sulle tecnologie di Pre-crimine finora e nessuna al cento per cento soddisfacente (come fa l’utilizzo di tali software ad essere così diffuso allora?!). Nel 2014 un report sul programma di PredPol, il “non-profit RAND Corporation” di Shreveport, Louisiana, non ha segnalato prove statistiche rilevanti che dimostrassero una diminuzione della criminalità nei distretti in cui l’esperimento era implementato, rispetto ai distretti a programma tradizionale. E questo è solo uno degli esempi.

Da allora l’utilizzo della PredPol ha condotto a disastri sfiorati, come a Chicago, o recentemente in Florida, in cui la polizia aveva utilizzato, e utilizza tuttora, il sistema per prevedere sparatorie nei luoghi pubblici. Seppur identificati i fattori di rischio, questi erano poi stati ignorati dagli agenti e, al contrario, in un paio di casi avevano portato ad arresti impropri e inopportune sopravvalutazioni.

Pre-crimine

Shapiro non parla, tuttavia, solo di errori umani di valutazione.

Molti dati delle forze dell’ordine sono privati o “classified”, bloccati da sistemi a cui gli algoritmi non hanno accesso. Il crimine è, inoltre, un processo complesso in cui intervengono infiniti fattori e variabili che confondono i sistemi di calcolo. Le prove randomiche che di tanto in tanto vengono implementate sono quasi impossibili da organizzare e la maggior parte delle stazioni di polizia non ha nemmeno il tempo di fare controlli, visto che in media uno sceriffo, o chi per lui, resta in carica per soli tre anni.

L’effetto collaterale più interessante è ancora un altro, dice Shapiro. Gli algoritmi utilizzati per il Pre-crimine conducono, con criteri che in parte hanno una spiegazione ben precisa, a spiacevoli “imparzialità scientifiche”. Non avendo i dati e i relativi calcoli accesso pubblico esiste, infatti, la possibilità per la polizia di puntare il dito sempre su certe aree o certi gruppi, “target-tando” in maniera sproporzionata determinate categorie. E anche in questo caso non è solo l’essere umano a fare l’errore, ma gli algoritmi stessi.

I dati sono pur sempre raccolti da agenti in carne e ossa, che possono usare criteri discrezionali imparziali e obiettivi come no e di conseguenza corrompere i sistemi di calcolo alla base. E per quanto tali decisioni possano essere dettate dall’esperienza, un calcolo analitico si basa su ciò che ha e non tiene conto di altro, di sfumature, valutazioni caso per caso o eccezioni.

Pur non avendo a che vedere con tematiche razziste, ricordo che il problema del personaggio di Cruise in Minority Report partiva proprio da un’eccezione, da una valutazione ibrida e imprecisa che aveva portato al disaccordo dei tre sistemi precognitivi. Quindi incrociando calcoli e sistemi di valutazione le cose si complicano ulteriormente, a questo punto anche lasciando perdere la fantascienza cinematografica.

Pre-crimine

Shapiro fa notare che molti sistemi cercano di eludere il problema degli algoritmi razzisti utilizzando soltanto crimini segnalati pubblicamente come rapine, scassinamenti, furti e omicidio, piuttosto che atti di vandalismo, guida in stato di ebbrezza o vendita di sostanze illegali, registrati dagli agenti di polizia. Ma dato che le comunità di immigrati o le minoranze segnalano i crimini con minore incidenza, la polizia finisce per prenderle meno in considerazione e di conseguenza risultare faziosa e prevenuta quando è essa stessa a raccogliere e calcolare i dati. Anche con l’apporto di sistemi di monitoraggio appositi, come body cameras e GPS, la tentazione rimane alta e una percentuale di rischio di pregiudizi comunque inevitabile.

In conclusione, in qualunque campo si decida di operarla, l’analisi precognitiva ha sempre il suo margine di errore e le sue inevitabili corruzioni, dovute a quanto resta da fare manualmente agli esseri umani. Se implementati con efficacia i sistemi di Pre-crimine portano a una diminuzione considerevole del tasso di criminalità e a benefici economici non indifferenti. Eppure molti esperti del settore analitico-tecnologico ritengono che i tempi siano ancora troppo acerbi per farvi cieco affidamento. Il governo (non solo statunitense), politici e ministri paiono sempre entusiasmarsi molto alla prospettiva di garantire “città più sicure o con zero crimini” ed è naturale che per questo si siano buttati fra le braccia da cyborg spielbergiani del Pre-crimine. Da esemplari e innocenti cittadini, speriamo solo di non dover presto ricorrere a improbabili trapianti di bulbi oculari e inseguimenti con macchine volanti.

Su qdss.it puoi trovare tanti altri approfondimenti sul mondo della tecnologia, come questo. Vale la pena dare un’occhiata, no?

Laura Collesano

Una vita all'insegna della dipendenza inguaribile da storie. Sono drogata da circa 27 anni e mai stata "sobria", forse neanche per un giorno. Che sia in forma filmica, cartacea o videoludica amo la narrazione e amo raccontare. Scrivo soprattutto di questo e altra mia grande passione: i dibattiti infiniti e più o meno calmi su personaggi, snodi narrativi, sotto testi... Basta vah ;)