L'algoritmo di KeyCrime è diverso dagli altri software che cercano di prevenire il crimine, sotto accusa per le loro limitazioni. Ce lo racconta il suo ideatore
Un quadrato rosso si accende sul display in dotazione alla volante della polizia, indicando in quale area della città e in che fascia oraria è più probabile che venga compiuto un crimine. Una previsione statistica effettuata analizzando migliaia di dati – dove sono stati compiuti i crimini più recenti, quando, in che circostanze, in quali condizioni meteo e altro ancora – e mettendo all’opera gli algoritmi di machine learning.
Le statunitensi PredPol, HunchLab, Palantir; la tedesca Precobs e molte altre funzionano – in estrema sintesi – in questo modo: sfruttando la cosiddetta hotspot analysis per segnalare alla polizia le aree calde della città. Un meccanismo che ha sollevato parecchie perplessità sulla sua effettiva utilità: se in una zona vengono segnalati più crimini – e di conseguenza viene inviata più polizia – inevitabilmente verranno individuati ancora più crimini; rendendo quella stessa zona, di conseguenza, ancora più soggetta a controllo.
Una sorta di circolo vizioso della polizia predittiva che – come sottolineato da The Verge – rischia di essere poco efficace, di lasciare completamente scoperte altre zone della città e di mettere sotto maggiore pressione determinate comunità, rafforzando il timore che questi algoritmi possano esasperare i pregiudizi già presenti nella società.
L’eccezione italiana: KeyCrime
Tutti i software di polizia predittiva funzionano in questo modo. Tutti, tranne uno: l’italiano KeyCrime, ideato dall’ex assistente capo della Questura di Milano Mario Venturi, il quale – dopo aver lavorato per decenni nella polizia – ha intrapreso una nuova carriera da imprenditore, trasformando il suo software in una startup. “Ho iniziato a lavorarci nel 2004. Quattro anni più tardi è iniziata la sperimentazione, quando l’allora questore decise di impiegare il mio sistema di analisi dei crimini per contrastare le rapine in ambito commerciale”, racconta Venturi a Wired.
Il 2008 è stato infatti un anno difficile per i negozianti. Solo nella città di Milano ci furono 664 rapine (banche escluse). “È un tipo di reato che ha un impatto fortissimo sulla cittadinanza, il cui danno maggiore non è tanto nel crimine contro il patrimonio, ma in quello contro la persona”, prosegue l’ex poliziotto. “Ho visto gestori chiudere la loro attività perché, dopo aver subito una rapina, vivevano nel terrore. Trattandosi di un crimine particolarmente diffuso e odioso, si è deciso di sperimentare il software in quell’ambito. Nel primo anno di sperimentazione siamo riusciti a individuare le responsabilità del 47% delle rapine compiute”.
È un dato che continua a crescere negli anni e che oggi ha raggiunto il 60%. “Numeri che non hanno eguali a livello mondiale”, afferma Venturi, e che hanno garantito a KeyCrime partnership con realtà come Ibm, validazioni scientifiche da parte di istituzioni come la Essex University o il National Bureau of Economic Research di Boston e l’ambizione di diffondere questo software – che per il momento è utilizzato solo nella provincia di Milano, e di cui a brevissimo sarà pronta la nuova versione – a livello globale. Tutto questo, facendo affidamento anche su 1,2 milioni di euro di investimenti forniti dalla società di venture capital Oltre, dal socio investitore Sdg Group e dall’imprenditore Giorgio Gandini.
Il ruolo del crime linking
Ma cos’è che differenzia KeyCrime dagli altri software di polizia predittiva? “L’idea è nata analizzando, per lavoro, una montagna di fascicoli inerenti ai vari crimini, in cui i dati erano raccolti malamente ma che contenevano comunque informazioni che avrebbero permesso di ipotizzare dietro quali crimini, seppur avvenuti in tempi e luoghi diversi, ci fosse la stessa mano”, racconta il fondatore di KeyCrime.
Dietro a centinaia di rapine, infatti, non ci sono centinaia di rapinatori, ma qualche decina. Invece di utilizzare la hotspot analysis per prevedere in quale area della città potrebbero avvenire dei crimini (con tutti i limiti già evidenziati), non sarebbe meglio sfruttare un software per capire quali crimini vengano compiuti dagli stessi rapinatori e prevedere dove, come e quando questi stessi rapinatori compiranno le loro prossime azioni?
È questa la caratteristica fondamentale di KeyCrime, che analizza migliaia di dati (dove si sono compiute le rapine, a che ora, in che modo, come si sono comportati i rapinatori, che mezzi e armi hanno usato, come erano vestiti e molto altro ancora) per mettere in correlazione diversi crimini e determinare quali sono stati compiuti dalla stessa persona o gruppo di persone. È il crime linking, quindi, l’aspetto fondamentale del software ideato da Mario Venturi; che permette di segnalare le serie criminali effettuate dagli stessi soggetti e prevedere dove si svolgeranno le prossime azioni.
Dopo aver individuato una serie di furti compiuti in una farmacia, per esempio, KeyCrime è in grado di prevedere statisticamente quando e in quale farmacia si potrebbe compiere la prossima rapina. “Questo è l’aspetto più scenico, che attrae di più l’attenzione. Ma senza il primo passaggio, senza l’algoritmo che ci permette di astrarre la serie criminale, non potremmo sviluppare questa capacità predittiva”, prosegue Venturi. Un altro aspetto fondamentale del crime linking è che consente – dopo il lavoro di indagine dei procuratori – di imputare a un rapinatore la sua intera serie criminosa (e non solo l’evento che ha portato all’arresto) e di ottimizzare il lavoro della polizia; facendo sì che a occuparsi di un’intera serie di crimini sia un unico ufficio.
Quante delle previsioni di KeyCrime su un crimine futuro si avverano? “Questo è un dato che non forniamo e che personalmente considero poco importante”, replica Venturi. “Quel che conta è la riduzione dei crimini, che ha raggiunto il 50%. Una percentuale che rappresenta un caso unico in Italia e che è confermata da analisi indipendenti basate su dati Ossif”.
L’utilizzo del crime linking ha però un altro risvolto importante: “Noi non criminalizziamo le aree, come invece può avvenire con l’utilizzo degli hotspot. Noi poniamo la nostra attenzione solamente sull’autore o sugli autori dei crimini che abbiamo individuato e sugli obiettivi a rischio”, spiega Venturi. Una precisazione importante, che può ridurre ampiamente il pericolo che questi strumenti di polizia predittiva si trasformino in un via libera tecnologico per sottoporre a controlli indiscriminati chi magari ha la sola colpa di vivere nelle zone meno sicure delle città o di passeggiare in un quartiere segnalato dal software.
KeyCrime, a differenza di altri sistemi (che vi hanno rinunciato in seguito a numerose polemiche, che hanno mostrato come l’utilizzo di questi algoritmi possa causare discriminazioni contro i soggetti più deboli della società), archivia e utilizza anche i dati relativi all’etnia del rapinatore. “A livello di indagine, le informazioni sull’etnia di chi ha compiuto i crimini sono fondamentali; se gli sviluppatori di alcuni software hanno deciso di non raccogliere questi dati, mi vengono dei dubbi sulla bontà del loro software”.
I rischi della polizia predittiva
Per chiarire questo punto fondamentale, è utile fare un esempio. Un software come PredPol potrebbe indicare che in un quartiere di Milano, a una certa ora e in base ad altri fattori (comprese le condizioni atmosferiche), è possibile che si verifichino violenze a opera magari di una certa minoranza etnica. Questo sistema rischia di provocare un eccesso di controlli e perquisizioni su persone che hanno la sola colpa di essere della stessa etnia di quella indicata dal software. Una conseguenza insopportabile (che, per ovvie ragioni, non può invece avvenire nei confronti della maggioranza etnica) che ha portato alcuni software a escludere dal database le informazioni relativa all’etnia.
KeyCrime, lavorando sul profilo degli autori di una serie criminale e sui luoghi precisi dove potrebbero colpire ancora, riduce effettivamente questo rischio; fornendo un appoggio molto più circostanziato alla polizia di quanto non sia l’indicazione di quale area pattugliare. “Noi conosciamo molte caratteristiche della persona che stiamo cercando”, prosegue Venturi. “Sappiamo, per esempio, che gira su un motorino bianco, che è alto 1.82, di corporatura robusta e anche di che etnia è. In alcuni casi, abbiamo anche una sua immagine. Di conseguenza, la polizia non ferma le persone indiscriminatamente, ma solo quelle che corrispondono al profilo. Inoltre, i rapinatori solitamente vengono bloccati appena prima di compiere la rapina, quando sono già con la pistola in mano, o addirittura subito dopo”.
Nonostante le valide rassicurazioni sul funzionamento dell’algoritmo di Venturi, un dubbio rimane: non sarebbe il caso che un algoritmo con compiti di tale responsabilità, e che maneggia informazioni così delicate, fossero trasparenti e analizzabili dall’opinione pubblica? “Non ce n’è bisogno”, conclude Venturi. “La prevenzione nel nostro caso è mirata: il software ti propone solo il crime linking e la predizione dei prossimi obiettivi. KeyCrime inoltre non ha valenza scientifica in sede processuale. Il nostro algoritmo è parte di un processo che segue un iter giudiziario normale e in cui è la polizia a decidere se e come utilizzare le informazioni che le forniamo. KeyCrime è un tassello importante di un processo investigativo, ma l’ultima parola dev’essere sempre dell’uomo”.
Nessun commento:
Posta un commento