L’algoritmo detective

Polizia predittiva, un software a doppio taglio

di Evgeny Morozov

La nuova frontiera digitale è la prevenzione dei reati, ma comporta il rischio di trasformarci tutti in elementi sospetti

Grazie alla tecnologia, la polizia ha davanti a sé un brillante futuro — e non solo perché adesso può cercare potenziali sospetti su Google. Altre due novità, meno evidenti, le renderanno il lavoro più semplice ed efficace, sollevando però molte questioni spinose in materia di privacy e di libertà civili. Nell’era dei dati disponibili in grande quantità, il lavoro della polizia — come molti altri — viene ripensato, perché ci si aspetta che un’analisi più vasta e approfondita delle informazioni sui crimini del passato, con l’aiuto di algoritmi sofisticati, sia in grado di prevedere i reati futuri. Questo metodo, nato da pochi anni, è conosciuto come predictive policing (polizia predittiva) e molti lo considerano una rivoluzione nel modo di lavorare della polizia. La polizia americana ne è entusiasta e gli europei, a partire dagli inglesi, stanno adeguandosi. Ecco come funziona. Il dipartimento di polizia di Los Angeles — il Lapd — sta usando un software chiamato PredPol: analizza le statistiche pubblicate negli anni passati per reati come il furto, divide l’area da pattugliare in zone, calcola in esse distribuzione e frequenza dei reati, e poi indica le zone da sorvegliare. L’idea che rende attraente questa procedura è che sia molto meglio prevenire un reato che arrivare dopo e dover indagare. I poliziotti non cattureranno più i criminali in azione, ma la loro presenza nel posto giusto al momento giusto servirà da deterrente. Sembra un criterio del tutto logico. Infatti le cinque divisioni di polizia che a Los Angeles utilizzano questo software hanno visto la criminalità diminuire del 13 per cento. Santa Cruz, che pure usa PredPol, ha visto i furti clare di quasi il 30 per cento. Se le «previsioni» di questo tipo hanno un’aria familiare, è perché i loro metodi sono stati ispirati dalle società che operano in Internet. In un articolo uscito nel 2009 sulla principale rivista della polizia, un alto ufficiale del Lapd lodava la capacità di Amazon di «capire i particolari gruppi esistenti tra i suoi clienti e di riuscire a individuare i loro modelli di acquisto», il che consente alla società «non solo di anticipare, ma anche di promuovere o plasmare il comportamento futuro». Così, proprio come gli algoritmi di Amazon consentono di prevedere quali libri probabilmente compreremo nel futuro, algoritmi simili potrebbero dire alla polizia quanto spesso — e dove — alcuni reati potrebbero verificarsi di nuovo. Non è possibile analizzare gli algoritmi di Amazon: sono imperscrutabili e non sono stati sottoposti a controlli esterni. Amazon afferma che la segretezza le permette di rimanere competitiva. Ma non si può applicare la stessa logica alla polizia: se nessuno potrà esaminare gli algoritmi — cosa probabile, il software predittivo sarà creato da imprese private — non sapremo quali pregiudizi e pratiche discriminatorie potrà contenere. Ad esempio, la criminalità tende a verificarsi in quartieri poveri emultietnici. Gli algoritmi — con la loro presunta oggettività — potrebbero legittimare un’analisi ancor più approfondita delle caratteristiche razziali? Nella maggior parte dei regimi democratici di oggi, la polizia deve avere buoni motivi—prove, non congetture— per fermare qualcuno per strada e perquisirlo.Ma, armata di questo software, potrebbe limitarsi a sostenere che sono stati gli algoritmi a dirle di farlo? E come potranno gli algoritmi testimoniare in tribunale? C’è poi il problema dei reati non denunciati. Molti stupri e furti non lo sono. Anche in assenza di denunce, la polizia ha spessomodo di sapere quando qualcosa di anomalo si verifica nel suo quartiere. La polizia predittiva tenderebbe però a sostituire questo tipo di conoscenza diretta con l’ingenua fiducia nel potere delle statistiche. Se per guidare il lavoro della polizia vengono usati solo i dati sui crimini denunciati, alcuni tipi di reato potrebbero non essere mai presi in esame e mai perseguiti. Un’altra nuova tendenza potrebbe rendere il lavoro della polizia più facile e, se combinata con il metodo predittivo, produrre risultati ancor più controversi. Società come Facebook stanno sempre più utilizzando gli algoritmi e la mole di dati disponibile per prevedere quali tra i loro utenti potrebbero commettere dei reati. Funziona così: i sistemi predittivi di Facebook possono individuare certi utenti come sospetti studiando alcuni indizi comportamentali (l’utente invia messaggi solo ai minori di 18 anni? Ha contatti quasi esclusivamente con donne? Usa spesso parole chiave come «sesso» o «appuntamento»?). Lo staff di Facebook potrebbe esaminare quei casi e, se necessario, segnalarli alla polizia. L’agenzia giornalistica Reuters ha recentemente reso noto che Facebook, grazie ai suoi algoritmi predittivi, ha individuato un uomo di mezza età che parlava di sesso con una tredicenne e si accordava per incontrarla il giorno dopo. La polizia ha contattato l’adolescente e ha catturato l’uomo. Non si tratta però solo di algoritmi. Facebook ammette che ricava informazioni dagli archivi delle chat reali che hanno preceduto reali aggressioni sessuali. È difficile mettere in discussione l’applicazione di questi metodi se servono ad arrestare maniaci sessuali che cercano prede tra i bambini. Ma si noti che Facebook può fare qualsiasi tipo di indagine poliziesca: individuare potenziali spacciatori di droga, identificare potenziali trasgressori del copyright, e, sulla scia delle rivolte dello scorso anno in Gran Bretagna, dare un volto alla prossima generazione di facinorosi. La polizia sta già studiando i siti dei social network per captare segni di inquietudine. Ma, a differenza di Facebook, non ha il quadro completo: le comunicazioni private e le azioni «silenziose» — quali link si cliccano e quali pagine si aprono — rimangono invisibili. Facebook, invece, come Amazon con i libri, è a conoscenza di tutto questo — il suo potere predittivo è destinato a essere assai maggiore di quello della polizia. Mentre la polizia ha bisogno di un mandato per accedere ai dati privati di qualcuno, Facebook può esaminare i dati dei suoi utenti quando vuole. Per la polizia potrebbe essere un gran vantaggio se a fare tutto questo lavoro sporco fosse Facebook, dato che il suo sistema investigativo non deve passare attraverso i meccanismi giudiziari. Con una adeguata quantità di dati e gli algoritmi giusti, tutti noi potremmo diventare dei sospetti. Che cosa succederebbe se Facebook ci denunciasse alla polizia prima che avessimo commesso un reato? Dovremmo cercare di capire qual è il nostro reato e passare il resto della vita a tentare di ripristinare la nostra reputazione? E se gli algoritmi sbagliassero? I vantaggi dei metodi di polizia predittiva potrebbero essere reali, ma lo sono anche i pericoli. La polizia deve sottoporre i suoi algoritmi a un controllo esterno ed evitare che si basino su pregiudizi. I siti di social network devono stabilire norme chiare su quanto estendere al loro interno questi metodi di polizia predittiva e fino a che punto tracciare il profilo dei propri utenti. Facebook potrebbe essere più efficace della polizia nel predire i crimini, ma non gli può essere consentito di assumere questo ruolo senza che aderisca alle stesse norme che regolano quel che alla polizia è o non è consentito in una democrazia. Non possiamo aggirare le procedure legali e sovvertire le norme democratiche in nome dell’efficienza. (Traduzione di Maria Sepa)

«Corriere della Sera - suppl. La lettura» del luglio 2012