Immaginiamo una città con quartieri tranquilli e altri quartieri più a rischio delinquenza. Immaginiamo di scrivere un software per computer che analizza i casi e le tipologie di crimine degli ultimi dieci anni nelle varie zone della città, per poi fornire alla polizia indicazioni affidabili di dove avverrà, con grande probabilità, il prossimo delitto. In pratica quali sono le mappe del crimine, le zone classificate come sospette e ad alta probabilità di delinquenza. In questo modo la polizia distribuirà ogni settimana agenti e pattuglie in modo mirato. Immaginiamo che la cosa funzioni e diminuiscano i reati (del 25%). Sono tutti contenti (meno i criminali).
Immaginiamo ora che un ragazzo venga arrestato perché, avendo qualche precedente penale, sostava con atteggiamento sospetto ad una certa ora di un certo giorno in una delle zone di massima pericolosità criminale. Immaginiamo che questo ragazzo venga processato non per aver compiuto un crimine, ma solo perché aveva un’alta probabilità di stare per compiere un reato (ricordate il film Minority report?).
Immaginiamo infine un processo veloce. Il giudice decide di punire il ragazzo per la somma dei suoi precedenti, per il suo atteggiamento provocatorio e per l’alto rischio di ripetizione del crimine. Al momento di decidere l’entità della pena, per risparmiare il tempo necessario a consultare la casistica dei processi e i precedenti dell’imputato, il giudice si affida a un software automatico (un algoritmo) che, dopo una veloce elaborazione, “suggerisce” l’entità della pena e le condizioni per concedere la libertà su cauzione. Sono tutti contenti (tranne il condannato).
Sareste d’accordo su questa nuova forma di giustizia?
Non stiamo parlando del futuro, ma del presente. L’uso di algoritmi come questo si va diffondendo nei tribunali e nelle forze di polizia statunitensi. Questi algoritmi, tra l’altro, “imparano dall’esperienza” in quanto si basano su archivi contenenti tutte le indagini, i processi e le leggi degli Usa, quindi sono molto più informati ed “intelligenti” degli sceriffi e dei giudici in carne ed ossa. Soprattutto non prendono lo stipendio e non fanno sciopero. L’unica cosa che gli manca è la misericordia e il buon senso.
Sareste d’accordo di essere condannati da un algoritmo invece che da un magistrato?
Le associazioni che si battono per i diritti civili stanno duramente contestando questo modo di procedere, soprattutto perché nessuno può controllare il modo con cui un certo algoritmo decide l’entità di una condanna o di una cauzione. Le aziende private che li sviluppano, infatti, non ne rivelano il funzionamento perché è un segreto industriale. Ma queste aziende non fanno parte della giustizia pubblica americana.
Stiamo delegando anche la giustizia ai privati? Il primo ricorso contro queste tecniche è stato da poco respinto dalla Corte suprema del Winsconsin.
