Sicurezza e democrazia. I rischi della “Polizia Predittiva”

La Polizia Predittiva, con l’uso dell’Intelligenza Artificiale per prevedere i rischi di reati, si intreccia con il tema della diversità culturale e dell’inclusione.

Il tema, infatti, chiama in causa l’addestramenti di modelli di IA su dati che già criminalizzano lo “straniero”, il “diverso” e chi è in condizioni di disagio. E viene tenuto sotto controllo ben più dei cosiddetti “colletti bianchi”.

Un algoritmo – ovvero un insieme di istruzioni codificate – non dubita. Un investigatore dovrebbe, di fronte alla complessità dei gruppi umani e dei comportamenti.

In un delitto di coppia, si guarda per primo a chi stava accanto alla vittima. È una scorciatoia che ogni investigatore conosce. Spesso funziona.

Quando non funziona, produce errori. Quelli commessi nelle indagini di Garlasco – con l’omicidio di Chiara Poggi (agosto 2017) – bruciano sulla pelle di noi cittadine e cittadini.

Ora immaginiamo quella scorciatoia codificata dall’Intelligenza Artificiale e applicata in mille altri casi. Il sistema non si stanca e non ha dubbi.

È il tema di un articolo sul magazine di Corte&Media.

Polizia Predittiva e riconoscimento facciale spostano l’attenzione dalla colpa provata al rischio ipotizzato. In gioco c’è la presunzione di innocenza.

Nessuno chiede di rifiutare gli strumenti digitali. Serve sapere cosa c’è dentro. Un algoritmo è una ricetta di cucina, e a ogni ricetta si possono fare tre domande:

• Gli ingredienti: da dove vengono i dati?
• Le dosi: quali errori si tollerano, e a carico di chi?
• Il cuoco: chi risponde? Chi può contestare e correggere?

Una mappa del rischio può aiutare a distribuire le risorse. Non può decidere, da sola, chi merita un controllo invasivo.

Se lavori con le parole, le persone o la giustizia: quale di queste tre domande porteresti per prima nel tuo lavoro?

L’articolo lo trovi qui: Polizia predittiva e IA: il rischio per la presunzione di innocenza