Quando, lo scorso mese, il presidente della Corte Suprema americana John G. Roberts Jr. ha visitato l’Istituto Politecnico di Rensselaer qualcuno gli ha fatto una domanda molto particolare, dal sapore fantascientifico.

“Immagina un giorno in cui macchine intelligenti, guidate da intelligenze artificiali, aiuteranno i giudici a decidere?”, ha chiesto il presidente del college nello stato di New York, Shirley Ann Jackson.

La risposta è stata più sorprendente della domanda. “Quel giorno è già arrivato”, ha detto Roberts Jr.

Il riferimento, forse, era al caso di un uomo del Wisconsin, Eric L. Loomis, condannato a sei anni di carcere; le accuse si basavano in parte su un’elaborazione di rischio fatta da un software proprietario di una società privata. Il signor Loomis sostiene che il suo diritto ad un processo equo sia stato violato poiché il giudice che lo ha condannato ha basato la sua decisione su di un rapporto generato da un algoritmo segreto; Loomis non ha avuto l’opportunità di esaminare l’algoritmo o di contestare i risultati.

Nel mese di marzo, dopo che il sistema giudiziario si era incuriosito sul caso di Loomis, i giudici hanno chiesto al governo federale di presentare una breve relazione sul caso.

La decisione sul caso di Mr. Loomis è stata prodotta con l’aiuto di un software denominato Compas, venduto da Northpointe Inc.

Leggi l’articolo originale Sent to Prison by a Software Program’s Secret Algorithms