Intelligenza artificiale, quali sono i problemi etici all’interno della Silicon Valley

Gli algoritmi hanno un ruolo sempre maggiore nella giustizia, nell’istruzione e in altri campi. Le aziende e i programmi accademici, che si occupano di sviluppare queste tecnologie, riflettono le diseguaglianza nel mondo reale. 

Quando l’Università di Stanford ha annunciato la creazione di un nuovo istituto per  l’intelligenza artificiale,  ha ì dichiarato che  i progettisti di Intelligenza artificiale  sarebbero stati ampiamente rappresentativi dell’umanità” e ha rivelato i nomi di  120 docenti e leader tecnologici, che avrebbero collaborato all’iniziativa.
Alcuni hanno subito notato che nessun membro di questo gruppo “rappresentativo” sembrava essere nero. Il contraccolpo è stato rapido, innescando una discussione sulla grave mancanza di diversità nel campo dell’IA. Ma i problemi di rappresentanza vanno ben oltre l’esclusione e il pregiudizio nel mondo accademico.
Le maggiori società tecnologiche hanno lanciato dei comitati “etici” sull’IA, che non solo mancano di diversità, ma a volte includono persone potenti con interessi che non si allineano con la missione etica. Il risultato è quello che alcuni descrivono come un sistematico fallimento nel prendere sul serio le preoccupazioni etiche in materia di IA, nonostante la diffusa evidenza che algoritmi, riconoscimento facciale, apprendimento automatico e altri sistemi automatizzati replicano e amplificano i pregiudizi e le pratiche discriminatorie.
Questa settimana, Google ha anche annunciato un “consiglio consultivo esterno” per l’etica dell’IA, tra cui Dyan Gibbens, il CEO di una società di droni, e Kay Coles James, il presidente di un thinktank di destra che in passato ha attaccato diverse monoranze.

Per le persone direttamente danneggiate dalla rapida e largamente non regolamentata diffusione dell’IA nel sistema giudiziario, nell’istruzione, nel settore finanziario, nella sorveglianza governativa, nei trasporti e in altri ambiti della società, le conseguenze possono essere disastrose.
“Gli algoritmi determinano chi ottiene prestiti per la casa e chi no, chi va in prigione e chi no, chi va a quale scuola e perché “, ha riferito Malkia Devich Cyril, direttore esecutivo del Center for Media Justice. “Ci sono un rischio reale e un pericolo reale per la vita delle persone e per la loro libertà”.
Le università e i comitati etici potrebbero svolgere un ruolo fondamentale nel contrastare queste tendenze. Ma raramente lavorano con persone che sono state colpite dalla tecnologia, ha detto Laura Montoya, la co-fondatrice e presidente della Latinx in AI Coalition: “Una cosa è osservare veramente i pregiudizi e riconoscerli, ma è una cosa completamente diversa è comprenderli attraverso  prospettiva personale e attraverso chi li per tutta la vita”.

Vai qui per l’articolo completo.

 

Fonte: Guardian.com | di Sam Levin

© 2017-2018 Associazione Privacy Italia - C.F. 91039930192 - P. Iva 01685370197 - Informativa Privacy

Con il sostegno di:

Fondazione di Sardegna Fondazione Cariplo
Positive SSL