Big Data e Privacy. Strapotere dell’algoritmo, una minaccia per le democrazie

L’economia fondata sui dati ci espone a nuovi rischi, aumenta la nostra vulnerabilità e lo strapotere degli Over the top (OTT) i giganti del web che raccolgono, possiedono e controllano i nostri dati personali e sanno tutto di noi, indebolisce le nostre democrazie. Il rischio è quello di consegnare tutto il controllo e il potere di condizionamento delle scelte personali – dalla finanza, alla genetica alla realtà aumentata all’orientamento dei gusti anche politici delle persone – ad un numero esiguo di grandi web company Usa (in primis Google, Amazon, Apple, Facebook, Microsoft).

L’impatto dei Big Data sull’organizzazione sociale e i processi decisionali di persone e aziende (quanto delle nostre decisioni è dettato da un algoritmo?) è dirompente e apre nuovi scenari etici su molteplici fronti, dall’intelligenza artificiale alla genomica, passando per il ruolo della rete nel contesto politico e nell’orientamento del voto. Questi i temi caldi discussi oggi al convegno ‘Big Data e Privacy. La nuova geografia dei poteri’,  in occasione della Giornata europea dei Dati personali, a Roma presso la gremita Aula dei gruppi Parlamentari della Camera promossa dal Garante per la Privacy al quale hanno partecipato Antonello Soro, Presidente del Garante per la protezione dei dati personali; Anna Finocchiaro, ministro per i rapporti con il Parlamento che ha chiuso l’evento; le moderatrici Augusta Iannini, Giovanna Bianchi Clerici e Licia Califano (componenti dell’Autorità); Franco Bernabè, Presidente dell’istituto centrale delle banche popolari (Icbpi) già presidente di Telecom Italia; il senatore Giulio Tremonti, già ministro dell’Economia; il politologo Ilvo Diamanti, presidente dell’Istituto superiore per le industrie artistiche (ISIA) di Urbino; il professor Enrico Giovannini, economista già presidente dell’ISTAT; Diego Piacentini, Commissario straordinario del Governo per l’attuazione dell’Agenda digitale, senior vice president di Amazon in aspettativa; Stefano Ceri, docente presso il Politecnico di Milano, direttore del Dipartimento Elettronica, Informazione e Biongegneria (DEIB).

 Soro: ‘Regolazione necessaria, ma non sufficiente’ (per bilanciare lo strapotere degli OTT)

Una buona regolazione “è necessaria”, ha detto il presidente Antonello Soro (qui il testo integrale del suo intervento) ma non è sufficiente per affrontare la nuova epoca dei Big Data, nella quale un numero esiguo di aziende, gli Over the top, possiedono i dati personali di tutti: gli OTT dispongono di “un patrimonio di conoscenza gigantesco e di tutti i mezzi per indirizzare la propria influenza verso ciascuno di noi, con la conseguenza che un numero sempre più grande di persone – tendenzialmente l’umanità intera – potrà subire condizionamenti decisivi. Esse detengono un potere che si affianca – sin quasi a sopraffarlo – alla tradizionale autorità statuale e che diversamente da questa è meno visibile e prescinde dalla legittimazione e dal circuito della responsabilità”.

 Le nostre democrazie più deboli

 “Le nostre democrazie – ha aggiunto Soro – appaiono più deboli. Gli over the top hanno acquisito poteri che assumono sempre di più una caratura sociale e che finiscono per concorrere con il diritto che regola le relazioni tra gli Stati. Si pensi al progetto di Google, volto a contrastare il rischio di radicalizzazione online, elaborando e offrendo contenuti dissuasivi da propositi violenti con una contro narrazione: funzione ‘rieducativa’ tipicamente espressiva dell’autorità pubblica”. Per Soro, ci sono dunque “degli interrogativi che non possiamo eludere”. “Dobbiamo chiederci quante delle nostre decisioni siano fortemente condizionate dai risultati che un qualche algoritmo ha selezionato per noi e ci ha messo davanti agli occhi”, ha affermato Soro. “Un libro, un certo viaggio, una clinica cui affidare la salute, un investimento dei risparmi, la scelta di un dipendente da assumere, un giudizio politico, la stessa fiducia nei confronti di una persona appena incontrata, della quale chiediamo subito informazioni cliccando sui motori di ricerca e la cui affidabilità siamo pronti a misurare su quanto appreso in rete”.

“Dobbiamo riflettere sugli attuali scenari – ha continuato Soro – interrogarci sugli effetti prodotti da queste trasformazioni per comprendere le conseguenze sulle nostre vite indotte dalle decisioni automatizzate. I big data – ha concluso il presidente dell’Authority – sono diventati un fattore strategico nella produzione, nella competizione dei mercati, nelle innovazioni di importanti settori pubblici, nella struttura funzionale delle nostre abitazioni, nella normalità della nostra vita quotidiana”.

Un processo che vale anche sul terreno politico ed elettorale, basti pensare al crescente fenomeno di propaganda politica tramite fake news.

In questo contesto, qual è il ruolo degli Stati e che potere resta alla territorialità, in un mondo scardinato dalla logica del Cloud?

Qual è il criterio di legittimazione dei Big della Rete?

Chi garantisce sulla trasparenza dei loro criteri di valutazione?

Come garantire modelli di concorrenza nell’era dei Big Data?

Di certo serve un nuovo quadro giuridico, come quello europeo che entrerà in vigore nel 2018. Serve poi una maggior consapevolezza dei rischi da parte dell’opinione pubblica.

Risposte complesse a problemi complessi

necessità condivisa anche da Anna Finocchiaro, ministro per i rapporti con il Parlamento, che ha chiuso il convegno facendo leva sulla “necessità di recuperare un senso comune, di fronte a un orizzonte che ha scompaginato le nostre regole”. Ci muoviamo in un universo, quello tecnologico, “in cui tempo e luogo diventano astrazioni replicabili ovunque. In cui si vive l’equivoco di indicare la rete come un luogo di democrazia diretta”. Un grosso equivoco, appunto, visto che la tastiera conferisce una potenza illusoria, per cambiare il mondo servono forze organizzate capaci di dare risposte complesse a problemi complessi”.

Ad esempio, prendendo in considerazione il diritto all’identità, “quanta lesione c’è nel fatto di essere disegnata come consumatore e utente?”.

Un mare di dati

 Viviamo in un mondo inondato di dati, che stanno cambiando tutte le relazioni umane e lavorative “nel 2015 sono stati prodotto più dati che in tutto l’arco della storia precedente”, ha detto Augusta Iannini. In questo contesto, il pubblico utilizza gli archivi dei privati (da Google a Facebook) per controllare la rete. Per questo servono nuove regole per il web e gli Stati devono poter sfruttare i dati in una nuova in una nuova geografia dei poteri che va dettagliata a livello internazionale.

5G e Big Data

Fra i trend tecnologici emergenti al CES di Las Vegas al centro del prossimo Mobile World Congress di Barcellona c’è sicuramente il 5G, il nuovo standard di comunicazione wireless “prodromico all’IoT – ha detto Franco Bernabè, presidente di Icpbi già presidente di Telecom Italia – Gli operatori di telecomunicazioni (in primis Vodafone) ci stanno già investendo, con il nuovo standard NB-IoT”.

Un altro trend tecnologico in crescita è quello dei modelli prescrittivi dell’Intelligenza Artificiale, vale a dire modelli sulla base dei quali gli algoritmi prendono decisioni autonome e che in un prossimo futuro saranno applicati, ad esempio, alle “self driving car”.

Pensare però che si possa generare una nuova economia fondata sui Big Data “è una prospettiva un po’ esagerata, secondo Bernabè, perché in realtà difficilmente avrà ricadute su chi non è in possesso dei Big Data. Solo chi è in grado di definire il profilo dei consumatori può indirizzare la produzione commerciale in una direzione piuttosto che in un’altra.

Di certo, con l’amministrazione Obama i grandi giganti del web avevano accesso diretto costante alla Casa Bianca, con Trump, che ha bacchettato l’intelligence, cambiano le cose. Ciò detto, da sempre gli americani hanno fatto scelte per affermare le loro imprese e l’Europa non si è accorta di nulla, il Privacy Shield secondo Bernabè “è un’operazione di facciata”. E il ruolo dell’Europa è destinato a restare marginale, ma i problemi politici, etici e sociali connessi all’utilizzo dei Big Data andranno affrontati.

Diritto di voto ai robot?

Si sta quindi generando una nuova gerarchia dei poteri che oltre che i consumi è in grado di orientare ogni nostra decisione e opinione, comprese quelle che riguardano la politica. Ma prevale il senso di smarrimento di fronte alla crescita tumultuosa dei Big Data rispetto all’incapacità delle regole nazionali di farvi fronte.

L’ex senatore Giulio Tremonti, già ministro dell’Economia, ha messo in evidenza il mutamento epocale che si è verificato negli ultimi 20 anni, visto che due decadi fa Internet era ancora confinato in ambiti militari. Internet ha prodotto mutazioni profonde nella struttura della politica e della democrazia, “ognuno davanti al computer si sente un signore, si stanno erodendo le gerarchie che sono la base della democrazia”, ha aggiunto Tremonti, che però invita a non farsi troppe illusioni sulla capacità della legislazione europea o nazionale di arginare il fenomeno digitale perché “ci saranno sempre più rapporti bilaterali fra Stati” con Trump al potere negli Usa.

Venuta meno la lotta di classe, e venuto meno il Lavoro per molti a scapito dei robot, i nuovi temi anche etico riguardano il ruolo sociale dei robot e delle macchine: il paradosso è l’umanizzazione delle macchine e se le macchine, prima o poi, debbano avere il diritto di voto o di cittadinanza.

Profilazione e voto

L’applicazione delle tecniche di marketing e profilazione dei dati in ambito politico consente di profilare il cittadino elettore e consente di intervenire, con tecniche e messaggi sempre più personalizzati (su misura di singolo cittadino) sull’orientamento di voto della grande massa degli indecisi. Una massa crescente, visto che sono sempre più gli indecisi che decidono direttamente al seggio cosa votare. “Alle politiche del 2013 il 50% degli elettori ha cambiato il suo voto, perché sono cambiati i partiti – ha detto Ilvo Diamantiil 50% delle persone non aveva idee chiare su chi votare e più del 10% dei votanti ha deciso soltanto quando si è trovato alle urne. Per questo le campagne elettorali contano eccome” e ancor di più conta la capacità di indirizzare il voto degli indecisi sul web.

I dati sono un asset

I dati sono un asset “ma noi non lo stiamo capendo – dice Enrico Giovannini, economista già presidente dell’ISTAT – soprattutto a livello politico, ma c’è chi si arricchisce estraendo informazioni sui nostri dati”. E’ un fatto assodato che i social media sanno quale tasto toccare “per stimolare la pancia degli elettori”, e nell’epoca della “post verità” per i social è molto più semplice trasformare un problema in un non problema e viceversa. Lo stesso discorso vale per il ruolo della statistica, sempre più a rischio marginalizzazione di fronte al proliferare di fonti di informazione che, a lungo andare, rischiano di creare “storytelling” lontani dalla realtà. Ed è per questo che l’Italia deve affrontare dal punto di vista politico il tema degli “asset dati” “dal punto di vista economico ed istituzionale”, dice Giovannini. In sostanza, qual è il ministero che se ne deve fare carico, allo stesso modo in cui ci si occupa ad esempio dello spettro radio?

Nella PA ‘parola privacy’ male utilizzata

 Per quanto riguarda la PA, secondo il Commissario straordinario del Governo per l’attuazione dell’Agenda digitale Diego Piacentini il termine privacy è male utilizzato e anzi quando si dice che ci sono problemi di privacy significa che qualcosa non si “ha voglia di farla” o “non si sa come farla”. Nella PA italiana “ci sono milioni di dati ma manca uno standard digitale uniforme – dice Piacentini – manca un’interfaccia utente e una user experience uniforme per veicolare le informazioni”. Ed è per questo che “è imprescindibile avere competenze tecnologiche all’interno della PA – aggiunge – il team digitale sta realizzando un’architettura Big Data per creare un framework unico della PA allo scopo di aiutare chi fa le norme e decide le policy”.

Una chat con la PA

E ancora “anonimizzare i dati è un problema tecnologico” ha detto Piacentini, che ha poi aggiunto come uno dei suoi obiettivo sia la creazione di una chat bot con la pubblica amministrazione che risponda alle domande dei cittadini in tempo reale sfruttando l’intelligenza artificiale. Si tratta di soluzioni già utilizzati da aziende come Amazon e Facebook, fattibili anche nella nostra PA secondo Piacentini. Il suo sogno è che sia sufficiente scrivere “come apro un punto vendita a Catanzaro come a Milano?” per leggere la risposta sullo schermo con l’iter necessario.

Rischio discriminazione genetica

Infine, anche il ricorso all’analisi dei Big Data in ambito genomico porta con sé dei rischi “di discriminazione genetica – ha detto il professor Stefano Ceri – le assicurazioni potrebbero decidere chi assicurare e chi no in base ai suoi geni e lo stesso potrebbe capitare per la decisione di un’azienda su chi assumere o meno”.  

Fonte: Key4biz.it | di Paolo Anastasio

© 2017-2018 Associazione Privacy Italia - C.F. 91039930192 - P. Iva 01685370197 - Informativa Privacy

Con il sostegno di:

Fondazione di Sardegna Fondazione Cariplo
Positive SSL