Discorsi

La minaccia del deep fake: come affrontarla in Italia?

Discorso pronunciato nella Sala Koch di Palazzo Madama

Convegno promosso da Videocittà

09 Dicembre 2019

Autorità, signore e signori,
consentitemi innanzitutto di salutare e ringraziare il Presidente Rutelli e gli autorevoli relatori di questo importante momento di riflessione su un tema tanto complesso e ancora poco dibattuto quanto delicato e cruciale per il futuro della nostra società.
"Futuro" è infatti una parola-chiave di questo confronto, un sottotesto che ci impone di interrogarci e ragionare in termini proattivi sui fenomeni con i quali dobbiamo misurarci oggi, prima che i potenziali effetti negativi vadano a ricadere sulle generazioni a venire.

Stiamo vivendo una fase storica nella quale le innovazioni tecnologiche e gli strumenti digitali pervadono sempre di più la nostra quotidianità, creando sotto vari punti di vista straordinarie opportunità ma, al contempo, andando a incidere profondamente anche sui comportamenti, gli stili di vita, l'orientamento dei gusti, dei consumi, delle opinioni.
Di fronte a questo scenario, se da un lato appare inevitabile chiedersi quanto ancora si possano estendere i loro ambiti di applicazione in campo scientifico, economico e sociale, dall'altro è più che mai necessario porsi il problema di quali siano invece le regole e i limiti che non si possono e non si dovrebbero valicare.
Regole e limiti che afferiscono alla sfera etica, giuridica, politica.

Internet resta certamente una delle invenzioni più importanti della storia contemporanea, uno strumento di incredibili potenzialità che ha consentito a miliardi di persone di accedere a contenuti e servizi che in passato non erano alla loro portata, di eliminare le distanze geografiche e costruire relazioni sociali ed economiche in ogni angolo del pianeta.
Ma anche nella realtà virtuale, come nei luoghi fisici, si annidano minacce e pericoli di ogni sorta, e l'utilizzo massiccio di strumenti digitali e oggetti connessi ha inevitabilmente amplificato i rischi di un uso sempre più distorto del mezzo.

Oggi, ad esempio, nella cosiddetta era dei "Big Data", ogni giorno viene prodotta e messa a disposizione della Rete una mole gigantesca di informazioni, video e immagini, ma il combinato disposto tra i macrosistemi di raccolta e archiviazione dati e l'intelligenza artificiale fa sì che quegli stessi dati possano essere usati tanto per scopi leciti e innovativi, quanto per manipolare, modificare e distorcere la realtà.
In quest'ultimo caso, l'impatto sociale delle alterazioni può essere di portata notevole, se pensiamo che lo sviluppo tecnologico ha raggiunto livelli talmente avanzati da rendere, di fatto, accessibili a chiunque quelle applicazioni in grado di contraffare e alterare i dati che, invece, fino a qualche anno fa erano nella disponibilità soltanto delle grandi aziende del mondo tech.

I deepfake, cui è dedicato appunto questo convegno, altro non sono se non il prodotto finale della contaminazione tra Intelligenza Artificiale e dati sensibili utilizzata a fini illeciti.
Una nuova e assai temibile minaccia che, nel prossimo futuro, rischia di trasformare l'ecosistema digitale in un mondo nel quale riuscire a distinguere ciò che è vero da ciò che è falso risulterà sempre più arduo.
Manipolare al computer, partendo da semplici fotografie e video, i volti, la voce e i movimenti delle persone per creare narrazioni visive molto realistiche con un'aderenza totale delle parole al labiale: le possibili conseguenze di un uso illegittimo della tecnologia deepfake sono angosciose, se pensiamo alla possibilità - già in effetti sperimentata - di creare falsi video in cui politici o personaggi pubblici fanno delle affermazioni in grado di cagionare conseguenze di un certo peso.

Una tecnica di sofisticazione subdola che inganna anche i sensi, difficile da smascherare se non attraverso un'analisi accurata e in grado di trasformarsi in un'arma tanto pericolosa quanto estremamente efficace per generare notizie false che già oggi vengono diffuse in Rete per influenzare gli utenti, distorcere i fatti e veicolare messaggi politici ben precisi condizionando l'opinione pubblica.
Gli stessi ricercatori americani che a partire dal 2012 hanno iniziato a sviluppare questa tecnologia, hanno ammesso, del resto, che sebbene questo tipo di manipolazioni siano vecchie almeno quanto i media e quanto le bufale antesignane delle moderne "fake news", i rischi aumentano in maniera esponenziale se applicati a uno strumento di comunicazione - un video, appunto - che normalmente viene considerato una prova autorevole di pensieri e intenti.

Ciò significa difatti che nemmeno le immagini e i movimenti potranno più essere in grado di rappresentare una garanzia assoluta di veridicità.
E in un ecosistema digitale già inquinato di suo dalle post-verità e dal proliferare delle "fake-news", la creazione di un video falso ma perfettamente credibile e la sua propagazione virale attraverso la connessione Internet, rischia di condurci dritti alla caduta dell'ultimo baluardo che ci separa dal "collasso della realtà".
Una prospettiva aberrante che, consentitemi la digressione, scardina lo stesso fondamento empirico secondo il quale "le immagini non mentono" e che nemmeno i grandi scrittori del Novecento come Orwell o Bradbury avevano saputo immaginare negli inquietanti scenari distopici descritti nei loro romanzi.

L'uso della tecnica del deepfake per diffamare l'ex partner o per screditare l'avversario in politica o in affari; le possibili, probabili applicazioni di questo fenomeno nei campi criminali e, in generale, il suo potenziale criminogeno, non mettono a rischio soltanto le identità reputazionali di persone, enti e imprese, ma minano la stessa tenuta dell'informazione digitale, con possibili gravi conseguenze per i sistemi democratici.
L'interrogativo che dobbiamo porci a questo punto è: come faranno le piattaforme digitali a conservare autorevolezza e credibilità nell'epoca della disinformazione e della contraffazione delle notizie?
E ancora: come verranno stabiliti i criteri per stabilire l'affidabilità di un contenuto?

E cosa accadrà, infine, nel momento in cui chiunque, così come oggi già succede con le fake news testuali e le immagini fisse, potrà creare deepfake con estrema facilità e diffonderle in Rete?
Politica, cittadini, istituzioni e imprese non possono più prescindere dunque dal costruire, come argine a questa deriva, un insieme di regole stringenti che tutelino gli aspetti eticamente più sensibili, ma anche di esperire soluzioni di più ampio respiro che puntino a diffondere consapevolezza e informazione rispetto al problema.

La normativa, così come sta già avvenendo negli Stati Uniti o in Francia, andrà rivista e dovrà certamente obbligare chi propaga i deepfake a specificare che si tratti di video non autentici, così come lo strumento legislativo servirà a richiamare le company proprietarie dei social network affinché agiscano per proteggere la libertà di parola - non certo per limitarla! - monitorando i contenuti che ledono i diritti, la democrazia o mettono a rischio l'incolumità dei cittadini.

Una maggiore attenzione al problema da parte delle istituzioni potrà di sicuro garantire un'applicazione più efficace e più tempestiva delle leggi già esistenti (a partire da quelle che garantiscono i diritti umani) e incentivare una cooperazione internazionale che possa monitorare e affrontare il problema su scala globale specialmente per ciò che riguarda le possibili ingerenze di fake news e deepfake su elezioni politiche e decisioni di rilevanza pubblica.

Ma quello normativo, seppur importante, non è di per sé uno strumento sufficiente: se le persone, se l'utente medio del web non è più in grado di distinguere i video veri da quelli falsi e di riconoscere una menzogna veicolata come una notizia fondata, la soluzione al problema non può risiedere unicamente nelle contromisure legislative ma necessita anche di investimenti paralleli sul fronte dell'informazione e della formazione.
Occorre dunque lavorare sull'alfabetizzazione informatica, sulla scelta, sulla comparazione e sull'autorevolezza delle fonti e promuovere un uso responsabile e consapevole del web, soprattutto tra i ragazzi.

Così come, al contempo, bisogna rafforzare il ruolo dei professionisti dell'informazione, ridare valore alla funzione di "mediazione culturale" che è propria dei giornalisti, i quali, facendo leva sulla loro professionalità e sulle loro competenze, oggi, ancora più che in passato, possono fungere da sentinella della verità dei fatti e dare ai lettori la certezza di poter offrire un contenuto reale, credibile, imparziale, verificato.
L'obiettivo ultimo deve essere quello di costruire una nuova "cultura digitale", facendo di Internet una fonte di saperi, di verità oggettive e comprovate e di conoscenze autentiche.

Anche su questo versante, il Senato farà la sua parte: auspico che questo confronto sia solo il primo passo di un percorso condiviso con i protagonisti del mondo dell'informazione e della comunicazione per approdare a un piano di misure concrete, sia di contrasto che di prevenzione dei rischi legati alla propagazione delle falsità nell'ecosistema digitale.

Fine pagina

Vai a: