Il fenomeno dei deepfake rischia di travolgere tutti: l’ultimo caso di Renzi su Striscia la Notizia fa discutere

Il fenomeno dei deepfake rischia di travolgere tutti. L’ultimo caso di Matteo Renzi su Striscia la Notizia fa discutere, ma ormai è allarme in tutto il mondo. Alcuni di voi si staranno domandando: che cos’è il deepfake?

Deepfake: la storia

Il deepfake è una tecnica per la sintesi dell’immagine umana, basata sull’intelligenza artificiale. È usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali, tramite una tecnica di apprendimento automatico, conosciuta come rete antagonista generativa. La parola è stata coniata nel dicembre 2017 da un utente Reddit che ha usato una tecnologia di deep learning per sostituire i volti di celebrità in quelli dei video a luci rosse. Tra le vittime spiccano Taylor Swift, Katy Perry, Gal Gadot, Emma Watson, Scarlett Johansson e Daisy Ridley. Poi un altro utente di Reddit, deepfaceapp, ha creato un programma chiamato FaceApp che è in grado di produrre con una relativa facilità, ma con tante ore di tempo macchina, video falsi alla portata di molti.

Lo sviluppo della tecnica ha avuto luogo principalmente in due ambiti: ricerca nelle istituzioni accademiche e sviluppo amatoriale nelle comunità online.

I pericoli e i rischi

Come abbiamo già detto questa tecnica è stata usata per creare falsi video a luci rosse ritraenti star dello show business internazionale, ma anche per il revenge porn. Ma è anche un diabolico strumento per creare e diffondere fake news, bufale e truffe in tutto il mondo. Soltanto alcune settimane fa la voce dell’amministratore delegato di un’azienda tedesca è stata usata da cyber-criminali per rubare 250mila dollari. Aargauer Zeitung ha spiegato che la manipolazione di immagini e video tramite l’uso dell’intelligenza artificiale può diventare un pericoloso fenomeno di massa. Con questi video deepfake non è più possibile distinguere se il contenuto è mirato (ad esempio satira) o genuino. Il ricercatore di AI Alex Champandard ha detto che tutti dovrebbero sapere quanto velocemente le cose possono essere falsificate al giorno d’oggi con questa tecnologia, e che il problema non è tecnico, piuttosto è da risolvere con la fiducia nell’informazione e nel giornalismo. Il problema principale è che l’umanità potrebbe cadere in un’epoca in cui non è più possibile determinare se il contenuto di un media corrisponde alla verità.

Il falso Renzi a Striscia la notizia

A livello mondiale sono finiti nel mirino del deepfake tantissimi politici: da Barack Obama a Putin, da Angela Merkel a Donald Trump fino a Mauricio Macri. In Italia è toccato all’ex premier Matteo Renzi. Il falso fuorionda del senatore ex PD trasmesso da Striscia la notizia sta facendo molto discutere. Il suo viso è stato sovrapposto a quello di un imitatore per produrre un video di satira.


Gli autori del tg satirico di Canale 5 hanno fatto sapere che il filmato è stato ottenuto con un sistema basato sull’intelligenza artificiale e l’apprendimento automatico, e grazie anche al coinvolgimento di professionisti della matematica, così come della produzione e post-produzione audiovisiva.

Inizialmente l’ex leader del PD ha elogiato gli autori di Striscia, salvo poi fare retromarcia nel successivo post di Instagram: “Effettivamente ho sottovalutato la portata potenzialmente devastante del deepfake”.

Questa tecnica può rivelarsi una micidiale e pericolosissima arma politica di incredibile potenza quando le vittime sono uomini delle istituzioni che possono veicolare qualsiasi tipo di messaggio.

Le reazioni dei giganti del web

I giganti del web hanno scelto subito di correre ai ripari. Gli utenti che diffondono video deepfake sono stati bannati dai siti come Reddit, Twitter, e Pornhub. Un gruppo di ricercatori dell’Università di tecnica di Monaco (TUM), a cui si è aggiunto anche un gruppo di colleghi dell’Università Federico II di Napoli, ha creato FaceForensics++. Che cos’è? Praticamente è un database di immagini modificate generato dall’analisi di circa 1.000 video di YouTube mediante l’applicazione degli stessi metodi di creazione dei deepfake, quindi utilizzando FaceSwap, Face2Face, Deepfakes e NeuralTextures, con lo scopo di accorgersi in modo preventivo dei video manipolati.

Google ha messo a disposizione 3mila video manipolati per accelerare la ricerca di FaceForensics++ ai fini della ricerca.

Redazione-iGossip