Da diverso tempo siamo abituati a sentir parlare di fake news, ovvero notizie false che diventano virali grazie all’uso di bot e siti di (dis)informazione fuori controllo. Dallo scandalo di Cambridge Analytica, che ha visto un uso sregolato di dati personali e di notizie false durante le elezioni USA del 2016, le principali piattaforme social hanno iniziato ad adottare sistemi di sicurezza per impedire la diffusione di tali notizie. Facebook, ad esempio, ha inasprito molto le sue policy sul fact checking soprattutto in vista delle prossime elezioni americane e sottoporrà a verifica attraverso enti terzi tutte le notizie che paseranno sulle sue piattaforme, specialmente quelle provenienti dall’estero. Leggi anche: 10 Years Challenge. Ennesimo “Cavallo di Troia”
Quando Obama “insultò” Trump
Se ormai, grazie anche a diversi siti di debunking – ovvero di smascheramento delle bufale – siamo in grado (quasi) sempre di riconoscere una fake news, potremmo non avere la stessa facilità quando l’informazione è veicolata attraverso un video. In questo caso ci troviamo di fronte a quelli che vengono definiti deepfake, ovvero sistemi di deep learning, che mediante l’uso di reti neurali artificiali riproducono esattamente il volto di una persona trasformandolo in un video dall’incredibile effetto realistico. Immaginereste mai di vedere Obama insultare Trump? È quello che succede in un celebre video diffuso sul web. Ma accanto a contenuti come questo realizzati a scopo divulgativo, ce ne sono altri che hanno intenzioni molto meno nobili.
L’attrice Scarlett Johansson, lo scorso anno è stata involontaria protagonista di contenuti pornografici realizzati proprio mediante la tecnica del deepfake. Una brutta vicenda che ha condotto l’attrice a pronunciare parole colme di sconforto:
Soggetti vulnerabili come donne, bambini e anziani dovrebbero prendere le massime precauzioni per proteggere le proprie identità e contenuti personali. Questo non cambierà mai, neanche in base a quanto Google potrà modificare le sue policy. Internet è solo un altro posto in cui il sesso vende e le persone vulnerabili sono sfruttate a questo fine. Ogni hacker principiante è in grado di rubare una password e sottrarre l’identità a qualcuno. Dipende solo dall’interesse che si ha a colpirlo.
Se tempo fa realizzare deepfake era un’operazione da ingegneri informatici, oggi esistono diverse app che permettono di realizzare video falsi in pochi secondi. Addirittura Snapchat ha recentemente testato una nuova funzionalità chiamata Cameo che permette di scattarsi un selfie e di applicarlo su un video in formato gif. Certo, in questo caso si tratta di un utilizzo innocuo da fare con gli amici, ma il potenziale di queste applicazioni può essere molto pericoloso. Leggi anche: FaceApp: tutto quello che c’è da sapere sull’ultimo tormentone social
Come difendersi dai deepfake
Al momento non esiste ancora una normativa per difendersi da questi attacchi e al recente convegno la minaccia del deepfake la presidente del Senato Elisabetta Casellati avverte: “la creazione di un video falso ma perfettamente credibile e la sua diffusione via internet rischia di far cadere l’ultimo baluardo della realtà” e auspica un intervento normativo. Ma in attesa che arrivino le leggi, cosa possiamo fare per difenderci da questi veri e propri furti d’identità? Google ha reclutato degli attori professionisti per realizzare un dataset di oltre 3.000 deepfake con tutte le tecniche finora disponibili e lo ha reso liberamente accessibile ai ricercatori che vogliono studiare metodi di identificazione di video manipolati.Un’altra soluzione viene da Deeptrace , una società basata ad Amsterdam che ha ideato un sistema per tracciare i deepfake. Spiega il cofondatore Giorgio Patrini:
Ogni algoritmo usato per la manipolazione delle immagini lascia dietro di sé dei pattern geometrici. Questi artefatti non sono visibili ad occhio nudo, ma sono in grado di rivelare non solo se il video è un deepfake, ma anche con quale tecnica è stato realizzato.2
“Osservate i movimenti degli occhi, se sono fermi è un falso”
Facebook ha recentemente dichiarato che eliminerà tutti i deepfake , e in generale qualsiasi contenuto manipolato, dalla piattaforma. Il social di Zuckerberg si rivolgerà, dunque, non solo ai contenuti generati attraverso IA, ma mirerà anche a combattere i profili falsi rafforzando la collaborazione con gli ambienti accademici e le istituzioni nella lotta alla disinformazione. Proprio a questo scopo a settembre è stato lanciato il progetto Deep Fake Challenge che ha raccolto donazioni per 10 milioni di dollari. Quello che possiamo fare tutti a prescindere dai supporti tecnologici è prestare molta attenzione e guardare nel dettaglio i video che ci paiono sospetti. Molti deepfake realizzati con tecniche più grezze, presentano dei piccoli difetti di sincronizzazione tra labiale e audio. Inoltre è importante osservare anche il movimento degli occhi: se sono fermi probabilmente è un falso.
Il deepfake di David Beckham che parla 9 lingue
Infine una nota positiva. Nella campagna Malaria Must Die, realizzata proprio con la tecnica del deepfake, il celebre calciatore David Beckham parla 9 lingue per dare voce alla lotta contro la malaria. Un bellissimo esempio di come tecniche malevole possono trasformarsi in potenti strumenti di comunicazione positiva.
di Clarice Subiaco
