Come rilevare video deepfake per prevenire la disinformazione

Con i deepfake sempre più sofisticati, è più difficile che mai distinguere tra ciò che è reale e ciò che non lo è. Oggi ti parleremo di alcuni segnali rivelatori che ti aiuteranno a rilevare i video deepfake. Con questi strumenti in mano, speriamo che tu non diventi una vittima inconsapevole di notizie false e teorie del complotto. Ti daremo anche un’idea della tecnologia deepfake, di come funziona e di come viene utilizzata da propagandisti e teorici della cospirazione per diffondere disinformazione e influenzare i netizen a credere alle falsità.

Rileva video deepfake per prevenire la disinformazione e le teorie del complotto

Attualmente, i deepfake sono ampiamente utilizzati da hobbisti dilettanti per trasformare i volti delle celebrità nei video per adulti e da elementi politici sgradevoli per diffondere notizie false. Tuttavia, gli esperti sono preoccupati per usi ancora più pericolosi della tecnologia in un futuro non troppo lontano. Quindi qui, stiamo elencando alcuni dei modi per aiutarti a rilevare i video deepfake per impedirti di diventare vittima di disinformazione dannosa.

Cosa sono i video deepfake?

Una combinazione dei termini “apprendimento profondo” e “falso”, i deepfake si riferiscono a media manipolati che utilizzano l’intelligenza artificiale o tecniche di apprendimento profondo per creare audio o video che distorcono la realtà. La tecnologia utilizza reti neurali artificiali per creare video iperrealistici che sembrano mostrare persone che dicono o fanno qualcosa che non hanno fatto nella vita reale. Gli esempi più virulenti includono video trasformati con l’aiuto dell’apprendimento automatico per mettere le parole in bocca ai politici. Questo viene utilizzato per creare confusione sulle loro politiche e influenzare le elezioni.

Un altro uso tossico dei deepfake è trasformare i volti delle celebrità nei video per adulti in massicce violazioni della privacy e della dignità. I deepfake sono diventati un problema enorme negli ultimi anni e sta solo peggiorando con la disponibilità di hardware più veloce e software più incisivo. La tecnologia ha guadagnato notorietà negli ultimi tempi per il suo ampio uso in video pornografici, notizie false e bufale elaborate.

Tuttavia, non tutti gli usi dei deepfake sono loschi, come dimostra il seguente video che è stato creato dallo studioso del MIT, Alexander Amini, per far ridere i suoi studenti. Apparentemente mostra l’ex presidente degli Stati Uniti, Barack Obama, che invita gli studenti a partecipare alla conferenza di Amini sull’apprendimento profondo all’università. Tuttavia, è un deepfake in tutto e per tutto, come ha chiaramente rivelato il ricercatore sul suo canale YouTube.

Come funzionano i deepfake?

I deepfake si basano su una rete neurale artificiale chiamata “autoencoder”, che viene utilizzata per apprendere codifiche di dati efficienti in modo non supervisionato. Viene in genere utilizzato per il riconoscimento facciale, nonché per trovare il significato semantico delle parole, ecc. Nel caso dei video deepfake, la tecnologia utilizza prima un codificatore per addestrare una rete neurale su molte ore di riprese video reali dell’individuo target . Quindi, un decoder ricostruisce una nuova immagine utilizzando le informazioni chiave sui tratti del viso e sulla postura del corpo. Questo aiuta l’algoritmo a sovrapporre le caratteristiche facciali e fisiche del bersaglio alla persona nel video originale.

Una tecnologia ben nota a questo proposito è una classe specializzata di algoritmi di deep learning chiamata rete generativa contraddittoria. GAN viene spesso aggiunto al decoder per risultati più accurati. Un GAN addestra il decodificatore e un discriminatore in modo che il primo crei nuove immagini dal materiale sorgente, mentre il secondo determini se l’immagine appena creata corrisponde o meno al metraggio reale. Ciò fa sì che il generatore crei immagini che imitano molto bene la realtà, perché l’algoritmo contraddittorio cattura eventuali difetti.

Ciò rende i deepfake estremamente difficili da combattere poiché sono in continua evoluzione. Ogni volta che si presenta un difetto, può essere corretto automaticamente tramite l’apprendimento automatico. Poiché non richiede alcun input umano, GAN è diventata la scelta definitiva per la maggior parte dei creatori di deepfake. Tuttavia, la tecnologia è complicata e richiede molto più tempo e dati per creare composizioni realistiche. Inoltre, sebbene i GAN siano utili per sintetizzare le immagini, hanno difficoltà a preservare la coerenza temporale, il che significa che necessitano dell’intervento umano per mantenere l’allineamento delle immagini da un fotogramma all’altro.

Cosa sono i video falsi poco profondi?

Un video falso superficiale è una versione manomessa di un video reale esistente, creato per proiettare una realtà distorta. Ciò include spesso l’editing selettivo, la manipolazione della velocità dei discorsi o delle conversazioni delle persone e persino la modifica della tonalità per far sembrare che qualcuno sia arrabbiato, ubriaco o si stia prendendo gioco di un problema serio, quando nulla di tutto ciò è vero.

Un caso recente degno di nota include il famigerato video ottimizzato dell’oratrice della Camera degli Stati Uniti, Nancy Pelosi, il cui video falso e superficiale ha rallentato il suo discorso per farla sembrare ubriaca. Questi video sono diversi dai deepfake in quanto si tratta di video reali manipolati utilizzando strumenti di editing video tradizionali anziché algoritmi di intelligenza artificiale.

Deepfake: storia e applicazioni

Le tecniche di manipolazione delle foto furono originariamente inventate alla fine del XIX secolo. La tecnologia è migliorata costantemente nel corso del ventesimo secolo prima che l’esplosione delle tecnologie di intelligenza artificiale e apprendimento automatico la rendesse un enorme problema per i netizen di tutto il mondo. Le tecniche di manipolazione video basate sull’intelligenza artificiale sono state ampiamente studiate dai ricercatori dagli anni ’90 e da allora molti dei metodi sono stati adottati dai registi di tutto il mondo.

Uno degli esempi più noti di deepfake utilizzati nell’industria dell’intrattenimento mainstream è stata la resurrezione del defunto attore, Paul Walker, per Fast and Furious 7 nel 2015. Tuttavia, mentre dozzine di esperti hanno impiegato diverse settimane per una credibile ricreazione di Walker, ora la maggior parte degli hobbisti con pochissime conoscenze di programmazione impiega poche ore (o talvolta anche meno) per creare nuovi video deepfake utilizzando nuove tecniche e algoritmi. Il fenomeno è entrato per la prima volta nella coscienza pubblica nel 2017, quando un Redditor ha utilizzato deepfake per creare e pubblicare video porno falsi di celebrità.

Pericoli dei video deepfake

I video deepfake rappresentano un pericolo per gli utenti ignari che potrebbero essere bombardati da immagini di un presunto evento destabilizzante, come una guerra o un attacco terroristico mai avvenuto. Può causare risentimento e malcontento nella società, portando a un aumento degli attacchi di matrice politica basati sulle identità razziali, religiose ed etniche delle persone. La tecnologia potrebbe anche essere utilizzata per diffondere FUD (paura, incertezza e dubbio) sui disastri naturali, provocando un panico diffuso. Gli esperti prevedono inoltre che, se non controllati, tali video possono provocare profonde crisi politiche e persino interrompere le relazioni internazionali.

Un altro grave problema che ha già assunto proporzioni pandemiche è la minaccia contro le donne ignare. Spesso indicati come pornografia non consensuale, i video deepfake per adulti avrebbero rappresentato oltre il 90% di tutti i deepfake su Internet nel 2019. Sebbene sia iniziato con video trasformati che ritraggono celebrità come Gal Gadot e Alexandra Daddario, da allora si è ampliato per prendere di mira i normali donne come parte di false campagne di revenge porn.

Come rilevare video deepfake?

Il rilevamento di video deepfake è un lavoro che anche gli esperti spesso trovano difficile senza gli strumenti giusti. Tuttavia, i ricercatori del Massachusetts Institute of Technology (MIT) hanno fornito diversi suggerimenti che possono aiutare le persone normali a distinguere tra video reali e deepfake. Secondo loro, è necessario prestare molta attenzione al viso mentre si cerca di verificare se un video di un soggetto umano è reale o falso. Questo perché le manipolazioni deepfake di fascia alta sono quasi sempre trasformazioni facciali.

Il le aree del viso a cui bisogna prestare la massima attenzione sono le guance e la fronte. La pelle appare troppo liscia o troppo rugosa? L’età della pelle è simile all’età dei capelli e degli occhi? “I DeepFake sono spesso incongruenti su alcune dimensioni”, dicono i ricercatori. Allo stesso modo, gli occhi e le sopracciglia possono anche essere segni rivelatori per esperti osservatori di deepfake. Questo perché, secondo i ricercatori, le ombre nei video deepfake non appaiono sempre nei punti che ti aspetteresti. “I DeepFakes spesso non riescono a rappresentare appieno la fisica naturale di una scena”dicono.

Un’altra caratteristica che è un regalo morto sono i peli del viso. I deepfake possono aggiungere o rimuovere baffi, basette o barba, ma spesso non riescono a rendere le trasformazioni dei peli del viso completamente naturali. Lo stesso vale per i nei facciali che spesso non sembrano abbastanza naturali nei deepfake. La dimensione e il colore delle labbra potrebbero anche dare un indizio sulla validità di un video. La velocità e la velocità dell’ammiccamento potrebbero anche parlare di se un video è reale o falso. Lampeggiamenti innaturalmente frequenti o poco frequenti potrebbero indicare la falsificazione di un video.

Secondo i ricercatori del MIT, i deepfake di alta qualità non sono facili da rilevare, ma “con la pratica, le persone possono costruire l’intuizione per identificare ciò che è falso e ciò che è reale”. I ricercatori hanno anche creato una pagina web a tutti gli effetti in cui le persone possono caricare video e provare a indovinare se sono reali o falsi. Puoi provare le tue capacità di rilevamento dei deepfake sul sito Web Detect Fakes del MIT.

Deepfakes: prevenzione e azione legislativa

Vari paesi di tutto il mondo stanno già cercando di affrontare il pericolo chiaro e presente rappresentato dai deepfake infusi di intelligenza artificiale. Mentre la Cina ha vietato i video deepfake nel 2019, lo stato americano della California ha anche introdotto una legislazione simile all’inizio dello stesso anno per rendere illegali i deepfake politici, vietando la creazione o la distribuzione di video, immagini o audio falsificati di politici entro 60 giorni dalle elezioni . Da allora, anche altri stati degli Stati Uniti, tra cui Texas e Virginia, hanno criminalizzato il deepfake porn. Nel dicembre 2019, il presidente Trump ha firmato la prima legge federale della nazione per combattere i deepfake come parte del National Defense Authorization Act, 2020.

Nel frattempo, in India, non ci sono leggi specifiche sui deepfake media. In effetti, le leggi relative agli algoritmi di intelligenza artificiale sono nella migliore delle ipotesi imprecise. Uno degli usi più notevoli dei deepfake nel paese è stato visto durante le elezioni di Delhi del 2020, quando l’IT Cell del BJP ha pubblicato un video ufficiale della campagna in cui si pretendeva di mostrare il loro candidato capo del ministero, Manoj Tiwari, che faceva appello agli elettori in hindi, Haryanvi e inglese . Il problema è che solo il video hindi era reale, mentre gli altri due erano clip deepfake fabbricate utilizzando il video originale per raggiungere una sezione più ampia di elettori.

Impedisci la diffusione della disinformazione individuando video deepfake

Un tempo appannaggio di produzioni hollywoodiane multimilionarie e di agenzie e organizzazioni sponsorizzate dallo stato, i deepfake sono diventati sempre più democratizzati negli ultimi tempi. Ciò consente ai netizen regolari di creare deepfake utilizzando app e siti Web deepfake. Con l’aumento astronomico dei deepfake negli ultimi anni, essere in grado di rilevarli è più importante che mai.

Ci auguriamo che le informazioni qui presenti abbiano contribuito a darti un’idea più olistica della tecnologia, delle minacce che rappresenta e dei segnali a cui prestare attenzione per rilevare meglio i video deepfake in futuro. Quindi sei mai caduto vittima di deepfake da parte di gruppi di azione politica sgradevoli o teorici della cospirazione? Fatecelo sapere nei commenti in basso.

Leave a Comment

Your email address will not be published.