Deepfake: guida per riconoscerli ed evitare le truffe

Con l’era del digitale e dei social, il nostro modo di comunicare, percepire e osservare il mondo è cambiato radicalmente.

Siamo costantemente bombardati da immagini, video e informazioni che viaggiano alla velocità della luce e influenzano la nostra visione della realtà.

Ma, insieme a questa rivoluzione, stiamo assistendo a un fenomeno tanto affascinante quanto pericoloso: l’intelligenza artificiale.

Se da un lato questa tecnologia offre soluzioni innovative e aiuti in molteplici campi, dall’altro si può trasformare in un’arma a doppio taglio.

Ne sanno qualcosa le vittime dei deep fake: una tecnica sofisticata che, partendo da contenuti reali come immagini e audio, riesce a manipolare o persino ricreare in modo estremamente realistico i tratti e i movimenti di un volto, o imitare perfettamente una voce.

Per chi è nato e cresciuto in questo mondo digitale, potrebbe sembrare persino divertente, ma dietro la facciata di questa tecnologia si celano tanti, forse troppi, rischi insidiosi.

Il deepfake non è solo uno strumento di inganno, ma una vera e propria minaccia, capace di compromettere in pochi click la reputazione, la carriera e la credibilità di una persona.

Agendo come uno stalker digitale, permette di perseguitare le vittime con contenuti falsificati, minando la loro serenità e sicurezza. Da video falsi che diffondono disinformazione a contenuti compromettenti creati per danneggiare la vita personale o professionale di qualcuno, il rischio è sempre più concreto e in continua crescita

Ecco perché, oggi più che mai, è fondamentale imparare a riconoscerli e proteggersi da questo tipo di truffa digitale, che può colpire chiunque, indipendentemente dalla notorietà o dal “ruolo” che ricopre nella società.

Deepfake: la nuova frontiera della manipolazione

Cosa si intende con il termine deepfake?

Il termine deepfake nasce dall’unione di due concetti: “deep learning” (una branca dell’intelligenza artificiale che permette ai computer di apprendere e migliorare da soli, elaborando enormi quantità di dati) e “fake” (falso).

Letteralmente, si riferisce a contenuti digitali falsificati grazie all’uso avanzato di algoritmi di intelligenza artificiale.

Ma cos’è esattamente un deepfake?

Vi è mai capitato di vedere Mark Zuckerberg vantarsi di avere “il controllo totale sui dati rubati a miliardi di persone”, o assistito alle commoventi scuse di Jon Snow per il triste finale di Game of Thrones?

Ecco, questi sono deepfake, ossia video, immagini o audio che sono stati manipolati o generati da zero per far sembrare che qualcuno stia dicendo o facendo qualcosa che, in realtà, non ha mai detto o fatto.

L’elemento inquietante è che queste creazioni sono così realistiche che, ad occhio nudo, possono risultare quasi impossibili da distinguere dai contenuti autentici.

Il risultato è una manipolazione credibile, che ha il potenziale di influenzare enormemente chi la osserva.

L’origine del fenomeno

L’origine del fenomeno “deepfake” non risale a moltissimi anni fa, eppure il suo sviluppo è stato rapidissimo.

Inizialmente, era utilizzato per scopi di intrattenimento e nei cinema per amplificare gli effetti speciali, ma presto la tecnologia ha fatto un salto nel mondo dei social e del web.

Gli strumenti di deep learning sono infatti diventati accessibili anche per chi non ha competenze tecniche avanzate. Il risultato? Chiunque, oggi, con un po’ di pazienza e informazione, può crearefalsificazioni altamente realistiche.

Così, da una curiosità tecnologica, il deepfake si è trasformato in una minaccia concreta, utilizzata in campagne di disinformazione, bullismo e persino per truffe economiche.

Le tipologie di deepfake

Le tecnologie di deepfake stanno trasformando il mondo dei contenuti digitali, grazie a strumenti innovativi che consentono di creare immagini e video manipolati con livelli variabili di accessibilità e qualità.

Vediamo le tipologie più diffuse:

Deepfake App

Le deepfake app sono applicazioni mobili progettate per creare contenuti deepfake in modo semplice e accessibile, direttamente da smartphone o tablet. Queste app, spesso gratuite o a basso costo, consentono agli utenti di generare immagini o brevi video manipolati utilizzando pochi comandi e senza la necessità di competenze tecniche avanzate.

Molte deepfake app permettono di sovrapporre il volto dell’utente su quello di celebrità o personaggi famosi, creando video che imitano movimenti e espressioni realistiche. Le app sono popolari per il loro uso ricreativo, ma pongono anche preoccupazioni legate alla privacy e alla manipolazione dei contenuti.

Deepfake Software

Il deepfake software è costituito da programmi specializzati, spesso sviluppati per computer, che offrono una gamma completa di strumenti per creare contenuti deepfake di alta qualità. Rispetto alle app, i software di deepfake sono generalmente più complessi e richiedono maggiore potenza di calcolo, offrendo però risultati più raffinati e realistici.

Alcuni software di deepfake sono utilizzati in ambiti professionali per la produzione di video o per il cinema, mentre altri sono sviluppati a scopi di ricerca e intelligenza artificiale. Tuttavia, questi strumenti avanzati possono anche essere sfruttati per manipolare immagini e video in modo più sofisticato, sollevando problematiche di etica e sicurezza.

Deepfake Video

I deepfake video rappresentano l’output finale ottenuto da app o software, ovvero video manipolati in cui i volti, le espressioni o persino le voci sono alterati per creare illusioni convincenti.

Questi video possono essere di breve durata e pensati per l’intrattenimento, oppure di più lunga durata e molto dettagliati, spesso con una resa particolarmente realistica. I deepfake video possono variare dall’essere usati per semplici scherzi, all’entertainment, alla pubblicità, fino a scopi illeciti come la disinformazione o la diffamazione, soprattutto se utilizzati senza il consenso dei soggetti coinvolti.

Come funzionano i deepfake?

I deepfake non sono semplici video o immagini modificate con software, app o programmi di editing, come Photoshop.

Dietro la loro creazione c’è una tecnologia molto più complessa, basata su algoritmi di intelligenza artificiale che analizzano e manipolano le caratteristiche di un volto o di un corpo in un video, tramite l’apprendimento automatico (machine learning) per integrarle in nuovi contesti.

Il funzionamento dei deepfake si basa, nella maggior parte dei casi, su una rete GAN (generative adversarial network) che include due componenti principali: un generatore e un discriminatore.

Il generatore ha il compito di creare il contenuto falso, prendendo come base un set di dati che include immagini e video reali.

Dall’altra parte, il discriminatore valuta il risultato per studiare quanto il contenuto creato sia credibile o falso.

Due modi per creare deepfake

I deepfake possono essere creati principalmente in due modi.

Il primo consiste nell’utilizzare un video originale del soggetto, in cui la persona viene manipolata per farle dire o fare cose che in realtà non ha mai detto o fatto.

Il secondo metodo è lo scambio di volto, in cui il volto di una persona viene sostituito con quello di qualcun altro all’interno di un video già esistente.

L’utilizzo dei deepfake

I deepfake, nonostante rappresentino una tecnologia innovativa, possono essere utilizzati per scopi molto diversi, che vanno dall’intrattenimento all’abuso.

Negli ultimi anni, la diffusione di una buona parte di questi contenuti riguarda il mondo della pornografia, e quasi tutti coinvolgono il volto di celebrità femminili sovrapposto a corpi di pornostar.

Questo apre la strada a fenomeni inquietanti come il revenge porn, che rappresenta una vera e propria minaccia per la privacy e la dignità delle persone, in particolare delle donne.

Oltre all’ambito pornografico, i deepfake vengono creati anche per truffe sentimentali, o peggio per frode, specialmente in ambito informativo; possono essere infatti utilizzati video o audio falsificati per impersonare dirigenti aziendali o persone con accesso a informazioni sensibili, come conti bancari e numeri di carte di credito.

Un altro uso preoccupante dei deepfake è la diffusione di disinformazione politica: vengono creati sempre più video che vanno a distorcere le parole di politici o personaggi pubblici per influenzare l’opinione pubblica e seminare confusione.

I deepfake trovano luogo anche nel contesto legale, dove vengono utilizzati per fabbricare prove false, con l’obiettivo di complicare le indagini e alterare la ricerca della verità in tribunale.

Tuttavia, non tutti gli utilizzi dei deepfake hanno connotazioni negative; in alcuni casi, questa tecnologia può essere impiegata in modo creativo e costruttivo.

Ad esempio, nel mondo dell’arte e della musica, i deepfake vengono utilizzati per generare nuove opere basate su creazioni già esistenti.

Anche il marketing e la pubblicità stanno trovando modi per sfruttare i deepfake: alcune aziende utilizzano infatti questa tecnologia per produrre campagne video a basso costo, dove non è più necessario l’impiego fisico degli attori.

Grazie all’uso di immagini già registrate e all’adattamento di dialoghi predefiniti, i marketer possono creare contenuti personalizzati e coinvolgenti, senza dover girare nuove scene.

Quindi, se da un lato possono essere utilizzati per creare arte, intrattenimento e nuove esperienze interattive, dall’altro i deepfake rappresentano certamente una seria minaccia per la privacy, la sicurezza e la reputazione delle persone.

Con il loro uso in continua crescita, è fondamentale sviluppare una maggiore consapevolezza e imparare a riconoscere l’inganno.

Come riconoscere l’inganno

Anche se non esiste un metodo infallibile per individuare un deepfake al primo sguardo, ci sono diversi segnali che possono aiutare a capire se quello che si sta guardando è reale o frutto di manipolazione digitale.

Fattori visivi da considerare

Uno dei primi aspetti su cui concentrarsi è il viso: i deepfake, pur essendo sempre più sofisticati, spesso mostrano delle incongruenze nelle espressioni facciali o nei movimenti.

• Ad esempio, una persona potrebbe sbattere le palpebre troppo lentamente o, al contrario, troppo spesso in modo innaturale.
• Le sopracciglia, un altro elemento difficile da riprodurre fedelmente, potrebbero non integrarsi bene con il resto del viso, e quindi apparire disconnesse o artificiose.
• La pelle, inoltre, potrebbe apparire eccessivamente liscia, senza imperfezioni, oppure con troppe rughe rispetto alla realtà.

Audio e voce

L’audio è un altro elemento da tenere in considerazione: ad esempio, se la voce di una persona sembra troppo acuta o grave rispetto alla sua apparenza fisica, potrebbe trattarsi di deepfake.

Anche la sincronia tra il movimento delle labbra e le parole pronunciate può rivelare una manipolazione, specialmente se c’è un leggero ritardo o una mancata corrispondenza.

Illuminazione e riflessi

Uno dei punti deboli dei deepfake è la gestione della luce: l’illuminazione spesso non viene riprodotta in modo naturale, e i riflessi sugli oggetti – come occhiali o superfici lucide – possono apparire errati o mancanti.

Se i riflessi non corrispondono alla posizione delle fonti luminose o se l’ombra sembra “fuori luogo”, potrebbe trattarsi di un deepfake.

L’occhio umano è molto sensibile ai riflessi di luce, quindi anomalie di questo tipo possono essere un forte indizio di manipolazione digitale.

Elementi testuali

Oltre ai video e all’audio, anche i deepfake testuali possono essere ingannevoli; in questo caso, è importante prestare attenzione alla forma del messaggio.

Errori di ortografia o frasi mal costruite possono indicare che il testo è stato generato da un’intelligenza artificiale.

L’evoluzione costante dei deepfake

Nonostante questi indizi, la tecnologia dei deepfake è in continua evoluzione e diventa sempre più difficile rilevare manipolazioni.

Oggi, infatti, molti gap iniziali, come il battito innaturale delle palpebre o le espressioni rigide, sono state migliorate grazie a strumenti avanzati che rendono i contenuti falsi ancora più realistici.

Ciò significa che il margine d’errore umano nel riconoscere un deepfake si sta riducendo, e l’inganno diventa sempre più sofisticato.

Ciononostante, possiamo dire che i deepfake rappresentano un esempio brillante di come la tecnologia possa essere tanto geniale quanto pericolosa.

Da un lato, offrono incredibili opportunità nel campo della pubblicità, dell’arte e dell’intrattenimento, ma dall’altro, sono una minaccia concreta per la privacy, la sicurezza e la reputazione di persone comuni, multinazionali e celebrità.

Non a caso, sempre più aziende si stanno attrezzando con tecnologie avanzate e formano i propri dipendenti per riconoscere e difendersi da questo fenomeno, spesso rivolgendosi anche ad agenzie investigative specializzate per ottenere supporto nella rilevazione e nella gestione dei deepfake.

Ma non si tratta solo di un problema per le grandi organizzazioni o per le celebrità: viviamo in un’epoca di trasformazioni digitali rapide e pervasive, e i deepfake possono colpire chiunque, da un dirigente di multinazionale a uno studente di liceo.

Per questo motivo, è fondamentale mantenere sempre alta l’attenzione e imparare a distinguere il vero dal falso.

Occhi aperti, sempre!