Deepfake e AI: quando non puoi più
fidarti dei tuoi occhi (né delle tue orecchie)
Come funzionano i deepfake, perché 3 secondi della tua voce bastano a clonarla, e cosa puoi fare quando il video che stai guardando potrebbe non essere reale.
Nel febbraio 2024, un dipendente del settore finanziario di Arup — multinazionale dell’ingegneria con sede a Londra — ha partecipato a una videochiamata con il CFO della sua azienda e altri dirigenti senior. Durante la call, il CFO ha chiesto di autorizzare una serie di bonifici urgenti. Il dipendente ha eseguito 15 trasferimenti per un totale di 25,6 milioni di dollari. Il giorno dopo ha scoperto la verità: nessuna delle persone nella videochiamata era reale. Erano tutte deepfake — volti e voci generati dall’intelligenza artificiale.
Questa storia non viene da un film di fantascienza. È un caso giudiziario documentato. E rappresenta solo la punta di un iceberg che nel 2025 ha raggiunto dimensioni che, anche solo tre anni fa, sarebbero sembrate impossibili.
I numeri: un’esplosione senza precedenti
Leggiamo bene l’ultimo dato: solo lo 0,1% delle persone riesce a distinguere correttamente tutti i contenuti falsi da quelli reali in un test controllato. Non l’1% — lo zero virgola uno per cento. In pratica, il deepfake ha vinto la partita percettiva contro l’occhio umano.
Come funzionano: la tecnologia in 2 minuti
Deepfake video: il face swap
I deepfake video nascono da reti neurali chiamate GAN (Generative Adversarial Network) o, più recentemente, da modelli di diffusione. Il principio è semplice: due reti neurali competono tra loro — una genera volti falsi, l’altra cerca di smascherarli. Generazione dopo generazione, la rete generatrice diventa così brava che la rete discriminatrice non riesce più a distinguere il falso dal vero.
Nel 2026, i nuovi modelli (come Sora 2 di OpenAI e Veo 3 di Google) producono video temporalmente coerenti: movimenti fluidi, identità consistenti, illuminazione realistica. I difetti che una volta tradivano i deepfake — occhi che lampeggiavano in modo innaturale, bordi sfocati intorno al volto, movimenti a scatti della mascella — sono in gran parte scomparsi.
Voice cloning: la tua voce in 3 secondi
Clonare una voce è diventato ancora più semplice che falsificare un video. Le piattaforme di voice cloning moderne richiedono appena 3-5 secondi di audio — un messaggio vocale su WhatsApp, un video su Instagram, una storia su TikTok — per creare un clone vocale con l’85% di somiglianza. Il clone riproduce intonazione, ritmo, pause, respirazione, emozione.
- Social media: video, storie, dirette — ogni contenuto pubblico dove parli è materiale utilizzabile
- Messaggi vocali: WhatsApp, Telegram — basta che qualcuno li inoltri o li salvi
- YouTube e podcast: ore di audio di alta qualità, gratuitamente disponibili
- Segreterie telefoniche: il tuo messaggio di benvenuto può essere sufficiente
Il 53% delle persone condivide la propria voce online almeno una volta alla settimana. Ogni volta, fornisce materiale per un potenziale clone.
Il “Deepfake-as-a-Service”: il crimine si industrializza
Nel 2025 sono esplose le piattaforme DaaS (Deepfake-as-a-Service): servizi pronti all’uso sul dark web che offrono clonazione vocale, generazione video e creazione di identità sintetiche a pagamento. Non serve più essere un esperto — basta una carta di credito (spesso rubata) e un prompt. I deepfake coinvolti in oltre il 30% degli attacchi di impersonificazione aziendale nel 2025 provenivano da piattaforme DaaS.
Casi reali: non è fantascienza, è cronaca
🏢 Arup — 25,6 milioni di dollari (febbraio 2024)
Videochiamata con deepfake del CFO e di altri dirigenti. Il dipendente autorizza 15 bonifici in un giorno. Fondi non recuperati.
🏎️ Ferrari — tentativo sventato (luglio 2024)
Un dirigente Ferrari riceve una chiamata WhatsApp dal “CEO” Benedetto Vigna che chiede di autorizzare un’operazione finanziaria urgente. La voce è un clone. Il dirigente insospettito chiede una verifica con una domanda personale. Il truffatore riaggancia. Tentativo fallito grazie al protocollo di verifica.
👩 Sharon Brightwell — 15.000 dollari (luglio 2025)
Una madre della Florida riceve una telefonata dalla “figlia” in lacrime: incidente d’auto, perdita del bambino, problemi legali. Manda 15.000 dollari in contanti a un corriere. La figlia vera stava benissimo. La voce era un clone AI generato da video pubblici sui social.
🗳️ Robocall elettorali — New Hampshire (2024)
Un consulente politico usa un deepfake audio del presidente Biden per creare robocall automatiche destinate a scoraggiare gli elettori dal votare alle primarie. Incriminato per frode elettorale e soppressione del voto. La FCC ha comminato una sanzione da 6 milioni di dollari.
💰 Crypto scam con Elon Musk — continui (2024-2026)
Migliaia di video deepfake di Elon Musk, MrBeast e altri personaggi pubblici promuovono truffe crypto sui social. Le vittime inviano fondi pensando di partecipare a “giveaway” esclusivi. Perdite nell’ordine delle centinaia di milioni.
Deepfake tra studenti: il problema che nessuno vuole affrontare
Il fenomeno dei deepfake non è limitato al mondo aziendale o alla geopolitica. Sta entrando nelle scuole — e le conseguenze sono devastanti.
Immagini intime non consensuali
App gratuite permettono di generare immagini esplicite false a partire da una semplice foto del volto. Il 96% dei deepfake online è pornografia non consensuale, e le vittime sono in stragrande maggioranza donne e ragazze. Nelle scuole, questo fenomeno si sta diffondendo con conseguenze penali gravissime per chi produce e condivide questo materiale — e danni psicologici enormi per le vittime.
Cyberbullismo con AI
Creare un video deepfake di un compagno che dice o fa cose imbarazzanti è diventato tecnicamente banale. Diffonderlo in un gruppo classe può distruggere la reputazione di qualcuno in poche ore. Ed è un reato — diffamazione (art. 595 c.p.), più potenzialmente sostituzione di persona (art. 494 c.p.).
Voice cloning per “scherzi”
Clonare la voce di un professore o di un compagno per creare messaggi falsi e inviarli via WhatsApp. Anche quando presentato come “scherzo”, configura illeciti penali e può avere conseguenze disciplinari e legali serie.
Produrre e diffondere deepfake a sfondo sessuale di minorenni configura produzione e diffusione di materiale pedopornografico (art. 600-ter c.p.) — anche se l’immagine è “solo” generata dall’AI e il soggetto è un coetaneo. La legge non distingue tra foto reale e foto sintetica se il soggetto raffigurato è riconoscibile e minorenne. Le pene sono severissime: reclusione da 6 a 12 anni. E sì, si applica anche ai minorenni con più di 14 anni.
Come riconoscere un deepfake (finché è ancora possibile)
Gli indizi percettivi si stanno assottigliando. Ma alcuni segnali esistono ancora, specialmente nei deepfake meno sofisticati.
✅ Indizi visivi (video)
✅ Indizi audio (voice clone)
Come difendersi: protocolli, non occhi
Dato che i nostri sensi non bastano più, la difesa deve spostarsi dai sensi ai protocolli: procedure di verifica sistematiche che funzionano anche quando il deepfake è perfetto.
✅ Le difese che funzionano nel 2026
Quiz: deepfake — sai difenderti?
1. Quanti secondi di audio servono per clonare una voce con l’85% di somiglianza?
2. Uno studente usa un’app per generare un’immagine esplicita falsa di una compagna di classe a partire da una sua foto. È reato?
3. Ricevo un vocale da mia madre che mi chiede urgentemente di mandarle 500 euro perché le hanno rubato il portafoglio. Cosa faccio?
4. Qual è la percentuale di persone che riesce a distinguere tutti i deepfake dai contenuti reali in un test?
5. Se un deepfake video mostra un personaggio pubblico che promuove un investimento crypto, come posso verificare?
Il futuro: fidarsi dei protocolli, non degli occhi
La corsa tra chi crea deepfake e chi li rileva è una corsa che, a livello percettivo, i creatori stanno vincendo. Nel 2026, i ricercatori avvertono che stiamo entrando nell’era dei deepfake interattivi in tempo reale: non più video preregistrati, ma avatar sintetici che reagiscono, rispondono e si adattano alla conversazione. L’intera persona dall’altra parte dello schermo potrebbe non esistere.
Ma non tutto è perduto. Stanno nascendo infrastrutture di verifica: firme crittografiche sui contenuti originali (lo standard C2PA — Coalition for Content Provenance and Authenticity), strumenti forensi multimodali, e politiche aziendali basate sulla verifica multi-canale. La soluzione non sarà tecnologica o umana — sarà la combinazione di entrambe.
In un mondo dove tutto può essere falsificato, il pensiero critico diventa un superpotere.
Non si tratta di diventare paranoici — si tratta di costruire l’abitudine a verificare prima di reagire. Come per il phishing, le password e l’ingegneria sociale, la consapevolezza è la difesa più potente. E in un’epoca di deepfake, rallentare è il gesto più intelligente che puoi fare.
Risorse
| Risorsa | Cosa trovi |
|---|---|
| Deepfake-o-Meter | Strumento accademico per l’analisi e il rilevamento dei deepfake (Università di Buffalo). |
| C2PA.org | Standard di provenienza dei contenuti — verifica se un media ha una firma crittografica di autenticità. |
| Google Reverse Image Search | Ricerca inversa per immagini — verifica se una foto circola già online in contesti diversi. |
| commissariatodips.it | Polizia Postale: segnalazioni di deepfake, truffe, contenuti illeciti. |
| Articoli HOS correlati | Phishing · Password · Accesso abusivo · VPN · Privacy · Fuffaguru |