Nello scorso numero avevamo introdotto il fenomeno del deepfake e delle identità sintetiche, esplorandone le implicazioni nel panorama normativo italiano ed europeo, approfondiremo ora le strategie difensive, giuridiche, tecnologiche e probatorie che gli ordinamenti stanno sviluppando per contrastare queste minacce.

Il problema del deep fake non riguarda semplicemente la tutela della privacy o della dignità della persona, ma investe le fondamenta stesse del sistema probatorio.

La giurisprudenza ha sollevato questioni decisive che meritano attenta riflessione: quali garanzie processuali si devono adottare quando una prova documentale, sia essa un video, una registrazione audio o un’immagine, potrebbe essere stata generata o alterata da sistemi di intelligenza artificiale?

Il documento digitale, che la giurisprudenza italiana ha da tempo equiparato al documento cartaceo per effetto dell’articolo 2701 del codice civile e dell’articolo 22, comma 1-bis, del decreto legislativo 179 del 2016, è tradizionalmente considerato un grande contenitore di tipicità, capace di veicolare testi, immagini, suoni e video.

Tuttavia, la sua caratteristica fondamentale rimane l’idoneità dimostrativa del contenuto con la conseguenza che se un contenuto multimediale, pur essendo formalmente un documento, è stato generato artificialmente e risulta idoneo a indurre in inganno sulla sua genuinità, come recita l’articolo 612-quater del codice penale, esso perde la sua capacità di prova: diventa un simulacro che, anzichè testimoniare la realtà, la costruisce ex novo.

In questo contesto si inserisce l’intervento della Suprema Corte statunitense in un caso giudicato dal Tribunale distrettuale della California settentrionale nel 2024, dove la giurisprudenza ha affrontato le responsabilità delle piattaforme nella verifica dell’autenticità dei contenuti.

Pur trattandosi di una vicenda civilistica relativa alla rimozione di contenuti, la Corte ha sollevato questioni preliminari sulla due diligence che i social media dovrebbero esercitare quando algoritmi di deep learning generano rappresentazioni realistiche di persone reali, aprendo uno scenario in cui la responsabilità delle piattaforme potrebbe estendersi oltre la mera ospitalità dei contenuti, coinvolgendo un dovere attivo di verifica che fino a oggi è rimasto largamente teorico.

Sotto altro profilo, tra i casi penalmente più rilevanti, emerge l’operazione OnlyFake, culminata con il guilty plea di un cittadino ucraino di ventisette anni, di fronte alla United States District Court for the Southern District of New York. che aveva gestito una piattaforma web che utilizzava intelligenza artificiale per generare documenti d’identità contraffatti su scala industriale: oltre diecimila documenti falsi, tra passaporti di cinquantasei paesi diversi, patenti di guida di tutti i cinquanta stati americani, carte di previdenza sociale e altri titoli identificativi.

L’elemento di novità criminologica risiede nella specificità della finalità: i documenti OnlyFake non erano destinati all’uso fisico, come l’attraversamento di una frontiera o l’accesso a un edificio governativo, ma al bypass digitale dei sistemi di Know Your Customer implementati da banche e exchange di criptovalute.

Se OnlyFake rappresenta la dimensione cyber e automatizzata della frode, il caso giudicato dal Tribunale distrettuale della California nel settembre 2025, ne illustra la declinazione tradizionale: un cittadino della Georgia, è stato condannato a oltre sette anni di reclusione per aver partecipato a un fraud ring che utilizzava numeri di previdenza sociale rubati, molti dei quali appartenenti a minori, per creare identità sintetiche (synthetic identity fraud) combinando informazioni reali, ovvero social security number autentici, con dati inventati, quali nomi e date di nascita fittizie, generando profili identitari ibridi che non corrispondevano a persone fisicamente esistenti, ma che risultavano sufficientemente plausibili per aprire linee di credito, costituire società shell e defraudare istituti finanziari per quasi due milioni di dollari.

In questo scenario, il problema più complesso, e forse più sottovalutato, concernente i deepfake è quello della loro ricevibilità nel processo.

Se un contenuto generato o alterato tramite intelligenza artificiale può essere usato per frodare un sistema Know Your Customer o diffamare una persona sui social, esso può altresì essere proposto come prova in un procedimento giudiziario: un video che mostra un imputato mentre commette un reato, una registrazione che conferma una promessa contrattuale, un’immagine che documenta un incidente.

Per arginare il fenomeno, negli Stati Uniti, l’Advisory Committee on Evidence Rules ha preparato, sebbene non ancora approvato, una nuova Federal Rule of Evidence 901(c) che introdurrebbe un requisito specifico per l’autenticazione di contenuti generati o alterati da intelligenza artificiale: l’opponente dovrebbe fornire evidence sufficient to support a finding that a challenged item was a deepfake.

Nel Regno Unito, la High Court, pur non risolvendo definitivamente la questione della genuinità, ha aperto un dibattito sulla necessità di standard tecnici di autenticazione per le prove digitali.

In Europa, l’AI Act, ha introdotto un regime di governance per i sistemi di AI che generano o manipolano contenuti sintetici: in primo luogo l’articolo 50 impone agli utilizzatori di sistemi di AI generativa l’obbligo di disclosure, in virtù del quale l’utente deve essere informato che il contenuto è stato generato artificialmente ed in secondo luogo, l’articolo 52 impone la marcatura tecnica dei contenuti, il cosiddetto watermarking, affinchè siano riconoscibili come sintetici.

In Italia la legge 132 del 2025, recependo queste indicazioni, ha introdotto, come ricordato, l’articolo 612-quater del codice penale, concernente l’illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale, e ha modificato l’articolo 61 del codice penale con la nuova circostanza aggravante numero 11-ter, relativa all’uso di sistemi di intelligenza artificiale come mezzo insidioso o come strumento che aggravi le conseguenze del reato.

Dal canto suo, il fronte tecnologico risponde alla minaccia con l’evoluzione dei sistemi di liveness detection, tecniche capaci di distinguere un volto reale da una sua rappresentazione digitale, sia essa foto, video o deep fake.

Le soluzioni più avanzate analizzano micro-movimenti involontari come il battito delle pupille, il battito delle palpebre e i micro-tremori muscolari; i riflessi della luce e la loro coerenza con le fonti luminose; la texture della pelle attraverso analisi sub-cutanee che i deepfake attuali faticano a replicare; e infine le challenge-response, ovvero richieste di azioni specifiche come sorridere, girare la testa o chiudere un occhio in tempo reale.

Tuttavia, queste difese sono efficaci solo contro deep fake di prima generazione.

Gli algoritmi di diffusione avanzata, quali Stable Diffusion, DALL-E 3 e Sora, stanno rapidamente superando queste barriere, rendendo necessario un approccio stratificato che combini verifiche biometriche, analisi comportamentali e, in prospettiva, tecnologie blockchain per la certificazione dell’autenticità dei contenuti, il cosiddetto provenance tracking.

I casi OnlyFake, Corey Cato e le sentenze delle Corti supreme italiane e statunitensi disegnano un panorama giuridico in rapida evoluzione. Il diritto, civile, penale e processuale, devono confrontarsi con un paradosso: la tecnologia che rende possibile la prova perfetta, un video indistinguibile dalla realtà, è la stessa che rende la prova stessa inattendibile.

La soluzione non può essere solo tecnica, attraverso algoritmi di rilevazione sempre più sofisticati, né solo giuridica, serve un’ecologia dell’autenticità: standard internazionali di certificazione, formazione dei giudici e degli operatori giuridici, cooperazione transnazionale tra forze dell’ordine, responsabilizzazione delle piattaforme che erogano sistemi di intelligenza artificiale generativa.