Immaginate di scoprire, come Heejin, che su una chatroom Telegram frequentata da migliaia di utenti circoli una vostra immagine o un vostro video pornografico.
Immaginate che nulla di quell’immagine sia vero, tranne il vostro volto. Avete cioè a che fare con un duplicato di voi, negativo e completamente sottratto a controllo.
Immaginate che qualcuno possa creare un vostro passato immaginario, penetrare nella vostra sfera più intima e manipolarla come un regista, solo a partire da immagini acquisite da una piattaforma social e utilizzando un sistema di intelligenza generativa, talvolta banalmente un’app facilmente reperibile.
Un fenomeno in ascesa
Heejin (nome di fantasia) è sudcoreana, è una delle molte vittime di un fenomeno in forte crescita nel suo paese, la creazione di deepfake pornografici. La sua storia è stata raccontata in un approfondimento della BBC.
Al di là di peculiari dinamiche sociali che possono avere favorito in Corea del sud il dilagare di deepfake pornografici e la loro condivisione su ampie chat private, sarebbe ingenuo illudersi che il fenomeno non sia globale.
In altre parole, la Corea del Sud è un case study che ci riguarda, anche rispetto alle strategie normative dirette ad arginare le violazioni.
Talvolta i deepfake sono stati utilizzati per screditare un avversario politico o un giornalista (come nel caso Rana Ayyub in India), talaltra si inseriscono in meccanismi di ricatto sessuale, altre volte rispondono a mere forme di rivalsa sociale, di violenza di branco contro sconosciuti. Sono anzi queste ultime le modalità più incontrollabili e in maggiore crescita.
Tanti dati, pochi click per trasformarli
Ma perché è diventata così facile la generazione di fake? La materia prima sono immagini di accettabile qualità. Lo strumento per manipolarle sono app e software di intelligenza generativa, talvolta legittimi.
Del resto, strumenti molto accessibili, come le app di face-swapping, sono ampiamente accettate socialmente e questo favorisce la normalizzazione degli esperimenti.
Le immagini abbondano in rete, soprattutto sulle piattaforme social, raccoglierle è facilissimo. Le persone sono indotte a condividere scatti personali, momenti privati, a raccontare la propria intimità, spesso senza rendersi conto di perdere così il controllo di quelle immagini e di quei momenti.
Le preoccupazioni per contenuti video espliciti non consensuali, manipolati digitalmente si sono aggravate in Corea del Sud, dopo che ad agosto erano state diffuse online liste, non confermate, di istituti scolastici con vittime. Terrorizzate, molte ragazze e donne hanno rimosso foto e video da Instagram, Facebook e altri account social media, mentre altre hanno partecipato a proteste che chiedono maggiori interventi contro i deepfake pornografici. (Hiung-Jin Kim, South Korea fights deepfake porn with tougher punishment and regulation, Associated Press, 6.11.2024)
Si sente chiedere ogni tanto: perché la privacy è importante? Ecco, per esempio per ridurre l’area di attacco per deepfake o altre violazioni in ascesa, come furti di identità, revenge porn, molestie e stalking, furti mirati in appartamenti, solo per citarne alcune.
Sia detto senza retorica: la privacy è innanzitutto un’attitudine personale, prima che un potente insieme di strumenti giuridici a cui attingere.
Conseguenze sociali e strumenti giuridici
La Corea del Sud ha finalmente introdotto una normazione speciale, che colpisce anche il momento della visione o del possesso del deepfake pornografico, non solo quello successivo della sua diffusione, quando cioè il fenomeno ha già prodotto i suoi devastanti effetti sulla vittima. E’ certamente l’approccio corretto, resta da capire se sarà efficace.
E in Italia e nell’Unione europea quali strumenti giuridici esistono? Lo scenario non è del tutto incoraggiante. Ne ho relazionato al Privacy Symposium 2025 e ne ho scritto per l’ultimo numero della Rivista Digeat (n. 6/2025), dedicato monograficamente al tema del “Dominio dell’autenticità“. L’articolo completo è disponibile gratuitamente al seguente link: Deepfake pornografici: tutti più vulnerabili. Riflessioni su tutele e conseguenze sociali.
Gli effetti non si limitano a quelli, spaventosi, spesso disgreganti che subiscono le vittime. Nel contributo, affronto anche gli effetti sociali corrosivi dei deepfake in generale, primo fra tutti la dissoluzione della fiducia. Se non è più possibile distinguere il vero dal falso, se si afferma la tendenza a dubitare di qualsiasi contenuto visuale, si annulla ben presto uno dei collanti che tengono insieme la società e qualsiasi rapporto umano: la fiducia.
Nella costruzione della nostra esperienza del mondo, abbiamo sempre fatto affidamento su immagini che documentano eventi storici, fatti di cronaca o anche minime vicende personali.
Ora che siamo entrati nell’epoca della falsificazione massiva e prêt-à-porter, perché facile e immediata, il primo elemento a cedere è proprio l’affidamento, la fiducia. Ma così viene meno la fibra fondamentale del tessuto sociale. Con quali conseguenze di sfaldamento?
Nell’articolo esamino inoltre altre conseguenze del fenomeno in atto. Il giurista digitale deve interessarsene per alcune attività che è chiamato a svolgere: dall’analisi del rischio, in sede di valutazione delle misure di sicurezza da applicare ad app e piattaforme, alla valutazione del danno non patrimoniale. Il nuovo contesto tecnologico deve infatti orientare verso nuovi schemi di apprezzamento degli effetti pregiudizievoli.