Il deepfake pornografico: un fenomeno sempre più pericoloso

Internet ha dischiuso le innumerevoli possibilità di diffondere contenuti falsi. Le fake news hanno triplicato la loro forza con i social media: le notizie false, le cosiddette bufale, si trasmettono in modo molto più veloce ed efficace. È stata però la propagazione su larga scala di strumenti di intelligenza artificiale a destare le maggiori preoccupazioni, perché se è vero che non è facile distinguere e smascherare le fake news, è ancora più difficile riconoscere i deepfake. Le immagini e i video che ritraggono ricostruzioni di personaggi famosi, come attori e politici, ma anche persone comuni in situazioni o comportamenti non reali, possono essere compromettenti. Un fenomeno che sta dilagando in tutto il mondo, soprattutto tra giovani ed è diventato una nuova forma di violenza sessuale e di genere digitale. 

Cos’è il porno deepfake

Le particolari tipologie di deepfake, che stanno creando non pochi problemi in tutto il mondo, sono il deep nude e i porno deepfake. Il deep nude è reso possibile dalle tecnologie avanzate che prendono immagini normali di corpi vestiti e riescono a spogliarli ricostruendo l’aspetto del corpo, creando immagini e video più che realistici. Su Telegram esistono anche dei bot deep nude che istantaneamente “spogliano” immagini di donne e le diffondono con estrema facilità. Il primo deepfake fu in realtà proprio un deep nude, partito da una piattaforma che fu chiusa, ma il software che permetteva questa tecnica è rimasto nel web. 

Nel caso dei porno deepfake, le persone non vengono soltanto ritratte in situazioni irreali – come in tutti i deepfake – ma vengono rappresentate in situazioni compromettenti, come appunto i contesti pornografici. Attraverso sofisticati algoritmi, è possibile sostituire il volto di una persona in un video esistente con quello di un’altra. Il risultato è un video estremamente realistico, in cui la persona sostituita sembra compiere azioni che in realtà non ha mai compiuto e con persone che magari neanche conosce. Queste immagini sono realizzate in modo quasi perfetto e risultano talmente realistiche da non creare dubbi sulla loro veridicità.  

Implicazioni giuridiche della nuova cyber violenza

Il fenomeno del deepfake pornografico è una delle sfide più urgenti del diritto penale informatico. I video e le immagini creati sono atti di cyber bullismo che puntano a denigrare e screditare le persone coinvolte, spesso per ricattarle o per scopi politici. Le vittime del deepfake pornografico subiscono danni enormi alla loro reputazione, sia professionale che privata, che minano la loro credibilità e la loro dignità. Le conseguenze possono avere un impatto a lungo termine, come l’insorgenza di gravi disturbi psicologici nelle vittime.  

Il fenomeno del deepfake pornografico è una delle sfide più urgenti del diritto penale informatico. I video e le immagini creati sono atti di cyber bullismo che puntano a denigrare e screditare le persone coinvolte, spesso per ricattarle o per scopi politici. Le vittime del deepfake pornografico subiscono danni enormi alla loro reputazione, sia professionale che privata, che minano la loro credibilità e la loro dignità. Le conseguenze possono avere un impatto a lungo termine, come l’insorgenza di gravi disturbi psicologici nelle vittime.  

Il Garante per la protezione dei dati personali ha bollato il deepfake come un grave furto di identità, perché le persone ritratte sono ignare di tutto e perdono il controllo sulla propria immagine. Questa tendenza, in forte crescita, solleva problematiche giuridiche e sociali non indifferenti. La difficoltà maggiore è quella di identificare e poi provare la falsità del contenuto: spesso l’immagine o il video può apparire sgranato e pixelato, ma altre volte è estremamente complesso e richiede l’utilizzo di mezzi e tecniche specializzati. Ancor più difficile è identificare gli autori che quasi sempre operano in anonimo. 

Il diritto penale sta cercando di adeguarsi a questa nuova realtà: molti ordinamenti giuridici, infatti, stanno introducendo norme penali che vanno a punire la diffusione di contenuti pornografici senza il consenso della persona ritratta. Non solo, vengono proposte nuove fattispecie di reato specifiche per la creazione e diffusione di deepfake pornografici.  

L’emergenza si sta facendo sentire in tutto il mondo e cresce l’urgenza di intervenire nella regolamentazione. Il governo del Regno Unito sta pensando di introdurre una norma che renda illegali i deepfake non consensuali, ovvero non solo la loro condivisione e diffusione ma anche la loro creazione, sulla scia dei Paesi Bassi. Per quanto riguarda gli Stati Uniti, la proposta di legge Defiance Act andrebbe a tutelare la vittima, mentre il Take It Down Act si concentra sull’eliminazione della diffusione di materiale deepfake pornografico obbligando le piattaforme a cancellare tali contenuti.  

Il caso della Corea del Sud

In alcuni casi il deepfake pornografico è diventato motivo di agitazioni, come è accaduto a Seul. Nella capitale della Corea del Sud, centinaia di donne sono scese in piazza per protestare contro questa terribile faccenda che nel paese sta diventando una vera e propria emergenza. Secondo il rapporto di Security Heroes, il 53% delle donne vittime di deepfake porno nel mondo sono coreane. Tra vari motivi di questa cifra, sproporzionata rispetto alle altre nazioni di provenienza delle vittime di questo fenomeno, vi è il vasto utilizzo che si fa dei deepfake, non solo pornografici, in Corea – molti video fake sono circolati durante il periodo delle elezioni – e in generale la forte espansione della tecnologia in tutto il paese. La presenza pervasiva della tecnologia in Corea del Sud, che vede un impiego smodato della robotica e delle intelligenze artificiali, sta rischiando di far crollare il paese in una crisi che mostra le sue debolezze dal punto di vista sociale, come dimostrano la disparità e la violenza di genere. L’esempio della Corea del Sud deve destarci dall’entusiasmo senza freni della nostra società, che si appropria di tecnologie che a volte non è in grado di maneggiare e gestire.  

Per il presidente coreano si tratta di un’”epidemia di crimini sessuali digitali“, e in effetti, insieme al sexting e il cyberstalking, il deepfake è uno dei crimini più pericolosi. La Corea del Sud sta cercando di contenere questo fenomeno con una nuova legge; inoltre, ha sviluppato uno strumento di intelligenza artificiale che monitora 24 ore su 24 il web per eliminare direttamente i deepfake. Tutto ciò però non basta e servono regole più restrittive secondo la popolazione. Il fenomeno non riguarda soltanto il paese sudcoreano: anche negli Stati Uniti sono state aperte inchieste contro siti e applicazioni che permettono la creazione di deep nude e porno deepfake, addirittura con minori, il che rientra nella pedopornografia, reato perseguito a livello internazionale. 

Come difendersi dai deepfake pornografici 

La tecnologia sofisticata che permette la creazione di deepfake pornografici non rende possibile svelare in modo immediato e scontato che si tratta di una manomissione.  
Per quanto si possa provare ad evitare e a prevenire questi abusi – magari condividendo meno ritratti di sé sui social e segnalando ogni eventuale deepfake – è necessario un intervento normativo a livello internazionale che protegga il web da questa grave minaccia. L’Unione Europea ha regolamentato i deepfake nell’AI Act inserendoli nella categoria di tecnologie ad alto rischio. In Italia, il deepfake pornografico rientra nella fattispecie regolamentata dall’articolo 612-ter del codice penale, relativa alla diffusione illecita di immagini o video sessualmente espliciti, che punisce con la reclusione chi crea e diffonde materiale pornografico senza consenso dell’interessato – il revenge porn in sostanza, anche se non vi è una corrispondenza completa. Più tutelata sembra la materia del deep porn che coinvolge i minori, perché la legge sulla pedopornografia è normata dall’articolo 600-quater del codice penale che disciplina anche il materiale realizzato con tecniche virtuali, ovvero fittizie.  

Nel prossimo futuro, dato il dilagarsi dell’emergenza a livello globale, è probabile che i legislatori forniscano un quadro più dettagliato della regolamentazione sui deepfake pornografici e prendano provvedimenti più stringenti contro coloro che li creano e li diffondono senza il consenso delle persone ritratte. Le normative dovranno essere rafforzate a livello internazionale ed è necessario che le aziende pubbliche e privati collaborino con i governi per evitare illeciti e danni reputazionali alla società.  

Nel prossimo futuro, dato il dilagarsi dell’emergenza a livello globale, è probabile che i legislatori forniscano un quadro più dettagliato della regolamentazione sui deepfake pornografici e prendano provvedimenti più stringenti contro coloro che li creano e li diffondono senza il consenso delle persone ritratte. Le normative dovranno essere rafforzate a livello internazionale ed è necessario che le aziende pubbliche e privati collaborino con i governi per evitare illeciti e danni reputazionali alla società.  

Le piattaforme social, data la loro vastità e la loro capacità di diffondere contenuti in modo virale e spesso in anonimato, svolgono un ruolo cruciale sia nella creazione che nella diffusione dei deepfake pornografici. Sono dunque sotto i riflettori, come dimostra l’inchiesta contro Telegram, per limitare il fenomeno. La moderazione e la rimozione dei contenuti si rivelano essere gli strumenti migliori in questo momento per contrastare il fenomeno che prolifera sui social network. Alcune società, inoltre, stanno introducendo altri strumenti atti a verificare l’autenticità dei contenuti. 

Minori e illegalità digitali 

Un altro fattore altrettanto preoccupante è il coinvolgimento dei minori in questa crisi. Sono infatti spesso i minorenni a realizzare deepfake pornografici, e questo rivela anche la mancanza di percezione della gravità di questi contenuti e quanto siano dannosi per gli altri. Il fatto che sia così semplice realizzarli dimostra la poca attenzione che si pone sull’etica dell’utilizzo su vasta scala di determinati strumenti. L’educazione digitale è importante perché gli utenti non conoscono gli illeciti in cui possono incappare, ed è altrettanto importante conoscere la normativa relativa alla tecnologia. Dal reato di diffamazione alla violazione della privacy, fino alla violenza sessuale: gli illeciti che portano con sé i deepfake pornografici sono piuttosto gravi ed è fondamentale conoscerne le conseguenze. 

La società di investigazione sulla cybersicurezza Deeptrace, nel 2019, ha rivelato che il 96% dei video deepfake erano di natura pornografica, erano stati realizzati senza consenso e il 99% di essi aveva come oggetto le donne, mentre molti casi dimostravano il coinvolgimento di minori sia in modo attivo, quindi come artefici, che passivo. Le vittime di questo reato subiscono dei seri traumi psicologici, oltre che danni reputazionali. Forse i vari casi che stanno emergendo in tutte le parti del mondo porteranno i governi a prendere consapevolezza della portata di questo fenomeno, perché spesso non si tiene conto dell’illecito che si commette o di cui si resta vittima, come dimostrano le mancate denunce. Rafforzare il quadro giuridico a livello internazionale è il primo passo per contenere il fenomeno, coadiuvato da programmi di educazione etica all’utilizzo di internet, dei social media e degli strumenti di intelligenza artificiale, soprattutto indirizzate ai giovani. È necessario sensibilizzare la società sui pericoli di determinati strumenti e rendere le persone consapevoli delle conseguenze. 

Il porno deepfake è uno dei maggiori abusi della tecnologia e dell’intelligenza artificiale e sta dilagando in brevissimo tempo, creando un fenomeno allarmante e difficile da frenare. Se la criminalizzazione di questi contenuti potrebbe non essere la risposta più efficace, agire a livello giuridico è un atto necessario. Nel frattempo, però, deve essere messo in moto un cambiamento culturale per evitare gli abusi della tecnologia e dell’intelligenza artificiale e soprattutto per proteggere i giovani e il futuro progresso.  

Riferimenti

2023 State Of Deepfakes: Realities, Threats, And Impact (securityhero.io)