e-Shop
Rivista Sentieriselvaggi21st
Scuola di Cinema
Rose Villain e i pericoli del deep fake
La cantante milanese è l’ennesima vittima di diffusione di contenuti espliciti senza consenso creati con l’IA. Ecco un nostro excursus sui rischi che la nuova tecnologia potrebbe portare a breve
BANDO BORSE DI STUDIO IN CRITICA, SCENEGGIATURA, FILMMAKING
--------------------------------------------------------------
Da qualche giorno circolano in rete delle foto esplicite che ritraggono la cantante Rose Villain, ovviamente dei fake creati con l’Intelligenza Artificiale. La nota cantante, che ha già sporto denuncia, ha parlato in prima persona di quanto accaduto via Instagram, commentando: “la cosa mi mette a disagio e mi fa sentire violata. Ho già sporto denuncia ma vorrei ricordare che è illegale ed è punibile chi crea, chi diffonde e chi condivide materiale di questo tipo.”
OFFERTA DI LUGLIO SULLO SHOP DI SENTIERI SELVAGGI!
--------------------------------------------------------------
UNICINEMA QUADRIENNALE:SCARICA LA GUIDA COMPLETA!
LA SCUOLA DI DOCUMENTARIO DI SENTIERI SELVAGGI
-------------------------------------------------------
----------------------------
Rose Villain ha aggiunto che “il problema è che queste cose succedono anche a persone molto fragili che magari non sanno proteggersi, tutelarsi e difendersi come invece possono e devono fare.” Questo è quindi l’ennesimo caso di deep nude: la creazione e diffusione di immagini e video espliciti attraverso l’IA, senza alcun consenso da parte dei soggetti di questi contenuti. Ad inizio 2024 anche Taylor Swift è stata vittima di questa pratica, con la diffusione su X di alcune immagini di natura pornografica. Secondo 404 Media queste ultime sarebbero state create con un tool di Microsoft per AI.
Una volta generate, le immagini sarebbero circolate in diversi gruppi chiusi su Telegram e infine, dopo brevissimo tempo, diffuse anche sul social acquisito da Elon Musk. Non a caso Telegram è quasi sempre al centro di queste vicende, tra revenge porn, deep fake e simili. La criticità starebbe nel fatto che la piattaforma è costruita proprio sulla libertà data agli utenti nel condividere (apparentemente) senza rischi qualsiasi materiale, dai contenuti espliciti diffusi senza consenso, appunto, sino alla disinformazione o alla propaganda più spietata.
Con l’avanzare di questa tecnologia però molti sottolineano delle problematiche imminenti proprio riguardo l’uso dei corpi che si fa in rete. In particolare, ci si chiede quale sarà nel futuro prossimo il rapporto dell’IA in relazione ai bias di genere strutturali e sistematici della società contemporanea. Il New York Times ha affrontato questa problematica in lungo articolo chiamato proprio Dealing With Bias in Artificial Intelligence.
Ad ogni modo, è sempre più tangibile uno spostamento delle tendenze “robotiche” su Internet. Se infatti ormai ci siamo rassegnati al fatto che oggi quasi metà del traffico globale sul web è appannaggio dei bot, sembra che anche l’immagine e il suono tendano verso l’artificio. Inutile ribadire che gli svantaggi sono maggiori rispetto ai benefici. E anche se nate già da qualche anno, le influencer generate dall’IA stanno riscuotendo un’attenzione impossibile da ignorare – dall’utenza, ma soprattutto dai brand. Tra le più note troviamo Miquela Sousa e Lu do Magalu, che contano rispettivamente 2.6 e 6.4 milioni di follower.
Secondo gli esperti, è evidente che questa pratica generativa delle AI influencer porterà a problemi concreti. Soprattutto nei più giovani, che ora trovano dei modelli di bellezza ancora più estremi e patinati a cui guardare, e che alla lunga potrebbero portare a serie difficoltà legate alla salute mentale (insicurezza, depressione, ansia); le stesse già provocate dal confronto con gli influencer in carne ed ossa.
Tornando al caso Rose Villain, vediamo pararsi ulteriori criticità. Questo del deep nude, infatti, è solo la punta di un iceberg di caos che l’IA sembra portare con sé a causa dei molteplici utilizzi dannosi, se non addirittura illegali, che se ne possono fare. Ad esempio, sono già stati registrati casi di gravi truffe telefoniche. O, ancora peggio, situazioni in cui la voce di qualcuno è stata usata per minacciare e fingere un caso di rapimento, come riportato dal New Yorker, che ha denunciato un tentativo di estorsione da parte di ignoti, simulando un sequestro con l’aiuto della voce creata dall’IA.
Insomma, non è ancora chiaro se e quando riusciremo a trovare un modo di combattere la disinformazione e i deep fake/nude/voice. L’IA, giorno dopo giorno, si insinua nelle vite di tutte e tutti mostrando quanto su Internet la creazione e condivisione sa essere ambivalente. Mentre negli Stati Uniti non c’è ancora traccia di una qualche forma di regolamentazione, l’Europa si porta avanti approvando sempre più leggi che cercano di prevenire i rischi della nuova tecnologia (AI Act). Ad oggi è uno dei pochissimi modi di garantire ai cittadini una supervisione nei riguardi di un mondo virtuale sempre più frammentato e insidioso.
SCUOLA DI CINEMA TRIENNALE: SCARICA LA GUIDA COMPLETA!
----------------------------
