🦹♀️Se il porno arriva alla Casa Bianca: la lotta ai deepfake passa da Taylor Swift - #17
I porno falsi ci invitano a trovare una soluzione alle repliche digitali non autorizzate. E poi una riflessione sul potere dell'immagine: se vi dicessi che ho l'immagine di Ilaria Salis in cella?
🦸♂️Siamo arrivati al numero 17 di Superpoteri! Speriamo non porti sfortuna.
🦹♀️ Nelle ultime settimane c’è stata un’invasione di immagini e video hot della superstar Taylor Swift. No, non c’è stato un leak delle sue foto private, quel materiale è tutto falso, o meglio, generato dall’IA. Abbiamo già parlato di deepfake e di quanto non venga percepito come un problema reale, ma forse adesso si muoverà qualcosa, visto che tocca una delle celebrità più influenti al mondo. Perfino la Casa Bianca è intervenuta sul tema, chiedendo più moderazione alle piattaforme. E in Italia com’è la situazione sui deepfake? Cosa si rischia a crearne uno e a condividerlo? Cosa si può fare per limitare questa violenza? Le risposte nel SuperPost di questo numero.
🦹♀️L’immagine è ancora un mezzo di comunicazione politicamente potentissimo: lo abbiamo visto nel caso della foto di Ilaria Salis incatenata al suo processo, che ha portato il suo caso su tutti i giornali, dopo essere stata ignorata per mesi. Se quella foto ci ha fatto inorridire, pensate cosa succederebbe se avessimo un’immagine della sua detenzione in cella, con le cimici, la sporcizia e il resto. Non ce l’abbiamo è vero, però ci sono gli strumenti di IA generativa: su Superimages la foto della cella di Ilaria Salis, ricostruita secondo alcune testimonianze.
🦸 E poi interessanti SuperNews e su SuperItaly il Ministro dell’Economia e delle Finanze Giancarlo Giorgetti che parla di IA e di come migliorare lo sviluppo tecnologico.
🦹♀️Buona lettura, fammi sapere cosa ne pensi e, se non l’hai ancora fatto, iscriviti!
Superpost - Quando si discute di “porno” alla Casa Bianca la questione diventa: i deepfake e la lotta alle repliche digitali non autorizzate
🦹♀️Quanto può interessare vedere la star del momento senza vestiti o magari in un porno? Ovviamente molto: ricordo lo scandalo del sex tape della coppia Pamela Anderson - Tommy Lee che travolse i tabloid di tutto il mondo alla fine degli anni ’90. Rubato da una cassaforte dal loro elettricista e venduto online come video sexy, è diventato il primo video virale di sempre, scatenando le ricerche ossessive su Internet. Anche adesso milioni di persone sono alla ricerca di film e immagini hard con protagonista la superstar americana Taylor Swift. L’unico problema è che quello che sta circolando non è qualcosa di “rubato” da qualche cloud privato, ma generato dall’intelligenza artificiale: un falso, o come si chiamano propriamente, un deepfake.
🦹♀️Taylor Swift è diventata vittima di una forma di molestia sempre più comune: i deepfake pornografici sono facilmente reperibili sui motori di ricerca e sui social media. A poco è servita la tardiva risposta di X, che ha bloccato la possibilità di cercare “Taylor Swift” sulla piattaforma, solo dopo che il materiale hard è stato visualizzato più di 27 milioni di volte. Nonostante non abbia commentato pubblicamente, il suo status di super influencer (“Persona dell’anno” secondo il settimanale Time) le conferisce un potere significativo per cambiare la percezione sui deepfake pornografici, ancora adesso non considerati una grave minaccia.
Eppure, come ricordavo in una precedente newsletter contro la violenza sulle donne, il deepfake pornografico sta diventando più comune man mano che l'intelligenza artificiale generativa migliora: nei primi nove mesi del 2023 sono stati caricati 113.000 video deepfake sui siti porno più popolari, un aumento significativo rispetto ai 73.000 video del 2022.
🦹♀️In una situazione dove molte altre donne hanno poche risorse per denunciare, Taylor Swift ha il potenziale per cambiare questa percezione. Gli stessi fan hanno cominciato a “proteggerla” , promuovendo ogni mossa per evitare la viralità dei video (aggiungendo immagine “caste”, segnalando i casi di abusi). Un effetto mediatico così dirompente che è dovuta intervenire anche la Casa Bianca: durante un recente briefing stampa, la portavoce Karine Jean-Pierre ha affrontato la questione, sottolineando l'allarme dell'amministrazione per la distribuzione di queste false immagini generate dall'IA: “Siamo allarmati dalla circolazione di deepfake. Sebbene le aziende di social media prendano decisioni indipendenti sulla gestione dei contenuti, crediamo che abbiano un ruolo importante da svolgere nell'applicare le proprie regole per prevenire la diffusione di deepfake non consensuali di persone reali”.
🦹♀️Anche in Italia si può accedere a strumenti IA facilmente accessibili tramite canali su Telegram o altri servizi web, permettendo di modificare le foto per mostrare persone in lingerie, bikini o nude, spesso dietro pagamento.
🦹♀️Ma cosa si rischia? Ovviamente il reato di pornografia virtuale è chiaramente definito per i minorenni, ma è più complesso per i maggiorenni. Se le vittime sono minorenni, le pene possono arrivare fino a dodici anni di reclusione. Per i maggiorenni, invece, la situazione è più complessa: prevalgono le norme sul revenge porn, con pene che vanno da uno a sei anni di reclusione, ma le vittime possono anche presentare denunce per diffamazione e violazione della privacy. Ma non c’è ancora stata una sentenza chiara e questo vuoto normativo deve essere riempito. Ovviamente i deepfake pornografici sono l’estrema conseguenza di una semplicità nel fare una replica digitale di una persona, che purtroppo preoccupa anche in altre situazioni, come, ad esempio, l’utilizzo non autorizzato di voci e volti “famosi” nell’industria cinematografica senza il consenso dell’attore o dell'attrice.
🦹♀️Cosa possiamo fare? Si potrebbe introdurre quello che si può definire “reato di replica digitale non autorizzata” che mira a evitare gli usi impropri di repliche digitali, stabilendo le definizioni e i criteri per l'uso delle repliche digitali di immagini, voci o somiglianze visive di individui, al fine di garantire la tutela dei diritti e della dignità delle persone coinvolte. Per replica digitale" come una rappresentazione elettronica di nuova creazione di un individuo, generata al computer, che è praticamente indistinguibile dall'immagine, dalla voce o dalla somiglianza visiva reale di quell'individuo.
Il reato di replica digitale non autorizzata è stato proposto nell’Innovation Act proposto al Senato dal Partito Democratico: stabilisce che l’utilizzo di una replica digitale sarà considerato legittimo solo se la persona interessata ha dato l’autorizzazione. Per uso non autorizzato della replica digitale si intende la produzione, pubblicazione, distribuzione o trasmissione di una replica digitale senza il consenso della persona interessata. Ovviamente ci possono essere delle eccezioni agli utilizzi non autorizzati, che includono l'uso di repliche digitali in contesti come notizie, affari pubblici, sport, documentari, docudrama, lavori storici o biografici, così come per commento, critica, satira o parodia o se l'uso di una replica digitale è considerato minimo o incidentale. La proposta è migliorabile e serve l’aiuto di tutti, scrivetemi se volete dare un supporto sul tema.
🦹♀️Non si tratta di prevenire un possibile scenario futuro, ma di dare una risposta concreta a paure, violenze e ingiustizie attuali, proteggendo la dignità individuale, la privacy, la salute mentale, la professionalità e la sicurezza. Agire presto, la prossima vittima di deepfake potrebbe essere chiunque, anche tu che stai leggendo.
SuperImage - La cella di Ilaria Salis
🦹♀️Quanto può essere potente un’immagine? Di Ilaria Salis, la maestra italiana detenuta in Ungheria, sapevamo pochissimo fino a qualche giorno fa, quando è circolata la foto di lei in catene durante il processo. Finalmente si è catalizzata l’attenzione su una situazione inaccettabile. Avevo letto le condizioni disumane nelle quali era stata tenuta in queste mesi e, visto che un’immagine è riuscita laddove non ha potuto il testo, ho provato a fare un esperimento di comunicazione politica. Prendendo alcuni frammenti di testimonianze rilasciate da lei stesse o dalla sua ex compagna di cella ho provato a realizzare un’immagine di come può essere la sua drammatica situazione. Si è parlato di cimici grandi come carte di credito, abiti sporchi, stivali con il tacco come unico paio di scarpe, sporcizia, spazio angusto.
Il risultato è quello che vedete qua sotto. Non so quanto si discosti dalla situazione reale, però dai racconti che ho letto me la sono immaginata così la cella di Ilaria Salis. Ed è terribile. Riportiamola subito in Italia, in tutti i modi.
SuperNews
[Ai & Politics] La startup di intelligenza artificiale ElevenLabs, che offre servizi di clonazione vocale con i suoi strumenti, ha bandito l'utente che ha creato un deepfake audio di Joe Biden utilizzato nel tentativo di disturbare le elezioni. L'audio che imitava il presidente è stato utilizzato in una chiamata automatica inviata ad alcuni elettori nel New Hampshire la scorsa settimana, dicendo loro di non votare nelle primarie del loro stato. La chiamata automatica deepfake di Biden mostra come le tecnologie che possono imitare l'aspetto e la voce di qualcun altro potrebbero essere utilizzate per manipolare i voti nelle prossime elezioni presidenziali negli Stati Uniti. "Questo è solo la punta dell'iceberg in ciò che potrebbe essere fatto rispetto alla soppressione degli elettori o agli attacchi ai lavoratori elettorali," ha detto Kathleen Carley, professoressa alla Carnegie Mellon University, a The Hill. "Era quasi un presagio di tutte le cose che dovremmo aspettarci nei prossimi mesi."
[Ai & Policy] Rimaniamo in America. L'amministrazione Biden sta dando forza alle sue politiche per l’intelligenza artificiale: le aziende tecnologiche dovranno informare il governo statunitense quando addestrano un modello di intelligenza artificiale utilizzando una quantità significativa di potenza di calcolo. Questa nuova normativa darà al governo degli Stati Uniti accesso a informazioni chiave sui progetti più sensibili di aziende come OpenAI, Google, Amazon e altre aziende in competizione nell'AI. Le aziende dovranno fornire anche informazioni sui test di sicurezza effettuati sulle loro nuove creazioni AI. E’ arrivato il momento del governo americano dentro Big Tech?
[AI & Europe] La Commissione Europea ha lanciato un pacchetto di misure per sostenere startup e PMI europee nello sviluppo di Intelligenza Artificiale affidabile e conforme ai valori e alle normative UE. Le misure includono l'accesso privilegiato a supercomputer per startup AI, l'istituzione di un Ufficio AI nella Commissione e il sostegno finanziario per l'AI generativa attraverso programmi come Horizon Europe. Si prevede anche il potenziamento di talenti in AI e lo sviluppo di spazi dati comuni europei.
SuperItaly
🦹Anche il Ministro dell’Economia Giancarlo Giorgetti interviene nel dibattito su Intelligenza Artificiale, focalizzandosi sulle debolezze che non permettono il nostro sviluppo tecnologico: la mancanza di capitali privati per finanziare l’innovazione (come ad esempio i venture capitalist) e la frammentarietà dell’Europa nell’affrontare le sfide globali, troppo focalizzata nella regolamentazione e nel rilassamento degli aiuti di stato, che alimentano una competizione inerna.
“Servono imponenti investimenti per l’innovazione ed è quindi necessario favorire lo sviluppo del mercato dei capitali europeo e nazionale, del venture capital in particolare anche tramite un ruolo rafforzato degli investitori istituzionali. Vogliamo rafforzare gli strumenti di finanza per la crescita, affinché il risparmio privato possa essere convogliato verso le imprese che vogliono investire, continuando sul percorso avviato con il disegno di legge per la competitività del mercato dei capitali. [..] ad oggi la competizione mondiale si gioca a partire dall’intelligenza artificiale. […] molte tecnologie hanno una rilevanza geopolitica che richiede anche un presidio pubblico, pronto ad adattarsi ai cambiamenti. Stare fermi, ovvero essere inerti, vuol dire slittare indietro. Una lezione ancora più vera per l’Italia la cui struttura industriale deve fronteggiare le sfide della bassa produttività e l’incremento del numero di imprese ad alto contenuto tecnologico. […] L’accelerazione dell’AI può aprire scenari sorprendenti. La Ue però si muove ancora in ordine sparso quando sarebbe essenziale sperimentare una capacità fiscale europea da legare alla sfida della competitività internazionale e magari da finanziare su base europea. Ci sono iniziative in singole campi, prevale un approccio improntato alla regolazione e al rilassamento degli aiuti di stato, lasciando i paesi membri a competere tra di loro. Sull’economia dei dati ogni paese si muove in ordine sparso o non si muove affatto”.
🦹Giancarlo Giorgetti - Ministro dell’Economia Fondazione Bruno Kessler - 25/01/24
👏Ed eccoci arrivati alla fine del numero 17.
🎙️Settimana prossima è quella di Sanremo, ci sarà un numero speciale “canterino”.
🫵Ricordatevi che Superpoteri è un esperimento collettivo, utile per generare dibattiti, riflessioni, proposte sulle tecnologie e il loro impatto. Nessuno si deve sentire escluso.
🤖Puoi darmi una mano semplicemente iscrivendoti (se non l’hai ancora fatto) cliccando sul pulsante sotto.
🦸♀️Puoi lasciarmi un commento (anche critiche, dai!) o scrivermi per qualsiasi suggerimento
🦸Infine puoi semplicemente condividere “Superpoteri” a chi pensi possa essere interessato
Grazie e ci vediamo settimana prossima! Sapere Aude!👋