🦹♀️Il lato oscuro della tecnologia: un superpotere per dittatori e autocrati - #4
Strumenti e software per aumentare la sorveglianza di massa, la censura, la falsa propaganda sono diventati un brand per gli autoritarismi digitali, prodotti da esportare e vendere a tutto il mondo.
🦸♂️Benvenuti nel quarto numero di Superpoteri. Poca “creazione” e molta riflessione. E se vi dicessi che la democrazia sta perdendo la “battaglia” sulla tecnologia?
🦹♀️Secondo l’ultimo report di Freedom House sta crescendo il numero di dittatori/autocrati che utilizzano l’intelligenza artificiale per rafforzare il loro potere sui cittadini, soprattutto controllando e falsificando i mezzi di informazione.
🦸♀️Torna Superoracoli, con le profezie sul futuro, e debutta SuperItalia, una nuova rubrica che raccoglie le dichiarazioni dei leader politici sulle nuove tecnologie.
🦹♀️Infine il Supercattivo di questa settimana, che ha clonato la povera Mara Venier!
Buona lettura e, se non l’hai ancora fatto, iscriviti!
Superpost
Il potere repressivo dell’intelligenza artificiale: la tecnologia al servizio di dittatori e autocrati
🦹Quando le proteste in Pakistan si sono intensificate fino a sfociare in scontri tra forze filogovernative e sostenitori dell’ex primo ministro Imran Khan, il leader ora in carcere si è rivolto ai social media per sostenere il suo messaggio. Khan ha condiviso un breve video su X che mostra i suoi sostenitori mentre cantano il suo nome e sollevano cartelli inneggianti a lui. La clip si conclude con un'inquadratura fissa di una donna vestita di arancione che si trova coraggiosamente faccia a faccia con una linea di poliziotti antisommossa pesantemente armati.
C’è un problema: l’immagine che mostra la donna coraggiosamente in piedi davanti alla polizia non è reale. È stata creata da un'intelligenza artificiale generativa.
Come abbiamo già visto nei numeri scorsi di Superpoteri, Khan non è l’unico leader politico che si rivolge ai falsi per ottenere un guadagno politico. L’intelligenza artificiale può fungere da amplificatore agli autoritarismi digitali, rendendo più facile, veloce, economico ed efficace la censura, la sorveglianza, la creazione e diffusione di disinformazione.
Nel nuovo rapporto di Freedom House sono elencati 16 paesi, tra cui Pakistan, Nigeria e Stati Uniti, che nell’ultimo anno hanno utilizzato l’intelligenza artificiale generativa per esercitare una maggiore controllo su Internet.
Nel report ci sono molti esempi: in Venezuela, telegiornali sostenuti dallo Stato hanno iniziato a condividere video di conduttori, per lo più di lingua inglese, che contrastavano le critiche occidentali al Paese di Maduro. In realtà gli oratori erano avatar generati dall'intelligenza artificiale. Anche la Cina ha amplificato la sua campagna di propaganda statale utilizzando avatar artificiali dai tratti occidentali con il marchio Wolf News.
In effetti creare conduttori virtuali non è per niente difficile: ad esempio, letteralmente in 5 minuti, gratis, ho potuto creare una piccola news “satirica” grazie a Kredoai:
Con qualche minuto di lavoro in più il risultato sarebbe stato ancora più credibile e personalizzabile.
Se tutto può diventare falsificabile, niente più sarà vero: sempre secondo il report di Freedom House, aumentano i casi dove video autentici vengono accusati di essere falsi, solamente per discredito politico. L’intelligenza artificiale rende inoltre più semplice indirizzare i messaggi in modo che raggiungano un pubblico specifico. Questa esperienza personalizzata aumenta la complessità di indagare se gli utenti di Internet e gli elettori vengono colpiti da disinformazione.
Non solo IA: sempre sfogliando il report, vediamo che a livello globale la libertà su Internet non è mai stata così bassa e il numero di paesi che hanno bloccato i siti Web per questioni politiche, sociali o religiosi o che hanno arrestato persone dopo aver espresso dissenso online non è mai stato così alto.
Nel 1985 George Schultz, allora segretario di stato americano, coniò il “dilemma del dittatore”:
«le società totalitarie si trovano di fronte a un dilemma: o soffocare queste tecnologie e restare indietro nello sviluppo industriale e tecnologico, oppure accettarle e vedere inevitabilmente eroso il loro controllo totalitario».
Adesso non è più così, non ci sono più dilemmi, i dittatori hanno vinto: l’autoritarismo digitale diventa un brand, un modello di sviluppo tecnologico. Strumenti e software per aumentare la sorveglianza di massa, la censura, la falsa propaganda sono diventati prodotti da esportare, da vendere. E purtroppo sono dannatamente efficaci.
Il 2024 sarà un anno di elezioni. Le più grandi democrazie andranno al voto: Usa, India, Europa. Il rischio che ci possano essere manipolazioni e disinformazione grazie alle nuove tecnologie è molto alto.
Cosa possiamo fare? Gli Stati democratici dovrebbero smettere di comprare e utilizzare prodotti e servizi che vengono da autoritarismi digitali: ci siamo già dimenticati come le nostre pubbliche amministrazioni hanno dovuto rimuovere velocemente il software antivirus russo Kaspersky, per i rischi alla sicurezza nazionale in seguito all’attacco di Putin all’Ucraina?
Inoltre dovremmo fare quello che abbiamo fatto nell’ultimo secolo contro i regimi dittatoriali: offrire un’alternativa diversa, rafforzare lo sviluppo “democratico” dell’intelligenza artificiale per garantire maggiore trasparenza, fornire meccanismi di controllo efficaci e dare priorità alla protezione dei diritti umani, cercando allo stesso tempo di offrire la migliore tecnologia, il migliore prodotto investendo su formazione, ricerca e trasferimento tecnologico.
Un miglioramento della nostra democrazia attraverso la tecnologia è la risposta migliore a ogni autoritarismo digitale.
Superoracoli
🧙♂️“L’intelligenza artificiale generale (AGI), una forma di intelligenza artificiale che sarà più intelligente delle persone e in grado di superare gli esseri umani in un’ampia gamma di compiti, diventerà una realtà in meno di 10 anni. Entro il 2030 l’intelligenza artificiale sarà 10 volte più intelligente di tutta l’umanità. Ciò comporterà progressi sociali come una transizione completa verso veicoli autonomi, nonché progressi generati dall’intelligenza artificiale nella scienza e nella tecnologia degni del Premio Nobel.”
04/10/23 - Masayoshi Son - CEO di SoftBank, che gestisce Vision Fund, il più grande fondo di investimento in Venture Capital del mondo, con un patrimonio iniziale di circa 100 miliardi di dollari.
SuperItalia
🇮🇹 Nuova rubrica! SuperItalia raccoglie le dichiarazioni più importanti dei leader italiani su intelligenza artificiale e tecnologia.
Oggi, invece, viviamo una realtà nella quale l’intelletto rischia di essere soppiantato, con conseguenze che possono essere imprevedibili. Conseguenze imprevedibili sul mercato del lavoro, per esempio, portando di fatto a maggiori disuguaglianze e a sempre più inique concentrazioni di potere. Sarebbe per noi un errore imperdonabile considerare l’intelligenza artificiale come una sorta di dominio senza regole che invece dobbiamo immaginare a tutela dell’uomo e dell’umanità.
05/10/23 - Giorgia Meloni - Videomessaggio per Comolake
Supercattivi
🦹♀️Il supercattivo della settimana è colui che ha usato un clone di Mara Venier per una truffa finanziaria. Ma che mente perversa puoi avere a utilizzare la “mamma degli italiani” per rubare soldi?
Eppure è andata così: lunedì 2 Ottobre appare una nuova pagina Facebook di un "consulente finanziario” che invita a investire denaro in un progetto finanziario "che aiuta i cittadini del Paese a guadagnare senza il minimo sforzo", citando le criptovalute che farebbero diventare "finanziariamente indipendenti nel più breve tempo possibile". Nel video che racconta questo progetto, l’avatar artificiale di Mara Venier viene usato per dare fiducia, per rendere tutto più credibile.
Il video, come racconta Open, è stato quasi subito rimosso da Facebook, non prima però di irritare i fan della Mara nazionale, meravigliati del fatto che sia lasciata coinvolgere in una iniziativa che puzzava di truffa.
Quindi non solo i politici sono vittima di deepfake, anzi, aspettiamoci sempre più il rischio di un uso distorto e “malvagio” dei nostri vip. Non sembra solo un problema italiano, anche Tom Hanks si è arrabbiato dopo essere stato “clonato” per uno spot sull’igiene dentale:
👏Ed eccoci arrivati alla fine di questa quarta uscita di Superpoteri. Un po’ cupo, ma per cambiare il futuro in meglio dobbiamo anche avere un po’ di “paura”.
🫵Ricordatevi che Superpoteri è un esperimento collettivo, utile per generare dibattiti, riflessioni, proposte sulle tecnologie e il loro impatto. Nessuno si deve sentire escluso.
🤖Puoi darmi una mano semplicemente iscrivendoti (se non l’hai ancora fatto) cliccando sul pulsante sotto.
🦸♀️Puoi lasciarmi un commento (anche critiche, dai!) o scrivermi per qualsiasi suggerimento
🦸Infine puoi semplicemente condividere “Superpoteri” a chi pensi possa essere interessato
Grazie e ci vediamo settimana prossima!👋