🤖Candidati virtuali, voti reali: quando gli avatar vincono le elezioni. Cosa è successo in Pakistan e Indonesia - #19
Le elezioni in Pakistan e Indonesia ci raccontano come l'AI può dare voce ai leader incarcerati e ripulire l'immagine di oscuri militari. Ma l'AI non era stata vietata per scopi elettorali?
🦸♂️Passato lo speciale musicale, siamo arrivati al numero 19 di Superpoteri! Forse un po’ meno “pop”, ma con i soliti approfondimenti su intelligenza artificiale e politica!
🦹♀️In Pakistan, nonostante fosse imprigionato, l'ex primo ministro Imran Khan è riuscito a mantenere una presenza influente nella campagna elettorale grazie alla creazione di video e comizi online con una replica digitale della sua voce, generata dall'AI, consentendo al suo partito di ottenere una vittoria significativa. Questo caso dimostra come l'AI possa essere utilizzata per aggirare la censura e la repressione politica. Al contrario, in Indonesia, l'AI è stata usata per trasformare l'immagine del candidato Prabowo Subianto in quella di un "nonno coccolone", modificando la percezione pubblica attraverso avatar e deepfakes, dimostrando il potenziale dell'AI nel modellare l'immagine dei politici. Ma le aziende di AI non avevano vietato l’utilizzo del loro software per scopi elettorali? La riflessione più sotto su Superpost.
🦸 Nel frattempo è uscito Gemini Advanced, che offre il miglior modello di AI di Google, chiamato Ultra. Gemini Advanced dovrebbe essere più capace di Bard per quanto riguarda compiti avanzati come seguire un insieme di istruzioni sfumate, ragionamento logico, programmazione e anche come collaboratore creativo. Riuscirà ad essere all’altezza delle promesse e superare come utilizzi ChatGPT 4? Una competizione che non può far che bene all’utente finale.
🦸 E poi tornano molte SuperNews, soprattuto con il racconto di Deepfakes che alimentano truffe e disinformaizone. Su SuperItaly le parole piene di paura della Presidente del Consiglio Giorgia Meloni che ha parlato di “intelligenza artificiale che può spazzare viala classe media”, mentre era in visita in Giappone per il passaggio di consegne del G7. Nuova rubrica, Supertech, ovvero come le tecnologie stanno acquisendo sempre più potere politico e infine una vignetta umoristica su SuperImages che prende in giro gli acquirenti del nuovo (e costoso) Apple Vision Pro.
🦹♀️Buona lettura, fammi sapere cosa ne pensi e, se non l’hai ancora fatto, iscriviti!
SuperPost - Candidati virtuali, voti reali: quando gli avatar vincono le elezioni.
🦸E se Mandela avesse avuto a disposizione l’intelligenza artificiale per fare campagna elettorale mentre era rinchiuso in prigione? Come sarebbe potuta cambiare la storia?
Sono settimane che sentiamo gli allarmi sull’uso dell’intelligenza artificiale per influenzare le elezioni, con la creazione di falsi e di disinformazione. Ma, accecati dalla paura, non abbiamo pensato alle potenzialità democratiche che i nuovi strumenti possono offrire. In quella che è stata descritta dal New York Times come una delle elezioni più incredibili nella storia, in Pakistan — il quinto paese più popoloso del mondo con 240 milioni di persone — è emerso un vincitore a sorpresa.
Imran Khan, ex primo ministro, leader del partito Pakistan Tehreek-e-Insaf (PTI), ha trascorso la durata della campagna elettorale in prigione per accuse di corruzione che molti osservatori internazionali ritengono siano state progettate dai militari pakistani per tenerlo fuori dalla politica. Durante la campagna elettorale, il governo ha impedito ai candidati del PTI di fare campagna elettorale e hanno censurato la copertura giornalistica del partito. In risposta, il team elettorale di Khan ha creato dei video artificiali clonando la voce di Khan con la tecnologia della startup ElevenLabs (famosa per la creazione di voci false) e li ha utilizzati per organizzare comizi online che hanno generato milioni di visualizzazioni su piattaforme come YouTube e X. Khan era un avatar, ma i messaggi venivano proprio da lui, tramite i suoi avvocati. L’epilogo di questa strategia comunicativa è culminato quando la voce artificiale di Khan ha dichiarato la vittoria del suo partito, ottenendo 101 dei 266 seggi al Parlamento e affermandosi prima forza politica, dando un forte segnale ai potenti generali pakistani.
Ovviamente Khan non ha trionfato grazie all’intelligenza artificiale, ma grazie alla sua replica digitale è riuscito a mantenere l’attenzione sulla sua campagna elettorale, mantenendo i suoi supporter motivati e facendo sentire la sua “solida” presenza, anche se virtuale, contro il partito dei militari.
Le elezioni pakistane forniscono un forte contro-argomento su come la tecnologia possa essere utilizzata come esempio per aggirare la repressione, restituendoci un po’ di speranza su come i nuovi strumenti possono essere strumenti di liberazione (vi ricordate i cartelli che inneggiavano a facebook e twitter durante le primavere arabe?).
Ma quindi non dobbiamo preoccuparci? Vediamo cosa è successo in Indonesia, la terza democrazia del mondo con 270 milioni, dove si è appena votato (14 febbraio). Qua l’intelligenza artificiale è stata usata per trasformare il candidato alle presidenziali Prabowo Subianto, settantaduenne ministro della Difesa con accuse di violazione dei diritti umani, come "nonno coccolone". Sì avete letto bene: in campagna elettorale si è presentato online con lo slogan ”gemoy”, letteralmente “carino”. L'avatar “coccoloso” dell'ex militare compare su grandi cartelloni nelle principali città del paese, oltre ad avere una forte presenza su TikTok con l'hashtag #Prabowo, che ha accumulato ben 9 miliardi di visualizzazioni, parlando specialmente alle generazioni più giovani (la metà degli elettori indonesiani ha meno di 40 anni).
L’avatar è stato creato utilizzando il noto generatore di immagini AI Midjourney. Ma il partito di Prabowo non si è limitato alle sole immagini, facendo resuscitare con un deepfake il dittatore Suharto, che ha governato l’Indonesia con il pugno di ferro per più di tre decenni. "Sono Suharto, il secondo presidente dell'Indonesia", dice l'ex generale in un video di tre minuti che ha raccolto più di 4,7 milioni di visualizzazioni su X e si è diffuso su TikTok, Facebook e YouTube.
E sembra che questa strategia sia stata vincente per Prabowo, che ha ottenuto il 58% dei voti, dopo due elezioni fallimentari.
Inoltre, membri dello staff della campagna elettorale del candidato presidenziale hanno detto a Reuters che molti degli strumenti AI utilizzati nelle elezioni indonesiane sono alimentati da OpenAI: ad esempio la piattaforma di Prabowo, che permette di usare l’AI per immergere il sostenitore in scenari generati artificialmente, oppure l’app Pemilu.AI, usato da più di 700 candidati, che raccoglie dati demografici ed esegue la scansione di social media e siti di notizie per generare discorsi, slogan e contenuti di social media su misura per ogni collegio elettorale.
Che c’è di sbagliato? Sia Midjourney che OpenAI avrebbero vietato l’utilizzo dei loro software per scopi elettorali. Ovviamente qualcosa è andato storto.
Questo fa capire la difficoltà (o la scarsa volontà) delle compagnie di AI di auto-regolarsi con codici di condottta o principi volontari. Nessuna azienda in questo momento può veramente prevenire che i suoi strumenti di IA vengano utilizzati in contravvenzione alle politiche dichiarate. In parte ciò è dovuto al fatto che nessuna azienda può prevedere come milioni di umani—siano essi creativi, divertenti, nefasti o assetati di potere—utilizzeranno le nuove opportunità create dagli strumenti di IA. Inoltre chi utilizza questi strumenti afferma di dare un supporto per sostenere il processo decisionale dei candidati e non per fare campagne elettorali. L’area è molto grigia e c’è bisogno di riflettere maggiormente di fronte a domande etiche: è problematico creare una versione a cartone animato di un candidato politico utilizzando una piattaforma tecnologica americana a basso costo, come ha fatto la campagna di Prabowo? Molti direbbero di no. E se l'avatar AI non fosse un cartone animato, ma somigliasse e suonasse esattamente come un candidato politico, come nella campagna di Imran Khan in Pakistan? Eppure ha aiutato ad aggirare una repressione politica.
Quello che sappiamo per certo è l'impossibilità quasi certa di stabilire una politica globale sull’utilizzo nelle campagne elettorali di una tecnologia così diffusa ed emergente: un'esplosione di strumenti ad alta potenza e basso costo si sta diffondendo in tutto il mondo con poca o nessuna comprensione collettiva di come verranno utilizzati. Prendi la mancanza di norme, aggiungi un gruppo di diversi sviluppatori di app e licenze e casi d'uso spesso differenti in tutto il mondo, e finisci in un labirinto di monitoraggio/attuazione/responsabilità delle politiche che confonderebbe peggio di un quadro di Escher.
Per l'Intelligenza artificiale, ogni elezione quest'anno è un beta test, non solo per come verranno utilizzati gli strumenti, ma anche per come risponderemo collettivamente. E ricordiamoci che ci stiamo avvicinando velocemente alle elezioni europee e a quelle americane.
SuperNews
🦸[AI & Policy] Il 30 gennaio, un gruppo bipartisan di senatori ha introdotto un nuovo disegno di legge che renderebbe reato l'atto di diffondere "falsificazioni digitali" sessuali e non consensuali create usando l'intelligenza artificiale. Le falsificazioni digitali sono definite come "una rappresentazione visiva creata attraverso l'uso di software, apprendimento automatico, intelligenza artificiale o qualsiasi altro mezzo generato da computer o tecnologico per apparire falsamente autentica." Attualmente noto come Disrupt Explicit Forged Images and Non-Consensual Edits Act del 2024 (o "Defiance Act"), la legislazione offrirebbe anche un percorso per il ricorso civile per le vittime che hanno avuto le loro immagini rappresentate in immagini nude o sessualmente esplicite. Attraverso il disegno di legge, le vittime potrebbero citare in giudizio "individui che hanno prodotto o posseduto la falsificazione con l'intento di distribuirla" o chiunque abbia ricevuto il materiale sapendo che non è stato realizzato con consenso. Interessante, anche nel nostro Senato c’è una proposta di legge del PD per diminuire gli usi non autorizzati delle “repliche digitali”.
🦸[AI & Politics] Nel 2023, secondo quanto rivelato da CNBC, il lobbying legato all'intelligenza artificiale ha raggiunto nuovi picchi, coinvolgendo più di 450 organizzazioni, segnando un aumento del 185% rispetto all'anno precedente, quando solo 158 organizzazioni avevano portato avanti discussioni sull’IA, .
Questo aumento del lobbying sull'IA si verifica in un contesto di crescenti richieste di regolamentazione a livello globale. Non è necessariamente una condotta sbagliata, dipende sempre dalla qualità della politica di bilanciare i vari interessi.
🦸[Ai & Deepfakes] X ha raggiunto il primo posto tra le app gratuite sull'App Store di Apple settimana scorsa, proprio mentre un altro scandalo riguardante immagini di celebrità diventava virale sulla sua piattaforma. L'hashtag "drakevideo" è stato in tendenza negli Stati Uniti, dopo che un video del rapper Drake semi-nudo e impegnato in un atto sessuale si è diffuso sul servizio. Ma era un falso generato dall’intelligenza artificiale.
Questo incidente avviene a meno di due settimane dopo che X ha faticato a fermare la diffusione di altre immagini false di una celebrità, Taylor Swift, che hanno circolato copiosamente sulla piattaforma, portando l'azienda a bloccare temporaneamente tutte le ricerche del nome dell'artista. Chiaramente X ha un problema e deve risolverlo al più presto.
🦸[Ai & DeepFakes] Un lavoratore del settore finanziario di Hong Kong è stato truffato e indotto a trasferire 200 milioni di dollari di Hong Kong (circa 25,6 milioni di dollari!!) a causa di un inganno perpetrato con l'uso di deepfake. I truffatori hanno contattato l'impiegato fingendosi il direttore finanziario dell'azienda, con base nel Regno Unito. Il dipendente, seppur inizialmente sospettoso, è stato convinto dalla partecipazione a una videochiamata in cui credeva di interagire con il Chief Financial Officer e altri membri riconoscibili dell'azienda, che in realtà erano rappresentati da deepfake, verosimilmente creati usando clip video pubbliche delle persone reali. Solo una settimana dopo, verificando la richiesta all'interno dell'azienda, l'impiegato ha scoperto la truffa. La prima di una lunga serie di truffe milionarie grazie al Deepfake? Ma la colpa non è dell’impiegato poco attento? La polizia di Hong Kong ha comunque arrestato sei persone, che avevano rubato otto carte d'identità, registrato 54 conti bancari e presentato 90 domande di prestito nel 2023, utilizzando deepfake per ingannare il software di riconoscimento facciale in almeno 20 casi.
Supertech
🦸Jensen Huang, CEO di Nvidia, che ormai vale più di Amazon e Google, al World Government Summit di Dubai ha dichiarato che ogni paese dovrebbe avere la propria infrastruttura di intelligenza artificiale per sfruttare il potenziale economico proteggendo al contempo la propria cultura, la propria storia, i propri dati. Dipende dai singoli paesi prendere l'iniziativa, attivare la propria industria, costruire l'infrastruttura, il più velocemente possibile. Ha inoltre ribadito le paure sui pericoli dell'IA sono esagerate: "C'è chi ha interesse a spaventare le persone riguardo a questa nuova tecnologia, a mitizzarla, a incoraggiare altri a non fare nulla riguardo a questa tecnologia e a fare affidamento su di loro per farlo. E penso che questo sia un errore." Huang ha addirittura contrastato il consiglio offerto da molti visionari nel corso degli anni che spingevano i giovani a studiare informatica per competere nell’era dell’informazione. Non più, dice Huang: “il nostro compito è creare tecnologie informatiche che nessuno debba programmare e che il linguaggio di programmazione sia umano: tutti nel mondo ora sono programmatori: questo è il miracolo”. Intuizioni interessanti, se solo non avesse l’interesse di vendere di più per far costruire le prossime infrastrutture con i suoi prodotti.
SuperItaly
🦹♀️ Torna a parlare di intelligenza artificiale la Presidente del Consiglio Giorgia Meloni, e lo fa ancora una volta alimentando una narrativa amara, quella della perdita di lavoro a causa delle nuove tecnologie. Nessun accenno su come fare per prevenire tutto questo, se non un accenno all’ “umano-centrismo” che abbiamo già visto significare ben poco:
"Siamo di fronte alla reale possibilità che molte professioni, anche altamente qualificate, vengano rapidamente sostituite da algoritmi, causando crisi sociali e contribuendo ad ampliare il divario tra ricchi e poveri, spazzando potenzialmente la classe media. […]. Intendiamo focalizzare l'attenzione dei nostri partner sull'impatto dell'Intelligenza artificiale sul mondo del lavoro, coinvolgendo non solo le aziende ma anche la società civile e i sindacati per dare risposte a quello che rappresenta un rischio concreto per i nostri lavoratori. I sistemi di IA generativa possono avere un impatto decisivo sul mondo del lavoro, sull'informazione, sugli equilibri globali e sulla nostra sicurezza.L'Hiroshima AI Process è di cruciale importanza in questo contesto, poiché afferma la necessità di adottare principi guida e un codice di condotta per le aziende che sviluppano l'intelligenza artificiale. Da parte nostra, svilupperemo ulteriormente questo lavoro per garantire che l'IA sia incentrata sull'uomo e controllata dall'uomo, tenendo conto dei principi etici fondamentali dell'umanità".
🦹♀️Giorgia Meloni - Presidente del Consiglio - 05/02/2024 - intervista al quotidiano giapponese Yomiuri Shimbun
SuperImage
🤖In questo numero nessuna immagine generata dall’Ia, ma una vignetta umoristica che ironizza sugli utenti che hanno comprato l’Apple Vision Pro, in vendita a 3500$ in America.
Io credo che l’Apple Vision Pro sarà come la Tesla della realtà virtuale: un prodotto per pochi, ma tecnologicamente avanzatissimo che porterà alla creazione di una comunità di fan che comunque genererà attenzione e aprirà la strada a nuovi dispositivi più economici. E dico la verità, mi piacerebbe provarlo!
👏Ed eccoci arrivati alla fine del numero 19.
🫵Ricordatevi che Superpoteri è un esperimento collettivo, utile per generare dibattiti, riflessioni, proposte sulle tecnologie e il loro impatto. Nessuno si deve sentire escluso.
🤖Puoi darmi una mano semplicemente iscrivendoti (se non l’hai ancora fatto) cliccando sul pulsante sotto.
🦸♀️Puoi lasciarmi un commento (anche critiche, dai!) o scrivermi per qualsiasi suggerimento
🦸Infine puoi semplicemente condividere “Superpoteri” a chi pensi possa essere interessato
Grazie e ci vediamo settimana prossima! Sapere Aude!👋