💀Sorridi, sei nel mirino: l'intelligenza artificiale va in guerra - #27
Come Israele potrebbe usare l'IA per uccidere i militanti di Hamas e controllare i palestinesi. Inoltre potete ascoltare "La rivoluzione italiana", un rap di critica sociale
🦸Benvenuti su Superpoteri!
💀La serie di Netflix "Il problema dei 3 corpi" sollecita una riflessione su come una civiltà tecnologicamente superiore inevitabilmente cercherà di schiacciare quella inferiore: infatti la tecnologia, soprattutto in campo militare, è un potente strumento di potere, capace di cambiare gli equilibri geopolitici e gli esiti dei conflitti. Lo vediamo, ad esempio, nell’attacco di Israele a Gaza, dove, tramite strumenti di intelligenza artificiale, viene utilizzato il riconoscimento facciale per controllare la popolazione palestinese oppure si identificano militanti di Hamas e, in pochi secondi, se ne autorizza l’uccisione senza pensare alle vittime civili. Un uso spregiudicato dell’IA che ha spinto molti attivisti a ripensare l’uso di queste tecniche nei conflitti armati.
🎤Cambiando decisamente argomento, in questo numero potete ascoltare la nuova hit del momento ”La rivoluzione italiana”, un rap di denuncia della politica nostrana. Cosa c’entra con l’IA? Scopritelo in SuperMusic.
🦸Infine le ultime parole del Presidente Mattarella su intelligenza artificiale e le immancabili SuperNews, focalizzate su una gestione più trasparente dei contenuti generati da AI (labeling, copyright e training).
🦸Buona lettura, fammi sapere cosa ne pensi e, se non l’hai ancora fatto, iscriviti!
SuperPost - Sorridi, sei nel mirino: l'intelligenza artificiale va in guerra
🦹♂️Su Netflix è uscito da poco “il problema dei 3 corpi” una serie tratta dai libri di Cixin Liu, un maestro della fantascienza cinese. Ve la consiglio, la serie è ben fatta, mai noiosa, intrigante senza cadere nel ridicolo, anche se si parla di alieni e tecnologie futuristiche. C’è un passaggio che mi ha colpito, quando il classico agente di polizia che risolve gli enigmi sentenzia: “Se una civiltà tecnologicamente avanzata incontra una civiltà con una tecnologia inferiore, quest’ultima è una civiltà morta”, che riprende il vecchio detto dei film western americani: “quando un uomo con la pistola incontra un uomo col fucile, l'uomo con la pistola è morto”.
☢️E’ un po’ il concetto che portiamo avanti con “Superpoteri”: la tecnologia è lo strumento di potere più importante, che può cambiare gli equilibri geopolitici e le sorti dei conflitti. Per questo molte volte la tecnologia ha avuto grandi evoluzioni soprattutto in campo militare, basta pensare ad Oppenhemier e al progetto Manhattan: risorse quasi infinite, i migliori ricercatori e una forte volontà politica hanno dato agli Stati Uniti un avanzamento tecnologico così forte che sono riusciti a terminare in poco tempo la seconda guerra mondiale, con il tragico lancio di bombe a idrogeno su Hiroshima e Nagasaki. Anche successivamente alla fine della seconda guerra mondiale, gli Stati Uniti sono sempre stati coinvolti in una corsa all’avanzamento tecnologico per la supremazia militare, investendo molte risorse e coinvolgendo le migliori menti. Da questo approccio è nata la DARPA (Defense Advanced Research Projects Agency), un'agenzia del Dipartimento della Difesa incaricata di sviluppare tecnologie emergenti per l'uso militare. Fondata nel 1958 in risposta al lancio dello Sputnik da parte dell'Unione Sovietica, la DARPA ha tuttora il compito di prevenire il sorpasso tecnologico da parte di altri paesi. La DARPA si è dedicata a progetti di ricerca e sviluppo che spesso sono considerati di alto rischio ma di grande impatto potenziale e ha giocato un ruolo cruciale nello sviluppo di tecnologie che ancora utilizziamo in ambito civile. Alcuni esempi di tecnologie e progetti sviluppati sotto l'egida della DARPA includono ARPANET, il precursore di Internet, il GPS, i veicoli autonomi e, ovviamente, applicazioni di intelligenza artificiale. Quest’ultima ebbe uno dei suoi primi momenti di gloria durante l’Operazione Desert Storm. Era il 1991. In Italia Masini ci deprimeva con “Perché lo fai” e spuntava la luna dei Tazenda, mentre gli USA entravano in guerra per liberare il Kuwait dall'occupazione irachena di Saddam Hussein. Un algoritmo aiutò a gestire la logistica di dispiegamento delle truppe, facendo risparmiare così tanti soldi, che riuscirono a ripagare tutti gli investimenti fatti dal DARPA fino ad allora su intelligenza artificiale.
🚀In 30 anni, il salto tecnologico e applicativo dell'IA nel contesto militare è stato notevole, passando da un ruolo ausiliario e sperimentale a una componente cruciale e spesso decisiva nelle moderne strategie di guerra, diventando un’arma sempre più potente nei conflitti: chi riesce a utilizzarla al meglio ha un vantaggio tattico enorme. L’abbiamo visto in questo mese con alcuni utilizzi nel conflitto in Ucraina e nel Medio Oriente.
☠️Disinformazione: l'attentato alla Crocus City Hall di Mosca è stato rivendicato dall'Isis-K, la branca afgana del gruppo jihadista, ma la Russia ha tentato di attribuire la colpa all'Ucraina, anche fabbricando prove inesistenti: un video manipolato mostra Oleksiy Danilov, segretario del Consiglio di Sicurezza dell'Ucraina, che ammette responsabilità nell’attentato a Mosca.
☠️Riconoscimento facciale: Dopo l'attacco di Hamas a Israele del 7 ottobre, l'Unità 8200, un reparto di intelligence militare israeliano, ha raccolto filmati dalle videocamere di sorveglianza e clip condivise sui social media da Hamas. Hanno utilizzato un sistema di riconoscimento facciale per identificare gli aggressori, sviluppato con l'assistenza di Corsight, una compagnia israeliana specializzata in questa tecnologia. Il riconoscimento facciale, inizialmente usato per trovare gli ostaggi e identificare i terroristi responsabili degli attacchi, è ora impiegato regolarmente per sorvegliare la popolazione palestinese nella Striscia di Gaza, senza distinguere tra militanti di Hamas e civili. Ciò ha sollevato preoccupazioni sul fatto che gli algoritmi commettano errori, associando erroneamente alcuni civili a Hamas. Ma anche nella Cisgiordania e a Gerusalemme Est gli israeliani dispongono di un sistema di riconoscimento facciale: ai vari checkpoint, i palestinesi vengono scansionati da telecamere ad alta risoluzione prima di essere autorizzati a passare. Il sistema ha mostrato limitazioni, in particolare con immagini di scarsa qualità o in condizioni di luce difficile, e ha avuto problemi nell'identificazione corretta di persone riprese da angolazioni estreme o con volti feriti. Da non dimenticare che il riconoscimento facciale è stato utilizzato anche nel conflitto tra Ucraina e Russia, dove l'esercito ucraino ha impiegato la tecnologia di Clearview AI per identificare i cadaveri dei soldati russi.
☠️Individuazione bersagli: Secondo un report investigativo pubblicato dal sito +972 e Local Call, l'esercito israeliano ha sviluppato un programma basato sull'IA chiamato "Lavander", lavanda, che ha marcato migliaia di abitanti di Gaza, sospettati di far parte di Hamas, come bersagli per essere uccisi, in alcuni casi con soli 20 secondi di supervisione umana. Un nome di un fiore innocente per un compito così efferato. Nelle prime settimane di guerra, l'esercito israeliano avrebbe deciso che per ogni operativo di Hamas di basso livello segnato da Lavander, era permesso uccidere fino a 15 o 20 civili come vittime collaterali. Ma se l'obiettivo era un alto ufficiale di Hamas, si poteva “autorizzare”l'uccisione di oltre 100 civili. L'esercito israeliano ha respinto queste affermazioni, ma secondo le fonti citate da +972, Lavander ha identificato fino a 37.000 palestinesi come militanti sospetti — e le loro case — per possibili attacchi aerei.
☠️Il segretario generale dell’ONU Guterres ha affermato di essere "profondamente turbato dai rapporti secondo cui la campagna di bombardamenti militari israeliani include l'intelligenza artificiale come strumento nell'identificazione degli obiettivi, particolarmente in aree residenziali densamente popolate, risultando in un alto livello di vittime civili. Nessuna parte delle decisioni di vita e di morte che impattano intere famiglie dovrebbe essere delegata al calcolo freddo degli algoritmi". Se i dettagli di questa inchiesta venissero confermati, si solleverebbero domande profonde e perturbanti riguardo al ruolo che i sistemi di intelligenza artificiale stanno assumendo, o potrebbero assumere, nei contesti bellici. Questi sistemi, che per loro natura tendono già a essere opachi a causa della loro complessità e del modo in cui sono progettati, diventano ancor più inaccessibili in situazioni di conflitto, dove la mancanza di trasparenza e di revisioni esterne diventa ancora più marcata.
🦹♂️Sempre più associazioni chiedono di diminuire l'uso dell'intelligenza artificiale nei conflitti armati. A livello internazionale, è fondamentale promuovere la creazione e l'adozione di trattati che limitino o regolino l'uso di sistemi d'arma autonomi, includendo eventuali divieti o restrizioni specifiche. Parallelamente, è importante stabilire standard internazionali per lo sviluppo e l'uso etico dell'IA in contesti militari, simili ai trattati sulle armi chimiche e biologiche. È anche essenziale incoraggiare una maggiore trasparenza e responsabilità nell'uso delle tecnologie emergenti da parte delle forze armate. La sensibilizzazione pubblica e l'attivismo giocano un ruolo chiave.
⚠️Vorrei capire perché non investire le stesse risorse che impieghiamo per lo sviluppo militare della tecnologia per risolvere i grandi problemi globali, come il cambiamento climatico, l’invecchiamento della popolazione, la lotta alla povertà. Una sorta di SHIELD degli Avengers sotto l’egida dell’ONU o, più semplicemente, una DARPA per il bene comune. Non è sempre quello che ci diciamo? Una IA per l’uomo e non contro l’uomo.
SuperMusic
🎤E’ uscita la nuova versione di Suno, tra le migliori IA di generazione musicale. L’avevo utilizzata per ascoltare in anteprima le canzoni di Sanremo, dandogli in pasto i testi che erano disponibili. Stavolta ho provato anche la capacità di generare testi e metterli in musica. Condivido il mio primo semplice esperimento, che mi ha stupito per il risultato, scrivendo come prompt “canzone rap sulla politica italiana”.
Ed ecco, al primo colpo, una possibile hit: “La rivoluzione Italiana”, un misto tra un jingle di Forza Italia, un canto grillino e una pubblicità.
Con una semplice frase, in maniera totalmente gratuita, Suno è riuscita a produrre cover, testo e musica. Se non è un superpotere questo.
Certo, fa riflettere che il testo generato sia molto intriso di “antipolitica”, proponendo però, in maniera poco intuitiva, la nascita di un nuovo partito:
La politica italiana, un paradosso senza fine Corruzione e promesse, il potere non ha fine / Il sistema è marcio, come un formaggio ammuffito Ma è ora di svegliarsi, è tempo di un altro partito / I politici ballano sulle note della corruzione Mentre il popolo italiano muore sotto l'oppressione Siamo stanchi delle promesse vuote e delle menzogne È ora di guidare la rivoluzione, non solo un nuovo sogno
[Chorus] È la rivoluzione italiana, la voce del popolo si alza Contro il sistema corrotto, contro il potere che opprime La speranza è la nostra arma, l'unità la nostra forza La rivoluzione italiana, la reputazione che si riforma
Un esperimento simpatico, che non aveva nessuna finalità politica. Magari qualcuno lo prenderà come spunto per un nuovo partito, il ritornello è intrigante!
SuperItaly
🦸Ancora in attesa della proposta di legge del governo, il Presidente Mattarella torna a parlare di intelligenza artificiale, in occasione dell’incontro con i rappresentanti delle Accademie nazionali delle Scienze dei Paesi del G7:
[L’IA è un] …tema affascinante che ripropone il costante interrogativo all’umanità rispetto alle opportunità che la ricerca scientifica offre con i suoi avanzamenti. Con la sollecitazione che se ne faccia un uso positivo e si evitino usi distorti, negativi e pericolosi.
Ma, come sappiamo, nella storia è sempre stata presente questa alternativa: la Scienza offre opportunità straordinariamente grandi; tocca poi all’umanità, alle sue istituzioni organizzate, farne l’uso migliore.
Sergio Mattarella, Presidente della Repubblica Italiana - Quirinale - 11/04/2024
SuperNews - Speciale trasparenza (Labeling, Copyright & Training)
🤖Meta ha riconosciuto che il suo attuale metodo di etichettatura dei contenuti generati dall'IA è troppo limitato e prevede di espandere l'uso di un distintivo "Made with AI" (Realizzato con IA) a una varietà più ampia di video, audio e immagini a partire da maggio. Questo cambiamento segue la raccomandazione del Consiglio di Sorveglianza, in particolare dopo un caso che coinvolgeva un video ingannevolmente modificato del Presidente Joe Biden. Meta aggiungerà l'etichetta in base agli indicatori di immagini IA o al riconoscimento da parte degli utenti di contenuto generato dall'IA e potrebbe anche etichettare i post segnalati dai fact-checker, potenzialmente declassando quelli identificati come falsi o alterati.
🤖Una lettera aperta firmata dalle più grandi star della musica sollecita i leader del settore a disinvestire dalle tecnologie IA che rappresentano un "attacco alla creatività umana [che] deve essere fermato." Scritta dall'Artist Rights Alliance (ARA), un'organizzazione no-profit per la difesa dei diritti degli artisti, la lettera ha raccolto le firme di musicisti e cantautori di tutte le età, tra cui Billie Eilish, Imagine Dragons, Stevie Wonder, Nicki Minaj, Pearl Jam, Katy Perry, The Jonas Brothers, Jon Bon Jovi e gli eredi di Bob Marley e Frank Sinatra. I firmatari riconoscono che un uso responsabile dell'IA può "promuovere la creatività umana", ma criticano coloro che "utilizzano l'IA per sabotare la creatività e danneggiare gli artisti, i cantautori, i musicisti e i detentori dei diritti." La lettera denuncia specificamente le aziende che usano la musica esistente per addestrare i loro modelli di IA senza consenso, i quali poi vengono utilizzati per generare contenuti che minano le roialty destinati agli artisti, minacciando così il loro sostentamento. Si sottolinea la necessità di proteggersi dall'uso predatorio dell'IA per rubare le voci e le immagini degli artisti professionisti, violare i diritti dei creatori e distruggere l'ecosistema musicale. Come non avere paura di Suno?
🤖 Un nuovo disegno di legge del Congresso Americano obbligherebbe le aziende tecnologiche a rivelare qualsiasi materiale protetto da copyright utilizzato per addestrare i loro modelli di intelligenza artificiale. Il disegno di legge sulla Divulgazione del Copyright nei modelli di IA Generativa, , richiederebbe a chiunque crei un dataset di addestramento per l'IA di inviare relazioni sul suo contenuto all'Ufficio del Copyright. Questa trasparenzaè richiesta a gran voce dai gruppi che rappresentano gli attori e gli sceneggiatori, che temono uno sfruttamento delle loro opere. Ma è tecnicamente fattibile? Sicuramente un’opzione da esplorare..
👏Ed eccoci arrivati alla fine del numero 27 di Superpoteri! Uscirà settimana prossima il ddl del Governo sull’IA (sperando che sia diverso dalla bozza che gira)?
🫵Ricordatevi che Superpoteri è un esperimento collettivo, utile per generare dibattiti, riflessioni, proposte sulle tecnologie e il loro impatto. Nessuno si deve sentire escluso.
🤖Puoi darmi una mano semplicemente iscrivendoti (se non l’hai ancora fatto) cliccando sul pulsante sotto.
🦸♀️Puoi lasciarmi un commento (anche critiche, dai!) o scrivermi per qualsiasi suggerimento
🦸Infine puoi semplicemente condividere “Superpoteri” a chi pensi possa essere interessato
Grazie e ci vediamo settimana prossima! Sapere Aude!👋