I pericoli della corsa agli armamenti con l’IA

Quest’articolo è disponibile anche in: Tedesco

(Bild: pressenza mit KI) (Foto di Pressenza con AI)

Le aziende dell’industria dell’intelligenza artificiale si aggiudicano lucrosi contratti per la difesa, il che costituisce un problema secondo due dipendenti dell’AI-Now Institute di New York. L’AI-Now Institute è un’organizzazione di ricerca in scienze politiche specializzata in intelligenza artificiale che ha già prodotto perizie per il Dipartimento del Commercio degli Stati Uniti. Il 27 gennaio 2025 Heidy Khlaaf, ricercatore senior dell’istituto, e il suo amministratore delegato, Sarah Myers West, hanno lanciato l’allarme, riferendo al New York Times che l’IA non dovrebbe essere impiegata in guerra così in fretta.

I più grandi ricercatori dell’Intelligenza artificiale, che si contendono i 500 miliardi di dollari di investimenti nell’IA annunciati dall’amministrazione Trump (“Stargate”), vogliono migliorare al di là del loro attuale contesto commerciale, e stanno attualmente cercando di stringere legami con società di difesa come Lockheed Martin e Booz Allen.

Tra le aziende interessate figurano anche OpenAI (Chat GPT, Microsoft) e Meta (Facebook e Co), nonché la start-up Scale AI e la neo Anduril. In collaborazione con le aziende del settore della difesa, vogliono garantire che le forze armate possano dispiegare bombe, missili e droni con maggiore precisione grazie all’aiuto dell’IA.

Non è una novità: un anno fa, Palentir ha ricevuto un contratto del valore di 178 milioni di dollari dall’amministrazione Biden per far progredire la guerra “di precisione” attraverso l’uso dell’IA. Ciò che invece rappresenta una novità è l’entità dell’investimento promesso da Trump.

I due autori mettono in guardia da ingenue speranze di attacchi di precisione chirurgica, ossia di operazioni “pulite” contro qualsiasi nemico, citando esperti militari critici che condividono la stessa posizione fondamentalmente per due motivi. In primo luogo, i sistemi forniscono obiettivi molto imprecisi. Nel 2021, ad esempio, uno studio indipendente ha rilevato che gli attacchi controllati dall’IA erano precisi solo al 25%, ciò equivale al 75% di “danni collaterali”, cioè di massacri di civili. Il presunto tasso di successo del 90% è una favola della lobby militare.

Ciò che rende pericoloso l’uso dell’IA in guerra è che troppo spesso l’Intelligenza artificiale confonde gli obiettivi, sbagliandone l’identificazione, o meglio è come se avesse delle “allucinazioni”, dicono gli autori. L’IA quindi non solo sbaglia troppo spesso le coordinate dei bersagli raccomandati, ma anche la scelta dei bersagli stessi. Gli scienziati spiegano che non sono ancora riusciti a eliminare dall’IA la “pura assurdità”. Chiunque abbia chiesto spesso alla Chat GPT una risposta specifica a una domanda altrettanto specifica può dirvi qualcosa al riguardo. Tuttavia, in Chat GPT le conseguenze non sono così cruente, rispetto a ciò che l’IA fa effettivamente “sul campo”.

Inoltre, i due rappresentanti dell’AI-Now Institute di New York ritengono che entrambe le fonti di errore siano probabilmente la causa dell’elevato numero di civili uccisi nella guerra di Gaza. Secondo un giornalista investigativo israeliano, l’esercito israeliano avrebbe selezionato gli obiettivi della sua campagna di bombardamenti proprio con l’aiuto dell’intelligenza artificiale.

“Gli effetti sono già sotto i nostri occhi”

Per l’organizzazione “Stop Killer Robots”, fondata nel 2012 e che conta più di 250 organizzazioni associate che lavorano per la messa al bando della guerra autonoma, gli effetti devastanti dei sistemi d’arma controllati dall’IA sono già visibili: “I rapporti sull’uso di strumenti militari di IA da parte di Israele nella Striscia di Gaza hanno mostrato i danni devastanti e inaccettabili che possono derivare dai tentativi di accelerare la violenza attraverso l’IA e l’automazione”. Vedi Infosperber del 13 dicembre 2024: “Le armi autonome decidono della vita e della morte – senza controllo”.

In secondo luogo, ricorre un altro problema: quando si tratta di uccisioni mirate di persone, le enormi quantità di dati che vengono processate per identificare gli obiettivi sono essenzialmente generate dal riconoscimento facciale individuale e da modelli comportamentali individuali: materiale che si basa sui dati raccolti dagli utenti di Internet e dei social media e, che se compressi dall’IA per scopi bellici, diventano un obiettivo interessante per gli hacker di ogni genere. Questi dati possono non solo essere sottratti dagli hacker e utilizzati per i propri interessi, ma anche essere manipolati e destinati ad altri possibili usi, diversi da quelli militari. Secondo gli autori, questi gateway non possono essere chiusi a meno che la forma di elaborazione dei dati non venga “radicalmente modificata”.

Tuttavia, questo problema oggi non sembra più porsi, anzi al contrario. Se con Biden si cercava ancora di affrontare la questione, l’amministrazione di Trump ha nuovamente ridimensionato le sue intenzioni normative, ed è per questo che i due autori sono intervenuti, chiedendo che i dati ottenuti commercialmente non entrino nei sistemi di intelligenza artificiale militari.

Infine, Heidy Khlaaf e Sarah Myers West concludono dicendo che le “debolezze tecniche” del sistema attuale minerebbero la sicurezza nazionale anziché giovarle: “un giorno ce ne pentiremo profondamente”.

Traduzione dal tedesco di Maria Sartori. Revisione di Filomena Santoro.

L’articolo originale può essere letto qui

Questo articolo è stato pubblicato qui