Lorenzo Maria Pacini
La tecnologia può stabilire come un'arma raggiunge il bersaglio, mentre spetta all'umanità decidere se quel bersaglio debba essere colpito. La domanda che si cela dietro a tutto ciò è chi, concretamente, eserciti quell'umanità, con quali strumenti di conoscenza e dentro quali istituzioni.
Dalla persona al bersaglio
Che cosa ne è dell'umanità quando la tecnologia diventa capace di riconoscere, classificare, seguire e infine uccidere esseri umani senza che chi colpisce li abbia mai visti ? Se lo è chiesto l'amico Mohammad Reza Dehshiri e la sua risposta ha una formula efficace. Il pericolo, scrive, non è l'intelligenza artificiale ma l'inumanità artificiale, cioè la possibilità che le macchine diventino più accurate proprio mentre gli uomini smettono di sentirsi responsabili di ciò che quelle macchine fanno in loro nome.
Con questo articolo apro una serie che parte dalla diagnosi di Dehshiri e prova a spingersi oltre. Se il problema è l'inumanità artificiale, la risposta non può consistere in un'IA "più etica", come se l'etica fosse un modulo da installare a valle di un sistema già progettato. Bisogna recuperare una categoria che il lessico tecnologico ha reso quasi impronunciabile: l'intelligenza umana, intesa non come un residuo da proteggere nelle pieghe dell'automazione, ma come una forma di conoscenza con prerogative proprie, che nessun aumento della potenza di calcolo può surrogare.
La chiamerò Human Intelligence, e l'ambiguità è voluta. Nel gergo dei servizi di informazione, HUMINT designa la più antica delle discipline informative: quella che passa per le persone, le fonti, le lingue, la frequentazione paziente dei luoghi. Nel lessico filosofico l'espressione indica la facoltà di comprendere. La tesi di questo primo contributo è che i due significati oggi convergono, e che la loro convergenza ha una portata geopolitica che va ben oltre il dibattito sull'etica delle armi.
Possiamo descrivere la catena operativa della guerra contemporanea in sette passaggi: rilevare, identificare, classificare, predire, ordinare per priorità, designare, colpire. Ogni anello può essere tecnicamente raffinato senza che la sequenza, presa nel suo insieme, lo sia sul piano morale. Il fenomeno che ne risulta viene chiamato "datificazione della vita umana": l'individuo ridotto a un'identità, a una posizione, a uno schema di comportamento, a un punteggio di minaccia.
Non si tratta di un'astrazione. Nell'aprile 2024 un'inchiesta di Yuval Abraham per +972 Magazine e Local Call ha descritto Lavender, un sistema impiegato dalle forze armate israeliane a Gaza per attribuire a decine di migliaia di persone una probabilità di affiliazione ai gruppi armati. Secondo le fonti interne citate dall'inchiesta, la verifica umana di ciascun nominativo si riduceva spesso a una ventina di secondi, il tempo necessario per accertare che il bersaglio fosse di sesso maschile. Le forze armate israeliane hanno contestato questa ricostruzione e hanno descritto Lavender come una banca dati di supporto agli analisti. Anche accettando la versione ufficiale, però, il nodo resta intatto: un operatore umano era presente, e la sua presenza non bastava a trasformare la raccomandazione del sistema in un giudizio.
La psicologia cognitiva ha un nome per questo fenomeno, automation bias: la tendenza di chi lavora con un sistema automatizzato a trattarne le indicazioni come sostituto della propria verifica, e a non cercare le informazioni che potrebbero smentirle. Nel 1976 Joseph Weizenbaum, che aveva costruito uno dei primi programmi conversazionali della storia, distingueva già tra la capacità di calcolare e quella di giudicare, e sosteneva che vi sono compiti che non andrebbero affidati a un calcolatore anche se il calcolatore fosse in grado di svolgerli. Mezzo secolo dopo la distinzione è diventata più urgente. Il calcolo lavora su ciò che è già stato tradotto in dato. Il giudizio deve decidere se quella traduzione è stata fedele.
Dehshiri fissa il punto con quattro distinzioni: la precisione tecnica non è precisione etica, l'accuratezza non è giustizia, l'automazione non è responsabilità, la superiorità tecnologica non è superiorità morale. Ne aggiungerei una quinta, di ordine epistemico, da cui dipendono le altre: la correlazione non è comprensione. Un sistema di apprendimento automatico riconosce regolarità statistiche in un insieme di dati. Non sa che cosa sia una scuola, perché non sa che cosa sia un bambino, e non sa nemmeno di non saperlo.
L'iraniano prende un caso studio interessante: Il 28 febbraio 2026, nelle prime ore della guerra, la scuola elementare Shajareh Tayyebeh di Minab, nella provincia di Hormozgan, fu colpita più volte durante l'orario di lezione. Le cifre fornite dalle autorità iraniane oscillano tra 150 e 175 morti, in grande maggioranza bambine, con decine di insegnanti e alcuni genitori; il procuratore della contea ha indicato un bilancio definitivo di 156 vittime. Washington non ha mai riconosciuto direttamente la propria responsabilità né pubblicato le conclusioni dell'indagine del Pentagono. Amnesty International ha parlato, nella migliore delle ipotesi, di un grave fallimento dell'intelligence.
C'è un dettaglio, emerso dalle immagini satellitari, che sposta l'analisi dal piano morale a quello conoscitivo. Secondo i media occidentali, la scuola sorgeva accanto a una base navale dei Guardiani della Rivoluzione e in passato ne aveva fatto parte; tra le spiegazioni circolate negli ambienti statunitensi c'è quella di dati di puntamento non aggiornati. Se l'ipotesi venisse confermata, Minab non sarebbe il caso di una macchina che sbaglia, ma di un archivio che ha smesso di corrispondere alla realtà. L'edificio era cambiato. Il dato no.
Nessun algoritmo di classificazione, per quanto sofisticato, può accorgersi che un vecchio fabbricato militare è diventato una scuola se nessuno ha registrato il cambiamento. Lo sapeva chiunque vivesse a Minab: i genitori che ogni mattina accompagnavano le figlie, il conducente dello scuolabus, gli insegnanti. È esattamente il tipo di sapere che la HUMINT raccoglie e che la guerra a distanza tende a considerare superfluo, perché lento, costoso, difficile da scalare. Allo stato delle fonti pubbliche, la responsabilità statunitense appare altamente probabile, mentre la dinamica resta indeterminata e la confidenza su questo punto è bassa: errore della banca dati, errore di classificazione, oppure accettazione consapevole del rischio. Le tre ipotesi, però, convergono sulla stessa domanda. Chi, prima del lancio, ha verificato se in quell'edificio ci fossero persone?
Oltre il "human-in-the-loop"
Il dibattito internazionale si è a lungo accontentato del principio del human-in-the-loop, l'essere umano inserito nel circuito decisionale.
La formula è insufficiente: un uomo può essere presente nel circuito e limitarsi a ratificare la raccomandazione dell'algoritmo. Propone di sostituirla con un principio più esigente, che chiama humanity-in-command: la capacità effettiva di mettere in discussione, respingere, scavalcare e arrestare il processo automatizzato.
La storia della Guerra fredda offre due esempi che chiariscono che cosa significhi in concreto. Il 26 settembre 1983 il sistema sovietico di allerta precoce Oko segnalò il lancio di cinque missili balistici dagli Stati Uniti. L'ufficiale di turno, Stanislav Petrov, classificò l'allarme come un errore e non lo trasmise come attacco in corso, ragionando che un primo colpo americano non sarebbe mai consistito in cinque missili soltanto. Aveva ragione: il satellite aveva scambiato per lanci i riflessi del sole sulle nubi. Ventuno anni prima, il 27 ottobre 1962, nelle acque dei Caraibi, il sottomarino sovietico B-59, isolato e bersagliato da cariche di profondità di segnalazione, fu sul punto di impiegare un siluro a testata nucleare. Il lancio richiedeva il consenso dei tre ufficiali superiori a bordo, e Vasilij Archipov lo negò.
In nessuno dei due casi l'uomo approvò una raccomandazione del sistema. La contraddisse. E non lo fece perché disponeva di più dati: i dati, anzi, erano il problema. Lo fece perché seppe porsi una domanda che nessuna procedura gli imponeva, cioè se ciò che vedeva avesse senso rispetto a tutto il resto che sapeva del mondo. Petrov conosceva la dottrina nucleare americana; Archipov conosceva la differenza tra un attacco e un'intimidazione. È questa capacità di confrontare il segnale con l'insieme, il particolare con il plausibile, che chiamo Human Intelligence. Vale la pena notare che il Dena è stato affondato da un sottomarino. Non sappiamo che cosa sia stato chiesto ai suoi ufficiali, né quali margini di valutazione avessero.
La proposta va precisata, perché il rischio è di ridurla a un appello umanistico generico. La Human Intelligence, così come la intendo, si articola su tre piani distinti, ciascuno dei quali segna un limite strutturale, e non contingente, dell'intelligenza artificiale.
Il primo piano è epistemico. La tradizione scolastica distingueva tra intellectus, l'atto con cui la mente coglie in modo immediato una verità, e ratio, il procedere discorsivo da un elemento all'altro: per Tommaso d'Aquino (Summa Theologiae, I, q. 79, a. 8) le due non sono facoltà diverse ma momenti di un unico intelletto, in cui il ragionamento parte da una comprensione e a una comprensione ritorna. I sistemi attuali di apprendimento automatico realizzano una ratio di potenza inaudita, capace di inferire, combinare, predire su scale inaccessibili alla mente umana. Manca loro il momento dell'intellectus, cioè la presa sul senso di ciò che elaborano. È una tesi filosofica e va presentata come tale, ma ha conseguenze operative precise: un sistema privo di comprensione non può sapere quando il proprio modello del mondo è diventato falso.
Il secondo piano è pratico. La prudentia, nella definizione tomista, è la retta ragione applicata all'agire, e il suo compito specifico consiste nel portare il principio universale fino al caso singolare. La macchina generalizza: il suo valore sta nel ricondurre il singolo caso a una classe. La prudenza fa l'opposto, perché deve riconoscere ciò che, in questo caso, sfugge alla classe. La guerra, che è il regno del singolare e dell'imprevisto, è il terreno in cui la differenza pesa di più. La nota vaticana Antiqua et nova del gennaio 2025 ha ripreso questa linea, insistendo sul carattere incarnato e relazionale dell'intelligenza umana e sulla sua irriducibilità a una funzione di elaborazione.
Il terzo piano è relazionale, ed è qui che il significato filosofico incontra quello dei servizi. Sherman Kent, che negli Stati Uniti del dopoguerra fondò di fatto gli studi sull'intelligence, la definiva prima di tutto come conoscenza, prima ancora che come organizzazione o attività. La HUMINT è la forma di questa conoscenza che passa attraverso l'altro come persona: chi parla la sua lingua, conosce le sue abitudini, sa leggere un quartiere, distingue una festa da un raduno. Negli ultimi tre decenni le grandi potenze hanno progressivamente spostato risorse verso le discipline tecniche, dalla raccolta di segnali all'osservazione satellitare, fino alle piattaforme di fusione dei dati. Minab mostra il prezzo di questo squilibrio.
Nulla di tutto questo implica un rifiuto della tecnologia. La Human Intelligence non si oppone all'IA come il manuale si oppone al meccanico. Ne stabilisce la gerarchia: l'algoritmo come strumento ordinato a un giudizio che non può produrre da sé. E ne ricava un principio, che Dehshiri formula e che merita di diventare criterio operativo: quanto più la tecnica allontana chi agisce dalle conseguenze del proprio atto, tanto più deve crescere la responsabilità cosciente di chi decide, non diminuire.
Geopoliticamente parlando
Fin qui la questione potrebbe sembrare di filosofia morale. Non lo è soltanto. La distribuzione della capacità di guerra algoritmica è una distribuzione di potere, e le regole che la governeranno saranno scritte, se mai lo saranno, da chi ha interesse a limitarle il meno possibile.
Lo stato del diritto internazionale lo conferma. Il gruppo di esperti governativi istituito nell'ambito della Convenzione su certe armi convenzionali discute dei sistemi d'arma autonomi letali dal 2017 senza essere approdato a uno strumento vincolante. Gli Stati Uniti hanno promosso nel novembre 2023 una dichiarazione politica sull'uso militare responsabile dell'IA, per definizione non vincolante; nel dicembre dello stesso anno l'Assemblea generale delle Nazioni Unite ha adottato la prima risoluzione dedicata a questi sistemi, mentre il Comitato internazionale della Croce Rossa chiede dal 2021 il divieto dei sistemi autonomi imprevedibili e di quelli progettati per colpire esseri umani. Nel giugno 2024, intervenendo al G7 di Borgo Egnazia, Papa Francesco aveva chiesto che nessuna macchina sia mai messa nelle condizioni di decidere della vita di una persona. Il divario tra queste posizioni e la pratica dei teatri di guerra del 2026 si misura in vittime.
C'è poi un'asimmetria più profonda. Chi controlla i dati decide chi è un bersaglio, e le vittime della guerra algoritmica si trovano in larga parte fuori dall'Occidente: a Gaza, in Iran, nel Sahel, nello Yemen. Per gli Stati che non producono le piattaforme e non ne controllano gli archivi, la Human Intelligence diventa allora una questione di sovranità. Un Paese che mantiene competenze linguistiche, conoscenza regionale, reti umane di informazione conserva un'autonomia di giudizio; un Paese che affida la propria visione del mondo a sistemi progettati altrove, spesso da imprese private, la cede insieme ai dati. In un ordine che tende al multipolarismo, questa differenza separerà gli attori che giudicano da quelli che vengono giudicati.
Ne discende una proposta concreta, che svilupperò nei prossimi contributi. Accanto al principio generale del controllo umano significativo, il diritto internazionale umanitario potrebbe codificare un obbligo specifico di verifica umana dello status civile per ogni infrastruttura fissa inserita in una lista di obiettivi, con una data di validità oltre la quale l'informazione decade e va rinnovata con fonti dirette. È una norma minima. Applicata a Minab, avrebbe imposto a qualcuno di chiedersi se quell'edificio fosse ancora ciò che l'archivio diceva.
La tecnologia può stabilire come un'arma raggiunge il bersaglio, mentre spetta all'umanità decidere se quel bersaglio debba essere colpito. La domanda che si cela dietro a tutto ciò è chi, concretamente, eserciti quell'umanità, con quali strumenti di conoscenza e dentro quali istituzioni. A Minab qualcuno avrebbe dovuto sapere che c'era una scuola. Il fatto che nessuno lo sapesse, o che nessuno lo abbia chiesto, è il punto da cui ricominciare.