Testo dell’Intervento di Jacques Luzi alle Tre giornate contro le tecno-scienze, sesto incontro internazionale, Luglio 2024 ad Acqui Terme organizzate da Resistenze al nanomondo e pubblicato sul giornale L’Urlo della Terra, n.12, Luglio 2024
Intelligenza artificiale: iperguerra, ecocidio e asservimento.
Presentazione del libro di J. Luzi, Quello che l’intelligenza artificiale non può fare, 2024
Qui mi propongo di per parlare un po’ del mio libro, pubblicato a giugno in Francia: Cosa non può fare l’intelligenza artificiale. Per farlo, presenterò i due punti seguenti :
- Quali sono i principi dell’IA?
- In che modo l’IA fa parte delle invarianti dell’industrialismo, al di là delle sue applicazioni ludiche o “benefiche”?
Quindi, primo punto: quali sono i principi dell’IA?
Immaginate di essere in piedi su un muro dal quale volete saltare. Mentre iniziate a saltare, vedete un riccio che vi ostacola. Senza nemmeno pensarci, aggiustate il salto, evitate il riccio e, come un gatto, atterrate in piedi. Tutto va bene.
Che cosa è successo? Dal punto di vista del buon senso, avete buoni riflessi. Dal punto di vista dominante della tecnoscienza, il vostro comportamento è il risultato di un calcolo che vi permette di adattarvi ai cambiamenti dell’ambiente. Questo è il principio della cibernetica, che presuppone che il corpo umano sia una macchina biochimica controllata da un cervello-macchina. È questo cervello-macchina che ha calcolato la nuova traiettoria e ha diretto il corpo-macchina.
La critica a questo paradigma della macchina risale almeno a Immanuel Kant. Emergendo dal cervello, il pensiero umano segue regole diverse dal suo substrato biologico; l’attività del cervello è inseparabile dal suo organismo; un organismo non è una macchina, nasce da un altro organismo, senza essere fabbricato, e ha una “forza formativa” che la macchina non ha. Infine, a differenza del computer, l’organismo umano nasce e si sviluppa senza possedere una memoria anatomica in cui sarebbe possibile immagazzinare algoritmi e dati, i primi elaborando i secondi.
Tuttavia, in un secolo, la tecnoscienza è passata dalla meccanizzazione della forza fisica umana alla meccanizzazione del pensiero umano, assimilato a un processo di calcolo. Il risultato sono gli algoritmi del computer e dell’intelligenza artificiale. Il risultato finale sarebbe la creazione di una nuova specie, la Machina Sapiens, dotata di una potenza fisica e intellettuale infinitamente superiore alle capacità umane. E nella quale gli esseri umani devono fondersi, secondo l’ideologia transumanista.
Sebbene il progetto dell’intelligenza artificiale sia di vecchia data, oggi sta è resa possibile dai progressi della potenza dei computer e delle immense banche dati, fornite dalla completa digitalizzazione dell’esistenza. Questo progetto è di natura universale. In primo luogo, è possibile riprodurre meccanicamente il comportamento degli esseri viventi (ridotto ai calcoli che permettono loro di adattarsi ai cambiamenti del loro ambiente). Ma è anche possibile rispondere alla crisi ecologica con un adeguamento calcolabile al feedback della natura dalle azioni umane [questa è l’argomentazione sostenuta da James Lovelock, Gaia, nel mille novecento settantanove]. E infine, applicare il ragionamento cibernetico all’ordinamento della società: gli individui digitalizzati producono dati e possono essere governati dal feedback della macchina intelligente.
Secondo punto: come si inserisce l’intelligenza artificiale nella logica o nelle invarianti dell’industrialismo?
Nel mio libro sono particolarmente interessato a quattro invarianti: l’alleanza tra il potere militare dello Stato, il potere monetario del capitale e il potere tecnologico; il capro espiatorio della natura come macchina sfruttabile e trasformabile all’infinito; la meccanizzazione del lavoro salariato; l’estensione della disciplina di fabbrica all’intero territorio governato dallo Stato.
Per brevità, non tratterò qui la questione del lavoro.
Primo punto) L’alleanza tra Stato e Capitale:
Dal Rinascimento, le società industriali sono state strutturate dal pensiero mercantilista, che è il pensiero alla base di questa alleanza. Imponendo tasse o debiti su parte della ricchezza creata dal Capitale, lo Stato monarchico, e poi quello repubblicano, possono finanziare il proprio potere militare. E viceversa, questo potere militare permette al Capitale di estendere la sua attività lavorativa, in forma coloniale o neocoloniale. Quindi, a partire dalla Seconda guerra mondiale, la supremazia economica degli Stati Uniti è stata accompagnata dalla loro assoluta supremazia militare: il bilancio del Pentagono è superiore alla somma dei bilanci militari del resto del mondo.
Dal diciassettesimo secolo in poi, questa alleanza è stata costantemente rafforzata dalle tecnologia derivanti dai progressi della tecnoscienza. L’intelligenza artificiale non fa eccezione. Nel mio libro mostro come, a partire dalla Seconda guerra mondiale, l’intelligenza artificiale sia stata una creazione dell’esercito americano, prima di diventare un’applicazione del capitalismo di sorveglianza della GAFAM, a sua volta assunta dal Pentagono per mettere l’intelligenza artificiale al servizio del suo potere militare.
Questo lavoro ha portato alle armi di oggi, dalle macchine a controllo umano ai robot killer autonomi, di cui la guerra tra Russia e Ucraina è il primo esperimento. Eliminando l’uomo, l’obiettivo è guadagnare velocità rispetto all’avversario (a robot killer autonomo agisce più rapidamente che se fosse mediato da un umano). Ma l’accelerazione delle operazioni militari “intelligenti” stanno portando a una crisi del comando: come governare macchine dalla velocità sovrumana, se non automatizzando la direzione delle operazioni? Questo è l’obiettivo dei progetti di intelligenza artificiale degli eserciti americano e cinese: il JADC2 americano (Join All-Domain Command-and-Control System) contro il MDPW cinese (Multi-Domain Precision Warfare) – o anche il National Defense Managment Center russo. In tutti i casi, ritroviamo la stessa strategia di organizzazione di un Progetto Manhattan, di un complesso scientifico-militare-industriale preparare il comando “intelligente” dell’esercito nel più breve tempo possibile.
Inoltre, ci sono indicazioni che questo movimento si estenderà all’automazione della decisione di usare le armi nucleari.
Secondo punto) La guerra alla natura :
Chiamo industrialismo l’alleanza tra Stato, capitale e tecnologia derivante dal progresso tecno-scientifico. La natura, dai giacimenti minerari al corpo umano e ai campi coltivati, è vista come una macchina che può essere scomposta e ricomposta a piacere sotto forma di artefatto.
Nel quadro dell’industrialismo, la natura ha lo status di capro espiatorio. Le ragioni sono due: in primo luogo, perché il suo sfruttamento alimenta le lotte di potere condotte dagli Stati e dai detentori del Capitale; in secondo luogo, perché il suo sfruttamento permette, grazie alla sicurezza e al comfort della società dei consumi, di garantire il sostegno della maggioranza degli sfruttati (anche se solo da un punto di vista immaginario).
Quindi, la crisi ecologica è il logico risultato dell’espansione industriale, cioè di una modalità di dominio nazionale e internazionale che può continuare solo grazie al soluzionismo tecnologico dell’intelligenza artificiale. E questo non può che aggravare la crisi. Per almeno due motivi.
In primo luogo, perché la digitalizzazione del mondo e il suo governo “intelligente” si basano sull’estensione dell’attività mineraria, che è il fondamento e il modello di tutte le attività industriali.
Il digitale, la tecnologia d’avanguardia, i droni e la robotizzazione stanno amplificando questo fenomeno, soprattutto perché la lega dei metalli nelle tecno-merci rende praticamente impossibile il riciclo. Nel mille e settecento si estraevano tre minerali, otto nel milleottocento, venti nel millenovecento, cinquantacinque nel due mila: in soli vent’anni, il volume dei metalli estratti nel mondo è raddoppiato. Entro il duemila e cinquanta, si prevede che la produzione mineraria globale aumenterà da cinque a dieci volte.
In Francia esiste un’associazione di ex professionisti del settore minerario che riassume le conseguenze come segue. Bisogna tenere presente che nel mondo ci sono diverse decine di migliaia di miniere. Cito:
I depositi metallici hanno due caratteristiche intrinseche:
I minerali di interesse sono disseminati in giganteschi volumi di roccia ;
Sono associati a una serie di elementi, principalmente metalli e metalloidi, alcuni dei quali sono particolarmente tossici per la salute umana e per tutte le forme di vita.
Di conseguenza, l’industria mineraria utilizza processi complessi e lunghi che consumano molta acqua ed energia e generano notevoli quantità di rifiuti.
I rifiuti minerari prodotti hanno un forte impatto ambientale, interessando tutti gli ambienti (acqua, aria, suolo) e causando gravi conseguenze sanitarie e sociali.
Il risultato è un’esacerbazione dei conflitti: il settore è responsabile del maggior numero di conflitti socio-ambientali e (…) del maggior numero di omicidi di difensori dei diritti umani[1].
In queste condizioni, l’intelligenza artificiale apparirà rapidamente come la causa e l’effetto della precipitosa preparazione alla guerra robotica, definita dagli americani “iperguerra”. La sua materialità contribuirà a moltiplicare e intensificare i conflitti per l’accesso alle riserve critiche di materie prime strategiche (petrolio, gas naturale, minerali, acqua). Allo stesso tempo, i suoi miglioramenti aumenteranno l’efficacia letale degli eserciti impegnati in questi conflitti per le risorse, che sono già iniziati, anche se per il momento indirettamente..
In secondo luogo, perché la soluzione tecnologica incorpora le biotecnologie e la fantasia di ricreare artificialmente gli elementi della natura distrutti dall’industrialismo.
La biologia sintetica combina due favole: quella dell’intelligenza delle macchine e quella della macchina vivente. Entrambe sono state invalidate da tempo e fanno quindi parte dell’ideologia scientifica. Ciò non impedisce il suo impiego, dalle armi biologiche alla commercializzazione di oggetti biologici (geni, gameti, cellule, tessuti), passando per la ricerca dello sviluppo “intelligente” di embrioni in un utero artificiale, dopo una selezione pre-impianto.
Per brevità, lascio la parola a Eliezer Yudkowsky, transumanista californiano, futurologo e scrittore di fantascienza, fondatore del Machine Intelligence Research Institute (Berkeley):
L’intelligenza artificiale non rimarrà a lungo confinata ai computer. Nel mondo di oggi, è possibile inviare via e-mail frammenti di DNA a laboratori che produrranno proteine su richiesta, consentendo all’IA inizialmente confinata a Internet di creare forme di vita artificiali o di passare direttamente alla produzione molecolare post-biologica. (…)
Non siamo pronti. Non siamo sulla buona strada per essere meglio preparati nel prossimo futuro. Se andiamo avanti, moriranno tutti, compresi i bambini che non l’hanno scelto e che non hanno fatto nulla di male.
Fermare tutto[2].
Terzo e ultimo punto) La matrice “intelligente” dello Stato
Da quanto detto, possiamo dedurre che l’avvento dell’intelligenza artificiale, anziché risolvere la crisi sociale, geopolitica ed ecologica causata dall’industrialismo, la aggraverà tragicamente, portando sia più caos che più modi di contenerlo.
Per questo motivo, l’organizzazione sociale può essere ridotta a una macchina che può essere ottimizzata. Dobbiamo fare una distinzione tra il dispiegarsi organico (non pianificato) della vita sociale (rurale o urbana) e la sua organizzazione artificiale. Come scrive James Scott a proposito della tecno-amministrazione:
Divenne possibile immaginare una società artificiale, fabbricata, progettata non con la forza della consuetudine e degli incidenti della storia, ma secondo criteri scientifici consapevoli e razionali. Ogni angolo dell’ordine sociale era aperto al miglioramento[3].
A tal fine, l’informatizzazione e l’automazione accentuano la spinta dello Stato a rendere trasparente il comportamento dei cittadini, trasferendo alla sfera civile tecnologie di origine militare: controllo “intelligente” della folla, videosorveglianza, monitoraggio biometrico, satelliti ad alta tecnologia, droni e armi “non letali” (irritanti, sostanze odorose, assordanti, accecanti, incapacitanti, e altri proiettili cosiddetti “non penetranti”).
Sebbene l’obiettivo non possa essere quello di monitorare sempre tutti, l’ordinamento “intelligente” della società può mirare a colpire chiunque in qualsiasi momento e, come nel panopticon carcerario di Samuel Bentham (1757-1831), a diffondere in tutto il corpo sociale uno “stato di visibilità consapevole e permanente che assicura il funzionamento automatico del potere[4].“
Ecco alcuni esempi:
In Cina, Alibaba sta sviluppando “City Brain”, dalla cognizione all’ottimizzazione, dalla ricerca alla previsione, estende il suo potere al processo decisionale, sostituendo la burocrazia sopraffatta dalla complessità dell’ipertrofia urbana. Secondo Alibaba, questa intelligenza artificiale è pronta per essere utilizzata per la gestione del la pianificazione urbana, ma anche per la sicurezza e la “governance”.
Allo stesso tempo, le società cinesi Huawei e Hickvision dominano il mercato globale dei sistemi di sorveglianza intelligente e di polizia predittiva, in concorrenza soprattutto con NEC (Giappone) e IBM, Palantir e Cisco (made in USA). Queste società esportano il loro tecnologia nelle autocrazie e in più della metà delle “democrazie liberali”. Tanto che il tipo di regime politico “non è un buon indicatore per determinare quali Paesi adotteranno la sorveglianza dell’IA”, soprattutto con la diffusione del liberalismo autoritario[5]. Né quali sono i Paesi che alla fine collegheranno i robot della polizia a questi sistemi. Dubai ha aperto la strada nel duemila dieci spet. Nel novembre duemilaventidue, il Consiglio dei Supervisori di San Francisco ha approvato una legge che autorizza la polizia a impiegare robot killer, per il momento solo in circostanze eccezionali (senza preoccuparsi di specificare la definizione di “eccezione”). Nel maggio duemilaventitre, il Consiglio comunale di New York ha confermato l’uso dei droni di sorveglianza Knightscope K5, di Digidog – il cane robot della Boston Robotics – e dei dispositivi di localizzazione GPS Starchase, che “consentono alla polizia di estrarre i chip da veicoli e individui, per rintracciarli ovunque sul pianeta”.
E ogni occasione, stato di eccezione dopo stato di eccezione, crea un nuovo effetto a catena, impedendo di ostacolare la disciplina della sicurezza urbana e la mentalità di adattamento al controllo cibernetico della vita sociale.
* * *
Non ho sviluppato completamente il contenuto del mio libro. Ma non è difficile concludere che, integrata nelle dinamiche strutturali dell’industrialismo, l’intelligenza artificiale porta all’iperguerra, all’ecocidio e alla servitù digitale. Non può essere utile alla pace, al rispetto della natura o alla difficile combinazione di libertà individuale e comunità sociale.
Le applicazioni alla salute, all’intrattenimento, ecc. non hanno altra funzione che l’accettabilità sociale. E questo si basa fondamentalmente su un feticcio per la tecnologia. In altre parole, un’ignoranza delle relazioni umane e dei rapporti con la natura cristallizzati nelle tecno-merci. L’intelligenza artificiale, o meglio l’elaborazione delle informazioni da parte di supercomputer apprendenti in un mondo interamente digitalizzato, non è magica, ma distruttiva dell’umanità degli esseri umani e della natura.
A livello di base, opporsi all’industrialismo significa, nonostante il peso della propaganda diffusa dai media, partiti politici e università, liberare le persone dalla morsa di questo feticismo. Questo è l’unico modo per dare una nuova direzione alle società nazionali e globali. Tale prospettiva può essere utopica, ma solo questa utopia può ancora dare un senso umano e terreno alle nostre vite.
Grazie per avermi ascoltato: non deve essere stato facile e mi scuso per aver brutalizzato la vostra bella lingua. E vi auguro tanti giorni felici. E spero di vedervi l’anno prossimo. Un abbraccio à tutti.
[1] SystExt, « Pour en finir avec certaines contrevérités sur la mine et les filières minérales », novembre 2021, p. 133-134, systext.org.
[2] E. Yudkowsky, « Pausing AI Developments Isn’t Enough. We Need to Shut it All Down. », Time, 29 mars 2023, time.com.
[3] J. C. Scott, L’œil de l’état. Moderniser, uniformiser, détruire, La Découverte, Paris, 2021 (1998), p. 147-148.
[4] M. Foucault, Surveiller et punir, Paris, Gallimard, 1975, p. 197-229.
[5] S. Feldstein, « The Global Expansion of AI Surveillance », 17 septembre 2019, carnegieendowment.org
Jacques LUZI, Giugno 2024
Scrivici per ricevere l’ultimo numero del nostro giornale L’Urlo della Terra