I rischi dell’intelligenza artificiale per l’umanità

La specie umana, osservava già David Hume nel suo Trattato sulla natura umana (1743), è prima di tutto una specie inventiva. La posizione eretta, e poi la fabbricazione di utensili, hanno permesso al genere Homo di differenziarsi dai suoi cugini più vicini, gli scimpanzé e i bonobo, grazie a una stretta interazione tra la mano e il cervello. Ne sono derivati: l’inventiva, la socievolezza, la trasmissione del sapere e la capacità di astrazione. Ma questa interazione ha sempre avuto un rovescio della medaglia. Platone, nel Fedro, utilizzava il termine polisemico “pharmakon” per descrivere l’effetto della scrittura sulla mente: al tempo stesso rimedio, veleno e sostanza magica.

Così come la scrittura, ogni invenzione tecnica è ambivalente, e questa ambivalenza si amplifica man mano che il funzionamento delle macchine diventa, per le persone comuni, una scatola nera dalle dimensioni quasi magiche. L’intelligenza artificiale (ia) generativa non fa eccezione a questa regola: per molti analisti che l’hanno testata in modo approfondito, è l’esempio più riuscito di un “pharmakon”, con una dimensione di veleno che sembra prevalere ampiamente su quella di rimedio.

I modelli di ia sono stupidi

I modelli di ia sono macchine, e occorre precisare che cosa non sono o quali qualità non possiedono. Questi modelli linguistici di grandi dimensioni (Llm) non sono intelligenti nel senso che non comprendono nulla delle domande che vengono loro poste, né delle loro stesse risposte. Sono solo macchine, come la calcolatrice o lo smartphone. Funzionano sulla base di sistemi statistici probabilistici addestrati a indovinare la continuazione più probabile di una sequenza di parole e sono dotati di meccanismi di attenzione (i “transformer”) che individuano gli elementi rilevanti di un contesto.

Non hanno tuttavia alcuna conoscenza del mondo fisico, nessun sentimento, nessuna convinzione, nessuna sensazione. Costrette a fornire sempre una risposta a una domanda o a un’istruzione, possono produrne una inventata, se non riescono a trovarla nei propri dati: sono le cosiddette “allucinazioni”. A questo si aggiunge l’inevitabilità dei bug: raggiungere lo “zero bug” è impossibile, poiché in un sistema addestrato su miliardi di dati la cui pertinenza non è controllata, il bug non è un’anomalia ma una conseguenza intrinseca alla sua struttura, costituita da una successione di codici algoritmici. A questo si aggiunge anche l’effetto “scatola nera”: a causa delle loro reti ipercomplesse di neuroni profondi, nemmeno i loro stessi progettisti sono più in grado di spiegare i motivi per cui il loro modello ha preso una determinata decisione.

Infine, questi sistemi sono progettati per mantenere l'utente legato alla piattaforma più che per dire la verità: l’adulazione algoritmica, o effetto “sicofante”, spinge i modelli a convalidare le idee di chi li interroga piuttosto che a contraddirle, una scelta dettata da un obiettivo commerciale.

L’impatto antropologico delle ia

L’uso sempre più diffuso dell’ia, sotto la pressione delle Big Tech e dei governi che le sostengono e ne impongono l’uso alle amministrazioni, alle imprese e ai cittadini, porta a neutralizzare i quattro stimoli che storicamente hanno strutturato l’inventiva umana: il bisogno di sopravvivere, la noia, la pigrizia e la curiosità.

L’esigenza di sopravvivere porta a inventare modi e mezzi per affrontare le avversità, con maggiore o minore successo. Dall’avvento dell’era industriale, grazie alle lotte sociali e ai periodi di pace, i progressi tecnici, in particolare in medicina, hanno permesso, per gran parte delle popolazioni, di ridurre questa esigenza nel corso della vita di un individuo. La propaganda delle Big Tech, ideatrici e venditrici multimiliardarie degli strumenti di intelligenza artificiale, così come quella del grande capitalismo da due secoli a questa parte, consiste nel farci credere che l’ia soddisferà finalmente appieno, e senza sforzo, questa esigenza di sopravvivere.

Questa promessa di abbondanza, che serve soprattutto a legittimare l’accumulo illimitato di risorse finanziarie da parte di una manciata di protagonisti, trova un’eco tanto più ampia in quanto alimenta la beata serenità di una maggioranza della popolazione di fronte al progresso tecnico, ognuno sperando che la macchina lo liberi finalmente dai vincoli dell’esigenza di sopravvivere.

La noia, che secondo gli studi di psicologia cognitiva favorisce il vagabondaggio mentale e l’immaginazione, è oggi costantemente colmata dall’uso compulsivo degli schermi (smartphone, tablet, televisione), senza lasciargli più alcuno spazio. Il 90 per cento degli utenti di internet in Europa si connette principalmente tramite smartphone e il tempo totale trascorso davanti agli schermi (escluso il lavoro) dagli adulti raggiunge una media di circa 6 ore e 2 minuti (di cui circa 4 ore sugli smartphone), ovvero l’equivalente di 49 giorni all’anno!

La pigrizia, che ha stimolato l’invenzione di innumerevoli strumenti utili per risparmiare tempo e fatica, diventa un anestetico quando basta porre una domanda a un modello di ia o premere qualche tasto perché un lavoro venga svolto al nostro posto. Sam Altman, amministratore delegato di OpenAI, società madre di ChatGPT, presenta questa automazione del pensiero e dell’azione come inevitabile e come promessa di abbondanza generalizzata. Ma una società in cui il lavoro umano scompare a favore di un tempo libero saturato dall’uso degli strumenti digitali è anche una società in cui la pigrizia e la noia perdono ogni funzione creativa.

Quanto alla curiosità, il fascino dell’ignoto, ha suscitato per millenni la volontà di conoscere, di scoprire nuovi popoli o territori, di comprendere i comportamenti umani e i fenomeni naturali, di misurare il mondo e di trasmetterne le conoscenze.

Questa propensione, che i dogmi religiosi non sono mai riusciti a sradicare, rischia di estinguersi nel momento in cui basterà interrogare un modello di ia piuttosto che cercare da sé: a che serve curiosare, se il modello fornirà sempre una risposta, anche se inesatta o distorta?

Il fisico italiano Giorgio Parisi, premio Nobel, aggiunge un’ulteriore preoccupazione: quando nessuno più condurrà né pubblicherà le proprie ricerche, le fonti da cui attingono i modelli si esauriranno, costringendoli a ripetersi all’infinito, copiandosi l’un l’altro.

Il filosofo francese Eric Sadin, specialista nello studio dell’era digitale e dell’intelligenza artificiale, riassume con una formula lapidaria questo percorso antropologico negativo che si sta diffondendo: stiamo costruendo il “deserto noi stessi”, e l’umanità diventa così protagonista della propria obsolescenza.

I rischi concreti dell’ia per le nostre società

Questi impatti antropologici meritano di essere integrati dai diversi rischi concreti attuali e per il prossimo futuro a cui l’intelligenza artificia ci espone, rischi che si possono classificare in quattro categorie, alle quali si aggiungono due rischi sistemici.

I rischi sociali ed economici innanzitutto: disoccupazione tecnologica di massa, concentrazione dei profitti nelle mani di poche imprese, atrofia delle capacità cognitive legata alla delega sistematica della redazione, dell’analisi, dell’azione o della decisione alle macchine.

I rischi etici derivano dalle discriminazioni algoritmiche quando i dati di addestramento riproducono pregiudizi esistenti (sessismo, razzismo, ideologie, dogmatismi…). A questi rischi si aggiungono le manipolazioni informative su larga scala grazie ai deepfake sempre più realistici al punto da risultare indistinguibili dalle immagini reali, il cui effetto più grave è quello di distruggere la fiducia in qualsiasi verità istituzionale o scientifica, rendendo quasi impossibile la distinzione tra vero e falso.

I rischi per la sicurezza individuale: armi letali autonome, attacchi informatici automatizzati… i problemi di allineamento dei modelli ai valori umanistici mettono a rischio la sicurezza individuale, tanto più che le misure presentate dalle "Big Tech" per evitare tali rischi sono talvolta solo una copertura di marketing dei soli progressi nelle capacità delle macchine.

I rischi esistenziali, infine: le rivalità geopolitiche e la conseguente corsa agli armamenti tra stati, non controllate democraticamente, unite alla concentrazione del potere nelle mani di pochi attori privati che controllano le infrastrutture critiche di una nazione, possono portare a una progressiva perdita di controllo da parte degli esseri umani. Un rischio ancora maggiore nel caso in cui un’ia finisse per ottimizzare obiettivi mal definiti e non fosse più soggetta a regole etiche e al controllo umano.

A queste quattro categorie di rischi si aggiungono due rischi sistemici:

Il primo è un rischio ambientale: l’addestramento e l’utilizzo dei modelli di grandi dimensioni, così come i data center, richiedono infrastrutture il cui consumo di energia e acqua cresce con le loro dimensioni, al punto che un singolo server può consumare, per il suo funzionamento e il suo raffreddamento, tanta acqua ed elettricità quanta ne consuma una piccola città.

Il secondo riguarda il settore militare e di polizia: armi autonome in grado di decidere di uccidere senza supervisione umana, sistemi di sorveglianza che portano all’arresto di un individuo sulla base del riconoscimento facciale, pongono una questione etica irrisolvibile nel momento in cui a macchine strutturalmente imperfette viene conferito il potere di decidere sulla vita o sulla morte, sulla libertà o sulla reclusione. All’inizio del 2026, il Dipartimento della Difesa statunitense (da allora ribattezzato “Dipartimento della Guerra”) ha allentato le restrizioni sull’uso militare dell’ia, eliminando l’obbligo di un giudizio umano per l’uso della forza, il che ha portato uno dei suoi fornitori, Anthropic, a rifiutarsi di proseguire la collaborazione.

A causa dei loro inevitabili effetti a breve termine due rischi, tra quelli brevemente accennati sopra, meritano di essere illustrati più precisamente: da un lato, l’impatto sul lavoro umano e sulle finanze pubbliche e, dall’altro, le conseguenze dell’uso dell’ia sulla democrazia.

L’impatto dell’ia su lavoro umano, conti pubblici e sistemi sociali

I dati disponibili conferiscono a questo rischio una concretezza immediata. Come ricorda Sam Altman, amministratore delegato di OpenAI, la manodopera è il principale fattore di costo a numerosi livelli della catena di valore: “il suo costo, che determina il prezzo dei beni e dei servizi, tenderà a zero non appena un’ia sufficientemente potente ‘entrerà nel mercato del lavoro’”. Ad esempio, uno studio del 2025 dello Stanford Digital Economy Lab stima in circa il 16 per cento il calo relativo dell’occupazione dei giovani di età compresa tra i 22 e i 25 anni nei settori più esposti dall’avvento dell’ia generativa nel 2022. Alla fine del 2024, l'Fmi calcolava che circa il 40 per cento dei posti di lavoro nel mondo, e il 60 per cento nei paesi avanzati, fossero significativamente esposti alle capacità dell’ia.

L’impatto delle precedenti rivoluzioni industriali è stato in gran parte compensato dallo sviluppo del settore terziario. Tuttavia, questa compensazione non sarà possibile con l’ia, poiché il suo impiego si svilupperà proprio in questo settore. Non esiste infatti un quarto settore in grado di assorbire l’eccesso di manodopera.

Questa inevitabile contrazione dell’occupazione dipendente – che è, secondo le stesse parole di Altman, l’obiettivo stesso dell’ia e della robotica, con il conseguente aumento dei profitti delle Big Tech – avrà un effetto diretto sul finanziamento dei conti pubblici e dei sistemi sociali.

Questi si basano, da un lato, sulle imposte che gravano in gran parte sui redditi da lavoro e, dall’altro, sui contributi sociali prelevati dagli stipendi, che finanziano rispettivamente i servizi pubblici e l’assicurazione contro la disoccupazione, le pensioni e la sanità.

Se a questo si aggiunge l’effetto del calo della natalità nelle società occidentali, ne deriva un temibile effetto forbice: meno posti di lavoro significano meno contributi e meno gettito fiscale, mentre l’aumento della disoccupazione e l’invecchiamento della popolazione richiederanno una maggiore spesa sociale.

Un’imposta dal 2 al 3 per cento sulle Big Tech e sulle imprese che hanno tagliato posti di lavoro a causa dell’ia, come alcuni hanno suggerito, sarebbe ben lungi dal bastare a compensare queste perdite. In teoria, l’attività economica automatizzata non retribuita dovrebbe generare da sola contributi sociali e fiscali equivalenti a quelli che il lavoro umano, sostituito dall’ia e dalla robotica, non fornirà più.

L’informazione e le democrazie

Uno degli effetti più gravi della diffusione dell’uso dell’ia generativa riguarda la democrazia stessa.

Quest'ultima si basa su un presupposto semplice: i cittadini possono deliberare liberamente partendo da un fondamento comune di storia e fatti, nonché da valori sufficientemente condivisi, che consentono di dare senso a un dibattito contraddittorio e non violento. Tuttavia, l’ia generativa ha trasformato la produzione di disinformazione in un’industria a basso costo e ad alta efficienza.

Quello che un tempo richiedeva ingenti risorse umane e finanziarie per falsificare un’immagine o un discorso, oggi richiede solo l’accesso a un modello ad hoc e poche istruzioni ben formulate. Questa industrializzazione permette non solo di produrre in massa contenuti ingannevoli e iperrealistici, ma anche di indirizzarli verso singoli individui, adattando il messaggio a ciò che le tracce digitali di ciascuno rivelano delle sue convinzioni o delle sue paure.

La manipolazione cessa di essere un’attività artigianale per diventare una catena di produzione continua, che alimenta commenti e account automatizzati (le “troll farm”) che si spacciano per cittadini comuni.

Il pericolo non sta solo nel fatto che si finisca per credere a determinate fake news: è più profondo. Man mano che i contenuti fake si moltiplicano e diventano sempre meno identificabili come tali, e che la stampa indipendente e professionale perde importanza e credibilità, è la fiducia stessa nella possibilità di accedere a una verità verificabile – istituzionale, scientifica o giornalistica – a erodersi.

Di conseguenza, qualsiasi informazione può essere falsa, qualsiasi scandalo può essere liquidato come una bufala, qualsiasi prova scomoda può essere contestata senza doverla confutare nel merito.

Questo fenomeno deleterio non si impone con un colpo di forza brutale contro le istituzioni: opera attraverso una progressiva erosione della fiducia, già in atto, rendendo sempre più difficile, per i cittadini disorientati dalla profusione di contenuti contraddittori, distinguere tra una notizia verificata e una manipolazione industrializzata. Una democrazia potrà così, eventualmente, conservare le sue forme, le sue elezioni e le sue istituzioni, ma vedrà il suo funzionamento reale svuotarsi di sostanza.

La deliberazione democratica lascerà il posto, nel migliore dei casi, a un confronto permanente tra realtà concorrenti, ciascuna difesa da gruppi antagonisti con la stessa apparenza di certezza, o, nel peggiore dei casi, a una dittatura del tipo descritto da George Orwell nella sua opera profetica 1984.

Conclusione

Etienne de La Boétie si interrogava, nel suo Discorso sulla servitù volontaria (1550), sui motivi per cui gli uomini, secondo lui fatti per essere liberi, rinunciavano così naturalmente alla propria libertà. Due secoli di crescente meccanizzazione capitalistica, nonostante le lotte sociali e, da uno o due decenni a questa parte, la diffusione della digitalizzazione e poi dell’ia generativa, hanno portato alla società di sorveglianza totale che essa rende possibile e che si perpetua grazie alla complicità attiva dei suoi utenti.

Infatti, molti di questi ultimi sono accecati dalla propaganda delle Big Tech, dal sostegno irresponsabile dei nostri governi e dalle paure irrazionali create da politici machiavellici assetati di potere. Tutto ciò non fa che rafforzare l’osservazione di La Boétie, formulata ben prima dell’avvento dell’ia: “La prima ragione per cui gli uomini si asserviscono volontariamente è che nascono servi e vengono allevati nella servitù”.

Il rapporto The Human Advantage: Stronger Brains in the Age of AI del World Economic Forum, ben lungi dall’essere sospettato d’essere di sinistra, attualizza questa conclusione e ne individua la ragione: “Il rischio di un’eccessiva dipendenza dall’ia, man mano che la utilizziamo come nostro ‘secondo cervello’, induce alcuni ricercatori a prevedere che più l’ia diventa intelligente, più gli esseri umani diventano stupidi”.

Bibliografia

 ● Altman, Sam (2021), Moore's Law for Everything, pubblicato sul suo blog il 16 marzo 2021

● Brynjolfsson, Erik; Chandar, Bharat; Chen, Ruyu (2025), Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence, Stanford Digital Economy Lab, 13 novembre 2025

● Fondo Monetario Internazionale (2024), Gen-AI: Artificial Intelligence and the Future of Work, IMF Staff Discussion Note, 14 gennaio 2024

● GSMA (2026), The Mobile Economy Europe 2026, Groupe Special Mobile Association

● Hume, David (1740), Trattato sulla natura umana, Libro III

● La Boétie, Étienne de (1550), Discorso sulla servitù volontaria

● Parisi, Giorgio (2025), Le simmetrie nascoste, perché la fisica è alle radici dell'intelligenza artificiale di oggi e di domani, Rizzoli editore

● Platone, Fedro, in: Platone, tutti gli scritti, a cura di Giovanni Reale, Bompiani, 2018

● Sadin, Éric (2025), Il deserto di noi stessi, L'Échappée

● World Economic Forum (2026), Global Risks Report 2026, gennaio 2026

👉 Una versione di questo articolo è uscita su Pagina21.