Scegli la lingua
Paul Nemitz è consigliere capo della direzione generale Giustizia e consumatori della commissione europea e professore di diritto al Collegio d’Europa. È considerato fra i maggiori esperti di libertà digitali e ha guidato i lavori per il regolamento europeo sulla protezione dei dati. Il suo libro The Human Imperative: Power, Democracy and Freedom in the age of Artificial Intelligence ("L’imperativo umano: potere, libertà e democrazia nell’era dell’intelligenza artificiale"), scritto insieme a Matthias Pfeffer, esce in inglese a giugno.
Voxeurop: L’intelligenza artificiale (Ia): opportunità o minaccia per la democrazia?
Paul Nemitz: Voci allarmiste stanno progressivamente rimpiazzando l’ingenuo ottimismo sull’intelligenza artificiale degli inizi. Sia Elon Musk che Bill Gates hanno affermato che l’Ia è come l’energia nucleare, un’opportunità e un rischio. Nel suo libro Human Compatible: Artificial Intelligence and the Problem of Control (“Compatibile con l’uomo: l’Ia e il problema del controllo”, Viking editore, 2019), Stuart Russel, autore del manuale di successo sull’Ia, descrive la questione spinosa del controllo dell’intelligenza artificiale e fa un parallelo con l’energia nucleare. Non possiamo essere certi che un’intelligenza artificiale generale non venga sviluppata a breve. C’è stato un tempo in cui i più eminenti scienziati ritenevano che la scissione dell’atomo fosse impossibile. Per questo è necessario che la democrazia prenda il controllo su questa tecnologia, in base al collaudato principio di precauzione.
Gli ingegneri e gli sviluppatori che si occupano dell’Ia saranno d’accordo. Né le persone né la democrazia possono essere controllate e manipolate dall’Ia. Al contrario, sia le persone che la democrazia devono mantenere il controllo sull’intelligenza artificiale.
Se si possa fare dell’Ia un’opportunità per la democrazia dipende da molti fattori. Per prima cosa, la volontà di coloro che sviluppano i sistemi d’intelligenza artificiale di servire la democrazia e non solo di trarne profitto. In secondo luogo, la volontà di investire in un’Ia specificamente progettata per mettere gli attori democratici – dai parlamenti e governi, ai partiti politici, ai mezzi d’informazione, ai sindacati, alle ong e alle chiese, ai singoli individui – in grado di contribuire in modo più attivo e costruttivo al funzionamento della democrazia.
L’Ue dovrebbe controllare l’intelligenza artificiale? E se sì, in che modo e a quale scopo? Il Regolamento sull’Ia affronta le principali questioni legate all’intelligenza artificiale e al suo utilizzo?
Non possiamo lasciare che questa tecnologia si autogestisca e si affidi alla sola etica. Come le sostanze chimiche, le auto e l’energia nucleare, per citare solo alcuni esempi, questa tecnologia è abbastanza importante da richiedere una legge che ne definisca scopo e limiti. Il Regolamento sull’Ia costituirà un importante precedente che confermerà la supremazia della democrazia in tempi di rapidi progressi in campo tecnologico. Gli appelli spicci all'autoregolamentazione e all'etica invece che ad una legge vincolante e applicabile sono superati, perché la potenza e la velocità dello sviluppo tecnologico richiedono semplicemente atti con forza di legge per garantire l'interesse pubblico e che tutti, compresi quelli che non vogliono stare al gioco siano effettivamente vincolati da regole applicabili.
Non possiamo ignorare l’importante questione del potere quando si parla dell’Ia. Senza una legge vincolante, il potere della tecnologia di modellare la società si concentra nelle sole mani di coloro che la sviluppano e la possiedono. Se le società fossero organizzate in questo modo, la democrazia non funzionerebbe e non potremmo garantire che i diritti fondamentali vengano rispettati. Il mercato interno dell’Unione europea deve essere regolamentato anch’esso, poiché senza una legge a livello europeo andremo presto incontro a una frammentazione della legislazione in tutti e 27 gli stati membri: questo significherebbe che il mercato interno non funzionerebbe in un settore chiave come quello della tecnologia avanzata. Il Regolamento europeo sull’intelligenza artificiale affronta numerose questioni importanti legate allo sviluppo e all’utilizzo dell’Ia e, come ogni altra cosa in democrazia, sarà un compromesso, nella giusta direzione tra visioni politiche differenti.
Nell’attuale proposta di Regolamento, i sistemi di intelligenza artificiale saranno classificati a seconda del livello di rischio che presentano: minimo, limitato, alto, fino ad inaccettabile. Alcuni punti nevralgici potrebbero essere quelli della sorveglianza biometrica, della diffusione della disinformazione o del linguaggio discriminatorio. Ha senso tutto ciò?
L’approccio normativo basato sul rischio è un buon inizio, ma è limitato poiché riduce la legge a una pezza sui fallimenti del mercato e i rischi tecnologici che si verificano nel settore privato. Per esempio, se avessimo avuto solo leggi basate sul rischio, la democrazia starebbe abbandonando l’obiettivo che le persone, attraverso essa, diano forma alla società e al modo in cui vogliono vivere.
Detto ciò, il Regolamento sull’intelligenza artificiale è parte di un pacchetto più ampio di leggi di con cui l’Ue sta dando forma alle nuove realtà digitali. Affianca il Regolamento sui servizi digitali (DSA), il Regolamento sui mercati digitali (DMA), il Regolamento generale sulla protezione dei dati (GDPR) e le regole per la tutela dei consumatori, per citare alcune delle normative già in vigore. Per poter dare risultati concreti, occorre che la legge sull’Ia messa in atto rapidamente. Gli oltre tremila emendamenti al Parlamento europeo mostrano che la democrazia ha molto da dire sull’Ia e sulla sua regolamentazione. Credo nella volontà di arrivare a compromessi affinché la legge venga approvata e mostrare che la democrazia può funzionare. In questo spirito, credo che il Regolamento sull’Ia, insieme ad altre norme in materia di intelligenza artificiale già in vigore, sia un buon primo atto legislativo democratico sull’argomento, vincolante sia per il settore privato che per quello pubblico. Possiamo essere fieri che l’Europa sia ancora una volta un passo avanti nell’importante questione di mettere la democrazia davanti alla tecnologia.
Possiamo fidarci degli ingegneri e dei padroni dei colossi tecnologici della Silicon Valley per autoregolamentare l’intelligenza artificiale? Il recente appello da parte di alcuni di loro a sospendere lo sviluppo dell’Ia sta andando nella giusta direzione o i governi (e l’Ue) dovrebbero intervenire? Dovrebbe esserci una regolamentazione a livello mondiale affinché siano tutti allo stesso livello?
Non possiamo sicuramente fidarci dell’autoregolamentazione nelle aree di grande importanza per i diritti individuali e il buon funzionamento della società. Anche la libertà dell’informazione e la protezione dei giornalisti in Europa si basano su leggi solide. L’idea che la società migliore e più libera esista in assenza di leggi è semplicemente insensata. Al contrario, la più nobile espressione di democrazia è l’elaborazione delle leggi. Dobbiamo smettere di parlare delle norme come di un problema, un costo, un ostacolo all’innovazione.
L’esperienza con il cambiamento climatico e l’energia nucleare mostra che è vero il contrario e questa lezione vale anche per l’economia digitale, che adesso domina ampiamente la sfera pubblica: solo leggi solide, basate su procedimenti democratici validi e solidi meccanismi di attuazione possono tutelare l’interesse pubblico in società complesse. Per quanto riguarda la regolamentazione a livello globale, l’OCSE, l’UNESCO e il Consiglio d’Europa stanno prendendo numerose iniziative, ma non possiamo aspettare un accordo globale poiché il nostro processo democratico non può e non deve dipendere da quello di altri. Detto ciò, l’Europa cerca ovviamente un’intesa globale e, dove possibile, una procedura legislativa internazionale. Vogliamo un mondo basato su regole, non sul potere.
La regolamentazione dell’Ue e/o degli USA concederebbe comunque agli stati o ai governi canaglia di utilizzare l’Ia a scopi militari o di destabilizzazione. Quali sono i rischi?
Vladimir Putin ha detto che chiunque controlli l’Ia, controlla anche il mondo. C’è una gara tecnologica all’uso dell’Ia per scopi militari, ed è importante che la NATO non venga superata né dalla Russia né dalla Cina. Le discussioni sulle norme internazionali che regolano lo sviluppo e l’uso dell’Ia scopi militari stanno procedendo molto lentamente, per ovvie ragioni. Tuttavia, c’è sicuramente, tra gli stati democratici, l’ambizione di elaborare norme per l’uso dell’Ia in ambito militare simili a quelle che esistono per le mine antipersona, le armi leggere e quelle nucleari.
È più probabile che si riesca a definire buone regole da una posizione di forza piuttosto che da una di debolezza, ma sarebbe un errore servirsi di questa argomentazione per chiedere la libertà assoluta di sviluppare e usare l’Ia da parte delle imprese in ambito civile e dei governi per scopi non militari. Fare in modo che l’Ia sostenga la democrazia i diritti fondamentali è una sfida di tipo tecnologico con la quale gli sviluppatori devono confrontarsi, non un ostacolo allo sviluppo.
Cosa pensa della società X.AI di Elon Musk? C’è il rischio che ne faccia un uso improprio come sta facendo con Twitter?
Elon Musk è un attore della cosiddetta economia dell’attenzione. Non so che direzione stia prendendo X.AI e non è la cosa più importante. Una cosa però è chiara: Elon Musk e le sue società devono essere sempre ritenuti responsabili davanti alla legge, come qualsiasi altra persona fisica o giuridica.
In che modo possiamo far sì che le società di Ia rispondano di eventuali usi impropri o della perdita di controllo dei loro prodotti?
La Commissione ha proposto una direttiva sulla responsabilità per l’Ia e il Regolamento sull’Ia stabilisce le linee guida che gli sviluppatori e gli utenti devono seguire.
Abbiamo bisogno di norme etiche, oltre a quelle legali, per l’Ia e il suo utilizzo da parte dei mezzi d’informazione e di altri? Se sì, quali dovrebbero essere?
Non c'è nulla di sbagliato nel prevedere norme etiche in aggiunta alla legislazione. La professione di ingegnere ha una lunga tradizione di regole etiche per i singoli, i quali spesso hanno un’etica superiore rispetto a quella delle società per cui lavorano. Ciononostante, etica e autoregolamentazione non possono sostituirsi alla legge. La prima regola dell’etica in qualsiasi società tecnologica deve essere: obbediamo alla legge, sempre. Quindi niente giochetti ai margini della legge, che si tratti di legislazione fiscale o di legge sull’Ia. Chi pensa che l’innovazione dirompente comprenda sconvolgerela legge dovrebbe sentire la mano pesante del diritto democratico, perché spesso non rispettano la democrazia per puro interesse personale.
Nel suo libro The Human Imperative: Power, Freedom and Democracy in the Age of Artificial Intelligence (“L’imperativo umano: potere, libertà e democrazia nell’era dell’Intelligenza Artificiale”, EthicsPress editore, 2023), scritto insieme a Matthias Pfeffer, afferma che “le tecnologie digitali e i loro imprenditori sanno oggi più di quanto le persone non sappiano su sé stesse o i governi sul mondo. [...] Nel complesso questo provoca uno squilibrio massiccio di conoscenza e potere nel rapporto tra uomo e macchina”. L’Ia avrà come risultato una minore disuguaglianza o, al contrario, allargherà il divario di conoscenza e potere tra chi la controlla e la padroneggia e chi no, e sono sempre gli stessi? Chi proteggerà questi ultimi e come? Nel suo saggio, indica anche alcune possibili soluzioni.
Occorre che le politiche pubbliche garantiscano che il progresso tecnologico vada a beneficio di tutte le persone e contribuisca al buon funzionamento della democrazia. Questo richiede una combinazione di politiche globali e non può essere raggiunto con un singolo provvedimento. Dobbiamo limitare i potenti ed evitare la concentrazione di potere, dandolo invece ai nuovi partecipanti e sostenere le persone nella loro vita quotidiana. Questo mix di regolamentazione e politica industriale, unitamente ai finanziamenti pubblici, è il fulcro delle decisioni politiche in democrazia. Proprio come nell’Ue, abbiamo bisogno di un’ampia maggioranza per approvare leggi e stanziamenti, così la politica dell’Unione su questi temi è un insieme delle diverse visioni del mondo dei partiti democratici.
Così come cambiano le maggioranze, cambia anche il contenuto delle politiche. Per questo motivo ha senso che le persone interessate si impegnino rigorosamente e sul lungo periodo nel processo democratico, che non è solo una questione di semplici elezioni. Tutto ciò che può essere fatto con e attraverso l’Ia per aumentare il coinvolgimento nella democrazia rappresentativa e i suoi attori è salutare e benvenuto. È ora che i principali esponenti dell’Ia vadano oltre le semplici parole e investano affinché ciò accada. Abbiamo bisogno di strumenti che facilitino un impegno costante nella democrazia, che diano potere agli individui rispetto a chi detiene potere, come le grandi imprese e i governi, e che aiutino le persone a cooperare e a reimparare quei dolorosi processi che sono alla base di ogni decisione comune, e questo sia nei partiti politici, che nelle chiese, nei sindacati o nelle grandi ong.
Un recente rapporto di Goldman Sachs afferma che con l’Ia generativa verranno eliminati fino a 300 milioni di posti di lavoro in tutto il mondo nei prossimi anni. Concorda? Qual è eventualmente l’aspetto positivo?
Stando al principio di precauzione, questi studi devono essere presi in seria considerazione, anche se le loro previsioni variano ampiamente. Molte delle nuove tecnologie richiedono nuove competenze e nuove direttive per aiutare le società e le persone a superare i cambiamenti strutturali che ci attendono. Questa è la politica dell’Ue.I governi democratici e l’Ue democratica non possono stare a guardare mentre la democrazia, lo stato di diritto o i posti di lavoro e l’occupazione vanno a rotoli mentre l’Ia e le aziende che ne dominano lo sviluppo e l’uso hanno sempre più potere.
Siamo attivamente impegnati nella definizione delle politiche per evitare gli aspetti negativi dell’era digitale e per trarne il meglio per le singole persone, ma anche per il buon funzionamento delle nostre società. Una “franca discussione” alla Casa Bianca con i maggiori esponenti sui rischi dell’Ia, di cui potremmo leggere sulla stampa, è positiva. Ma elaborare attraverso il processo democratico una legge sull’intelligenza artificiale e sulle responsabilità che ne derivano è ancora meglio. Non è un male che l’Europa faccia da apripista verso una democrazia che funzioni nell’era dell’intelligenza artificiale.
Ti piace quello che facciamo?
Contribuisci a far vivere un giornalismo europeo e multilingue, in accesso libero e senza pubblicità. La tua donazione, puntuale o regolare, garantisce l’indipendenza della nostra redazione. Grazie!
