Scegli la lingua
Paul Nemitz è consigliere capo della direzione generale Giustizia e consumatori della Commissione europea, e professore di diritto al Collegio d’Europa. Nemitz è considerato uno dei più stimati esperti europei di libertà digitali e ha guidato il lavoro sul Regolamento generale sulla protezione dei dati. È inoltre autore, insieme a Matthias Pfeffer, di The Human imperative: power, freedom and democracy in the Age of Artificial Intelligence (“L’imperativo umano: potere, libertà e democrazia nell’era dell’intelligenza artificiale”), un saggio sull’impatto delle nuove tecnologie sulle libertà individuali e la società.
Voxeurop: L’intelligenza artificiale è un’opportunità o una minaccia per la democrazia?
Paul Nemitz: Direi che uno dei grandi compiti della democrazia nel Ventunesimo secolo è il controllo del potere tecnologico. Questo principio si applica anche all’ia. Abbiamo una lunga storia di limitazioni alla ricerca, per esempio sugli agenti biologici pericolosi, sulla genetica o sull’energia atomica: tutte cose che sono state fortemente inquadrate, quindi non è strano che la democrazia guardi alle nuove tecnologie come l’intelligenza artificiale, pensi al loro impatto e se ne faccia carico. Credo che sia una buona cosa.
Quindi in che modo dovrebbe essere regolamentata l’intelligenza artificiale? È possibile regolamentarla per il bene comune?
Paul Nemitz: Innanzitutto, si tratta di una questione di primato della democrazia rispetto alla tecnologia e ai modelli di business. In democrazia l’interesse comune è deciso proprio attraverso questo processo. I parlamenti e i legislatori sono il modo in cui si decide la direzione che deve prendere l’interesse comune: le leggi sono l’atto più nobile della democrazia.
Elon Musk ha sostenuto che è necessaria una deregolamentazione completa.
Paul Nemitz: Se guardiamo alla storia della regolamentazione giuridica della tecnologia, c’è sempre stata resistenza da parte del settore imprenditoriale. Non mi stupisce quindi che alcuni uomini d’affari dicano che la cosa migliore sarebbe non legiferare: è il sogno proibito dei capitalisti e dei neoliberisti del nostro tempo. Ma “democrazia” significa proprio il contrario: in democrazia le questioni importanti della società, tra cui l’ia, non possono essere lasciate alle aziende e alle loro regole comunitarie o all’autoregolamentazione.
È ottimista sul fatto che la regolamentazione attraverso un processo democratico sarà abbastanza forte da limitare la deregolamentazione dei lobbisti?
Paul Nemitz: Mettiamola così: in America prevale la lobby… In Europa siamo ancora in grado di trovare un accordo. Naturalmente a Bruxelles le lobby sono molto forti: dobbiamo parlare apertamente dei soldi che spendono le Big tech e di come cercano di influenzare non solo i politici ma anche i giornalisti e gli scienziati. Le Gafam cercano di influenzare l’opinione pubblica, e nel mio libro descrivo nel dettaglio gli strumenti dei quali i giganti tecnologici si avvalgono. Sono sì molto presenti, ma direi che il nostro processo democratico funziona ancora perché i nostri partiti e parlamentari non dipendono dai soldi delle Big Tech come quelli americani. Possiamo essere orgogliosi del fatto che la nostra democrazia sia ancora in grado di innovare, perché legiferare su questi temi all’avanguardia non è una mera questione tecnologica, ma fa parte del cuore pulsante delle questioni sociali.
Evgeny Morozov afferma che è l’ascesa dell’intelligenza artificiale generale (AGI), in pratica un’ia che non ha bisogno di essere programmata e che quindi potrebbe avere un comportamento imprevedibile, a preoccupare la maggior parte degli esperti. Al contrario, alcuni, come il fondatore di openAI Sam Altman, affermano che potrebbe dare una spinta all’economia e “migliorare la vita dell’umanità aumentando la ricchezza”. Qual è la sua opinione in merito?
Paul Nemitz: Si fantastica molto su come si evolverà la tecnologia, ma credo che l’importante sia che le amministrazioni pubbliche, i parlamenti e i governi mantengano la rotta e la osservino con molta attenzione. È necessario un dovere di verità da parte di coloro che stanno sviluppando queste tecnologie, spesso a porte chiuse; serve un cambiamento culturale, perché dipendiamo sempre più da ciò che queste aziende ci dicono. E, se la politica dipende da ciò che le aziende raccontano, allora dobbiamo essere in grado di far sì che la verità resti un principio centrale.
Queste sanzioni hanno un qualche impatto? Se Facebook viene sanzionato per un miliardo di dollari, fa qualche differenza? È tutto ciò che possiamo fare?
Paul Nemitz: Non penso che le sanzioni siano tutto ciò che possiamo fare, ma viviamo in un mondo di enorme concentrazione del potere, e serve un contropotere. Gli Stati Uniti sanno come affrontare il capitalismo: lì si finisce in prigione quando si crea un cartello, quando ci si accorda sui prezzi, in Europa no. Su questo penso che dobbiamo imparare dall’America, dobbiamo essere pronti e disposti ad applicare le leggi con fermezza, perché “democrazia” significa che le leggi vengono fatte e che vengono rispettate. E non ci possono essere eccezioni per le Big Tech.
Dovremmo orientarci verso una strategia più americana?
Paul Nemitz: Dobbiamo prendere sul serio il rispetto delle nostre leggi e purtroppo si rende spesso necessario applicare sanzioni. Ma non basta: dobbiamo ricordare che in una società democratica il contropotere viene dai cittadini e dalla società civile. Non possiamo lasciare gli individui da soli a lottare per i loro diritti di fronte alle grandi aziende tecnologiche. Serve applicare le leggi e dare alla società civile il potere di lottare per i diritti degli individui. Non è un ostacolo all’innovazione: è una guida verso l’interesse pubblico e una parziale legalità. Penso che siamo tutti a favore dell’innovazione, ma la democrazia viene minata se permettiamo a soggetti potenti di boicottare e infrangere la legge e poi farla franca.
Thierry Breton, commissario europeo per l’industria, ha scritto una lettera a Elon Musk, dicendogli che se X continuerà a favorire la disinformazione, potrebbe incorrere in sanzioni da parte dell’Ue. Musk ha risposto che in tal caso potrebbe lasciare l’Europa e che altri giganti tecnologici potrebbero essere tentati di fare lo stesso. Qual è il rapporto di forza?
Paul Nemitz: Direi che è molto semplice, sono una persona molto semplice da questo punto di vista: la democrazia non può essere ricattata. Se cercano di ricattarci, dovremmo semplicemente riderci sopra: se vogliono andarsene sono liberi di farlo, e auguro a Elon Musk buona fortuna in borsa se lascia l’Europa. Fortunatamente siamo ancora un mercato molto grande e redditizio, quindi se può permettersi di andarsene: addio Elon Musk, ti auguriamo ogni bene.
Che ne pensa dei pericoli dell’uso non convenzionale dell’ia?
Paul Nemitz: “Non convenzionale” nel senso di bellico. Credo che, nell’interesse comune del mondo, dell’umanità e della governabilità, sia necessario fare progressi sulle regole per l’uso dell’ia a fini militari. Sono argomenti difficili, a volte ci vogliono anni, in alcuni casi anche decenni per arrivare a degli accordi, ma alla fine penso che servano regole per le armi autonome e in questo contesto anche per l’ia.
Per tornare a quanto detto da Chris Wylie, l’attuale approccio normativo non funziona perché “tratta l’intelligenza artificiale come un servizio, non come una struttura”. Condivide questa opinione?
Paul Nemitz: Credo che nel diritto tecnologico non si debba cadere nella trappola del discorso dell’industria tech secondo cui “meglio nessuna legge piuttosto che una legge cattiva”, cioè quella che non può essere applicata alla perfezione. La mia risposta è: non esiste una legge che funzioni alla perfezione, e non esiste una legge che possa essere applicata alla perfezione. Ma questo non è un argomento valido contro le leggi. E poiché le leggi sono un compromesso, non sono perfette né dal punto di vista scientifico né da quello funzionale. Sono figlie della democrazia, e alla fine direi che è meglio essere d’accordo su una legge, anche se molti la considerano imperfetta.
