L’intelligenza artificiale generativa è un’arma di disinformazione di massa

“Google will do the Googling for you”:  lascia che Google googli per te. E non farti ingannare dal tono scherzoso: non si tratta di un invito, ma di un aggiornamento unilaterale dei termini del nostro contratto con il gigante americano.

Il 14 maggio, in occasione della  keynote annuale Google I/O, dove la parola “AI” è stata pronunciata 121 volte in due ore, Google ha deciso che il paradigma usato fino ad oggi nella ricerca di informazioni sul web cambia. 

Prima cosa: nella visualizzazione predefinita del motore di ricerca, è ora Gemini, il modello linguistico di grandi dimensioni (LLM) di Google, a organizzare i risultati e a generare titoli ed estratti di testo. In altre parole, la pagina di ricerca di Google sarà gestita (ancora di più) come un feed di un social network, nella quale la gerarchia delle informazioni è decisa da un intermediario algoritmico.

Se non lo sapevi, perché Google si è guardato bene dal mettere un messaggio di avvertimento, il cambiamento è già avvenuto. Benvenuti nel primo giorno del resto della nostra vita digitale, un mondo nel quale l’intelligenza artificiale generativa di Google diventa anche “motore di ricerca”.

Entro poche settimane o mesi la parte superiore della pagina di ricerca di Google sarà invasa da “A.I Overviews”, una sorta di riassunti di informazioni generati automaticamente da Gemini. Google dice che sarà il software stesso a decidere quando intervenire nella ricerca fatta dagli utenti. Ma come? In base a quali criteri? I percorsi dell'IA sono impenetrabili.

Nel meraviglioso mondo della demo, vediamo gli utenti comunicare in linguaggio naturale con il motore di ricerca. Le interazioni sono semplici e senza attrito, e le risposte perfette. C'è solo un problema: quel futuro non esiste, non è mai esistito e non esisterà mai.

Quello che Google ha fatto è tipico dell'attuale modus operandi della Silicon Valley: annunciare con grande clamore un futuro perfettamente ipotetico, una macchina complessa su cui la stampa e il pubblico commentano affascinati, e che nasconde i violenti cambiamenti strutturali dei nostri ecosistemi informativi e neutralizza il più possibile la loro analisi in campo sociale. 

In che modo l'aggiornamento strutturale di Google, che da 25 anni indicizza e organizza l’informazione sul Web (visto che è il motore che il quasi monopolio del mercato) modificherà le nostre abitudini, e quali conseguenze avrà sui rapporti di forza tra Silicon Valley e società civile?

Google, come il resto della Silicon Valley, ci vende costantemente un'ia che non esiste, un'ia fittizia, che è diventata una routine nel marketing. Nel 2018, per esempio l'azienda ha presentato un fenomenale assistente vocale, Duplex, in grado di fare telefonate al posto vostro. La demo era probabilmente falsa e il servizio era in realtà... un call-center.

---

Il tasso di errore del miglior software attuale, GPT-4, è tra il 2,5 per cento e il 25. Questi errori sono estremamente plausibili, affermati con autorità e quindi ancora più pericolosi delle classiche fake news.

---

OpenAI, Microsoft e altri stanno facendo la stessa cosa. L'ia non è una corsa agli armamenti, è una gara tra prestigiatori, di fronte alla quale lo scetticismo diventa l'unico atteggiamento sano. Non c'è alcun motivo per credere che ciò che Google ci sta mostrando rifletta lo stato dell'arte dei suoi prodotti e, tanti motivi, invece, per pensare che si tratta di semplice pubblicità. Perché? Perché la demo promette le due cose che il software di IA generativa è strutturalmente incapace di fornire: affidabilità e completezza.

Secondo i criteri di valutazione il tasso di errore del miglior software attuale, GPT-4, è tra il 2,5 per cento e il 25. Questi errori sono estremamente plausibili, affermati con autorità e quindi ancora più pericolosi delle classiche fake news. L'industria li chiama allucinazioni. 

Il termine, magico, simpatico e fortemente neutralizzante, serve soprattutto a nascondere una realtà politica e sociale: l'IA generativa è un'arma di disinformazione di massa. Ed è quindi il peggior strumento possibile da impiegare per strutturare la ricerca e la gerarchizzazione dell’informazione online. Se un tasso di errore del 2,5 per cento sembra basso, ricordate che il motore di ricerca Google risponde a 8,5 miliardi di domande... al giorno. Ecco le fake news.

Le allucinazioni sono inevitabili. Sono una proprietà strutturale di questi sistemi. Non si possono correggere. L'industria lo sa bene.

La ricerca sull'IA è un disastro , riassume The Atlantic. Nel febbraio 2023, Google stava già cercando di dimostrare che il suo chatbot Bard avrebbe potuto sostituire il suo motore di ricerca: prima dimostrazione, primo disastro, e 100 miliardi di dollari di capitalizzazione di mercato sono evaporati.

---

---

Alla fine del 2023, abbiamo appreso che il chatbot di Bing, che Microsoft (che possiede OpenAI) ha integrato nel suo motore di ricerca con risultati disastrosi, “allucina” i risultati delle elezioni una volta su 3 e non è nemmeno in grado di indicare correttamente l'anno, non il giorno o l'ora. No, l'anno.

Dopo 11 mesi di test, il motore di ricerca potenziato dall'intelligenza artificiale Google Search Generative Experience si è rivelato meno affidabile del motore di ricerca classico.

Di fronte a diverse recensioni negative, Google pensa di potersela cavare mettendo un messaggio che avverte "l'IA generativa è sperimentale”. Un modo per dirci di verificare le informazioni fornite da Google. Utilizzando... Google? Benvenuti nel futuro dell'accesso all'informazione online, dove tutto si presume falso fino a prova contraria.

Dopo 330 miliardi di dollari spesi in tre anni, il software di intelligenza artificiale generativa è ancora un cancro informatico, una marea nera di informazioni che travolge e degrada tutto ciò che tocca. Ovunque venga impiegato – nella ricerca scientifica, nel sistema giudiziario o nella stampa – la qualità dell'informazione crolla. 

E come se non bastasse, ogni ricerca con l’ia costa all'azienda circa 10 volte di più di una ricerca tradizionale. Tanto che Google sta pensando di farci pagare per utilizzare il suo servizio di disinformazione automatizzato.

Ed è qui che diventa ancora più complicato da seguire. 

Se ho capito bene, Google sta sabotando il suo prodotto faro, sul mercato da 25 anni, il suo fiore all'occhiello, il suo monopolio più solido: la ricerca sul web. Si tratta per Alphabet (la casa madre di Google), di un prodotto gratuito, usato quotidianamente da due miliardi di persone e che gli ha fatto guadagnare 175 miliardi di dollari nel 2023. 

Un prodotto che è diventato verbo, dogma, su cui Google ha basato identità, influenza e potere. Un prodotto che è diventato sinonimo di Internet nel Ventunesimo secolo. E ora lo sta sabotando per darci in cambio uno strumento che funziona male, che costa, che è un disastro in termini di consumo energetico (l’ia fa esplodere l’impronta energetica, quella di Microsoft è aumentata del 30 per cento nel 2023), che sta contaminando irrimediabilmente tutto ciò che tocca e che le persone, nella vita reale, stanno abbandonando. 

Entro la fine del 2024, Alphabet promette che Google, alimentato dall'intelligenza artificiale, sarà disponibile per un miliardo di persone. Cambiate browser, se potete. 

Google sta, infatti, deliberatamente distruggendo Google.

In questa fase, il progetto di Google è fondamentalmente apocalittico. Grazie al lavoro del ricercatore francese Olivier Ertzscheid, che lavora sul tema dalla sua nascita, posso affermare che Google ha passato gli ultimi 25 anni a cercare di controllare il Web semantico che ha contribuito a costruire. 

Prima trasformando le parole in merci, il cui valore fluttua a seconda della domanda nel grande mercato pubblicitario online, poi imponendo questo capitalismo linguistico al resto del Web. Lo abbiamo chiamato SEO, ottimizzazione per i motori di ricerca.

Le giuste combinazioni di parole portavano traffico, pubblicità e denaro. Anche prima dell'ia generativa, Google era diventato un motore di ricerca che mostrava siti ottimizzati per il motore di ricerca. Non eravamo più noi l'obiettivo, l'algoritmo era l'obiettivo della ricerca.

Da allora, Google ha cercato di diventare un sito da cui non si può uscire, una sorta di sistema operativo per il Web stesso. La sua ossessione è quella dei risultati “zero-click”, in cui Google risponde all'utente su Google, senza che l'utente debba lasciare Google.

Passando dal Web semantico al Web sintetico e dopo aver fatto razzia di tutto ciò che il Web ha prodotto in termini di testi pubblicamente accessibili, Google si sente pronto a sostituire i siti web che ha indicizzato per 25 anni con macchine che producono rumore, poliestere informativo; Google è pronto a sostituire i suoi utenti con macchine per navigare in questa discarica. I robot fanno domande, i robot producono risposte.

Ma chi produce le informazioni che i robot riassumono e cosa succederà quando il giardino recintato di Google sarà ermeticamente chiuso? Google non si pone questa domanda. Google non ha più bisogno di noi. Il contratto con gli esseri umani di Internet – traffico e riferimenti in cambio di sfruttamento pubblicitario – è nullo. I prossimi mesi saranno una (ennesima) carneficina economica.

Google detiene il 90,1 per cento del mercato della ricerca online. Google è un monopolio. Non teme né la regolamentazione, né la concorrenza, né il fallimento commerciale. Non ha nemmeno più bisogno che il suo servizio sia affidabile. Google può automutilarsi senza battere ciglio.

Il Web semantico e il Web sintetico si stanno dissolvendo nel suo Web monopolistico. Che ti piaccia o no, Google cercherà le cose per te su Google. Google riassumerà il mondo per te come meglio crede. È così che funziona il monopolio.

Vattene da Google.

👉 Articolo originale su Arrêt sur Images