L’intelligenza artificiale è fondamentalmente pigra. Ma questo cambierà.

Un evento recente ha evidenziato che un terzo delle risposte generate dall’intelligenza artificiale proviene da fonti obsolete, a dimostrazione della compiacenza dell’intelligenza artificiale e della sua dipendenza da materiali datati. Ma con il miglioramento dei grandi modelli linguistici, la situazione non resterà la stessa.

L’intelligenza artificiale sta trasformando il modo in cui le persone trovano e valutano le informazioni. Il crescente ricorso alle risposte generate dall’intelligenza artificiale, che forniscono informazioni direttamente senza la necessità di consultare più fonti, sta ridefinendo l’esperienza “zero clic”. Di conseguenza, grandi modelli linguistici come ChatGPT, Claude e l’intelligenza artificiale di Google svolgono un ruolo sempre più rilevante nel modo in cui il pubblico accede alla conoscenza e la interpreta.

Ma al cuore di questo cambiamento si trova una debolezza critica: l’intelligenza artificiale è fondamentalmente pigra.

L’intelligenza artificiale di oggi presenta diversi limiti e una tendenza a privilegiare il mainstream

Gli attuali grandi modelli linguistici (LLM) non interrogano davvero il mondo, ma aggregano e riciclano le informazioni che ritengono a portata di mano. Anziché attingere all’intera varietà della conoscenza globale, i sistemi di intelligenza artificiale tornano ripetutamente a un ristretto bacino di fonti “sicure”.

In occasione di un recente evento dedicato a GEO e SEO, gli esperti hanno sottolineato che i media guadagnati svolgono un ruolo fondamentale nel determinare ciò che l’intelligenza artificiale apprende. Tuttavia, la ricerca ha rivelato che l’intelligenza artificiale è fondamentalmente pigra e attinge ripetutamente alle stesse fonti familiari. Nonostante l’analisi di oltre un milione di citazioni in soli tre mesi, un terzo di tutti i riferimenti proveniva dagli stessi materiali obsoleti.

Questa pigrizia si manifesta in diversi modi. Per esempio, l’intelligenza artificiale attribuisce maggior peso ai media tradizionali e alle piattaforme di scambio tra utenti come Reddit e Wikipedia, dove, come gli utenti sanno bene, le informazioni sono facilmente modificabili.

Tuttavia, i media tradizionali non sono preferiti per la loro originalità o accuratezza, bensì per la loro credibilità consolidata e per il presunto vantaggio in termini di SEO. Il principale svantaggio è che, se i media tradizionali inquadrano o riportano in modo errato una notizia, l’intelligenza artificiale amplifica tali errori su larga scala. Ciò che preoccupa è che persino le rettifiche editoriali, pubblicate regolarmente su questi siti, non sempre vengono prese in considerazione. L’intelligenza artificiale ragiona a senso unico quando si tratta di informazioni, e la rettifica più aggiornata non sempre sostituisce l’informazione originale, obsoleta o del tutto errata.

È opinione diffusa che l’accuratezza fattuale dei grandi modelli linguistici, anche nel migliore dei casi, si attesti intorno all’85 o 90%, e che ChatGPT, una delle piattaforme più popolari, tenda a citare domini di bassa qualità che sembrano scelti per la loro longevità piuttosto che per la loro accuratezza.

La diversità di pensiero non è favorita dall’intelligenza artificiale, e questo è un problema

Ciò significa che la visibilità determinata dall’intelligenza artificiale è sproporzionatamente sbilanciata a favore degli attori affermati e dominanti nell’economia globale della conoscenza. Se da un lato ciò significa che le piattaforme più autorevoli sono considerate più credibili, dall’altro può tradursi in un pregiudizio nei confronti della diversità di pensiero.

Le voci indipendenti, regionali e specialistiche rischiano l’invisibilità o, peggio ancora, di essere progressivamente escluse dall’accesso pubblico all’informazione, a meno che nei sistemi dei grandi modelli linguistici non vengano inserite istruzioni specifiche per contrastare questo pregiudizio.

Il modello tradizionale di monetizzazione dei media non aveva alcun senso.

Il ritorno dell’intelligenza artificiale alle fonti tradizionali non è casuale. Riflette alcune scelte strutturali che le piattaforme compiono per peccare di prudenza, dal loro punto di vista.

Scegliere i media tradizionali per fornire risposte immediate alle ricerche degli utenti risponde a una logica di sicurezza innanzitutto. Citare The Guardian o la BBC è meno rischioso per i fornitori di intelligenza artificiale che attingere, per esempio, a un blog non verificato, anche se questa pratica trascura le testate giornalistiche locali, che spesso sono le fonti originali di informazioni poi ampiamente riprese (e non sempre in modo accurato o nel giusto contesto) da media più grandi. Ciò favorisce un giornalismo pigro, noto anche come “churnalism” (giornalismo di riciclo).

Inoltre, gli editori padroneggiano da tempo i dati strutturati, rendendo i loro contenuti più facili da acquisire e classificare e presentando una cosiddetta “aura di fiducia” agli ignari grandi modelli linguistici. Questa serie di errori produce quello che potremmo chiamare un circolo vizioso dell’autorità consolidata: un ciclo in cui l’autorevolezza viene continuamente rafforzata anziché esaminata criticamente.

Attenzione però alla fase successiva, in cui l’intelligenza artificiale trasformerà la propria indolenza in una forma più attiva e critica, capace di andare ben oltre

La prossima generazione di intelligenza artificiale sarà più attiva, analitica e basata su risorse proprietarie. Già oggi si osservano segnali che i modelli più recenti analizzeranno video, audio e immagini con la stessa facilità dei contenuti scritti. L’intelligenza artificiale non si limiterà a citare un discorso su YouTube, ma ne misurerà il tono, farà emergere le incongruenze e lo confronterà con i precedenti.

L’intelligenza artificiale più evoluta tenderà ad attingere a set di dati proprietari. Archivi concessi in licenza, contenuti di prima parte e fonti in abbonamento integreranno il web aperto,

riducendo la dipendenza dai media tradizionali. Anziché limitarsi ad aggregare dati, l’intelligenza artificiale andrà oltre e verificherà le affermazioni alla luce dei dati, della storia e dell’analisi geospaziale.

Diversificando le fonti, incluse testate regionali e non in lingua inglese, i modelli di nuova generazione passeranno dalla domanda “chi lo ha pubblicato?” a “è dimostrabile e contestualizzato?”. Il circolo vizioso dell’autorità consolidata di cui abbiamo parlato potrebbe davvero spezzarsi grazie a questa precauzione.

Guardando alle implicazioni per i nuovi media, c’è speranza

Con l’evoluzione dell’intelligenza artificiale, le regole dell’influenza cambieranno e profondità e originalità conteranno più della tradizione. La fiducia sarà messa alla prova, non data per scontata.

I media tradizionali non godranno più di una preferenza automatica; la credibilità dovrà essere dimostrata in tempo reale. Un podcast, uno spezzone di webinar o un set di dati interattivo potrebbero avere lo stesso peso di una rubrica su un quotidiano. La presenza multimediale diventerà imprescindibile. L’intelligenza artificiale sta estraendo informazioni dai contenuti video e audio, non solo dal testo.

Per esempio, Azure AI Video Indexer di Microsoft analizza i contenuti multimediali per estrarre informazioni come parole pronunciate, emozioni ed elementi visivi, consentendo agli utenti di indicizzare e cercare i contenuti in modo efficiente. Analogamente, Google Cloud Video Intelligence è in grado di riconoscere oggetti, luoghi e azioni nei video, generando metadati dettagliati che facilitano la scoperta e la gestione dei contenuti, a dimostrazione di come l’intelligenza artificiale stia andando oltre il testo per estrarre significato dai contenuti multimediali.

Per chi si occupa di comunicazione, si tratta al tempo stesso di un rischio e di un’opportunità. Il rischio consiste nel continuare a ottimizzare per un ecosistema di intelligenza artificiale pigro che sta già restringendo il flusso delle informazioni. L’opportunità consiste nel prepararsi fin da ora all’era dell’intelligenza artificiale attiva, investendo in contenuti ricchi, in più formati e supportati da prove, che i modelli futuri cercheranno attivamente.

La rivoluzione dell’intelligenza artificiale non riguarda solo la tecnologia: riguarda chi viene ascoltato, creduto e amplificato. L’intelligenza artificiale di oggi sarà anche pigra, ma non resterà tale. Chi si adatterà per tempo, creando narrazioni articolate, credibili e ricche di contenuti multimediali, definirà senza dubbio il panorama informativo di domani.