Allarme salute: l’affidabilità dell’ai di Google è un’illusione?

## L’Inaffidabile Precisione dell’Intelligenza Artificiale di Google: Un Rischio per la Salute Pubblica

Un’indagine ha rivelato che le *AI Overviews di Google* possono diffondere informazioni sanitarie errate e fuorvianti, mettendo a rischio la salute degli utenti. Nonostante Google affermi che i suoi riepiloghi generati dall’intelligenza artificiale siano “utili” e “affidabili”, alcuni di questi hanno fornito indicazioni imprecise, con conseguenze potenzialmente gravi.
In un caso particolarmente allarmante, l’AI di Google ha sconsigliato ai pazienti con cancro al pancreas di consumare cibi ad alto contenuto di grassi, un consiglio che gli esperti hanno definito “davvero pericoloso” e contrario alle raccomandazioni mediche corrette. Questa errata informazione potrebbe aumentare il rischio di decesso per i pazienti affetti da questa patologia.

Un altro esempio preoccupante riguarda i test cruciali per la funzionalità epatica, dove l’AI ha fornito dati falsi, potenzialmente inducendo persone con gravi malattie del fegato a credere erroneamente di essere in buona salute. Anche le risposte relative ai test per il cancro femminile contenevano informazioni “completamente sbagliate”, che potrebbero portare le persone a ignorare sintomi reali.

Le Radici dell’Errore: Satira, Speculazione e Dati Obsoleti

Le imprecisioni delle AI Overviews derivano da diverse cause. Innanzitutto, l’incapacità di riconoscere la satira o il sarcasmo può portare a interpretazioni errate. In un caso emblematico, l’AI ha erroneamente riportato la chiusura di un’attrazione di un parco divertimenti basandosi sulla speculazione di un utente di Reddit, scambiando un’ipotesi per un annuncio ufficiale.

Inoltre, l’AI fatica a distinguere tra annunci ufficiali e semplici speculazioni, presentando informazioni obsolete come fatti attuali. Quando le fonti autorevoli sono limitate, l’AI può riempire i vuoti di dati con contenuti irrilevanti, compromettendo ulteriormente l’accuratezza delle risposte.

Il Dilemma di Google: Competizione e Accuratezza

Nonostante i problemi di accuratezza, Google continua a mostrare le AI Overviews a causa della pressione competitiva esercitata da ChatGPT, Perplexity e altri strumenti di intelligenza artificiale. Gli utenti si aspettano risposte immediate e complete, alimentate dall’AI, piuttosto che dover navigare tra i risultati di ricerca tradizionali. Questo crea una tensione tra la necessità di fornire risposte esaustive e il mantenimento dell’accuratezza, soprattutto in situazioni limite.

Le AI Overviews riducono i click-through verso i siti web del 40-60%, sostituendo la consultazione di diverse fonti con una singola risposta apparentemente definitiva. Questo cambiamento nel modo in cui le persone cercano e interpretano le informazioni sanitarie online solleva preoccupazioni sulla capacità dei pazienti di valutare criticamente le informazioni e partecipare attivamente alla propria cura.

Proteggere il Proprio Brand nell’Era dell’AI

Le aziende possono proteggere il proprio brand dalla disinformazione generata dall’AI creando contenuti autorevoli e completi, con un linguaggio chiaro e indicazioni temporali precise. È fondamentale monitorare le narrazioni generate dall’AI sul proprio brand attraverso avvisi e test regolari, stabilire credibilità su diverse piattaforme e pubblicare dichiarazioni ufficiali per contrastare le informazioni false.

Conclusioni: Navigare con Prudenza nel Mare dell’Informazione AI

Le AI Overviews rappresentano un’arma a doppio taglio. Da un lato, offrono un accesso rapido e semplificato alle informazioni. Dall’altro, possono diffondere errori e imprecisioni, soprattutto in un campo delicato come la salute. È essenziale che gli utenti affrontino queste risposte con spirito critico, verificando sempre le informazioni con fonti affidabili e consultando professionisti qualificati.

L’automazione, in questo contesto, si riferisce all’uso di algoritmi di intelligenza artificiale per fornire risposte immediate alle domande degli utenti. Una nozione base di automazione è che essa può aumentare l’efficienza, ma non può sostituire completamente il giudizio umano, specialmente quando si tratta di informazioni complesse e sensibili come quelle relative alla salute.
Una nozione avanzata di automazione applicabile a questo tema è lo sviluppo di sistemi di AI che integrino meccanismi di verifica e validazione delle informazioni, basati su fonti autorevoli e revisione da parte di esperti. Questo potrebbe includere l’implementazione di algoritmi che valutino la credibilità delle fonti e la coerenza delle informazioni, segnalando eventuali discrepanze o potenziali errori.

Riflettiamo: in un mondo sempre più automatizzato, la responsabilità di garantire l’accuratezza e l’affidabilità delle informazioni ricade non solo sui fornitori di tecnologia, ma anche sugli utenti, che devono sviluppare un approccio critico e consapevole all’uso di questi strumenti.