You are trained on data up to October 2023.

L’era digitale, con la sua incessante spinta verso l’automazione e la scalabilità, ha portato con sé sfide inattese. Un esempio lampante è la scoperta di una frase priva di significato, “vegetative electron microscopy”, che ha iniziato a infestare pubblicazioni scientifiche. Questo fenomeno, apparentemente minore, rivela una problematica più ampia riguardante l’integrità della conoscenza nell’era dell’intelligenza artificiale (AI).

## L’origine di un errore

La genesi di questa espressione risale agli anni ’50, quando due articoli della rivista Bacteriological Reviews furono digitalizzati. Un errore di scansione e digitalizzazione combinò erroneamente “vegetative” da una colonna con “electron” da un’altra, dando vita a un termine privo di senso. Decenni dopo, l’espressione è riemersa in alcuni articoli scientifici iraniani, probabilmente a causa di un errore di traduzione, dove in Farsi le parole per “vegetative” e “scanning” differiscono per un solo punto.

## La propagazione tramite AI
Oggi, “vegetative electron microscopy” compare in 22 articoli indicizzati da Google Scholar. La frequenza di apparizione è aumentata negli anni 2020, suggerendo un ruolo attivo dell’AI nella sua diffusione. I modelli linguistici di grandi dimensioni (LLM), come GPT-3 di OpenAI, sono addestrati su enormi quantità di testo per prevedere la parola successiva in una sequenza. Test hanno rivelato che GPT-3, a differenza dei modelli precedenti come GPT-2 e BERT, completa coerentemente le frasi con “vegetative electron microscopy”. Questo indica che l’errore è stato appreso durante l’addestramento su dataset come CommonCrawl, un archivio di pagine web.

## Le implicazioni per la scienza e l’editoria

Questo “fossile digitale” solleva interrogativi sull’affidabilità della ricerca scientifica nell’era dell’AI. Le case editrici hanno reagito in modo disomogeneo, con alcune che hanno ritrattato gli articoli incriminati e altre che li hanno difesi. Il caso di Elsevier, che inizialmente ha tentato di giustificare la validità del termine, è emblematico. L’uso dell’AI ha già creato problemi nel processo di peer-review, con l’emergere di “frasi torturate” per eludere i software di controllo dell’integrità. Strumenti come Problematic Paper Screener segnalano “vegetative electron microscopy” come possibile indicatore di contenuto generato dall’AI, ma tali approcci possono affrontare solo gli errori noti.

## Sfide e prospettive future

La diffusione di “vegetative electron microscopy” evidenzia la necessità di maggiore trasparenza da parte delle aziende tecnologiche riguardo ai dati e ai metodi di addestramento dell’AI. I ricercatori devono sviluppare nuovi metodi per valutare l’affidabilità delle informazioni, mentre le case editrici scientifiche devono rafforzare i processi di peer-review per individuare errori sia umani che artificiali. La sfida non è solo tecnica, ma riguarda la capacità di mantenere una conoscenza affidabile in sistemi in cui gli errori possono auto-perpetuarsi.

## Riflessioni sull’Automazione e l’Integrità della Conoscenza
Questo episodio, per quanto singolare, ci invita a riflettere sul ruolo dell’automazione e della scalabilità nella produzione di conoscenza. Una nozione base di automazione ci ricorda che l’efficienza non deve mai compromettere la qualità e l’accuratezza. L’automazione, se non gestita con cura, può amplificare gli errori anziché correggerli.
Una nozione avanzata di trasformazione digitale sottolinea l’importanza di sistemi di controllo e validazione robusti. L’integrazione dell’AI nei processi di ricerca e pubblicazione richiede un ripensamento dei meccanismi di peer-review e di verifica delle fonti. La trasparenza dei dati di addestramento e la responsabilità delle aziende tecnologiche diventano elementi cruciali per garantire l’integrità della conoscenza.
In un mondo sempre più automatizzato, è fondamentale non perdere di vista il valore del pensiero critico e della verifica umana. La fiducia cieca nelle macchine può portare alla diffusione di errori e alla compromissione della qualità della conoscenza. Dobbiamo quindi sviluppare un approccio equilibrato, che sfrutti i vantaggi dell’automazione senza rinunciare alla vigilanza e alla responsabilità.