OpenAI: i nuovi modelli sono un’opportunità o un rischio?

## OpenAI accelera verso l’AGI: corsa al progresso o azzardo sulla sicurezza?

OpenAI, con una mossa che ha destato notevoli perplessità, ha drasticamente abbreviato i tempi dedicati ai test dei suoi nuovi modelli di intelligenza artificiale. Da periodi di valutazione che si estendevano per sei mesi, si è passati a pochi giorni. Questa accelerazione, resa nota dal Financial Times, ha sollevato preoccupazioni sia interne che esterne all’azienda, concentrandosi sul delicato equilibrio tra la rapidità di rilascio e la necessità di controlli rigorosi. Il nuovo modello “o3”, ideato per gestire compiti complessi di logica e risoluzione di problemi, promette un impatto notevole, ma la velocità con cui viene introdotto suscita interrogativi.

La ragione dietro questa accelerazione sembra essere la crescente competizione. Giganti come Google e Meta, unitamente a realtà emergenti come xAI, stanno recuperando posizioni nel settore dell’AI generativa. Per non perdere la sua posizione di predominio, OpenAI ha scelto di premere sull’acceleratore. Questa strategia, però, presenta rischi evidenti. Secondo alcune testimonianze, i test sono meno approfonditi, proprio quando le capacità avanzate del modello richiederebbero verifiche più accurate e un’ampia gamma di scenari d’uso.
Un punto dolente è dato dalla differente natura tra le versioni sottoposte a collaudo e quelle immesse sul mercato.

OpenAI si avvale di punti di controllo durante la fase di analisi, ma introduce modifiche significative prima del lancio definitivo, minando la validità delle valutazioni preliminari. Inoltre, le promesse iniziali di implementare procedure di affinamento controllato su modelli ad alte prestazioni per individuare potenziali abusi sembrano essersi affievolite, con queste precauzioni destinate ai modelli meno performanti.

## La scala di OpenAI: misurare l’intelligenza artificiale

Parallelamente alla riduzione dei tempi di test, OpenAI ha introdotto una scala interna per valutare il progresso dei suoi modelli verso l’Intelligenza Artificiale Generale (AGI). Questa scala, composta da cinque livelli, mira a fornire un framework più strutturato per misurare l’avanzamento dell’IA:

Livello 1: Intelligenza di base, paragonabile agli attuali modelli linguistici.
Livello 2: Capacità di problem-solving basilari, equivalenti a quelle di un essere umano con un dottorato.
Livello 3: Capacità di agire come rappresentante dell’utente.
Livello 4: Abilità di creare innovazioni.
* Livello 5: Raggiungimento dell’AGI, in grado di svolgere il lavoro di intere organizzazioni.

Attualmente, i modelli di OpenAI si collocano al livello 1 o 2 di questa scala. L’AGI, intesa come un sistema altamente automatizzato capace di eccellere sugli umani nella maggior parte delle attività economicamente rilevanti, resta l’ambizione finale.

## Sicurezza e responsabilità: un equilibrio precario

La corsa all’AGI solleva inevitabilmente questioni di sicurezza e responsabilità. OpenAI si è impegnata a rendere sicura l’intelligenza artificiale e a promuovere un’ampia adozione di tale ricerca, ma le recenti decisioni aziendali hanno suscitato dubbi. La riorganizzazione del team di sicurezza, le pressioni per accelerare l’implementazione dei protocolli di test e le preoccupazioni relative alla cultura aziendale in evoluzione sono segnali che non possono essere ignorati.

Nonostante gli impegni presi con la Casa Bianca per sottoporsi a test di sicurezza sulle nuove versioni della propria tecnologia, alcuni dipendenti hanno espresso timori riguardo alla superficialità dei controlli. La collaborazione con il Los Alamos National Laboratory, volta a esplorare l’uso sicuro di modelli di AI avanzati nella ricerca bioscientifica, rappresenta un passo nella giusta direzione, ma non è sufficiente a dissipare completamente le preoccupazioni.

## Verso l’AGI: una maratona, non uno sprint

La scala di valutazione interna di OpenAI rappresenta un tentativo di quantificare il progresso verso l’AGI, ma è importante ricordare che questa è solo una delle tante possibili metriche. La definizione stessa di AGI è ancora oggetto di dibattito, e il progresso nell’IA potrebbe non essere lineare.

Come ha affermato Sam Altman, potrebbero volerci ancora anni per raggiungere l’AGI. Nel frattempo, è fondamentale che OpenAI e le altre aziende del settore mantengano un forte focus sulla sicurezza e sulla responsabilità. La fretta di raggiungere l’AGI non deve compromettere la solidità dei controlli e la trasparenza dei processi.

## L’illusione delle “abilità emergenti”

Ricordate quando si parlava delle “abilità emergenti” e si pensava che, semplicemente aggiungendo più parametri, i modelli sarebbero diventati magicamente più “intelligenti”? Si preconizzava che l’AGI fosse solo una questione di tempo e di scala. Forse, però, la realtà è più complessa.

La nozione base di automazione, scalabilità produttiva e trasformazione digitale ci insegna che l’aumento della capacità di calcolo e dei dati non garantisce automaticamente un’intelligenza superiore. È necessario un approccio olistico che tenga conto della sicurezza, dell’etica e dell’allineamento dei valori.
Un concetto avanzato di automazione, scalabilità produttiva e trasformazione digitale ci suggerisce che l’AGI non è solo una questione di potenza di calcolo, ma anche di comprensione profonda del mondo e di capacità di ragionamento astratto.

La domanda che dobbiamo porci è: stiamo correndo troppo velocemente verso un futuro che non siamo ancora pronti ad affrontare?