Tyler Cowen mette in guardia dai “modelli AI non rilasciati” che ampliano il divario di segretezza tra i laboratori e il pubblico

Tyler Cowen, nel sostituire come conduttore ospite in un podcast del New York Times, ha usato l’episodio per indagare una preoccupazione crescente nell’intelligenza artificiale: l’ampliarsi del divario tra ciò che i laboratori leader sanno dei loro sistemi più capaci e ciò che al pubblico è consentito vedere.

Cowen ha inquadrato la questione attorno ai “modelli non rilasciati” (“unreleased models”)—sistemi che esistono all’interno delle aziende ma non vengono resi disponibili ai ricercatori esterni né al pubblico in generale. Ha osservato che spesso le imprese trattengono i modelli perché rilasciarli potrebbe essere costoso, potrebbe richiedere un lavoro significativo sulla sicurezza, oppure potrebbe comportare rischi che le aziende non sono pronte a gestire. Il risultato, ha suggerito, è che gli esterni restano a cercare di capire i progressi dell’IA con solo informazioni parziali.

In conversazione con il commentatore di IA Dwarkesh Patel, Cowen ha insistito per ottenere una prospettiva “da insider”: se molti sistemi potenti restano dietro porte chiuse, come dovrebbe il pubblico aggiornare la propria visione della velocità con cui stanno avanzando le capacità dell’IA?

Patel ha sostenuto che la situazione attuale è particolarmente difficile perché alcune persone all’interno dei laboratori di IA dicono di avere ragioni concrete per essere più allarmate di quanto lo sia il pubblico—eppure sono vincolate dal non poter condividere i dettagli. Questa dinamica, ha detto, lascia decisori politici, giornalisti, ricercatori e pubblico a tentare di valutare i rischi senza accesso alle prove che, a quanto si sostiene, alimentano le preoccupazioni in ambito privato.

Come esempio, Patel ha descritto una discussione recente con qualcuno in Anthropic che ha previsto che i sistemi di IA potrebbero superare gli esseri umani nella ricerca sull’IA entro nove mesi. Patel ha detto che la persona ha presentato la previsione come basata su informazioni interne, più che su mera intuizione. Ma quando Patel ha chiesto che cosa, nello specifico, sostenesse l’affermazione—se si trattasse di un nuovo modello, di una particolare valutazione interna o di un’altra forma di test—non è riuscito a ottenere una spiegazione pubblica.

Patel ha definito questa situazione “terribile”, sostenendo che, se gli insider credono davvero che il mondo sia a meno di un anno dall’automazione della ricerca sull’IA—con il potenziale di accelerare drasticamente i progressi—allora le prove sottostanti dovrebbero essere rese pubbliche affinché esperti esterni possano valutarle. Senza quella trasparenza, ha suggerito, gli esterni non hanno un modo affidabile per calibrare quanto dovrebbero essere preoccupati.

Ha inoltre delineato un potenziale ciclo di retroazione che potrebbe peggiorare nel tempo il divario informativo. Se i sistemi di IA aiutano sempre di più ad automatizzare il processo di costruzione di IA migliore, ha detto Patel, i laboratori potrebbero diventare ancora più riluttanti a rilasciare modelli che si avvicinano ai loro massimi livelli di capacità. Rendere pubblici sistemi avanzati potrebbe, in questa prospettiva, facilitare ad altri lo sviluppo di modelli altrettanto potenti. E, ha aggiunto Patel, distribuire modelli al pubblico è di per sé oneroso, perché richiede salvaguardie e altre infrastrutture che le aziende potrebbero non essere inclini a realizzare per sistemi anche solo vicini ai loro modelli con le migliori prestazioni.

Cowen ha riassunto l’implicazione: in quello scenario, la distanza tra conoscenza interna e comprensione esterna continuerebbe a crescere. Ciò significherebbe maggiore incertezza per regolatori, legislatori e altri decisori—e maggiori probabilità di essere colti di sorpresa da improvvisi balzi di capacità.

L’episodio ha anche accennato a una gamma più ampia di temi, tra cui la “psicosi da IA” (“AI psychosis”), e Cowen ha chiuso riconoscendo a Patel il merito di essersi confrontato dalla posizione dell’intervistato, anziché da quella del conduttore.

Perché è importante

Se i modelli di IA più avanzati restano nascosti, esperti esterni e governi potrebbero essere costretti a prendere decisioni di policy ad alta posta in gioco sulla base di dati incompleti. Un crescente divario di segretezza potrebbe aumentare il rischio di progressi inattesi—soprattutto se l’IA iniziasse ad automatizzare in modo significativo la ricerca sull’IA stessa. Osservate se i laboratori rendono disponibili più valutazioni pubbliche e prove a sostegno delle loro affermazioni private più forti sulle tempistiche a breve termine.