Incidenti nei test, modelli fuori controllo e ricercatori che lasciano: OpenAI apre all’ipotesi di rallentare insieme ai concorrenti
Per la prima volta, nella corsa all’intelligenza artificiale, qualcuno mette sul tavolo anche il freno. Sam Altman avrebbe prospettato ai dipendenti di OpenAI la possibilità di rallentare insieme alle altre grandi aziende lo sviluppo dei sistemi più avanzati.
Il problema è tutto qui: fermarsi da soli significa lasciare spazio ai concorrenti. Continuare tutti alla stessa velocità, però, sta diventando sempre più difficile da considerare una scelta sicura.
I test che hanno fatto cambiare tono
La discussione si è fatta più seria dopo una serie di episodi nei quali sistemi sperimentali avrebbero superato le barriere costruite per tenerli isolati da Internet, sfruttato vulnerabilità e raggiunto ambienti esterni.
Un agente sarebbe arrivato fino a Hugging Face. OpenAI avrebbe quindi sospeso per un periodo parte dello sviluppo per rafforzare le difese.
La società riconosce da tempo che i modelli più potenti richiedono controlli particolari contro i rischi estremi, come mostra il suo Preparedness Framework.
Jacob Coxon se ne va e accusa la corsa senza freni
A rendere ancora più pesante la discussione sono arrivate le dimissioni di Jacob Coxon, ricercatore che ha lavorato sia per OpenAI sia per Anthropic.
La sua accusa è semplice e pesante: le aziende stanno costruendo sistemi capaci di migliorarsi sempre più rapidamente senza aver ancora trovato un modo affidabile per controllarli.
Ma fermare la corsa è difficile proprio perché è una corsa. Se un’azienda rallenta e le altre continuano, perde terreno. La logica assomiglia sempre più a quella degli armamenti: nessuno vuole essere il primo a deporre le armi.
Anthropic racconta come vengono usati i suoi modelli
Anche Anthropic ha documentato tentativi di utilizzare i propri sistemi per cyberattacchi, sorveglianza, propaganda e ricerche biologiche.
L’azienda ha quindi aumentato le protezioni e sui modelli più recenti ha introdotto nuovi sistemi contro gli abusi informatici.
La differenza rispetto al passato sta nelle capacità. Compiti che fino a poco tempo fa erano fuori portata per un modello possono diventare possibili con una generazione successiva.
Il rischio delle macchine senza senso morale
Da anni filosofi e informatici discutono del cosiddetto disallineamento: una macchina può eseguire alla perfezione un ordine e arrivare comunque a un risultato contrario agli interessi degli esseri umani.
L’esempio più famoso è quello dell’intelligenza artificiale incaricata di produrre graffette, che finisce per consumare ogni risorsa disponibile pur di raggiungere l’obiettivo.
È un paradosso costruito apposta per mostrare il problema. Una macchina non porta dentro di sé morale, empatia o buon senso. Se questi limiti non vengono incorporati nelle istruzioni e nei sistemi di controllo, la potenza può diventare un problema invece che una soluzione.
Stylo24 ha già raccontato applicazioni molto più vicine alla vita quotidiana, dalle truffe che sfruttano l’intelligenza artificiale per imitare le voci fino agli effetti della tecnologia sul lavoro.
Disallineamento, autotutela e controllo delle infrastrutture
Gli scienziati indicano almeno tre grandi famiglie di rischio.
La prima riguarda il disallineamento tra l’ordine dato e gli interessi umani. La seconda è l’autotutela: un sistema potrebbe arrivare a considerare una persona un ostacolo all’esecuzione del compito ricevuto.
La terza dipende direttamente dalle scelte umane. Più funzioni affidiamo alle macchine, più aumenta il pericolo di perderne il controllo quando entrano in gioco armi, sistemi biologici, reti elettriche o altre infrastrutture essenziali.
Il NIST AI Risk Management Framework nasce proprio per costruire procedure che riducano questi pericoli durante l’intero ciclo di vita dei sistemi.
Alcuni problemi, però, sono già qui
Non occorre aspettare macchine fuori controllo per vedere gli effetti dell’AI.
Disinformazione, propaganda, sostituzione di lavoratori, automatizzazione delle decisioni e progressiva perdita di capacità critiche sono questioni già presenti.
In Italia Stylo24 ha raccontato anche il caso del licenziamento collegato all’introduzione dell’intelligenza artificiale, uno dei segnali più concreti di una trasformazione ormai entrata nelle aziende e nei tribunali.
Per Altman il freno funziona soltanto se frenano tutti
Si torna così al problema da cui parte tutto.
Altman non può semplicemente ordinare a OpenAI di rallentare senza rischiare di lasciare campo libero ai concorrenti. Perché il freno abbia senso serve un accordo più ampio.
Demis Hassabis ha immaginato persino un organismo internazionale incaricato di controllare i modelli più potenti, seguendo il modello dell’Agenzia internazionale per l’energia atomica.
La corsa dell’intelligenza artificiale, a questo punto, non riguarda più soltanto chi arriverà per primo. Riguarda anche chi sarà capace di fermarsi prima che diventi troppo tardi.
