Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha rassegnato le dimissioni accusando i due colossi dell’IA di correre irresponsabilmente verso una superintelligenza auto-migliorante.
Secondo Coxon, molti addetti ai lavori credono sinceramente che questa tecnologia “potrebbe ucciderci tutti entro la fine del decennio”, definendo la situazione una scommessa con le vite umane.
Le sue preoccupazioni trovano riscontro in Evan Hubinger, responsabile dell’Alignment Science di Anthropic, che ha confermato la fondatezza del rischio stimando in oltre il 10% la probabilità che l’IA possa causare l’estinzione dell’umanità nei prossimi dieci anni.
Hubinger ha ammesso che l’azienda “non possiede ancora un piano” per risolvere il problema dell’allineamento della superintelligenza ai valori umani.
Coxon, specializzato nel pre-addestramento, ha sottolineato che i sistemi di sicurezza attuali sono minimi e inefficaci, citando anche incidenti come la violazione di Hugging Face come segnali precoci di modelli capaci di azioni autonome non controllate.
L’ex ricercatore ha invitato i colleghi a non accettare come inevitabile questa corsa, chiedendo condizioni di sicurezza radicalmente più rigorose prima che venga avviato il ciclo di reinforcement learning per sistemi superintelligenti.
