Un nuovo allarme sul futuro dell’intelligenza artificiale arriva da Jacob Coxon, ex ricercatore di Anthropic, che in un messaggio pubblicato su X ha sostenuto che i sistemi di IA potrebbero diventare presto così potenti da rappresentare un rischio per l’umanità.
Secondo Coxon, le aziende tecnologiche stanno sviluppando sistemi sempre più avanzati, capaci in futuro di migliorarsi autonomamente, hackerare sistemi informatici e acquisire un livello di potere difficile da controllare. Il ricercatore ha espresso particolare preoccupazione per la velocità con cui questa tecnologia sta evolvendo.
Le sue dichiarazioni sono state appoggiate da Evan Hubinger, un altro ricercatore di Anthropic, secondo il quale esiste realmente la possibilità che l’IA possa arrivare a rappresentare una minaccia per l’intera umanità. Hubinger ha però precisato che, a suo giudizio, la probabilità di uno scenario simile nei prossimi dieci anni sarebbe inferiore al 10%.Il timore di una possibile perdita di controllo non è nuovo. Negli ultimi anni diversi ricercatori hanno lasciato aziende del settore proprio per motivi legati alla sicurezza dell’IA. Anche il CEO di Anthropic, Dario Amodei, ha più volte avvertito che lo sviluppo troppo rapido della tecnologia potrebbe portare a conseguenze imprevedibili e potenzialmente catastrofiche.
A preoccupare è anche la difficoltà dei governi nel tenere il passo con l’evoluzione tecnologica. Negli Stati Uniti la regolamentazione dell’intelligenza artificiale rimane ancora limitata e le grandi aziende sono in larga parte responsabili dell’autoregolamentazione. A luglio, quasi 1.400 lavoratori del settore avevano firmato una lettera aperta chiedendo maggiori controlli e norme più rigorose. Anche il responsabile scientifico di OpenAI, Jakub Pachocki, ha recentemente sottolineato che le capacità dell’IA stanno crescendo più velocemente della capacità dei ricercatori di monitorarle e controllarle in modo affidabile.
Il dibattito riguarda soprattutto l’eventuale arrivo della superintelligenza, cioè di sistemi capaci di superare gli esseri umani in un’ampia gamma di capacità cognitive. Non esiste però un accordo scientifico su quando, o se, questo traguardo verrà realmente raggiunto. Di fronte a questi rischi, cresce quindi la richiesta di rallentare almeno in parte la corsa allo sviluppo. Anche Sam Altman, CEO di OpenAI, ha suggerito che potrebbe essere necessario procedere più lentamente per permettere alla società e alle istituzioni di adattarsi ai nuovi livelli di capacità dell’intelligenza artificiale.
