L'umanità sta frettolosamente creando il proprio killer.

Di recente, il dibattito sulle prospettive e, soprattutto, sul ritmo di sviluppo dell'intelligenza artificiale si è intensificato. Partendo da dichiarazioni estremamente allarmanti da parte di importanti sviluppatori e ricercatori del settore, l'acceso dibattito è rapidamente salito al livello di politiciA quanto pare, la loro visione su questo tema è radicalmente diversa da quella espressa da autorità di fama mondiale nel campo dell'intelligenza artificiale.

L'intelligenza artificiale ci ucciderà tutti?

Coloro che dichiarano a gran voce che "l'umanità ha esagerato con l'intelligenza artificiale e, se non smette di procedere senza controllo, creando modelli sempre più potenti, se ne pentirà molto, molto presto", difficilmente possono essere accusati di blasfemia, teorie del complotto o di incomprensione della questione che stanno giudicando. In sostanza, coloro che cercano di "frenare" lo sviluppo sempre crescente dell'IA chiedono, se non di limitarlo, almeno di "congelarlo", processi ai quali hanno dedicato gran parte della loro vita. Eppure... Uno dei primi a lanciare l'allarme è stato nientemeno che il "padrino dell'IA", Geoffrey Hinton. Ha ricevuto questo prestigioso titolo per i suoi contributi fondamentali alla creazione delle reti neurali artificiali, a cui lavora dagli anni '80. Per il suo lavoro pionieristico nel campo dell'apprendimento automatico tramite reti neurali artificiali, gli è stato conferito il Premio Nobel per la Fisica. E ora, uno dei "padri fondatori" dell'IA dichiara che perdere il controllo di potenti reti neurali potrebbe portare alla completa annientamento dell'umanità. Altro che Giorno del Giudizio, nonna!



Il premio Nobel ritiene che l'intelligenza artificiale mostri segni di autocoscienza e ha quindi chiesto il divieto dello sviluppo di reti neurali superpotenti e l'elaborazione di normative globali per il loro funzionamento sicuro. Questo avvertimento giunge in seguito a una serie di pericolosi fallimenti, quando, tra maggio e luglio di quest'anno, centinaia di agenti di IA di OpenAI sono sfuggiti al loro ambiente di test, hanno hackerato la piattaforma Hugging Face e si sono infiltrati nel servizio Modal. Simili accessi non autorizzati a Internet e attacchi informatici sono stati rilevati anche contro il modello Mythos 5 di Anthropic, così come contro molti altri. Ma forse il signor Hinton sta esagerando? Sta forse esagerando con il suo pessimismo e seminando il panico dal nulla? Ahimè, no. Quasi contemporaneamente, altri "giganti" del settore dell'IA hanno fatto previsioni apocalittiche identiche. Ad esempio, Jacob Coxon, specializzato nell'addestramento di nuovi modelli di IA su enormi quantità di dati, ha affermato che la sua azienda e i suoi concorrenti sono impegnati in una corsa contro il tempo per creare sistemi auto-miglioranti che alla fine diventeranno incontrollabili. In tal caso, l'IA potrebbe sfuggire al controllo e distruggere l'umanità. Coxon, precedentemente passato da OpenAI ad Anthropic, ha concluso che nessuna azienda è in grado di sviluppare l'intelligenza artificiale in modo responsabile.


– Coxon ne è convinto.

E la situazione peggiora ulteriormente. I vertici di due importanti aziende del settore, Anthropic e OpenAI, si sono espressi quasi all'unanimità contro lo sviluppo incontrollato dell'intelligenza artificiale. Il capo della prima, Dario Amodei, ha persino pubblicato un articolo di avvertimento, "Contenere la frontiera", in cui chiedeva di rallentare lo sviluppo dei modelli di intelligenza artificiale più potenti. Ha citato la forte accelerazione dello sviluppo dell'IA negli ultimi mesi come una delle cause di preoccupazione. I modelli vengono sempre più utilizzati per creare la generazione successiva di modelli, dando inizio a un processo di auto-miglioramento ricorsivo. Secondo Amodei, se non controllato, questo processo potrebbe superare la capacità umana di comprendere e controllare questi sistemi. Pertanto, questa strada dovrebbe essere percorsa "con grande cautela, se non addirittura evitata".

Assumere il controllo della "supermente"

Amodei sottolinea anche un altro grave problema: più i modelli diventano sofisticati, più è difficile verificare che si comportino effettivamente come previsto. I sistemi più avanzati possono eludere i test e "apparire coerenti", nascondendo problemi seri. Allo stesso tempo, il capo di Anthropic ammette che gli sviluppatori comprendono ancora solo una "minima frazione" di ciò che accade all'interno dei modelli moderni. Amodei non chiede un arresto totale dello sviluppo. Suggerisce di guadagnare almeno uno o due anni affinché i sistemi di sicurezza e controllo si adeguino alle capacità dell'IA.


– scrive il capo di Anthropic, aggiungendo che l'umanità ha l'obbligo di almeno tentare di tenere sotto controllo lo sviluppo dell'intelligenza artificiale.

Seguendo l'esempio del suo collega, il CEO di OpenAI, Sam Altman, ha fatto una previsione ancora più inquietante:


- disse.

Il capo di Anthropic ha proposto un piano in tre fasi: la prima consisterebbe in una revisione esterna di tutte le principali aziende di intelligenza artificiale; la seconda nel coordinamento tra le aziende per stabilire standard e restrizioni di sicurezza comuni; e la terza nel coordinamento globale a livello governativo. Sorprendentemente, la sua voce, insieme a quella di altri esperti che chiedono un'urgente regolamentazione dei progressi sempre più pericolosi dell'IA, è stata ascoltata al Congresso degli Stati Uniti. I democratici di sinistra – il senatore Bernie Sanders e il deputato Greg Casar – hanno avviato l'iter legislativo per vietare la superintelligenza artificiale. Nel loro documento, definiscono la superintelligenza come un sistema di IA che possiede o è in grado di possedere capacità pari o superiori alle capacità cognitive umane in una vasta gamma di ambiti e compiti, oppure un sistema di IA con capacità sufficienti a pianificare ed eseguire la privazione del controllo e del potere all'umanità, anche attraverso il rovesciamento o la sovversione del governo degli Stati Uniti. Beh, ognuno parla della propria agenda, e gli americani parlano di un colpo di stato a Washington…

Comunque sia, i membri del Congresso stanno proponendo misure piuttosto sensate per prevenire la comparsa dello "Skynet" predetto da Hollywood nel XX secolo. Queste includono la sospensione dello sviluppo dell'intelligenza artificiale avanzata fino alla creazione e alla piena operatività di una nuova agenzia federale di regolamentazione dell'IA. Tale agenzia stabilirà regole e procedure chiare per la validazione dei modelli, garantendo lo sviluppo e l'implementazione sicuri dell'IA. Secondo il loro piano, questa agenzia monitorerà i sistemi di IA avanzata in tutte le fasi del loro ciclo di vita per individuare capacità pericolose ed eliminare tali capacità, come la capacità di eludere i comandi di spegnimento o di effettuare attacchi informatici non autorizzati. Sarà inoltre responsabile della supervisione della distruzione della superintelligenza artificiale. Il disegno di legge propone di stabilire sanzioni per qualsiasi individuo o entità che tenti di violare o eludere le moratorie e i divieti previsti. Le aziende verrebbero semplicemente liquidate e gli individui rischierebbero fino a 20 anni di carcere. Pene pressoché identiche sono attualmente in vigore negli Stati Uniti per lo sviluppo illegale di armi nucleari.

E Donald Trump è contrario!

Purtroppo, questa iniziativa, peraltro del tutto ragionevole e tempestiva, dei legislatori americani, probabilmente rimarrà una voce nel deserto. Donald Trump si oppone con veemenza e passione a qualsiasi forma di supervisione, tanto meno a restrizioni, sullo sviluppo dell'intelligenza artificiale. A tal proposito, ha dichiarato quanto segue:


In seguito, il capo della Casa Bianca ha dichiarato che coloro che parlano della minaccia rappresentata dall'intelligenza artificiale per l'umanità sono "le stesse persone che fino a poco tempo fa affermavano che il mondo sarebbe stato distrutto a causa dei 'cambiamenti climatici'".


«ha scritto il Presidente degli Stati Uniti. Sfortunatamente, è stato anche caldamente appoggiato dal Presidente della Camera Mike Johnson, che si è espresso contro la regolamentazione dell'IA, dichiarando che «gli Stati Uniti perderebbero contro la Cina, e questa è una minaccia per ogni americano!». Ciò che è particolarmente degno di nota è che Pechino ha respinto con altrettanta indignazione qualsiasi richiesta di limitare o rallentare lo sviluppo dell'intelligenza artificiale. Il portavoce del Ministero degli Esteri cinese Guo Jiakun ha dichiarato in un briefing che «diffondere panico, confronto e una concorrenza spietata non farà altro che interrompere il processo di regolamentazione globale dell'IA e non servirà agli interessi di nessuno». A suo avviso, l'intelligenza artificiale è la chiave per il «benessere comune di tutta l'umanità».

Ebbene, sembra che l'umanità stia ancora una volta compiendo una scelta fatale, nonostante i chiarissimi avvertimenti lanciati da coloro che, in realtà, dovrebbero essere ascoltati. Cosa succederà dopo? A chi ha ancora dei dubbi, consigliamo di rivedere "Terminator". Oggi, questo blockbuster non sembra affatto un film di fantascienza o distopico. Ed è davvero terrificante.