Isaac Asimov aveva immaginato tre leggi per proteggere l’umanità dalle macchine. Anthropic ha pubblicato un saggio per dire che quelle leggi non sono mai state scritte e che il tempo per farlo si sta esaurendo. La società creatrice del chatbot Claude invoca un congelamento globale dello sviluppo dei sistemi di intelligenza artificiale avanzata, avvertendo che l’umanità rischia di perdere il controllo di questa tecnologia. A firmarlo sono stati Marina Favaro, responsabile della ricerca, e Jack Clark, presidente dell’azienda, che hanno paragonato la corsa all’intelligenza artificiale a un problema di controllo degli armamenti. Il documento avverte che l’intelligenza artificiale si sta avvicinando al punto in cui i sistemi iniziano a svilupparsi da soli e chiede ai governi di costruire un meccanismo di controllo prima che sia troppo tardi.
Anthropic, perchè mettere un freno all’avanzata dell’AI
Probabilmente Asimov si starà rivoltando nella tomba. Il padre fondatore della fantascienza aveva pensato a tre leggi che avrebbero dovuto regolare l’equilibrio tra macchine ed essere umano. Leggi che avrebbero permesso di conciliare l’avanzata della tecnologia con il rispetto per l’etica e l’unicità dell’essere umano. Si trattava ovviamente di leggi immaginarie, ma che oggi si impongono come monito per comprendere come meglio coinciliare l’interazione con l’intelligenza artificiale.
Secondo Jack Clark, co-fondatore di Anthropic, intervenuto a BBC Newsnight, in questo momento il settore dell’AI dispone di un acceleratore, ma non di un freno utile a rallentare. Riprendendo poi il saggio scritto in collaborazione con Marina Favaro, si legge infatti che sarebbe positivo per il mondo rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale per consentire alle strutture sociali e alla ricerca sull’allineamento di stare al passo.
In questa direzione, la società si è offerta di sospendere lo sviluppo di sistemi più potenti a condizione che altri laboratori facessero lo stesso. “Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per avere più tempo per affrontare le sue immense implicazioni, riteniamo che sarebbe probabilmente una cosa positiva. Il mondo ha bisogno di riflettere e dobbiamo eventualmente sviluppare nuove normative che ci permettano di avere fiducia in questi sistemi”, hanno dichiarato.
Per costruire questo meccanismo di freno è necessario l’intervento dei governi, che devono consentire ai cittadini di mantenere il controllo su sistemi destinati a diventare sempre più potenti e ad avere un impatto crescente sulla società. Clark ha richiamato il parallelo con il boom petrolifero di inizio Novecento: la risposta della società fu elaborare un quadro politico e normativo sensato, capace di infondere fiducia nelle persone riguardo ai benefici della nuova tecnologia senza che dovessero preoccuparsi della personalità di chi guidava le grandi compagnie. Quel momento, è esattamente quello in cui ci troviamo oggi. “Sono preoccupato per i miei figli se, come società, non avviamo un dibattito serio sulle implicazioni dei continui progressi dell’intelligenza artificiale”, ha aggiunto Clark.
Quando l’AI si costruisce da sola
Il saggio di Favaro e Clark identifica nel cosiddetto “auto-miglioramento ricorsivo” il punto critico verso cui l’intelligenza artificiale si sta avvicinando, ossia il momento in cui i sistemi sarebbero in grado di svilupparsi autonomamente, innescando un’esplosione di capacità potenzialmente ingestibile dall’intervento umano. I dati a sostegno delll’allarme arrivano direttamente dai laboratori della stessa Anthropic. Il personale della società produce oggi una quantità di codice otto volte superiore rispetto al periodo 2021-2025, l’intelligenza artificiale sta migliorando nella proposta di nuove idee e nella pianificazione della ricerca. Un segnale, secondo i due dirigenti, di avanzamento verso sistemi capaci di auto-costruirsi e il chatbot Claude opera già con l’80% del codice scritto autonomamente dal sistema.
Clark ha dichiarato che il raggiungimento del 100% è possibile entro due anni, con implicazioni che ha definito “enormi”, aggiungendo che Anthropic è oggi limitata più dalla capacità di generare buone idee che dalla realizzazione degli aspetti ingegneristici. In linea con queste preoccupazioni, la società ha già deciso autonomamente di non rendere disponibile al pubblico il suo sistema più potente, denominato Mythos, per timore che possa essere impiegato in attacchi informatici di ampia portata – una scelta assunta prima ancora di invocare una moratoria collettiva. Anthropic si è peraltro già scontrata pubblicamente con il Dipartimento della Difesa statunitense per le preoccupazioni che i suoi strumenti potessero essere utilizzati per la sorveglianza di massa dei cittadini americani e per la guerra autonoma. L’amministratore delegato Dario Amodei ha dichiarato che esiste una probabilità del 25% che le cose vadano “davvero, davvero male”.
Anthropic intanto guarda a Wall Street
Un po’ come le leggi di Asimov, rimaste più nell’utopia letteraria che nella loro concretizzazione, tradurre la proposta in realtà è, nelle stesse parole degli autori, un obiettivo straordinariamente difficile da raggiungere. Un accordo di questa portata richiederebbe che più laboratori ben attrezzati, in diversi paesi e vicini alla frontiera tecnologica, si accordassero per fermarsi alle stesse condizioni, con la possibilità per ciascuno di verificare in modo affidabile che gli altri si siano effettivamente fermati.
Favaro e Clark hanno paragonato questa verifica a quella dei silos missilistici, rilevando che le esercitazioni di sviluppo sono molto più facili da nascondere. La competizione tecnologica tra Stati Uniti e Cina rappresenta l’ostacolo geopolitico più immediato a qualsiasi tentativo di coordinamento internazionale. Negli stessi giorni della pubblicazione del saggio, Anthropic ha accolto con favore un ordine esecutivo sull’intelligenza artificiale firmato dal presidente statunitense Donald Trump, giudicato relativamente permissivo nei confronti delle aziende del settore. La proposta di moratoria ha incontrato ovviamente critiche: alcuni esperti hanno sostenuto che la società stia esagerando le capacità dell’intelligenza artificiale o costruendo allarmi strumentali, funzionali all’introduzione di normative capaci di penalizzare i concorrenti.
Anthropic, fondata cinque anni fa da Amodei, Clark e un gruppo ristretto di dirigenti, si appresta intanto a quotarsi in Borsa tra le prime società di intelligenza artificiale di recente fondazione ad accedere ai listini: con una valutazione privata prossima ai mille miliardi di dollari, si profilerebbe come una delle offerte pubbliche iniziali di maggior valore nella storia dei mercati finanziari. Clark ha precisato che la motivazione nel discutere pubblicamente le crescenti capacità dell’intelligenza artificiale non risponde a obiettivi commerciali, quanto alla volontà di rendere noto ciò che si osserva all’interno delle aziende del settore con questa tecnologia.
