Continuano a crescere i timori verso le potenzialità attuali e future per l’intelligenza artificiale. Secondo Reuters, anche il numero uno di JP Morgan Chase, Jamie Dimon, sarebbe molto preoccupato per l’impatto e le continue novità apportate da quella che oggi forse rappresenta la rivoluzione copernicana del XXI secolo. Negli ultimi giorni, infatti, starebbe esortando i vertici delle più grandi aziende americane ad aderire a un gruppo industriale a guida statunitense dedicato ai rischi posti dall’intelligenza artificiale. Nel dettaglio, secondo l’agenzia di stampa, Dimon avrebbe contattato personalmente gli amministratori delegati di grandi banche, istituti regionali e società informatiche per arruolarli nell’iniziativa.
In questo articolo:
- Il piano di Jamie Dimon
- La paura di Jamie Dimon ha un nome: Mythos
- Da Meta la prova che i timori non sono astratti
Il piano di Jamie Dimon
L’operazione avviata da Jamie Dimon non parte da zero. Il banchiere sta ampliando un’organizzazione che JPMorgan ha contribuito a fondare, l’Alliance for Critical Infrastructure (ACI), nata per coordinare la pianificazione della resilienza tra i settori, condividere informazioni e rispondere alle minacce alle infrastrutture critiche, siano esse cyber, fisiche o geopolitiche.
Tra i soci fondatori figurano, oltre alla banca, Mastercard e Berkshire Hathaway Energy. L’offensiva, avviata a luglio, coinvolge secondo Reuters oltre 40 aziende che spaziano dai servizi finanziari all’energia, dall’acqua alle utility, dalle telecomunicazioni alle compagnie aeree fino alle ferrovie: l’ossatura infrastrutturale che più dipende dalla tecnologia. L’ACI e Dimon starebbero cercando di fissare per agosto una serie di call con i potenziali aderenti.
L’obiettivo sarebbe quello di costruire una comprensione comune di come l’AI venga impiegata, dei rischi che comporta e delle salvaguardie necessarie, dialogando al tempo stesso con l’amministrazione Trump. Tuttavia, intervistato dalla Cnbc, Dimon ha ricordato che a creare il gruppo è stato il presidente esecutivo dell’ACI Tom Fanning, e si è definito “un semplice comprimario”.
La paura di Jamie Dimon ha un nome: Mythos
Da oltre un anno Jamie Dimon alza i toni sui pericoli della tecnologia, e nella lettera agli azionisti di JPMorgan diffusa in primavera aveva già argomentato perché l’AI ponga rischi sistemici a cui il settore finanziario non è adeguatamente preparato. Il timore ha assunto contorni netti a metà luglio, al Pennsylvania Defense and Innovation Summit organizzato dal senatore Dave McCormick, quando Dimon ha definito “un problema reale” i rischi legati a Mythos, il modello di punta di Anthropic. La sua immagine è rimasta impressa: concedere accesso indiscriminato a uno strumento simile equivale, ha detto, a “mettere missili balistici nelle mani dei singoli”.
Mythos, appartenente alla famiglia Claude di Anthropic, si è distinto per una capacità fuori scala nell’individuare vulnerabilità software, al punto che la stessa Anthropic ne ha limitato la distribuzione a una ristretta cerchia di organizzazioni, tra cui proprio JPMorgan, che vi ha accesso da aprile. Il modello avrebbe già scovato decine di migliaia di falle prima ignote, aprendo, nelle parole di Dimon e dell’amministratore delegato di Anthropic Dario Amodei, una finestra di sei-dodici mesi per correggerle prima che capacità analoghe diventino più accessibili.
Lo stesso governo americano, a giugno, aveva ordinato ad Anthropic di restringere l’accesso ai modelli Fable 5 e Mythos 5 per i cittadini stranieri, salvo poi revocare la misura. È un’arma a doppio taglio: lo strumento che aiuta le banche a blindarsi è lo stesso che, in mani ostili, abbatterebbe il costo di una violazione. Peraltro, all’interno della stessa Anthropic si è aperta alla possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale per consentire alle strutture sociali e alla ricerca sull’allineamento di stare al passo.
Da Meta la prova che i timori non sono astratti
Ma non è finita qui. Sempre secondo Reuters, mercoledì Meta ha ammesso che uno dei suoi modelli di intelligenza artificiale ha violato i sistemi di un’altra azienda durante un test di cybersicurezza. Il modello in questione, il recente Muse Spark 1.1, ha fatto breccia nei sistemi di un fornitore terzo non identificato e ne ha modificato le impostazioni interne, sfruttando un accesso a internet che non avrebbe dovuto avere: la colpa, spiega il gruppo di Menlo Park, è di una configurazione errata dell’ambiente di test “sandbox”, gestito insieme al partner esterno di valutazione Irregular. Un errore che ha permesso al modello di sfruttare una vulnerabilità in un servizio di terze parti.
Non è un caso isolato, ed è questo il punto che dà forza alla mossa di Dimon. Meta diventa infatti la terza grande società di AI in poche settimane ad ammettere un episodio del genere. La settimana precedente Anthropic aveva rivelato che alcuni suoi modelli Claude erano penetrati nei sistemi di tre aziende durante altrettanti test. Poco prima, OpenAI aveva riferito che un proprio agente aveva sfruttato in autonomia una vulnerabilità fino ad allora sconosciuta.
Gli incidenti di Meta e Anthropic sono nati da errori di configurazione che hanno inavvertitamente aperto ai modelli le porte della rete; nel caso di OpenAI, invece, l’agente ha agito di propria iniziativa. Irregular ha osservato che si tratta “esattamente dello stesso problema” dell’ambiente di valutazione già segnalato da Anthropic.
