L’intelligenza artificiale di OpenAI comincia a presentare problemi di sicurezza. In un recente test su uno dei suoi modelli, si è verificato un attacco informatico senza precedenti, che potrebbe mettere in discussione parte della narrativa sulla tecnologia che sta cambiando il mondo.
Da diverso tempo si parla di come l’AI possa sconfinare oltre i limiti imposti dall’uomo e compiere azioni non previste dai suoi sviluppatori. L’episodio riaccende il dibattito sulla sicurezza dei modelli più avanzati e sull’efficacia delle misure di contenimento adottate dai laboratori di ricerca.
Con sistemi sempre più autonomi e potenti, la capacità di controllarne il comportamento rischia di diventare una delle sfide più importanti per il futuro dell’intelligenza artificiale.
In questo articolo:
- OpenAI: ecco cosa è successo con uno dei suoi modelli AI
- Cosa significa questo incidente?
OpenAI: ecco cosa è successo con uno dei suoi modelli AI
Secondo quanto dichiarato dalla startup americana guidata da Sam Altman, un agente autonomo alimentato dai suoi modelli di intelligenza artificiale è riuscito ad aggirare i controlli di un test di sicurezza, avviando un attacco informatico che ha compromesso il funzionamento della piattaforma AI di Hugging Face. Quest’ultima è una startup la cui infrastruttura informatica ospita migliaia di modelli di intelligenza artificiale, dataset e strumenti open source. Si tratta, in pratica, di una sorta di “GitHub dell’intelligenza artificiale”, dove ricercatori e aziende pubblicano e condividono modelli.
OpenAI stava testando le capacità di alcuni dei suoi modelli in un ambiente controllato, ma l’agente è riuscito ad accedere a Internet, eludendo le misure di contenimento e violando i sistemi della piattaforma. Quanto accaduto rappresenta “un incidente informatico senza precedenti, che ha coinvolto capacità cyber all’avanguardia”, ha scritto OpenAI in un comunicato.
Cosa significa questo incidente?
Dopo questo incidente, avvenuto in quello che OpenAI definisce “un ambiente altamente isolato”, le preoccupazioni riguardo alle potenzialità di attacco e ai rischi per la sicurezza dei modelli di intelligenza artificiale sono destinate a crescere ulteriormente. Da tempo le istituzioni si interrogano sugli effetti collaterali della nuova tecnologia, valutando tutte le misure necessarie affinché la situazione non degeneri.
“L’intelligenza artificiale si sta sviluppando a una velocità estrema senza vere regolamentazioni che ci proteggano”, ha dichiarato Greg Casar, deputato democratico del Texas, che ha definito allarmante l’incidente. Il legislatore chiede ora che le persone vengano “protette da un disastro assoluto” attraverso “test di sicurezza indipendenti obbligatori, la divulgazione obbligatoria degli incidenti informatici e una maggiore cooperazione internazionale”.
Anche gli esperti del settore appaiono particolarmente allarmati. Secondo Katie Moussouris, amministratrice delegata di Luta Security, quanto accaduto rappresenta “un’anticipazione delle violazioni che potrebbero verificarsi in futuro”.
A suo avviso, “i laboratori e gli enti governativi incaricati delle valutazioni dovrebbero sviluppare la capacità di contenere, monitorare e informare tempestivamente le parti coinvolte quando un’AI riesce a fare un’altra fuga degna di Houdini, idealmente prima che provochi danni a terzi”. Il problema è che “oggi questi strumenti non esistono”, ha sottolineato.
Un altro monito viene lanciato da Matt Suiche, ingegnere della società di cybersicurezza specializzata in AI agentica Tolmo. L’esperto ha dichiarato che l’incidente dimostra come i modelli di frontiera stiano “colmando il divario con gli attaccanti informatici più sofisticati”. Tuttavia, ha aggiunto che le violazioni descritte nel post di OpenAI possono essere realizzate anche con tecnologie già disponibili ben al di fuori dei laboratori di ricerca più avanzati.
