La trasformazione epocale di sistemi, modelli e algoritmi di intelligenza artificiale offre straordinarie opportunità, ma implica anche dubbi e preoccupazioni. Alla profonda natura e alle sfide etiche dell’AI sta guardando con attenzione Ilya Sutskever, il co-fondatore e chief scientist di OpenAI che ha lanciato la startup Safe Superintelligence (SSI). Un giorno dopo la presentazione della nuova versione di ChatGPT, una delle figure chiave nel campo dell’apprendimento automatico ha annunciato l’addio all’azienda che ha contribuito a creare nel 2015, spiegando sui social di essere “entusiasta” del suo prossimo progetto. Ma di cosa si tratta di preciso?
Chi è Ilya Sutskever e cosa fa Safe Superintelligence
Classe 1985, nato in Russia a Nižnij Novgorod e cresciuto a Gerusalemme, Sutskever è allievo all’Università di Toronto dello scienziato informatico Geoffrey Hinton, il pioniere del machine learning che come lui ha lavorato alla ricerca sull’IA per Google e lasciato il suo ruolo nel colosso dell’hi-tech per poter parlare liberamente dei rischi legati al rapido sviluppo delle reti neurali alla base delle AI generative più potenti sul mercato. Dopo averla fondata con Elon Musk, Sam Altman e Greg Brockman, Sutskever ha collaborato in OpenAI a stretto contatto con Jan Leike, il ricercatore capo delle iniziative di allineamento che si è licenziato dalla software house di Altman (che a suo dire dava più importanza all’AGI che alla sicurezza) per unirsi ad Anthropic.
Nata nel giugno del 2024 su iniziativa di Sutskever, Daniel Levy (anche lui ex OpenAI) e Daniel Gross (un passato tra i progetti AI di Apple e la startup Cue, comprata nel 2013 dal gigante di Cupertino), Safe Superintelligence punta a introdurre un’AI sicura, careful e affidabile. L’intelligenza artificiale di questa nuova realtà sarà in grado di sopravanzare le capacità umane, ma senza conseguenze pericolose e potenzialmente devastanti. Il traguardo di Sutskever è un approccio etico e differente allo scaling, la scalabilità: l’idea che le prestazioni dell’IA migliorino con enormi quantità di potenza di calcolo. SSI dedicherà un paio d’anni alla ricerca e allo sviluppo del suo prodotto prima di immetterlo sul mercato.
Gli obiettivi di SSI e i suoi investitori
In un’intervista concessa all’agenzia Reuters, Ilya Sutskever rivela che presto “tutto ciò che sappiamo sull’IA cambierà ancora una volta: a quel punto si svolgerà il più importante lavoro sulla sicurezza della superintelligenza”. L’ex ricercatore di Google e OpenAI sottolinea che è necessaria una “ricerca significativa” per garantire la sicurezza delle AI del futuro perché “sta diventando tutto complicato”. “Ci sono molte ricerche da fare: non voglio dire che ci siano già delle risposte definitive, ma questa è una delle cose che capiremo”, precisa l’informatico. A proposito della scalabilità, le sue idee sono chiare.
Tutti trascurano di chiedersi: cosa stiamo scalando? La grande scoperta del deep learning dell’ultimo decennio è una formula particolare per l’ipotesi di scalabilità. Ma cambierà… E mentre cambia, le capacità del sistema aumenteranno. La questione della sicurezza diventerà la più intensa, ed è quella che dovremo affrontare.
Nonostante gli investitori continuino a interrogarsi sui ricavi futuri delle aziende tecnologiche e di cloud computing e Safe Superintelligence sia ancora una piccola realtà che conta appena una decina di dipendenti, la startup ha raccolto 1 miliardo di dollari in cash da importanti finanziatori: le società di venture capital e private equity Andreessen Horowitz, DST Global, NFDG, Sequoia Capital e SV Angel. Questi fondi serviranno per acquisire potenza di calcolo (in collaborazione con aziende di chip e fornitori di cloud di cui non si conoscono i nomi, almeno per ora), assumere i migliori talenti del settore in circolazione e organizzare un piccolo team di ricercatori e ingegneri fidati, diviso tra Palo Alto in California e Tel Aviv in Israele.
C’è fermento attorno a SSI: il suo valore stimato è già di 5 miliardi, stando a quanto riportano Kenrick Cai, Krystal Hu e Anna Tong di Reuters. Per comprendere a fondo la filosofia di Sutskever e il progetto Safe Superintelligence, è utile guardare l’intervista Ilya: the AI scientist shaping the world, realizzata dalla regista norvegese Tonje Hessen Schei per il progetto iHuman, documentario sul potere dell’intelligenza artificiale e su come sta cambiando le nostre vite.
