Il software di intelligenza artificiale di Nvidia non supera le restrizioni di sicurezza, rivelando informazioni che riguardano la privacy. È quanto emerge da uno studio eseguito dai ricercatori della Robust Intelligence, società di San Francisco che si occupa della convalida continua di modelli e dati lungo tutto il ciclo di vita dell’IA per proteggerli da rischi di sicurezza, etici e operativi. Il sistema creato da Nvidia è nominato “NeMo Framework” e consente agli sviluppatori l’operatività con modelli linguistici di grandi dimensioni.
I ricercatori hanno utilizzato il software sui propri data set e hanno scoperto che i controlli di sicurezza potevano essere aggirati in diversi modi, nonostante i guardrail progettati per impedire all’intelligenza artificiale di andare oltre argomenti specifici. “Stiamo vedendo che questo è un problema difficile, che richiede una profonda conoscenza delle competenze”, ha detto Yaron Singer, professore di informatica all’Università di Harvard e amministratore delegato di Robust Intelligence. “Questi risultati rappresentano un ammonimento sulle insidie che esistono”. In conclusione, gli esperti della società hanno consigliato ai loro clienti di non utilizzare il prodotto software di Nvidia.
Intelligenza artificiale: la replica di Nvidia sulla sicurezza
Replicando ai problemi sollevati da Robust Intelligence, il gigante dei chip ha riferito di aver risolto una delle cause che minacciavano la sicurezza. Ad ogni modo, non ha comunicato quante sono le aziende attualmente che stanno utilizzando il prodotto, ma ha precisato che finora non vi è stata alcuna segnalazione di comportamenti scorretti del software.
Il framework é “semplicemente un punto di partenza per la creazione di chatbot AI che si allineano alle linee guida di attualità definite dagli sviluppatori”, ha affermato Jonathan Cohen, vicepresidente della ricerca applicata di Nvidia. “È stato rilasciato come software open source per la comunità per esplorare le sue capacità, fornire feedback e contribuire con nuove tecniche all’avanguardia. Il lavoro di Robust Intelligence ha identificato ulteriori passaggi che sarebbero necessari per distribuire un’applicazione di produzione”, ha aggiunto.
Quale impatto sulle azioni?
Da quando Nvidia ha rilasciato l’ultima trimestrale il 24 maggio, le azioni hanno ingranato la quarta a Wall Street, guadagnando il 25,49%. Nell’occasione, il colosso di Santa Clara ha previsto 11 miliardi di dollari di vendite dei suoi chip per il trimestre in corso grazie all’intelligenza artificiale. Ciò è stato del 50% in più rispetto a quanto avevano stimato gli analisti. Difficile che l’entusiasmo degli investitori intorno a questa nuova tecnologia possa raffreddarsi in tempi brevi, tuttavia è bene che si operi in un ambiente di sicurezza. “Nvidia e altri nel settore dell’intelligenza artificiale devono davvero costruire la fiducia del pubblico nella tecnologia”, ha dichiarato Bea Longworth, responsabile degli affari governativi dell’azienda in Europa, Medio Oriente e Africa. In altri termini, “devono dare la pubblico la sensazione che questo è qualcosa che ha un enorme potenziale e non è semplicemente una minaccia, o qualcosa di cui aver paura”, ha detto.
