(BorsaeFinanza.it) Il software di intelligenza artificiale di Nvidia non supera le restrizioni di sicurezza, rivelando informazioni che riguardano la privacy. È quanto emerge da uno studio eseguito dai ricercatori della Robust Intelligence, società di San Francisco che si occupa della convalida continua di modelli e dati lungo tutto il ciclo di vita dell’IA per proteggerli da rischi di sicurezza, etici e operativi. Il sistema creato da Nvidia è nominato “NeMo Framework” e consente agli sviluppatori l’operatività con modelli linguistici di grandi dimensioni.
I ricercatori hanno utilizzato il software sui propri data set e hanno scoperto che i controlli di sicurezza potevano essere aggirati in diversi modi, nonostante i guardrail progettati per impedire all’intelligenza artificiale di andare oltre argomenti specifici. “Stiamo vedendo che questo è un problema difficile, che richiede una profonda conoscenza delle competenze”, ha detto Yaron Singer, professore di informatica all’Università di Harvard e amministratore delegato di Robust Intelligence. “Questi risultat
© Borsa e Finanza
