Con le preoccupazioni sull’intelligenza artificiale generativa sempre presenti, Google ha annunciato un’espansione del suo Vulnerability Rewards Program (VRP) focalizzato su attacchi specifici dell’IA e opportunità di atti dolosi. Pertanto, la società ha rilasciato linee guida aggiornate che descrivono in dettaglio quali scoperte sono idonee a ricevere premi e quali non rientrano nell’ambito di applicazione. Ad esempio, la scoperta dell’estrazione dei dati di addestramento che fa trapelare informazioni private e sensibili rientra nell’ambito, ma se mostra solo dati pubblici e non sensibili, non lo sarebbe qualificarsi per una ricompensa. L’anno scorso, Google ha donato ai ricercatori di sicurezza 12 milioni di dollari per la scoperta di bug.
Google ha spiegato che l’intelligenza artificiale presenta problemi di sicurezza diversi rispetto alle altre tecnologie, ad esempio manipolazione del modello e pregiudizi ingiusti, che richiedono nuove linee guida per rispecchiare ciò. “Crediamo che l’espansione del VRP incentivi la ricerca sulla sicurezza e la protezione dell’intelligenza artificiale e porti alla luce potenziali problemi che alla fine renderanno l’intelligenza artificiale più sicura per tutti”, ha affermato la società in una nota. “Stiamo inoltre espandendo il nostro lavoro di sicurezza open source per rendere le informazioni sulla sicurezza della catena di fornitura dell’intelligenza artificiale universalmente rilevabili e verificabili”.
Le aziende che si occupano di intelligenza artificiale, tra cui Google, si sono riunite alla Casa Bianca all’inizio di quest’anno, impegnandosi a promuovere una maggiore scoperta e consapevolezza delle vulnerabilità dell’intelligenza artificiale. Anche l’espansione VRP dell’azienda precede a Ordine esecutivo “ampio” del presidente Biden secondo quanto riferito, è previsto per lunedì 30 ottobre, il che creerebbe valutazioni e requisiti rigorosi per i modelli di intelligenza artificiale prima di qualsiasi utilizzo da parte delle agenzie governative.
