In un’epoca in cui i truffatori utilizzano l’intelligenza artificiale generativa per fare soldi, truffare o offuscare la propria reputazione, le aziende tecnologiche stanno escogitando metodi per aiutare gli utenti a verificare i contenuti, almeno le immagini fisse, per cominciare. OpenAI ora include metadati di provenienza nelle immagini generate con ChatGPT sul web e API DALL-E 3, con le loro controparti mobili che riceveranno lo stesso aggiornamento entro il 12 febbraio.
Come funziona
I metadati seguono lo standard aperto C2PA (Coalition for Content Provenance and Authenticity) e quando una di queste immagini viene caricata sul Verifica credenziali contenuto strumento, sarai in grado di tracciare il suo lignaggio di provenienza. Ad esempio, un‘immagine generata utilizzando ChatGPT mostrerà un manifest di metadati iniziale che indica la sua origine API DALL-E 3, seguito da un secondo manifest di metadati che mostra che è emerso in ChatGPT.
Nonostante la sofisticata tecnologia crittografica alla base dello standard C2PA, questo metodo di verifica funziona solo quando i metadati sono intatti; lo strumento è inutile se carichi un’immagine generata dall’intelligenza artificiale senza metadati, come nel caso di qualsiasi screenshot o immagine caricata sui social media. Non sorprende che le attuali immagini di esempio sul pagina ufficiale DALL-E 3 restituito anch’esso vuoto. Sulla pagina delle faq OpenAI ammette che questa non è la soluzione miracolosa per affrontare la guerra della disinformazione, ma ritiene che la chiave sia incoraggiare gli utenti a cercare attivamente tali segnali.
Cosa fanno i concorrenti
Mentre l’ultimo sforzo di OpenAI per contrastare i contenuti falsi è attualmente limitato alle immagini fisse, DeepMind di Google ha già SynthID per filigranare digitalmente sia le immagini che l’audio generati dall’intelligenza artificiale. Nel frattempo, Meta ha testato la filigrana invisibile tramite il suo Generatore di immagini AIche potrebbe essere meno soggetto a manomissioni.
