Con l’avvento degli strumenti di intelligenza artificiale in grado di creare rapidamente immagini e video modificati, creare immagini false per diffondere disinformazione politica che porti alle imminenti elezioni presidenziali americane è diventato più facile che mai. Secondo Midjourney, la soluzione a questo problema potrebbe essere quella di vietare del tutto le immagini politiche Bloomberg. David Holz, CEO di Midjourney, avrebbe detto agli utenti durante una sessione di chat su Discord che la società è vicina a vietare immagini come quelle di Biden e Trump nei prossimi 12 mesi.
“So che è divertente realizzare foto di Trump: io faccio foto di Trump”, ha detto agli utenti che hanno partecipato alla sessione. “Trump è esteticamente molto interessante. Tuttavia, probabilmente è meglio non farlo, meglio tirarsi fuori un po’ durante queste elezioni. Vedremo.” COME Bloomberg osserva, le persone avevano precedentemente utilizzato l’intelligenza artificiale dell’azienda per generare deepfake dell’arresto di Trump. L’azienda si sono concluse le prove gratuite per il suo generatore di immagini AI dopo che quelle immagini – insieme a quei famigerati deepfake del papa che indossava un cappotto ispirato a Balenciaga – sono diventate virali.
A cosa si pensa
Al momento, la società ha già in vigore norme che vietano la creazione di “personaggi pubblici fuorvianti” e “rappresentazioni di eventi” con il “potenziale di indurre in errore”. Bloomberg era comunque in grado di creare immagini modificate di Trump coperto di spaghetti utilizzando la versione precedente del sistema di Midjourney, mentre la versione più recente si rifiutava di generare immagini modificate dell’ex presidente. Naturalmente, anche se Midjourney vietasse le immagini di politici di alto profilo, proteggerebbe solo la sua piattaforma dall’attirare l’ira dei critici e dal diventare al centro dell’attenzione in questa stagione elettorale. Ciò non impedirà l’uso di strumenti di intelligenza artificiale nelle campagne di disinformazione politica o la diffusione di informazioni false intese a manipolare le elezioni nel loro complesso.
Un problema complesso
Anche altre aziende tecnologiche hanno adottato misure per contribuire a prevenire la disinformazione politica, o almeno per facilitarne l’identificazione. ChatGPT inizierà presto taggare le immagini creato utilizzando DALL-E 3, mentre Meta lo è lavorare per svilupparsi tecnologia in grado di rilevare e indicare se un’immagine, un video o una clip audio è stata generata utilizzando l’intelligenza artificiale.
