Civitai, un mercato online per la condivisione di modelli di intelligenza artificiale, ha appena introdotto una nuova funzionalità chiamata “taglie” per incoraggiare la sua comunità a sviluppare deepfake accettabili di persone reali, come originariamente riportato da 404 mezzi. Chiunque inventi il miglior modello di intelligenza artificiale ottiene una valuta virtuale chiamata “Buzz” che gli utenti possono acquistare con denaro reale.
Molti dei premi pubblicati sul sito chiedono agli utenti di ricreare le sembianze di celebrità e influencer dei social media, la maggior parte dei quali donne. Il rapporto definisce inoltre la maggior parte di questi risultati come “immagini sessuali non consensuali”. Questo è il genere di cose che proliferano su Internet da anni e anni, ma l’intelligenza artificiale consente un risultato finale più realistico. Inoltre, 404 mezzi ho trovato alcune richieste di privati senza presenza online significativa, rendendo la cosa ancora più inquietante.
«Ho molta paura di quello che può diventare», ha detto Michele Alves, influencer di Instagram che ha una taglia su Civitai 404 mezzi. “Non so quali misure potrei adottare, dato che Internet sembra un luogo fuori controllo.”
Secondo la società di mercato Andreessen Horowitz, Civitai è la settima piattaforma di IA generativa più popolare al momento. In altre parole, ci sono molti occhi puntati su queste richieste di taglie. Ci sono voluti solo membri dello staff 404 mezzi momenti per reperire immagini inviate tramite una richiesta di ricompensa a un privato con account personali sui social media che vantano solo pochi follower. La persona che ha pubblicato la taglia ha affermato che si trattava di sua moglie, ma i suoi account sui social media hanno detto il contrario. Grossolano.
Un utente di Civitai ha rifiutato la ricompensa con la motivazione che “chiedeva problemi legali in futuro”. A tal fine, Virginia semplicemente ha aggiornato le sue leggi sul porno vendetta punire i creatori di deekfake con fino a un anno di carcere. Tuttavia, questa particolare richiesta è stata soddisfatta e diverse immagini sono state caricate sul sito, sebbene non fossero di natura sessuale.
Vale la pena notare che pochissime richieste di taglia affermano specificamente che chi ha postato cerca materiale sessuale, esprimendo la richiesta in un linguaggio vago. Alcuni, tuttavia, vanno all-in, usando termini come “richiesta degenerata” insieme a commenti sulla dimensione del seno femminile. Civitai, da parte sua, afferma che questi doni non dovrebbero essere utilizzati per creare immagini sessuali non consensuali di persone reali generate dall’intelligenza artificiale.
Tuttavia, sono consentite sia immagini sessuali di personaggi rivolti al pubblico sia immagini non sessuali di persone normali. Dopodiché, è solo questione di combinare i due. 404 mezzi ha utilizzato lo strumento text-to-image dell’azienda per creare immagini sessuali non consensuali di una persona reale “in pochi secondi”.
