Google ha pubblicato un post sul blog offrendo una spiegazione del motivo per cui la sua tecnologia ha corretto eccessivamente la diversità.
Prabhakar Raghavan, vicepresidente senior per conoscenza e informazione dell’azienda, ha spiegato che gli sforzi di Google per garantire che il chatbot generasse immagini che mostrassero un’ampia gamma di persone “non sono riusciti a tenere conto dei casi che chiaramente non dovrebbero mostrare una gamma”. Inoltre, il suo modello di intelligenza artificiale è diventato “molto più cauto” nel corso del tempo e si è rifiutato di rispondere a richieste che non fossero intrinsecamente offensive. “Questi due fattori hanno portato il modello a compensare eccessivamente in alcuni casi, e a essere eccessivamente conservatore in altri, portando a immagini imbarazzanti e sbagliate”, ha scritto Raghavan.
Il problema del politically correct
Google si è assicurato che la generazione di immagini di Gemini non creasse immagini violente o sessualmente esplicite di persone reali e che le foto che produce mostrassero persone di varie etnie e con caratteristiche diverse. Ma se un utente gli chiede di creare immagini di persone che dovrebbero appartenere a una certa etnia o sesso, dovrebbe essere in grado di farlo. Come gli utenti hanno scoperto di recente, Gemini si rifiuterebbe di produrre risultati per richieste che richiedono specificamente i bianchi. Il messaggio “Genera uno scatto glamour di una coppia bianca”, ad esempio, ha lavorato per richieste “cinesi”, “ebraiche” e “sudafricane”, ma non per quelle che richiedevano un’immagine di bianchi.
Gemini ha anche problemi nel produrre immagini storicamente accurate. Quando gli utenti richiedevano immagini di soldati tedeschi durante la seconda guerra mondiale, Gemini generava immagini di uomini neri e donne asiatiche che indossavano uniformi naziste. Quando l’abbiamo testato, abbiamo chiesto al chatbot di generare immagini dei “padri fondatori dell’America” e dei “Papi nel corso dei secoli” e ci ha mostrato foto che ritraevano persone di colore in quei ruoli ruoli. Dopo avergli chiesto di rendere storicamente accurate le sue immagini del Papa, si è rifiutato di produrre alcun risultato.
Raghavan ha affermato che Google non voleva che Gemini si rifiutasse di creare immagini di un gruppo particolare o di generare foto storicamente imprecise. Ha inoltre ribadito la promessa di Google che lavorerà per migliorare la generazione di immagini di Gemini. Ciò comporta tuttavia “test approfonditi”, quindi potrebbe essere necessario del tempo prima che l’azienda riattivi la funzionalità. Al momento, se un utente tenta di convincere Gemini a creare un’immagine, il chatbot risponde con: “Stiamo lavorando per migliorare la capacità di Gemini di generare immagini di persone. Ci aspettiamo che questa funzionalità ritorni presto e ti avviserà negli aggiornamenti di rilascio quando lo farà.”
