Google sospende temporaneamente la generazione di immagini in Gemini a causa di preoccupazioni legate ai pregiudizi

La scorsa settimana, l’intelligenza artificiale conversazionale di Google, Gemini, è stata messa sotto esame per aver mostrato parzialità nella sua capacità di generare immagini di persone. Gli utenti hanno riferito che quando hanno chiesto ai Gemelli di illustrare persone in contesti storici o scenari immaginari, l’intelligenza artificiale aveva maggiori probabilità di rappresentare figure con tonalità della pelle più scure. Ciò ha sollevato legittime preoccupazioni circa potenziali distorsioni nel sistema.

In una dichiarazione, Google ha riconosciuto che Gemini non ha ottenuto buoni risultati nel rappresentare persone di diverse etnie e background in modo equilibrato e inclusivo. L’azienda ha deciso di disabilitare temporaneamente la capacità del suo chatbot AI di generare immagini per le persone.

Google ha affermato che l’inclusione e la diversità sono principi estremamente importanti per essa. L’azienda non voleva che le sue tecnologie si propagassero o fossero in alcun modo suscettibili di pregiudizi nel mondo reale.

Stiamo già lavorando per risolvere i recenti problemi con la funzionalità di generazione delle immagini di Gemini. Mentre lo facciamo, metteremo in pausa la generazione delle immagini delle persone e presto pubblicheremo nuovamente una versione migliorata. https://t.co/SLxYPGoqOZ

— Comunicazioni Google (@Google_Comms) 22 febbraio 2024

Quando gli utenti ora chiedono a Gemini di creare un’immagine, ricevono un messaggio che spiega che la funzionalità non è attualmente disponibile ma verrà ripristinata una volta che i problemi di parzialità saranno stati adeguatamente risolti.

Gli esperti hanno affermato (tramite AP News ) che i generatori di immagini AI lottano con la diversità a causa di pregiudizi nei loro dati di addestramento, che spesso mancano di rappresentazioni di persone di ogni provenienza. Google sembra determinato a risolvere queste limitazioni in Gemini prima di riattivare la funzionalità. Vuole garantire che il sistema possa rappresentare tutti i tipi di persone in modo obiettivo ed equilibrato.

La mossa è vista come un passo proattivo verso il rendere le tecnologie di intelligenza artificiale giuste e inclusive . Nell’ambito di questo movimento, a febbraio il governo degli Stati Uniti ha adottato misure per promuovere lo sviluppo sicuro dell’intelligenza artificiale generativa. Apple, OpenAI e Microsoft si sono uniti al primo consorzio in assoluto per affrontare i protocolli relativi all’intelligenza artificiale.