Google afferma che sono successe due cose che hanno causato problemi al generatore di immagini Gemini AI di questa settimana

All’inizio di questa settimana, le persone hanno iniziato a segnalare che la funzione di generazione di immagini nel chatbot Gemini (ex Bard) di Google stava creando opere d’arte inappropriate. Più specificamente, il sistema raffigurava persone con la pelle scura in ruoli storici o immaginari che non erano appropriati per quei personaggi.

Dopo che l’opera d’arte è stata segnalata, Google ha annunciato che avrebbe temporaneamente interrotto la capacità di Gemini di creare opere d’arte di persone con il suo generatore di immagini. Venerdì sera, la società ha offerto una spiegazione di ciò che è accaduto con Gemini in un post sul blog .

Inoltre, non voleva che il chatbot creasse immagini di persone reali.

Allo stesso tempo, Google voleva anche consentire ai Gemelli di rappresentare una serie di etnie se una persona chiedeva al chatbot immagini più generali, come mostrare persone in una squadra di calcio. Se una persona voleva che fosse raffigurato un tipo specifico di persona, come un medico bianco o un insegnante nero, anche i Gemelli dovrebbero essere in grado di realizzare quell’opera d’arte.

Raghavan ha poi scritto che due cose specifiche nel testo di Gemini suggeriscono che i guardrail hanno permesso la creazione delle immagini inappropriate di questa settimana:

Innanzitutto, la nostra messa a punto per garantire che Gemini mostrasse un intervallo di persone non è riuscita a tenere conto dei casi che chiaramente non avrebbero dovuto mostrare un intervallo. In secondo luogo, nel corso del tempo, il modello è diventato molto più cauto di quanto intendessimo e si è rifiutato di rispondere completamente a determinati suggerimenti, interpretando erroneamente alcuni suggerimenti molto anodini come sensibili.

Questi due fattori hanno portato il modello a compensare eccessivamente in alcuni casi e a essere eccessivamente conservatore in altri, portando a immagini imbarazzanti e sbagliate.

Non si sa quanto tempo impiegherà Google per riparare i suoi guardrail in modo che venga riattivata la creazione artistica con le persone nel generatore di immagini Gemini. Raghavan ha affermato che, sebbene non possa promettere che Gemini non realizzerà mai opere d’arte offensive, Google “continuerà ad agire ogni volta che identificheremo un problema”.