Le capacità di generazione delle immagini dei Gemelli non sono più forti come una volta grazie a un Nerf di Google

Gemini , il chatbot AI generativo di Google, ha recentemente attraversato una debacle in cui ha finito per generare immagini imprecise e offensive e, in seguito all’istanza, la società ha deciso di indebolire le sue capacità di generazione di immagini fino a quando non sarà trovata una soluzione e i servizi potranno essere ripresi.

I Gemelli si ritrovano in acque calde a causa di una generazione di immagini travagliate di persone di determinate etnie

Google parla di come Gemini sia un’entità di prodotto separata, il che fa sì che non sia direttamente collegata alla Ricerca, ai suoi modelli di intelligenza artificiale e ad altri servizi che fornisce. Una volta pronta l’app, Google ha messo a punto manualmente il modello in modo che la generazione delle immagini potesse essere diversificata invece di mostrare pregiudizi verso determinati gruppi di persone o etnie, ed è logico che Google lo abbia fatto perché è stato fatto per garantire che utenti provenienti da diverse aree del mondo il mondo può utilizzare l’app senza incorrere in grossi problemi.

Tuttavia, nessuna delle contromisure avrebbe potuto impedire ciò che accadde in seguito. Gemini non ha potuto tenere conto dei casi d’uso in cui gli utenti cercavano effettivamente una determinata etnia da includere in un’immagine. Ciò ha portato ad alcuni suggerimenti davvero strani, come un “insegnante nero in una classe”, che ha fatto sì che il modello generasse immagini errate e offensive. In alcuni casi, si rifiutava addirittura di generare immagini. Il motivo è che la modella li considerava sensibili anche se non lo erano.

Allora, qual è la posizione di Google su tutta questa situazione? Ebbene, l’azienda è andata avanti e ha interrotto la capacità di generare immagini di persone in Gemelli. La società ha parlato di come lo consentirà una volta risolto il problema dopo che l’intero modello sarà stato sottoposto a test approfonditi. Google ha anche parlato di come i modelli di intelligenza artificiale non siano perfetti e, nonostante siano avanzati da quando sono stati introdotti, hanno ancora la tendenza ad avere allucinazioni, il che può causare problemi.

Per quanto riguarda la sequenza temporale, Google in realtà non ne ha condivisa una e dovremo aspettare che la generazione dell’immagine Gemini sia attiva e pronta. Ci auguriamo che quando ritornerà, ritorni migliore di prima e molto più bravo a creare immagini.

Fonte notizie: blog di Google