Microsoft sta esaminando alcuni filtri aggressivi dei contenuti in Bing Image Creator

Pochi giorni fa, dopo che Microsoft ha annunciato di aver aggiunto il modello DALL-E 3 di OpenAI al suo art maker Bing Image Creator, il servizio ha subito enormi rallentamenti nella generazione di immagini a causa di così tante persone che volevano provarlo. Microsoft ha dichiarato che stava aggiungendo molte più GPU nei suoi data center per cercare di realizzare immagini più velocemente.

Ora, sembra che Microsoft potrebbe dover affrontare un altro problema, poiché molte persone online stanno riscontrando avvisi di contenuto sui messaggi di testo in Bing Image Creator, su parole che sembrano abbastanza normali.

Jez Corden ha scritto un articolo su Windows Central su questo problema attuale. Ha affermato che la frase “l’uomo rompe il rack del server con una mazza” è stata contrassegnata dal servizio. Anche un altro utente su Reddit che ha digitato “un gatto con un cappello da cowboy e stivali” ha ricevuto un messaggio di violazione dei contenuti questo fine settimana.

Tuttavia, sembra che Microsoft sia almeno a conoscenza di questa situazione. Quando una persona su X (ex Twitter) ha chiesto a Mikhail Parakhin, attuale capo di Microsoft Windows, informazioni su questi messaggi di contenuto aggressivo su Bing Image Creator, la breve risposta di Parakhin è stata “Hmm. Questo è strano – controllare”.

Hmm. Questo è strano: controllare

— Mikhail Parakhin (@MParakhin) 8 ottobre 2023

Sembra chiaro che sia successo qualcosa ai guardrail dei contenuti di Bing Image Creator. Tuttavia, questa non è la prima volta che ciò accade. Subito dopo aver lanciato l’AI art maker a marzo , Microsoft è stata così aggressiva nel monitorare i contenuti che semplicemente digitando la parola “Bing” avrebbe attivato un messaggio di violazione .

All’epoca, Parakhin scrisse che il lancio era intenzionale, affermando su X : “siamo consapevoli che Bing Image Creator è eccessivamente restrittivo con le query sensibili, dovevamo essere sul sicuro al momento del lancio”. Questa situazione attuale sembra non funzionare. essere intenzionale quindi spero che questo venga risolto presto.