Prossime filigrane invisibili per le immagini generate da DALL-E sul servizio Azure OpenAI

I modelli DALL-E di OpenAI sono in grado di generare immagini da prompt di testo. Azure OpenAI Service fornisce l’accesso API REST ai modelli DALL-E di OpenAI, consentendo agli sviluppatori di creare immagini a livello di programmazione all’interno delle loro applicazioni. Oggi, Microsoft ha annunciato un’innovativa funzionalità integrata all’interno di Azure OpenAI Service nota come “Watermark”. Questa nuova funzionalità Watermark aggiungerà filigrane invisibili a tutte le immagini prodotte utilizzando DALL·E, migliorando la trasparenza e salvaguardando le immagini generate dall’IA.

La recente impennata nei modelli di generazione delle immagini ha portato a un notevole aumento della disinformazione e alla proliferazione di deepfake generati dall’IA. Pertanto, la capacità di riconoscere i contenuti generati dall’IA è diventata cruciale. La filigrana invisibile di recente introduzione, incorporata nelle immagini generate dall’IA, può essere rilevata utilizzando strumenti specializzati, ma rimane non rilevabile a occhio nudo, preservando l’integrità dell’immagine. Inoltre, l’integrità della filigrana rimane intatta anche se l’immagine generata dall’IA viene ridimensionata o ritagliata.

Le filigrane invisibili conterranno metadati sull’origine dell’immagine, rappresentati tramite un manifesto collegato all’immagine. Questo manifesto è firmato crittograficamente da un certificato che fa riferimento ad Azure OpenAI Service e includerà i seguenti dettagli:

• “descrizione” – Questo campo indica “Immagine generata dall’IA” per tutte le immagini prodotte dai modelli DALL-E, confermando la natura generata dall’IA dell’immagine.
• “softwareAgent” – Questo campo indica “Azure OpenAI DALL-E” per tutte le immagini create dai modelli della serie DALL-E integrati nel servizio Azure OpenAI.
• “quando” : questa marca temporale indica quando sono state stabilite le credenziali del contenuto, evidenziando le somiglianze con altri servizi di Azure AI.

Non è la prima volta che Microsoft implementa filigrane. L’anno scorso, Microsoft ha lanciato filigrane per output vocali generati con la funzionalità vocale personale di Azure AI Speech, consentendo agli utenti di discernere se il parlato è stato sintetizzato tramite Azure AI Speech.

Inoltre, Microsoft sta collaborando con altri importanti attori del settore dell’intelligenza artificiale, tra cui Adobe, Truepic e BBC, per garantire la coerenza nella filigrana, nei metadati crittografici e nelle tecniche di rilevamento sulle varie piattaforme.

Questa iniziativa di Microsoft rappresenta un passo fondamentale verso l’implementazione responsabile della tecnologia AI e la lotta all’uso improprio dei contenuti generati dall’AI.

Fonte