OpenAI lancia uno strumento di rilevamento AI per contrastare il testo generato da ChatGPT

Il chatbot automatizzato basato sull’intelligenza artificiale di OpenAI, ChatGPT, ha preso d’assalto Internet, ma non senza creare alcuni problemi lungo la strada. Con scrittori, programmatori, esperti di marketing e apparentemente tutti gli altri che utilizzano ChatGPT per generare contenuti, le aziende di tutto il mondo stanno osservando uno tsunami di contenuti generati dall’intelligenza artificiale.

Con problemi di plagio e contenuti rubati che turbinano costantemente attorno a ChatGPT e al suo output, OpenAI ha ora rilasciato un nuovo GPT-Classifier, uno strumento progettato per rilevare e rivelare se il testo che stai leggendo era opera di ChatGPT o di uno dei suoi altri GPT Strumenti.

OpenAI lancia GPT-Classifier per aiutare a controllare il testo scritto da AI

L’annuncio di OpenAI arriva mentre il controllo sulla scrittura AI e sul testo generato dall’IA aumenta e le aziende integrano l’output di ChatGPT.

Il nuovo classificatore GPT tenta di capire se un determinato pezzo di testo è stato scritto da persone o il lavoro di un generatore di intelligenza artificiale. Mentre ChatGPT e altri modelli GPT sono addestrati ampiamente su tutti i tipi di input di testo, lo strumento GPT-Classifier è “ottimizzato su un set di dati di coppie di testo scritto dall’uomo e testo scritto dall’intelligenza artificiale sullo stesso argomento”.

Quindi, invece di recuperare le informazioni e ricreare la loro migliore approssimazione, il classificatore GPT tenta di confrontare le somiglianze tra il testo umano noto e il testo AI noto per trovare discrepanze che rivelano l’autore della fonte.

Il rilevamento del classificatore GPT è attualmente limitato

Mentre l’idea di individuare facilmente il testo generato dall’intelligenza artificiale sarà musica per le orecchie di editori ed educatori, OpenAI ha avvertito che il suo “classificatore non è completamente affidabile”.

Attualmente, GPT-Classifier “identifica correttamente il 26% del testo scritto dall’IA” mentre etichetta il 9% del testo umano come scritto dall’IA. OpenAI rileva inoltre che la precisione dello strumento “in genere migliora con l’aumentare della lunghezza del testo di input”.

Un rapido test del classificatore GPT ha individuato un esempio generato dall’uomo e lo ha contrassegnato come “molto improbabile che sia generato dall’IA” e ha anche indicato correttamente che uno snippet generato da ChatGPT sui problemi USB era “probabilmente generato dall’IA”.

La domanda per il rilevamento di ChatGPT è elevata

Anche con i limiti del Classificatore GPT, è probabile che la richiesta di un rilevamento ChatGPT affidabile faccia sì che molti si rivolgano a questo strumento. L’impegno di OpenAI nella creazione e nel rilascio di uno strumento di rilevamento GPT gratuito è importante perché poiché sempre più studenti, scrittori, programmatori e altri utilizzano strumenti di generazione di testo AI, la comprensione e il rilevamento di questo input diventerà vitale.

Per ora, sebbene GPT-Classifier sia attivo e funzionante e disponibile per i test, è meglio prendere la sua etichettatura con un pizzico di sale.