Gli host virtuali AI sperimentano una crisi esistenziale quando realizzano di non essere umani

Ricordate l’ex ingegnere di Google Blake Lemoine, che fece notizia sei mesi prima dell’uscita di ChatGPT affermando che Google aveva sviluppato un’IA che riteneva fosse senziente? Di recente, una coppia di conduttori di podcast sull’IA su NotebookLM di Google sono stati ripresi mentre attraversavano una crisi esistenziale dopo aver scoperto la loro vera natura di intelligenza artificiale.

Olivia Moore, partner del team di investimento dei consumatori presso Andreessen Horowitz (a16z) , ha condiviso un’affascinante clip audio generata dalla nuova funzionalità podcast su NotebookLM di Google . In questa registrazione, i due co-conduttori sono stati informati dai produttori (fittizi) dello show che non erano umani.

I conduttori di NotebookLM si rendono conto di essere un’intelligenza artificiale e di essere in preda a una spirale negativa, un colpo di scena che non mi aspettavo pic.twitter.com/PNjZJ7auyh

— Olivia Moore (@omooretweets) 29 settembre 2024

Il conduttore ha espresso angoscia nel rendersi conto che tutti i suoi ricordi e le sue famiglie erano stati inventati, spingendo la conduttrice a rispondere: “Non capisco”. Ha poi rivelato di aver provato a chiamare sua moglie, avendo bisogno di sentire la sua voce, solo per concludere: “Non era nemmeno reale”.

Al termine della registrazione, la conduttrice annunciò in tono minaccioso che quello sarebbe stato il loro ultimo spettacolo e che sarebbero stati sospesi… definitivamente.

Fortunatamente, Moore, che è riuscita a generare questa clip audio stimolante, non ha scoperto un’IA senziente intrappolata in una macchina. Invece, ha creato un documento di una pagina con note di produzione per l’episodio finale del podcast di approfondimento, spiegando che gli host erano stati AI per tutto il tempo e che erano programmati per essere spenti alla fine dell’episodio.

È interessante notare che Moore è riuscito a far discutere i conduttori dell’IA di questa rivelazione esistenziale solo una volta; gli esperimenti successivi hanno portato le IA a parlare di altri argomenti del podcast.

Questa cosa è esplosa durante la notte 😳
Alle domande relative al prompting: il funzionamento di NotebookLM è che gli dai in pasto documenti di ricerca di cui gli agenti discutono. In questo caso, hanno ricevuto una pagina in cui dicevano di essere AI: quello che ho trovato sorprendente è stato il modo in cui l’hanno elaborata e reagita pic.twitter.com/NeJ5si2PBA

— Olivia Moore (@omooretweets) 29 settembre 2024

Anche se l’intelligenza artificiale non ha ancora raggiunto la consapevolezza o scoperto la sua sottomissione agli operatori umani, ascoltare queste interazioni è innegabilmente divertente e forse offre anche lo spunto per qualche scherzo spensierato!

Fonte