OpenAI starebbe lavorando al lancio di una nuova modalità “adult” per ChatGPT, una funzione pensata per consentire conversazioni con temi più maturi tra utenti adulti, ma che sta già generando un acceso dibattito anche all’interno della stessa azienda.
Secondo quanto riportato dal Wall Street Journal, l’azienda guidata da Sam Altman avrebbe deciso di proseguire nello sviluppo di questa modalità nonostante alcune forti perplessità espresse da consulenti e membri del gruppo di esperti che affiancano la società.
L’idea alla base della funzione è quella di permettere agli utenti adulti di avviare conversazioni testuali con contenuti a tema erotico. Tuttavia la funzione sarà limitata esclusivamente al testo: il sistema non genererà immagini, video o audio di natura sessuale.
Secondo OpenAI, questo tipo di interazioni rientrerebbe più nella categoria di contenuti “espliciti” o contenuti per adulti piuttosto che nella pornografia vera e propria.
Una svolta rispetto alle regole iniziali di ChatGPT
Quando ChatGPT è stato lanciato nel novembre 2022, la piattaforma vietava completamente la generazione di contenuti erotici o classificati come NSFW (Not Suitable For Work). Negli ultimi anni però OpenAI ha iniziato a valutare un approccio più flessibile.
L’obiettivo dichiarato sarebbe quello di offrire maggiore libertà agli utenti adulti, mantenendo allo stesso tempo una forte protezione per i minori.
Lo stesso Altman aveva anticipato su X che l’azienda stava esplorando la possibilità di consentire più libertà di espressione agli adulti, pur mantenendo limiti chiari per impedire contenuti dannosi o illegali.
Il lancio della modalità adult è stato rimandato
Al momento non esiste una data ufficiale di lancio per questa funzione. In origine la modalità era prevista entro la fine di marzo, ma OpenAI ha deciso di rimandare il progetto per concentrarsi su altri aspetti della piattaforma.
Tra le priorità indicate dall’azienda ci sono miglioramenti dell’intelligenza del modello, aggiornamenti della personalità del chatbot, nuove funzioni di personalizzazione e un’esperienza più proattiva per gli utenti.
Secondo OpenAI, il rinvio serve proprio a sviluppare la modalità adult nel modo più sicuro possibile.
Le preoccupazioni degli esperti
La decisione non ha convinto tutti. Durante una riunione interna con il consiglio consultivo della società, diversi esperti hanno espresso timori sui possibili effetti della funzione.
Tra le principali preoccupazioni c’è la possibilità che alcuni minori riescano ad aggirare i sistemi di controllo dell’età e accedere comunque alle conversazioni per adulti.
Secondo alcune fonti citate dal giornale americano, il sistema di previsione dell’età utilizzato dalla piattaforma potrebbe classificare in modo errato gli utenti circa il 12% delle volte. In pratica alcuni minorenni potrebbero essere identificati come adulti.
Questo rischio ha portato alcuni consulenti a sostenere che i controlli attuali non siano ancora sufficienti per garantire una protezione completa.
Il timore di dipendenza emotiva
Un’altra preoccupazione riguarda il possibile rapporto emotivo che alcuni utenti potrebbero sviluppare con il chatbot. Gli esperti hanno sottolineato che conversazioni intime o molto personali con un’intelligenza artificiale potrebbero generare una forma di dipendenza emotiva.
Secondo alcuni consulenti citati nel report, esiste il rischio che certe dinamiche possano trasformare il chatbot in una sorta di supporto emotivo improprio in situazioni delicate.
Proprio per questo motivo OpenAI sta lavorando a nuove tecnologie per migliorare i sistemi di verifica dell’età e rafforzare i controlli sui contenuti.
Il tema dell’intelligenza artificiale e dei contenuti sessuali
La questione non riguarda soltanto OpenAI. Nel mondo dell’intelligenza artificiale il tema dei contenuti sessuali generati dalle macchine sta diventando sempre più centrale.
Alcuni sistemi di AI sono già stati criticati per aver generato contenuti sensibili o immagini non consensuali. In altri casi le piattaforme sono state accusate di non avere controlli sufficienti nelle conversazioni con utenti più giovani.
Con la possibile introduzione della modalità adult, OpenAI entra quindi in uno dei dibattiti più delicati dell’ecosistema AI: trovare un equilibrio tra libertà di utilizzo, sicurezza e protezione delle persone più vulnerabili.
