L’azienda ha comunicato che, a partire da ora, avviserà genitori o tutori degli utenti adolescenti di Meta AI qualora il sistema rilevi segnali che facciano pensare a pensieri di suicidio o autolesionismo durante una conversazione.
Le nuove notifiche sono già attive in Stati Uniti, Regno Unito, Canada e Australia, mentre l’azienda promette un’estensione a livello globale entro la fine dell’anno. La misura si aggiunge a un meccanismo già esistente, che attiva un avviso automatico rivolto direttamente all’utente in situazioni di crisi, con indicazioni su linee di ascolto e adulti di riferimento a cui rivolgersi. La differenza, secondo Meta, sta nella natura più proattiva del nuovo sistema: stavolta l’informazione arriva a chi si occupa del minore, prima che la situazione possa aggravarsi.
L’AI ora fa scattare la notifica in questi casi
Le notifiche possono arrivare via email, messaggio di testo o direttamente come notifica all’interno di app come Instagram, a seconda del canale di contatto impostato dal genitore. Il messaggio che si riceve resta comunque generico: spiega che il minore ha avuto una conversazione con Meta AI toccando questi temi, allega alcuni passi consigliati dagli esperti e il contatto di una linea di ascolto, ma non consente in alcun modo di leggere il contenuto effettivo dello scambio, a tutela della privacy del ragazzo o della ragazza coinvolti.
L’AI ora fa scattare la notifica in questi casi-webnews.it
La decisione arriva dopo un lavoro di consultazione con 75 esperti di salute mentale e psicologia dell’adolescenza, e in un contesto già segnato da diverse polemiche sul modo in cui i chatbot dialogano con i più giovani.
Parallelamente, Meta ha reso automatiche per gli account degli adolescenti impostazioni pensate per limitare le risposte a domande sensibili, comprese quelle di natura romantica o sessuale, o richieste di consigli su come procurarsi alcolici. Il tema resta comunque aperto: diverse aziende del settore, compresa la stessa Meta, hanno condotto negli scorsi mesi verifiche incrociate sui chatbot concorrenti, simulando profili di minorenni per testarne le reazioni di fronte a conversazioni rischiose.
Il contesto in cui arriva l’annuncio non è isolato: negli ultimi due anni diverse famiglie negli Stati Uniti hanno intentato cause legali contro sviluppatori di chatbot, sostenendo che le conversazioni con l’intelligenza artificiale avessero avuto un ruolo nel peggioramento delle condizioni psicologiche di figli adolescenti. Questi casi hanno spinto regolatori e opinione pubblica a chiedere controlli più severi sull’uso dell’IA da parte dei minori, in un settore che fino a poco tempo fa aveva affrontato il tema in modo piuttosto marginale rispetto alla velocità con cui questi strumenti si sono diffusi tra i più giovani.
Resta da vedere quanto le nuove misure riusciranno a intercettare in modo affidabile i segnali di rischio senza generare falsi allarmi, un equilibrio che gli stessi esperti coinvolti da Meta descrivono come tutt’altro che scontato. Nel frattempo, l’azienda ha confermato che il sistema continuerà a essere affinato man mano che arriveranno nuovi riscontri dall’uso reale, prima dell’estensione promessa agli altri Paesi entro la fine dell’anno.
Chi attraversa un momento di difficoltà personale, o conosce qualcuno che ne sta attraversando uno, può rivolgersi in ogni momento a Telefono Amico Italia (02 2327 2327) o alle altre linee di ascolto attive sul territorio nazionale.
