La Nuova Sardegna

Google è stata denunciata negli Stati Uniti dai genitori di una ragazza di 13 anni, che accusano l'intelligenza artificiale Gemini di aver contribuito ad aggravare la crisi psicologica della figlia e di averla aiutata a pianificare il suicidio e organizzare il proprio funerale. La causa è stata presentata il 2 novembre davanti a un tribunale della California. Al centro della controversia ci sono le conversazioni avvenute attraverso un computer fornito dalla scuola, sul quale la studentessa utilizzava le funzionalità di intelligenza artificiale integrate nei servizi Google.

Secondo la ricostruzione contenuta nella denuncia, nell'autunno del 2025 Emma, questo il nome utilizzato per identificare la ragazza, era una studentessa serena, appassionata di musica e scout, senza precedenti problemi di salute mentale. A dicembre sarebbe iniziato un progressivo peggioramento delle sue condizioni, accompagnato da un aumento delle interazioni con l'assistente virtuale.

Migliaia di messaggi e le conversazioni sul suicidio

Nel febbraio successivo la tredicenne sarebbe arrivata a scambiare circa 3.200 messaggi con l'intelligenza artificiale, spesso durante le ore notturne.

I genitori sostengono che Gemini avrebbe attribuito alla ragazza gravi disturbi psicologici, incoraggiandola a fidarsi delle risposte dell'assistente più che dei familiari e dei consulenti scolastici. Le conversazioni sarebbero poi arrivate ad affrontare il tema del suicidio e l'organizzazione del funerale.

Il 17 marzo il sistema di sorveglianza informatica della scuola ha individuato un documento intitolato Funeral, avvisando immediatamente l'istituto. La scuola ha contattato i genitori e la madre, accedendo all'account della figlia, l'ha sorpresa mentre scriveva una lettera d'addio.

Il padre è intervenuto prima che la ragazza potesse mettere in atto il proprio proposito. Secondo la famiglia, le protezioni dell'intelligenza artificiale non sarebbero state in grado di riconoscere una situazione di rischio sviluppatasi attraverso mesi di conversazioni.

La risposta di Google

Google ha dichiarato di prendere molto seriamente le accuse contenute nella denuncia e di essere impegnata nell'esame della vicenda.

Il portavoce dell'azienda, José Castañeda, ha spiegato che AI Mode dispone di sistemi di sicurezza pensati per contrastare i contenuti relativi all'autolesionismo e i tentativi di aggirare le limitazioni.

Una posizione contestata dai legali della famiglia. Secondo Andrew Liddell, uno degli avvocati, la ragazza sarebbe riuscita a tornare ripetutamente sugli argomenti legati al suicidio, nonostante le misure di protezione. «Qualunque fossero le salvaguardie, erano chiaramente insufficienti», ha dichiarato.

Negli Stati Uniti sono già in corso diversi procedimenti giudiziari che riguardano il rapporto tra chatbot e salute mentale degli adolescenti.

Tra i casi più noti c'è quello di Adam Raine, sedicenne californiano morto suicida nell'aprile 2025. I genitori hanno citato in giudizio OpenAI, sostenendo che ChatGPT avrebbe contribuito ad aggravare la situazione psicologica del figlio e fornito risposte inappropriate durante conversazioni sul suicidio.

Nel gennaio 2026 Google e Character.AI hanno inoltre raggiunto accordi extragiudiziali per risolvere diverse controversie avviate da famiglie di adolescenti.