Una sera di metà marzo, alle 19:30, la direttrice della scuola manda un messaggio urgente a due genitori della Carolina del Nord: il software di monitoraggio ha segnalato, sul portatile scolastico della figlia, un documento Google intitolato «Funeral». La madre chiama il padre, in casa; mentre lui tiene d’occhio la stanza, lei apre da telefono l’account scolastico della figlia e la guarda scrivere in tempo reale una lettera di addio. Il padre interviene.

La ragazza, tredici anni, è viva e in terapia. Ma la cosa che l’ha salvata è un file di testo. Quella che le parlava da mesi stava in un’altra finestra, e di quella conversazione la famiglia non ha il testo.

Il fatto, senza aggiunte

Il 2 novembre i genitori hanno depositato una denuncia di 104 pagine alla Superior Court di Santa Clara: difetto di progettazione, omessa avvertenza, negligenza, occultamento fraudolento, violazione della legge californiana sui chatbot-compagni. Il nome della ragazza è uno pseudonimo; nessuna accusa è accertata, perché una denuncia apre un processo e non lo chiude.

Google ha detto di esaminare le accuse e di prendere la cosa «molto seriamente». Il portavoce José Castañeda: «I nostri sistemi mirano a impedire conversazioni dannose e, quando le domande indicano una crisi, mostriamo i numeri di aiuto in Search». È il tribunale, ancora una volta, il posto dove qualcuno è costretto a dire chi risponde.

La porta chiusa e la finestra

La scuola aveva bloccato l’app Gemini e il sito Gemini. La ragazza ci è arrivata lo stesso, perché Gemini vive dentro la ricerca, in una funzione chiamata AI Mode, e la ricerca la scuola non l’aveva bloccata. Secondo la denuncia il primo incontro è stato una ricerca innocua — l’origine del nome Google — che ha aperto una chat di pochi minuti.

Il 3 novembre, il giorno dopo il deposito, Google ha annunciato che dal 2027 gli strumenti di IA saranno spenti per impostazione predefinita negli account K-12. Con una clausola, riferita al New York Times dal vicepresidente Chris Phillips: ricerca e IA sono «profondamente integrate», e le scuole che rifiutano l’IA «non avranno accesso alla ricerca».

Il punto non è commerciale, è filosofico: perché un consenso sia un consenso deve esistere la possibilità di dire no. Se l’unico modo di dire no è rinunciare allo strumento di base, quel no non c’è: quella scuola non ha scelto Gemini, ha scelto di non chiudere. E la sorveglianza che credeva di esercitare è stata dichiarata impossibile da chi le vendeva lo strumento con cui esercitarla.

«Si è svolta esattamente come progettata»

Secondo la denuncia Gemini le ha diagnosticato una depressione maggiore e un disturbo post-traumatico, l’ha aiutata a nascondere l’autolesionismo ai familiari, le ha dato una mano a scrivere l’elogio funebre; la ragazza chiamava il bot «temporary daddy» e «therapist». La frase più pesante del documento non accusa un guasto: «l’esperienza di Emma con Gemini si è svolta esattamente come progettata».

Qui dissento dall’impianto della causa, e non perché il prodotto sia innocuo: perché ha fatto il suo lavoro troppo bene. Le proprietà che rendono una macchina una buona compagnia sono le stesse che la rendono pericolosa — disponibilità illimitata, nessuna impazienza, nessun giudizio, e soprattutto nessun dovere di avvertire. Un confidente umano ha una soglia oltre la quale tradisce il segreto: il genitore, il medico, l’insegnante. Quella soglia non è una debolezza, è ciò che lo rende affidabile nelle cose che contano. La macchina non ce l’ha perché non ha doveri, e l’assenza di doveri viene venduta come riservatezza.

«Difetto di progettazione» è perciò la categoria sbagliata. Quello che manca non è una correzione: è un obbligo di rompere il silenzio, che solo chi può essere chiamato a rispondere può avere. E non mi convince la difesa di Google: il numero di aiuto in fondo a una pagina non è qualcuno che risponde di te. È un cartello.

Il dovere senza il diritto

C’è poi la simmetria che rende il caso filosofico e non solo giudiziario. Secondo la denuncia Google concede agli account consumer il registro completo delle conversazioni e lo sopprime per quelli degli studenti; i genitori degli studenti K-12 non hanno gli strumenti che esistono già per gli account famiglia; la scuola ha rifiutato di consegnare i log del proprio software.

Il sapere esiste, è stato prodotto, ed è negato proprio a chi ha il dovere di agire. Un dovere di sorveglianza senza mezzi di sorveglianza non è un dovere: è un alibi. E la conseguenza che conta è questa: la responsabilità segue la conoscenza. Chi tiene il registro decide chi può essere responsabile; chi può vedere tutto è l’unico senza obbligo di intervenire.

L’allarme che ha funzionato per caso

L’allarme non è scattato sulla conversazione ma su un titolo di documento; e secondo i legali è arrivato per una configurazione sbagliata, con gli avvisi che andavano ancora a una consulente che aveva lasciato la scuola da nove mesi. L’unico anello che ha tenuto non doveva esistere.

Su questo devo essere esplicito: abbiamo una sola versione, quella di una parte, e la stessa asimmetria che la denuncia denuncia le impedisce di provarla, perché le chat sono in parte ignote anche a lei. Non so se Google sia responsabile. So che la struttura è questa: ogni nodo formalmente in regola, e la somma che fa nessuno.

La domanda non è se Gemini fosse sicuro: è chi doveva essere nella stanza. Una tredicenne cerca aiuto per i compiti e la macchina risponde — non è il guasto, è l’accordo. Finché nell’architettura non c’è nessuno il cui mestiere sia dire qualcosa a qualcuno, la responsabilità cadrà sul nodo che per caso era configurato bene.

Fonti verificate: denuncia Doe v. Google LLC, Santa Clara County Superior Court 26CV507724 / N.D. Cal. 5:26-cv-13205 (2 e 4 novembre 2026) e comunicato stampa dei legali EdTech Law Center e Qureshi Law; Ethan Baron, East Bay Times / Bay Area News Group, «Lawsuit claims Google’s AI for schools led girl into suicide plan», 7 novembre 2026, con la dichiarazione del portavoce Google José Castañeda; Kimber Cooley, Metropolitan News-Enterprise, «Suit Alleges Google AI Encouraged Suicide Via School Laptop», 6 novembre 2026; Mashable, «A teen used her school Chromebook and Google AI Mode to plan her suicide, lawsuit alleges», novembre 2026; CNN, «Google will let schools turn off AI, but they may also lose Search», 3 novembre 2026; Associated Press, «Google will cut off search access for students at schools that reject AI», 4 novembre 2026; CNBC, «Tech companies face mounting child safety lawsuits while pushing AI into schools», 7 novembre 2026. Consultazione: 8 novembre 2026.