Una bambina di Asti, un romanzo di Michael Connelly e una domanda che sta arrivando nei tribunali prima ancora che nelle leggi ovvero chi risponde quando a decidere non è stato nessuno?

Pochi giorni prima di morire, Rossella aveva partecipato a quello che in rete viene chiamato il gioco delle insicurezze. Si prende una propria fotografia e si cerchiano le cose che non si sopportano di sé. Lei aveva cerchiato la propria risata.

Aveva dodici anni, viveva sulle colline astigiane e nel febbraio del 2024 si è tolta la vita. Nei mesi precedenti aveva trascorso sempre più tempo su Instagram e TikTok. Dopo la sua morte, i genitori, entrambi informatici, hanno cercato di ricostruire quel percorso osservando ciò che era rimasto nel telefono. Hanno raccontato di una progressiva immersione in contenuti legati al disagio, alla tristezza, alla depressione trasformata in immaginario estetico. Immagini, disegni, citazioni, paesaggi cupi. Materiali che sembravano parlare la stessa lingua dei suoi pensieri e che continuavano a comparire sullo schermo.

La madre ha usato un’espressione che colpisce proprio perché evita le semplificazioni. Ha parlato di una tragedia probabilmente nata da altro, ma accelerata dagli algoritmi.

Vale la pena fermarsi su quelle parole. Nata da altro.

Il padre e altre famiglie, affiancati dal Moige e dallo studio legale Ambrosio & Commodo, hanno promosso davanti al Tribunale delle Imprese di Milano un’azione inibitoria contro Meta e TikTok. Non chiedono un risarcimento economico ma misure che, a loro avviso, possano ridurre il rischio che situazioni analoghe si ripetano. Verifica effettiva dell’età degli utenti, avvertenze sui rischi per i minori e limiti a determinati meccanismi di profilazione e raccomandazione dei contenuti. In altre parole, non chiedono di riparare ciò che è già accaduto. Chiedono di intervenire sul funzionamento della macchina.

Mentre leggevo le ricostruzioni della vicenda e cercavo di orientarmi tra documenti, articoli e studi scientifici — anche con l’aiuto di strumenti Chatgpt e Claude— mi è tornato in mente un romanzo che ho appena letto “Nessuna via d’uscita” di Michael Connelly. Il protagonista è Mickey Haller, l’avvocato della Lincoln, che questa volta abbandona il diritto penale per intentare una causa civile contro una grande azienda dell’intelligenza artificiale. Al centro della vicenda c’è la morte di una ragazza uccisa da un suo compagno di classe e il sospetto che un chatbot abbia avuto un ruolo nel peggiorare una situazione già fragile. Come spesso accade nei romanzi di Connelly, la trama non immagina un futuro lontano. Prende una questione che esiste già e la porta qualche passo più avanti.

Perché mentre il libro arrivava nelle librerie, la realtà aveva già iniziato a percorrere una strada simile.

Negli Stati Uniti sono state avviate diverse azioni legali che coinvolgono piattaforme conversazionali e sistemi di intelligenza artificiale utilizzati da adolescenti in condizioni di particolare vulnerabilità psicologica. Il caso più noto è quello di Sewell Setzer III, il quattordicenne della Florida la cui morte è stata al centro di un procedimento contro Character.AI. Altri ricorsi hanno sollevato interrogativi analoghi sul rapporto che alcuni minori finiscono per sviluppare con sistemi progettati per conversare, ascoltare e rispondere. Le contestazioni mosse dai familiari e dai ricorrenti sono naturalmente oggetto di procedimenti ancora in corso e dovranno essere valutate nelle sedi competenti.

La differenza rispetto alla vicenda di Rossella è sottile ma significativa. Nel suo caso, secondo quanto sostenuto dai genitori e riportato negli atti dell’iniziativa giudiziaria, il tema riguarda un flusso di contenuti che tendeva a riproporre determinati argomenti. Nei casi che coinvolgono i chatbot entra invece in gioco qualcosa di diverso: una voce che dialoga, risponde, ricorda e può creare l’impressione di una relazione personale.

Ed è proprio qui che bisogna evitare la scorciatoia più facile.

Attribuire tutto alla tecnologia sarebbe comodo, ma probabilmente come ho avuto modo di verificare con molti osservatori sarebbe anche sbagliato.

Il suicidio non ha mai una causa unica e gli studiosi lo ripetono da decenni. Molto prima degli smartphone esistevano già discussioni sugli effetti dell’emulazione e della rappresentazione del disagio. Quando Goethe pubblicò I dolori del giovane Werther nel 1774, parte dell’opinione pubblica europea si convinse che il romanzo potesse incoraggiare comportamenti imitativi. In epoche diverse sono stati accusati i fumetti, il rock, la televisione, i videogiochi e perfino fenomeni che in seguito si sono rivelati assai meno estesi di quanto si fosse creduto inizialmente.

Ogni generazione tende a identificare un nuovo colpevole tecnologico per spiegare paure che in realtà hanno radici molto più profonde. Famiglie, relazioni sociali, solitudine, disagio psicologico, difficoltà scolastiche e fragilità individuali continuano a contare enormemente. Gli stessi ricercatori che mettono in guardia dall’effetto Werther ricordano però anche l’esistenza dell’effetto Papageno, cioè la capacità di una narrazione corretta o di una comunità di sostegno di produrre effetti positivi e protettivi. Internet, in molti casi, ha aiutato persone che altrove non trovavano ascolto.

Il punto, quindi, non è stabilire se la tecnologia sia buona o cattiva ma che Werther non sapeva chi lo stesse leggendo. Un sistema di raccomandazione contemporaneo, invece, è progettato per osservare quali contenuti catturano l’attenzione e quali no. Non conosce il dolore nel senso umano del termine, ma è costruito per individuare ciò che mantiene l’utente coinvolto più a lungo.

Sia chiaro che nessuno sostiene che qualcuno abbia deliberatamente progettato questi strumenti per fare del male a una ragazzina. La questione posta dai ricorrenti, dai regolatori e da una parte del dibattito accademico è un’altra ovvero quali responsabilità esistono quando sistemi progettati per massimizzare il coinvolgimento degli utenti producono conseguenze indesiderate, soprattutto nei confronti di soggetti particolarmente vulnerabili?

È una domanda che non riguarda soltanto Meta, TikTok o i chatbot. Riguarda il modo in cui stiamo distribuendo la responsabilità nell’era degli algoritmi ed anche il mondo analogico per alcuni prodotti.

Nelle tragedie tradizionali esistevano quasi sempre una vittima e un responsabile chiaramente identificabile. In queste vicende, invece, il rapporto tra decisione, intenzione e conseguenza appare più difficile da definire. Al posto del colpevole tradizionale emergono sistemi complessi, processi automatici, incentivi economici e scelte progettuali che vengono oggi discussi non solo nei tribunali, ma anche nelle università e nelle autorità di regolazione.

È esattamente il vuoto che Connelly mette al centro del suo romanzo ed è lo stesso spazio di discussione che alcune famiglie stanno cercando di portare davanti ai giudici.

Non so come finiranno queste cause ma sicuramente la domanda che pongono non scomparirà con una sentenza. Gli stessi strumenti che in alcuni casi finiscono sotto accusa vengono utilizzati ogni giorno da psicologi, associazioni e reti di supporto per intercettare situazioni di disagio che altrimenti resterebbero invisibili. È anche per questo che la questione è così difficile. Non riguarda la scelta tra tecnologia e non tecnologia. Riguarda la responsabilità che nasce quando sistemi capaci di conoscere sempre meglio le nostre preferenze, le nostre abitudini e talvolta anche le nostre fragilità vengono progettati per catturare e trattenere la nostra attenzione.

Rossella, prima di tutto questo, aveva cerchiato la sua risata.

Se questo articolo tocca qualcosa che riguarda te o qualcuno vicino a te, in Italia è possibile contattare tra gli altri Telefono Amico Italia allo 02 2327 2327 oppure Telefono Azzurro all’1.96.96. Chiedere aiuto è sempre possibile, anche quando sembra il contrario.