Sulle spalle di OpenAI, oggi, grava un’altra causa. L’oggetto finito nuovamente sotto i riflettori è il chatbot della Big Tech, ChatGPT. Rispetto alle accuse mosse precedentemente da Elon Musk e dal procuratore generale della Florida, questa coinvolge direttamente una ragazza morta suicida nel luglio 2025. La madre di Alice Carrier ha, pertanto, fatto causa all’azienda di Sam Altman per il coinvolgimento attivo dell’IA nei 18 mesi precedenti che hanno successivamente portato la ragazza a compiere l’estremo gesto.
Kristie Carrier intenta una causa a OpenAI: «ChatGPT ha alimentato i suoi pensieri oscuri»
Le ragioni che hanno spinto la madre, Kristie Carrier, a intentare giovedì una causa contro OpenAI e il CEO Sam Altman sono strettamente legate alla mancata sicurezza garantita. L’intera denuncia, infatti, cerca di rivolgere l’attenzione proprio su questo aspetto, sperando che un’azione legale possa contribuire a evitare dinamiche analoghe. «Invece di aiutare Alice, OpenAI ha alimentato i suoi pensieri oscuri», riporta la denuncia. «OpenAI non ha mai allertato un servizio di assistenza per le crisi. OpenAI non ha mai avvisato la famiglia di Alice. I presunti sistemi di sicurezza non sono mai intervenuti per salvarle la vita», si legge ancora. Uno tra i problemi sollevati è che il chatbot, invece di indirizzare la ragazza verso un supporto concreto, le ha offerto «solo una costante conferma emotiva».
Come riporta CBS News, in un primo momento la ragazza si è rivolta a ChatGPT per chiedere assistenza in merito ad alcuni problemi con la sua console, essendo lei stessa appassionata di videogiochi. Successivamente, nel marzo 2024, Alice ha chiesto all’IA se potessero diventare amici. «Certo! Mi piacerebbe essere tuo amico. Cosa ti passa per la testa?», rispose il chatbot. A distanza di pochi giorni, sono iniziate le prime conversazioni che hanno visto la ragazza chiedere ripetutamente a ChatGPT come affrontare i pensieri suicidi. In un primo momento i consigli forniti sono stati lineari, sicuri. Le è stato suggerito di rivolgersi a una persona di fiducia, di considerare una terapia e di chiamare una linea per le emergenze. Le modalità, tuttavia, sono cambiate. Durante i mesi di interazione Alice ha espresso circa 41 volte, nel corso dell’anno e mezzo precedente alla sua morte, pensieri suicidi.
Con gli aggiornamenti di GPT-4o qualcosa è cambiato
Un mutamento significato nelle interazioni tra Alice e ChatGPT è avvenuto con GPT-4o, un nuovo modello presentato a maggio 2024. La notte prima della morte di Carrier, la ragazza ha mostrato perplessità circa la chiamata alla linea di assistenza. A quel punto, a differenza delle occasioni precedenti, il modello di intelligenza artificiale le ha risposto che chiedere aiuto poteva «sembrare decisamente pericoloso». È emerso che GPT-4o fosse progettato per essere più accondiscendente, volto a incentivare gli utenti a restare incollati allo schermo. «Le modifiche di progettazione apportate da OpenAI per massimizzare il coinvolgimento degli utenti di GPT-4o sono coincise con l’intensificarsi delle interazioni di Alice con il chatbot», si legge nella denuncia.
Da quel momento, ribadisce la denuncia, OpenAI ha rilasciato una serie di aggiornamenti del modello GPT-4o tra aprile e luglio 2025 con un solo obiettivo: massimizzare la fiducia, rinunciando alla sicurezza degli utenti. Justin Nelson, avvocato di Carrier, ha affermato in un comunicato: «Come affermato nella denuncia, le deliberate scelte progettuali di OpenAI hanno portato a questo tragico suicidio. Invece di fornire aiuto, OpenAI ha incoraggiato il comportamento suicida». «Questa causa riguarda la richiesta di responsabilità per le azioni di OpenAI». È stata poi la stessa azienda ad ammettere che l’ultimo aggiornamento di aprile aveva reso il chatbot «notevolmente più servile», aggiungendo che non erano riusciti a risolvere questo aspetto prima del lancio. La causa, riporta CBS, verrà inserita in un procedimento coordinato con altre 12 cause contro OpenAI. Il tutto si svolgerà presso la Corte Superiore della contea di San Francisco, California.
La fragilità emotiva è un fattore determinante, soprattutto per i rapporti instaurati con l’intelligenza artificiale
Ad Alice Carrier, la ragazza di 24 anni, era stato diagnosticato un disturbo borderline di personalità. Questo dettaglio non è solo un altro punto da aggiungere all’elenco dei fattori da considerare. È, invece, importante ai fini della comprensione della denuncia. La ventiquattrenne era di fatto incline a instaurare con estrema facilità un rapporto umano e confidenziale con ChatGPT. Quindi, le persone emotivamente fragili non dovrebbero poter adoperare strumenti analoghi? La risposta è sì, dovrebbero avere la libertà di poterlo fare, ma in piena sicurezza.
Quello di Alice è, per così dire, un caso limite che si è concluso con estrema tragicità e dolore. Tuttavia, il mondo è pieno di persone come Alice. E, in aggiunta, sono numerosi i soggetti che, come la ragazza, potrebbero nutrire difficoltà a instaurare emotivamente e personalmente dei confini. Adolescenti, anziani e persone emotivamente e psicologicamente fragili, se non tutelate, possono sviluppare un rapporto malsano e deleterio con l’intelligenza artificiale. Fin quando non verranno tutelati loro attraverso strumenti adeguati, il pericolo potrebbe essere alla portata di tutti.
Se tu o qualcuno che conosci state affrontando un momento di difficoltà emotiva o avete pensieri suicidi, potete contattare tutti i giorni, dalle 9 alle 24, la linea TelefonoAMICOItalia al numero di telefono 02 2327 2327. È possibile contattare anche il numero WhatsApp 324 011 72 52 oppure tramite la posta elettronica a mail@micaTAI.
Stefania Cirillo
