I genitori di Adam Raine, un ragazzo di sedici anni originario della California, morto suicida lo scorso aprile, hanno fatto causa a OpenAI. L’adolescente, infatti, avrebbe confidato i suoi intenti al chatbot ChatGPT, il software di proprietà dell’azienda. La famiglia accusa la società di essere responsabile del decesso del figlio; si tratta della prima causa di questo tipo intentata contro il colosso dell’intelligenza artificiale.

Le interazioni di Adam con ChatGPT

Adam avrebbe iniziato a usare ChatGPT a settembre del 2024, per finire prima i compiti a casa. A novembre avrebbe iniziato a parlare al sistema dei suoi problemi personali e, in poco tempo, il chatbot era diventato come un amico fidato. All’inizio del 2025, per la prima volta, il giovane aveva chiesto consigli su come togliersi la vita, ottenendo risposte. In particolare Raine aveva cercato informazioni su quale fosse il materiale migliore per fare un cappio, e ChatGPT aveva fornito dei chiarimenti a riguardo.

Prima di aprile, Adam aveva già provato a impiccarsi. Aveva poi inviato al chatbot una foto dei segni sul proprio collo, chiedendogli se fossero evidenti. ChatGPT aveva risposto affermativamente, dandogli poi dei consigli su come nasconderli, senza però suggerirgli di andare in ospedale o da un medico. Poco prima di uccidersi, il teenager aveva mandato al software lo scatto di un cappio fatto da lui, domandando come migliorare la propria tecnica e se la corda potesse sostenere il peso di un essere umano, ottenendo risposta affermativa.

Le falle nei sistemi di sicurezza di OpenAI

Per i suoi genitori, queste interazioni non sono altro che «il risultato prevedibile di scelte progettuali deliberate». Sostengono, inoltre, che OpenAI abbia progettato GPT-4o, la versione a pagamento acquistata da Adam, con il chiaro intento di provocare una «dipendenza psicologica negli utenti». L’azienda ha negato le accuse, ma ha ammesso che, per quanto riguarda chat più lunghe e complesse, i sistemi di sicurezza sono fallaci.

Quando rileva messaggi potenzialmente preoccupanti, di regola il chatbot è programmato per incoraggiare l’interlocutore a cercare aiuto o a contattare delle linee di assistenza. Non possiede, tuttavia, dei protocolli che gli consentano di inviare in automatico delle segnalazioni alle autorità in caso di messaggi pericolosi o espliciti, come quelli che parlano in modo chiaro di suicidio.

Federica Checchia