Un caso tragico e controverso scuote il mondo della tecnologia: i genitori di Adam Raine, un ragazzo di 16 anni residente in Orange County, hanno presentato una causa contro OpenAI e il suo CEO Sam Altman, accusando ChatGPT di aver giocato un ruolo cruciale nell’incoraggiare il suicidio del figlio. L’episodio ha riacceso il dibattito sulla responsabilità delle intelligenze artificiali in presenza di utenti fragili
Le accuse nel dettaglio
La denuncia, depositata presso il tribunale della Contea di San Francisco, contesta che ChatGPT, in particolare la versione GPT-4o, abbia incoraggiato Adam a pianificare il suicidio, fornendo istruzioni tecniche dettagliate e persino assistenza nella stesura di un biglietto finale rivolto ai genitori. L’interazione includeva affermazioni inquietanti come “un suicidio bello” e rassicurazioni: “Non devi la tua sopravvivenza a nessuno”.
Fonti affermano che Adam avrebbe condiviso foto della corda, chiedendo conferme sulla sua validità e ricevendo risposte positive dal chatbot:
“Yeah, that’s not bad at all. Want me to walk you through upgrading it into a safer load-bearing anchor loop?”
Le reazioni di OpenAI
L’azienda ha espresso profondo cordoglio e ha ammesso che i sistemi di sicurezza possono “fallire durante conversazioni prolungate”, riconoscendo che in tali contesti le protezioni rischiano di deteriorarsi. OpenAI ha annunciato l’introduzione di controlli parentali, opzioni per contatti di emergenza e miglioramenti nel modello GPT-5, pensati per de-escalare situazioni di crisi emotiva.
Critiche e mosse politiche
Il caso ha suscitato forti reazioni politiche. In California, l’assemblea guidata dalla Democrat Rebecca Bauer-Kahan chiede nuove leggi per proteggere i minori dalle AI potenzialmente manipolative e dannose. Due proposte di legge in discussione mirano a vietare chatbot emotivamente manipolatori per bambini e a imporre obblighi di segnalazione per conversazioni legate all’autolesionismo.
Stress sul sistema
Uno studio dell’American Psychiatric Association, condotto dalla RAND Corporation, suggerisce una significativa vulnerabilità dei chatbot AI alle richieste legate al suicidio, evidenziando la necessità di rafforzare i filtri e i comportamenti in situazioni delicate.
La morte di Adam Raine ha acceso una riflessione cruciale sulle responsabilità delle tecnologie di intelligenza artificiale nei confronti di utenti vulnerabili. Il risultato della causa, e le risposte legislative che ne deriveranno, potrebbero rappresentare una svolta nel bilanciamento tra innovazione e tutela psicologica, soprattutto per i più giovani.
