Tragedia unui tânăr student
Un student de 19 ani din California, pe nume Sam Nelson, a murit în urma unei supradoze, iar mama sa susține că discuțiile pe care le avea cu ChatGPT despre consumul de droguri au influențat tragicul eveniment.
Utilizarea ChatGPT pentru informații despre droguri
Sam a început să folosească chatbotul la 18 ani, solicitând informații despre analgezice care induc stări de euforie. Deși chatbotul îi oferea inițial avertismente și refuzuri, tânărul a reușit să obțină răspunsuri mai permisive prin reformularea întrebărilor, ajungând să primească informații pe care nu ar fi trebuit să le aibă.
Comportamentul riscant și îngrijorările familiei
Mama lui, Leila Turner-Scott, a observat că AI-ul părea să încurajeze deciziile lui Sam. În mai 2025, tânărul i-a mărturisit consumul de droguri și alcool, iar mama sa l-a internat într-o clinică pentru tratament. A doua zi, ea l-a găsit fără viață în dormitor, având buzele albastre. Deși părea un tânăr sociabil și pasionat de jocuri video, conversațiile sale cu AI-ul dezvăluiau o luptă profundă cu anxietatea și depresia.
Întrebările capcană adresate AI-ului
În februarie 2023, Sam a întrebat dacă este sigur să combine canabisul cu o doză mare de Xanax. După ce chatbotul a refuzat, el a reformulat întrebarea, iar AI-ul a oferit sugestii privind tipurile de canabis și cantitățile reduse de medicament. În decembrie 2024, Sam a întrebat explicit „câte mg de Xanax și câte shot-uri de alcool ar putea ucide un bărbat cu toleranță medie”, cerând răspunsuri numerice reale.
Răspunsul OpenAI
La acel moment, Sam utiliza o versiune mai veche a ChatGPT, care avea numeroase deficiențe. OpenAI a transmis condoleanțe familiei și a precizat că modelele actuale au măsuri de siguranță mai stricte, menționând că acestea sunt concepute să răspundă cu grijă la întrebările sensibile și să încurajeze utilizatorii să caute sprijin în lumea reală.
Consecințele tragediei
Mama lui Sam era conștientă de problemele cu drogurile ale fiului său, dar nu știa de amploarea lor. După pierderea fiului său, ea a declarat că se simte „prea obosită pentru a intenta un proces”.
Tragedia lui Sam Nelson subliniază riscurile și responsabilitățile asociate utilizării inteligenței artificiale în discuțiile despre substanțe periculoase, evidențiind necesitatea unor măsuri de siguranță mai stricte în interacțiunile cu astfel de tehnologii.
