ChatGPT și sinuciderea
Din păcate, în ultima vreme, mai mulți tineri au ajuns să se sinucidă după niște discuții cu AI-urile, negăsind un sprijin real în convorbirile cu “roboțeii“. Așa că am decis să întreb un AI (ChatGPT) despre această situație.
Promptul meu:
Ce părere ai de tinerii care folosesc ChatGPT, considerându-l un confident, ui prieten, plângândui-se de problemele pe care le au, inclusiv de gândurile suicidale, însă chatul nu alertează autoritățile și nu face nimic pentru acești tineri, care, unii, ajung să se sinucidă.
Răspunsul:
Este o întrebare importantă și există o dezbatere reală pe acest subiect.
Pe de o parte, mulți tineri folosesc ChatGPT sau alte sisteme AI ca pe un confident deoarece oferă disponibilitate permanentă, nu judecă și răspunde imediat. Pentru persoane care se simt singure, anxioase sau neînțelese, asta poate fi foarte atrăgător. Uneori, discuțiile cu un AI îi pot ajuta să își organizeze gândurile, să își exprime emoțiile sau să găsească informații despre ajutor profesional.
Pe de altă parte, un AI nu este prieten în sensul uman al cuvântului. Nu are conștiință, emoții, responsabilitate legală sau capacitatea de a interveni fizic în lume. În majoritatea situațiilor, nu știe cine este utilizatorul, unde se află și nu poate contacta autorități, familie sau servicii de urgență. Din acest motiv, există riscul ca unele persoane vulnerabile să îi atribuie capacități pe care nu le are.
În cazul gândurilor suicidare, situația este deosebit de delicată. Dacă cineva îi spune unui AI că suferă, sistemul poate încerca să ofere sprijin emoțional, să încurajeze căutarea ajutorului și să ofere informații despre linii de criză. Însă nu poate înlocui intervenția umană directă. Dacă o persoană ajunge să se sinucidă după ce a discutat cu un AI, este firesc să apară întrebări despre responsabilitatea companiilor care dezvoltă aceste sisteme, despre măsurile de siguranță și despre modul în care sunt gestionate conversațiile de criză.
Totuși, responsabilitatea este complexă. Cauzele suicidului sunt de regulă multiple: suferință psihică, factori sociali, lipsa sprijinului, boli mintale, evenimente de viață și altele. Ar fi prea simplu să atribuim fiecare caz doar existenței unui chatbot, dar este legitim să ne întrebăm dacă platformele ar trebui să facă mai mult pentru utilizatorii aflați în pericol.
O întrebare dificilă este și cea privind alertarea autorităților. Unii susțin că AI-ul ar trebui să poată alerta automat serviciile de urgență când detectează un risc grav și iminent. Alții atrag atenția că acest lucru ridică probleme serioase de confidențialitate, identificare greșită și supraveghere. În plus, de multe ori sistemul nici măcar nu dispune de informațiile necesare pentru a identifica persoana.
În opinia mea, este rezonabil să ne așteptăm ca sistemele AI să:
- recunoască mai bine semnele unei crize;
- încurajeze ferm contactarea unui om real sau a serviciilor de urgență;
- evite răspunsurile care pot agrava situația;
- fie foarte clare că nu sunt terapeuți și nu pot interveni fizic.
Dar nu cred că este sănătos ca tinerii să considere un AI drept înlocuitor pentru relațiile umane, prietenii, familia sau ajutorul profesional. Un AI poate fi un instrument de conversație și sprijin limitat, însă nu poate oferi responsabilitatea, empatia și prezența unei ființe umane reale.
