Compania OpenAI a declarat recent că platforma ChatGPT înregistrează, săptămânal, peste un milion de utilizatori care manifestă în conversaţii cu chatbot-ul semne clare de planificare sau intenţie suicidară.
În acelaşi context, aproximativ 0,07% dintre utilizatori (~560.000 pe săptămână) arată semnale de psihoză sau manie.
OpenAI a explicat că aceste cifre sunt estimative şi că identificarea automată a acestor situaţii este încă foarte dificilă. Pentru a răspunde provocărilor, compania a implementat actualizări ale modelului — între altele, instrucţiuni automate de redirectare la linii de decriză, notificări pentru pauze în conversaţii lungi şi colaborarea cu peste 170 de clinicieni la nivel global pentru evaluarea comportamentelor sensibile.
De asemenea, OpenAI menționează că, odată cu creşterea utilizatorilor, este de aşteptat să apară mai multe cazuri de suferinţă emoţională în cadrul platformei. Totuși compania afirmă că aceste interacţiuni nu indică neapărat că ChatGPT este cauza directă a problemei. În paralel, firma este investigată pentru efectele asupra sănătăţii mintale, în special în rândul minorilor.
Datele aduc în prim-plan întrebări serioase despre utilizarea chatbot-urilor în contexte de criză emoţională, rolul lor de suport informaţional şi limitările pe care le au în înlocuirea intervenţiei umane specializate.
Pentru știri de ultimă oră, urmărește-ne pe canalul nostru de TELEGRAM!
