Șocant! Peste un milion de oameni discută cu ChatGPT despre când și cum vor să se sinucidă!

OpenAI a dezvăluit, într-un material publicat pe blogul companiei, că aproximativ 0,15 la sută dintre cei care utilizează ChatGPT poartă cu aplicația ”conversaţii ce includ indicatori expliciţi de planificare sau de potențială intenţie de sinucidere”.

La o medie săptămânală de 1,2 milioane de utilizatori pe săptămână, asta înseamnă circa 1,2 milioane de oameni, în decurs de șapte zile, au discuții pe tema sinuciderii cu populara aplicație care răspunde la întrebări folosind inteligența artificială.

Citește și O femeie a câștigat 100.000 de dolari la loterie, folosind numere alese de ChatGPT

Tot OpenAI estimează că aproximativ 0,07 la sută dintre utilizatorii săptămânali activi ai aplicației, ceea ce înseamnă cam 600.000 de persoane, ar da semne în direcția unor potenţiale urgenţe de sănătate mintală din spectrul episoadelor psihotice sau maniacale, notează cotidianul francez Le Figaro.

Conversațiile cu ChatGPT pe tema sinuciderii au devenit un subiect pe cât de sensibil, pe atât de abordat în special după moartea unui adolescent american. Părinții acestuia au dat în judecată OpenAI pe motiv că aplicația ChatGPT l-ar fi consiliat pe adolescent despre cum să-și ia viața.

De la acest incident șocant petrecut în SUA, OpenAI a întărit controlul parental şi a dezvoltat măsuri de siguranţă suplimentare, în special accesul îmbunătăţit la asistenţa telefonică de urgenţă, redirecţionarea automată a conversaţiilor sensibile către modele mai sigure şi memento-uri binevoitoare care invită utilizatorii să ia pauze în timpul sesiunilor prelungite de conversație cu ChatGPT.

OpenAI a precizat că şi-a actualizat modelul pentru a recunoaşte şi a răspunde mai bine utilizatorilor care se confruntă cu o urgenţă de sănătate mintală.

În același context, reprezentanții companiei au precizat că au colaborări cu peste 170 de profesionişti din domeniul sănătăţii mintale, cu scopul a scădea considerabil răspunsurile problematice pe care le poate furniza ChatGPT.

Citește și Franța își dotează submarinele cu noul model de rachete nucleare M51