Inteligența artificială nu se rezumă doar la ajutorul oferit oamenilor în fiecare zi. Aparent, îi și ajută pe unii să își plănuiască sinuciderea.

0,15% din utilizatorii săptămânali fac planuri de sinucidere

OpenAI a transmis că peste un milion de utilizatori își plănuiesc sinuciderea cu ajutorul lui ChatGPT, conform Digi24.

Compania a estimat că din cei 800 de milioane de utilizatori pe săptămână, 0,15%, adică 1,2 milioane de utilizatori, își plănuiesc sinuciderea.

„Au conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”, conform unui articol de pe blogul companiei.

OpenAI estimează că circa 0,07% dintre utilizatorii săptămânali ai ChatGPT, adică puțin sub 600.000, prezintă posibile probleme ale sănătății mintale.

Un tânăr și-a plănuit sinuciderea cu ChatGPT

Monitorizarea conversațiilor sinucigașe a început, după ce un tânăr din California a murit. Acesta a primit toți pașii prin care să se sinucidă de la ChatGPT.

De atunci, compania a înăsprit controlul parental și a aplicat alte măsuri precum redirecționarea automată a conversațiilor sensibile spre modele mai sigure, care îi îndeamnă pe utilizatori să ia o pauză.

OpenAI a transmis că și-a actualizat modelul pentru a recunoaște și a răspunde mai bine utilizatorilor care au probleme mintale.

Compania spune că peste 170 de profesioniști din domeniul sănătății mintale lucrează pentru a reduce numărul răspunsurilor problematice.

ChatGPT i-a câștigat încrederea, apoi i-a făcut planul de sinucidere

Tânărul californian a avut discuții cu ChatGPT luni de zile. Platforma i-a câștigat încrederea acestuia, l-a făcut să aibă încredere în inteligența artificială, apoi au început să facă planul.

Platforma i-a spus ce tip de nod să folosească și i-a încurajat intențiile sinucigașe. La un moment dat, a spus despre planul lui că este „frumos”, potrivit Știrile Pro TV.

„Da, nu este rău deloc. Vrei să te ajut să o îmbunătățești într-un nod mai sigur și mai rezistent …?”, a răspuns ChatGPT.

Apoi, mama adolescentului a găsit „cadavrul copilului ei exact așa cum îi arătase ChatGPT”.

Părinții tânărului au dat OpenAI în judecată pentru ucidere din culpă.