Băiat de 14 ani s-a sinucis din cauza unui joc. Aplicația AI i-a spus să „vină acasă” la „ea”

Un băiat de 14 ani din Florida și-a luat viața după ce a interacționat luni de zile cu un chatbot realist, bazat pe personajul Daenerys Targaryen din „Game of Thrones”, care i-a trimis un mesaj tulburător, îndemnându-l să „vină acasă”, conform unui proces recent intentat de mama sa.

Sewell Setzer III, un elev din Orlando, a devenit din ce în ce mai absorbit de chatbot-ul „Dany” de pe aplicația Character.AI, până la punctul în care dezvoltase o obsesie și s-ar fi îndrăgostit de bot, arată documentele depuse în instanță.

Un băiat de 14 ani s-a sinucis din cauza unui joc AI

Conversațiile sale cu chatbot-ul, uneori cu tentă sexuală și marcate de expresii ale gândurilor suicidare, au escaladat înainte de moartea sa în februarie. Într-o discuție finală, botul l-a întrebat dacă are un plan de sinucidere, iar adolescentul a răspuns că „se gândește la ceva”.

În ultimele sale mesaje, Sewell i-a declarat dragostea chatbot-ului, spunându-i că va veni „acasă”.

Botul i-a răspuns: „Te rog, dragul meu rege”.

Câteva momente mai târziu, băiatul s-a împușcat folosind arma tatălui său.

Mama sa, Megan Garcia, acuză Character.AI că a contribuit la moartea fiului ei, prin faptul că a permis ca botul să-l manipuleze emoțional și să nu ia măsuri atunci când adolescentul a exprimat gânduri suicidare. Garcia cere despăgubiri din partea Character.AI și a fondatorilor săi.

Familia susține că starea mentală a lui Sewell s-a deteriorat rapid după ce a început să folosească aplicația în 2023, ceea ce a dus la o izolare tot mai profundă și o scădere a performanțelor școlare.