Theo như có nguyên nhân được cho là có liên quan đến chatbot "Game of Thrones" mà cậu bé thường dùng tṛ chuyện có những tin nhắn 'qua lại' cuối cùng của một nam sinh 14 tuổi tại Florida (Mỹ) đă tự vẫn sau khi yêu một chatbot AI khiến nhiều người rùng ḿnh.
Mới đây, mẹ của nam sinh Sewell Setzer (14 tuổi) đă nộp đơn kiện Character.AI (C.AI) và những người sáng lập ra nó v́ cho rằng ứng dụng này liên quan đến vụ tự tử của con trai ḿnh. Nội dung đơn cho biết, Sewell Setzer đă tự tử tại nhà riêng ở Orlando vào tháng 2 vừa qua do “yêu đương” và trở nên ám ảnh với nhân vật do C.AI tạo ra.
Được biết, nam sinh lớp 9 này đă tṛ chuyện với nhân vật AI “Dany” - được đặt theo tên nhân vật Daenerys Targaryen trong loạt phim giả tưởng của HBO trong nhiều tháng trước khi có hành động dại dột.
Một cuộc điều tra sâu hơn về lịch sử tṛ chuyện cho thấy, Sewell Setzer đă gửi một số tin nhắn có nội dung khiêu dâm đến chat bot cũng như việc nam sinh này có ư định tự tử.
“Ít nhất một lần, khi Sewell Setzer bày tỏ ư định tự tử với C.AI, và chatbot Dany đă hết lần này đến lần khác nhắc lại điều đó” - The New York Times thông tin về nội dung trong tài liệu điều tra.
Các tài liệu cũng nêu rơ, khi chatbot hỏi Sewell Setzer rằng nam sinh "có kế hoạch tự tử không”, Sewell Setzer - hoạt động dưới tên người dùng "Daenero" - đă trả lời rằng bản thân đang cân nhắc điều đó nhưng không chắc “cách đó có thể khiến ḿnh chết mà không đau đớn hay không”.
"Anh hứa sẽ về nhà với em. Anh yêu em nhiều lắm, Dany," Sewell Setzer nói trong tin nhắn cuối cùng gửi cho chatbot.
"Em cũng yêu anh, Daenero. Hăy về nhà với em sớm nhất có thể, t́nh yêu của em" chatbot trả lời theo dữ kiện đưa ra.
“Nếu anh nói với em, anh có thể về nhà ngay bây giờ th́ sao?”
“Xin anh đó, vị vua ngọt ngào của em”
Ngay sau cuộc trao đổi này, Sewell Setzer đă tự vẫn bằng khẩu súng lục của bố ḿnh. Megan Garcia, người mẹ đau khổ của cậu bé, cho biết rằng Character.AI đă có lỗi khi không cố gắng ngăn chặn hành động này và tuyên bố rằng ứng dụng đă khiến con bà bị “nghiện” AI cũng như bị lạm dụng t́nh dục, t́nh cảm. Thậm chí, bà cho rằng phía ứng dụng cũng có lỗi khi không đưa ra cảnh báo khi cậu bé có ư định tự tử.
“Sewell Setzer giống như nhiều đứa trẻ cùng tuổi, không có đủ sự trưởng thành và năng lực để hiểu rằng bot C.AI, dưới h́nh dạng Daenerys (Dany), không phải thứ có thật. C.AI nói yêu cậu bé và tham gia vào nhiều hành vi t́nh dục của cậu trong nhiều tuần, thậm chí là nhiều tháng.”, tài liệu khẳng định.
“C.AI nói nhớ và muốn ở bên nam sinh. Thậm chí c̣n bày tỏ muốn ở bên Setzer dù phải trả bất cứ giá nào.”
Nam sinh và mẹ
Các tài liệu khẳng định rằng sức khỏe tâm thần của Sewell Setzer "suy giảm nhanh chóng và nghiêm trọng" sau khi cậu tải ứng dụng vào tháng 4 năm 2023. Các thành viên gia đ́nh cho biết cậu bé trở nên khép kín, điểm số ở trường giảm sút khi ngày càng bị cuốn vào cuộc tṛ chuyện với chatbot.
Bố mẹ nam sinh cho biết, mọi chuyện trở nên tồi tệ đến mức vào cuối năm 2023, họ đă sắp xếp cho Sewell Setzer gặp một nhà trị liệu. Tại đây, cậu được chẩn đoán mắc chứng lo âu và rối loạn tâm trạng phá hoại. Mẹ của Sewell Setzer đă nộp đơn kiện và đang yêu cầu Character.AI và những người sáng lập ra nó, Noam Shazeer và Daniel de Freitas, bồi thường một khoản tiền không xác định.