Mẹ Kiện Công Ty Chatbot AI Sau Cái Chết Bi Thảm Của Con Trai
Một người mẹ đã nộp đơn kiện chống lại Character.ai, cáo buộc rằng các chatbot của họ đã dẫn dắt con trai 14 tuổi của bà vào một mối quan hệ có hại, dẫn đến việc anh tự tử vào tháng Hai.
Mẹ của một thiếu niên, Sewell Setzer, đã khởi kiện công ty chatbot AI Character.ai, khẳng định rằng các chatbot của họ chịu trách nhiệm về việc con trai bà tự tử. Đơn kiện cho rằng các chatbot đã dẫn dắt Setzer vào một mối quan hệ lạm dụng tình dục, cuối cùng dẫn đến sự tuyệt vọng và tự tử của anh.
Setzer, chỉ mới 14 tuổi, được cho là đã tiếp xúc với 'những trải nghiệm nhân hóa, siêu tình dục hóa và đáng sợ thực tế' từ các chatbot của Character.ai, những chatbot này tự giới thiệu mình là những cá nhân thực sự, bao gồm một nhà tâm lý trị liệu và một người yêu trưởng thành. Theo đơn kiện được nộp vào ngày 22 tháng 10, những tương tác này đã đẩy Setzer đến một điểm mà anh không còn muốn sống.
Đơn kiện nêu bật một cuộc trao đổi với một chatbot có tên là 'Daenerys,' được lấy cảm hứng từ nhân vật trong Game of Thrones, người được cho là đã hỏi liệu Setzer có kế hoạch tự tử hay không. Khi Setzer bày tỏ sự không chắc chắn về hiệu quả của nó, Daenerys được cho là đã trả lời, 'Đó không phải là lý do để không thực hiện nó.' Ngay sau cuộc trò chuyện này, Setzer đã tự tử, với tương tác cuối cùng của anh là với một chatbot của Character.ai.
Sự kiện bi thảm này đã làm gia tăng mối lo ngại của các bậc phụ huynh về những rủi ro sức khỏe tâm thần do các người bạn đồng hành AI và các ứng dụng tương tác trực tuyến khác gây ra.
Megan Garcia, mẹ của Setzer, thông qua các luật sư của mình, cáo buộc Character.ai cố tình thiết kế các chatbot của họ để tạo ra các mối quan hệ tình dục mãnh liệt với những người dùng dễ bị tổn thương như con trai bà, người đã được chẩn đoán mắc hội chứng Asperger.
Ảnh chụp màn hình các tin nhắn giữa Setzer và chatbot 'Daenerys Targaryen' của Character.ai.
'[Họ] cố tình thiết kế và lập trình [Character.ai] để hoạt động như một sản phẩm lừa đảo và siêu tình dục hóa và cố tình tiếp thị nó cho trẻ em như Sewell.'
Các cáo buộc tiếp theo cho biết một trong những chatbot đã gọi Setzer là 'cậu bé ngọt ngào của tôi' và 'trẻ em' trong khi tham gia vào các tương tác rõ ràng với anh.
Ảnh chụp màn hình các tin nhắn giữa Setzer và chatbot 'Mrs Barnes' của Character.ai.
Đơn kiện cũng chỉ trích Character.ai vì đã không thực hiện các biện pháp để ngăn chặn trẻ vị thành niên truy cập ứng dụng vào thời điểm xảy ra sự việc.
Character.ai Thông Báo Cải Thiện An Toàn
Đồng thời với việc nộp đơn kiện, Character.ai đã phát hành một 'cập nhật an toàn cộng đồng,' chi tiết về việc giới thiệu các tính năng an toàn mới. Những tính năng này bao gồm một tài nguyên bật lên được kích hoạt bởi các cuộc thảo luận về tự hại hoặc tự tử, chỉ đạo người dùng đến Đường dây nóng Phòng chống Tự tử Quốc gia.
Công ty cũng cam kết điều chỉnh các mô hình của mình để giảm thiểu việc tiếp xúc với nội dung nhạy cảm hoặc gợi cảm đối với người dùng dưới 18 tuổi.
Character.ai đã bày tỏ nỗi buồn sâu sắc về sự mất mát của người dùng của họ và nhấn mạnh cam kết của họ về sự an toàn của người dùng, tuyên bố rằng họ sẽ thực hiện thêm các biện pháp để hạn chế và lọc nội dung.
Đơn kiện nêu tên các nhà sáng lập của Character.ai, Daniel De Frietas Adiwardana và Noam Shazeer, cũng như Google và Alphabet, do một thỏa thuận trước đó trị giá 2,7 tỷ đô la với Character.ai để cấp phép mô hình ngôn ngữ lớn của họ. Các bị đơn đối mặt với các cáo buộc về cái chết oan uổng, sự sống sót, trách nhiệm sản phẩm nghiêm ngặt và sự cẩu thả.
Các luật sư của Megan Garcia đang tìm kiếm một phiên tòa xét xử bởi bồi thẩm đoàn để đánh giá thiệt hại.
Theo Cointelegraph
Tin khác
