Thống đốc California ký luật thiết lập biện pháp bảo vệ cho chatbot AI

Các luật này có thể ảnh hưởng đến các công ty mạng xã hội và trang web cung cấp dịch vụ cho cư dân California, bao gồm cả trẻ vị thành niên, sử dụng công cụ AI.

Thống đốc California Gavin Newsom đã thông báo rằng tiểu bang Mỹ sẽ thiết lập các biện pháp bảo vệ quy định cho các nền tảng mạng xã hội và chatbot đồng hành AI nhằm bảo vệ trẻ em.

Trong thông báo vào thứ Hai, văn phòng thống đốc cho biết Newsom đã ký một số dự luật thành luật, yêu cầu các nền tảng thêm tính năng xác minh độ tuổi, các giao thức để xử lý vấn đề tự tử và tự làm hại bản thân, cũng như cảnh báo cho chatbot đồng hành. Dự luật AI, SB 243, được các Thượng nghị sĩ bang Steve Padilla và Josh Becker giới thiệu vào tháng Một.

Law, California, Bot, Social Media — *Nguồn: Thống đốc Gavin Newsom*

Thượng nghị sĩ Steve Padilla đã trích dẫn các ví dụ về trẻ em giao tiếp với chatbot đồng hành AI, trong đó một số trường hợp bị cáo buộc khuyến khích tự tử. Dự luật yêu cầu các nền tảng phải thông báo cho trẻ vị thành niên rằng chatbot được tạo bởi AI và có thể không phù hợp cho trẻ em, theo Padilla.

"Công nghệ này có thể là công cụ giáo dục và nghiên cứu mạnh mẽ, nhưng nếu để tự do, ngành công nghệ sẽ được khuyến khích thu hút sự chú ý của trẻ em với chi phí cho mối quan hệ thực tế của chúng," Padilla cho biết vào tháng Chín.

Luật này có lẽ sẽ ảnh hưởng đến các công ty mạng xã hội và trang web cung cấp dịch vụ cho cư dân California sử dụng công cụ AI, có thể bao gồm các nền tảng mạng xã hội phi tập trung và trò chơi. Ngoài các biện pháp bảo vệ chatbot, các dự luật nhằm hạn chế các tuyên bố rằng công nghệ hoạt động độc lập để tránh trách nhiệm pháp lý.

SB 243 dự kiến có hiệu lực vào tháng Một năm 2026.

Đã có một số báo cáo về chatbot AI bị cáo buộc đưa ra phản hồi khuyến khích trẻ vị thành niên tự làm hại bản thân hoặc tạo ra rủi ro cho sức khỏe tâm thần của người dùng. Thống đốc Utah Spencer Cox đã ký các dự luật tương tự thành luật vào năm 2024, có hiệu lực từ tháng Năm, yêu cầu chatbot AI phải thông báo cho người dùng rằng họ không đang nói chuyện với một con người.

Các hành động liên bang khi AI mở rộng

Vào tháng Sáu, Thượng nghị sĩ Wyoming Cynthia Lummis đã giới thiệu Đạo luật Đổi mới Trách nhiệm và Chuyên môn An toàn (RISE), tạo miễn trừ trách nhiệm dân sự cho các nhà phát triển AI có thể đối mặt với các vụ kiện từ lãnh đạo ngành trong các lĩnh vực như y tế, luật, tài chính và các lĩnh vực khác quan trọng cho nền kinh tế.

Dự luật này nhận được phản ứng trái chiều và đã được chuyển đến Ủy ban Giáo dục và Lao động của Hạ viện.