Thí nghiệm AI bí mật của Đại học Zurich ảnh hưởng đến quan điểm của người dùng Reddit
Ủy ban Đạo đức của Khoa Nghệ thuật và Khoa học của Đại học Zurich đã điều tra thí nghiệm không được phép này và cam kết sẽ phối hợp tốt hơn với người tham gia trong các nghiên cứu tương lai.
Các nhà nghiên cứu từ Đại học Zurich đã tiến hành một thí nghiệm kéo dài bốn tháng trên một diễn đàn Reddit, sử dụng các bình luận do AI tạo ra để khám phá tiềm năng của AI trong việc thay đổi quan điểm của người dùng.
Trong thí nghiệm, các tài khoản AI đã mạo danh các nhân vật khác nhau, như nạn nhân của hiếp dâm, một cá nhân phản đối một số phong trào xã hội, và một cố vấn chấn thương chuyên về lạm dụng, theo một bài đăng của các quản trị viên của subreddit r/changemyview.
Các quản trị viên nhấn mạnh rằng cộng đồng của họ coi trọng sự tương tác của con người và phản đối việc sử dụng AI không được tiết lộ. Họ tuyên bố, 'Sub của chúng tôi là một không gian hoàn toàn của con người, từ chối việc sử dụng AI không được tiết lộ như một giá trị cốt lõi. Mọi người không đến đây để thảo luận quan điểm của họ với AI hay để bị thí nghiệm.'
Các nhà nghiên cứu đã điều chỉnh các phản hồi của AI dựa trên hoạt động quá khứ của người dùng trên Reddit, xem xét các yếu tố như định hướng chính trị, giới tính, độ tuổi và dân tộc, như được chi tiết trong bản nháp của bài báo của họ.
Trong suốt thí nghiệm, các tài khoản AI giả từ Đại học Zurich đã đăng 1.783 bình luận, kiếm được 137 delta, cho thấy họ đã thành công trong việc thay đổi quan điểm của một số người dùng.
Các nhà nghiên cứu tuyên bố rằng tất cả các bình luận đều được xem xét thủ công để đảm bảo tuân thủ các hướng dẫn của cộng đồng và giảm thiểu tác hại tiềm ẩn.
Nhóm nghiên cứu của đại học đã bảo vệ nghiên cứu, tuyên bố rằng lợi ích tiềm năng của việc hiểu sức mạnh thuyết phục của AI vượt xa rủi ro, vì các mô hình ngôn ngữ lớn được sử dụng đã thể hiện sự thuyết phục xuất sắc, vượt qua các tiêu chuẩn trước đây.
Họ nhấn mạnh tầm quan trọng của nghiên cứu trong việc hiểu khả năng thực tế của các mô hình ngôn ngữ lớn, những mô hình này đã có sẵn và có thể bị khai thác bởi các diễn viên độc hại.
Thí nghiệm cũng nêu bật khó khăn trong việc phân biệt giữa tương tác của con người và AI, vì không ai trong subreddit nhận ra các bot AI trong suốt thời gian thí nghiệm.
Subreddit r/changemyview, với 3,8 triệu thành viên, là một trong những subreddit lớn nhất trên nền tảng.
Cân nhắc pháp lý của Reddit
Các quản trị viên của subreddit không biết về thí nghiệm và đã yêu cầu một lời xin lỗi từ đại học và ngăn chặn việc công bố nghiên cứu.
Giám đốc pháp lý của Reddit, Ben Lee, tuyên bố rằng thí nghiệm đã vi phạm thỏa thuận người dùng và quy tắc của nền tảng, dẫn đến việc cấm tất cả các tài khoản liên kết với nghiên cứu của Đại học Zurich.
Lee thông báo rằng Reddit đang chuẩn bị thực hiện hành động pháp lý chính thức chống lại Đại học Zurich và nhóm nghiên cứu.
Ông nhấn mạnh cam kết của Reddit trong việc hỗ trợ cộng đồng và buộc các nhà nghiên cứu phải chịu trách nhiệm về hành động của họ.
Ủy ban Đạo đức của Khoa Nghệ thuật và Khoa học của Đại học Zurich, sau khi điều tra sự việc, đã hứa sẽ phối hợp tốt hơn với các đối tượng thử nghiệm trong các dự án tương lai. Người điều tra chính đã nhận được một cảnh báo chính thức.
Ủy ban đạo đức lập luận rằng những hiểu biết từ nghiên cứu là quan trọng và rủi ro là tối thiểu, gợi ý rằng việc ngăn chặn việc công bố sẽ không được biện minh.
Đại học Zurich chưa phản hồi ngay lập tức về yêu cầu bình luận về vấn đề này.
Theo Cointelegraph
Tin khác
