Nguồn: Cointelegraph
Nguyên văn: "Thí nghiệm trí tuệ nhân tạo (AI) bí mật của Đại học Zurich (Zurich Uni) đã điều khiển quan điểm của người dùng Reddit"
Các nhà nghiên cứu tại Đại học Zurich bị cáo buộc đã thực hiện một thí nghiệm kéo dài bốn tháng trên một diễn đàn Reddit mà không có sự cho phép, sử dụng các bình luận được tạo ra bởi AI để kiểm tra xem AI có thể thay đổi quan điểm của mọi người hay không.
Trong thử nghiệm, các tài khoản được hỗ trợ bởi AI giả mạo là nhiều danh tính khác nhau, bao gồm nạn nhân bị hãm hiếp, những người phản đối các phong trào xã hội cụ thể và các cố vấn chấn thương chuyên xử lý các trường hợp lạm dụng, theo một bài đăng ngày 26 tháng 4 của người kiểm duyệt của r/changemyview.
Người quản lý cho biết: "Diễn đàn con của chúng tôi là một không gian rõ ràng lấy con người làm trung tâm, kiên quyết từ chối hành vi che giấu việc sử dụng AI, đây là một giá trị cốt lõi. Mọi người đến đây không phải để thảo luận quan điểm với AI hoặc trở thành đối tượng thí nghiệm."
Theo bản nháp nghiên cứu này, các nhà nghiên cứu đã sử dụng AI để tạo ra các phản hồi và cố gắng cá nhân hóa những phản hồi này dựa trên lịch sử Reddit trước đó của người dùng trong bài viết gốc (chẳng hạn như xu hướng chính trị, giới tính, độ tuổi và chủng tộc).
Trong một thí nghiệm kéo dài bốn tháng, tài khoản AI giả mạo của Đại học Zurich đã đăng tổng cộng 1.783 bình luận và nhận được 137 dấu "delta" - đây là dấu hiệu mà người dùng Reddit sử dụng để thể hiện rằng quan điểm của họ về một vấn đề nào đó đã bị thuyết phục để thay đổi.
Các nhà nghiên cứu trong một bài đăng được phát hành trên tiểu mục này cho biết, tất cả các bình luận đều được kiểm tra thủ công trước khi phát hành để đảm bảo tuân thủ các quy tắc của cộng đồng và "giảm thiểu tối đa tổn hại tiềm ẩn".
Đội nghiên cứu của Đại học Zurich lập luận rằng "lợi ích tiềm năng của nghiên cứu này lớn hơn nhiều so với rủi ro của nó", vì họ phát hiện ra rằng các mô hình ngôn ngữ lớn (LLMs) được sử dụng trong thí nghiệm có sức thuyết phục mạnh mẽ, vượt qua "các chuẩn mực thuyết phục của con người đã biết trước đây".
Các nhà nghiên cứu cho biết: "Nghiên cứu có kiểm soát và rủi ro thấp mà chúng tôi thực hiện đã cung cấp những hiểu biết quý giá về khả năng thuyết phục của LLMs trong thế giới thực - khả năng này hiện nay có sẵn cho bất kỳ ai một cách dễ dàng, và những kẻ xấu có thể tận dụng nó vào những mục đích nguy hiểm hơn trên quy mô lớn."
Đồng thời, các nhà nghiên cứu cũng chỉ ra rằng thí nghiệm này cho thấy "việc phân biệt giữa con người và AI vẫn còn những thách thức lớn", vì trong suốt quá trình thí nghiệm, người dùng trong subreddits r/changemyview không nhận ra robot AI.
Nhánh phụ này có 3,8 triệu thành viên, đứng trong top 1% của tất cả các nhánh phụ trên Reddit.
Reddit xem xét hành động pháp lý
Các quản trị viên Reddit cho biết họ không biết về thí nghiệm này trước đó, đã gửi yêu cầu xin lỗi tới Đại học Zurich và yêu cầu ngăn chặn công bố các kết quả nghiên cứu liên quan.
Reddit có thể cũng đang xem xét hành động pháp lý. Giám đốc pháp lý của nền tảng, Ben Lee, đã cho biết trong một bài đăng tiếp theo vào ngày 28 tháng 4 rằng thí nghiệm này vi phạm thỏa thuận người dùng và quy tắc của Reddit, tất cả các tài khoản liên quan đến nghiên cứu của Đại học Zurich đều đã bị cấm.
Lee cho biết: "Chúng tôi đang chính thức gửi thư pháp lý tới Đại học Zurich và nhóm nghiên cứu này."
Ông ấy bổ sung rằng: "Chúng tôi sẽ nỗ lực hết mình để hỗ trợ cộng đồng và đảm bảo rằng các nhà nghiên cứu liên quan phải chịu trách nhiệm về hành vi sai trái của họ."
Ủy ban đạo đức của Khoa Nhân văn và Khoa học Xã hội, Đại học Zurich đã cho biết rằng họ đã tiến hành điều tra về sự kiện này và cam kết sẽ phối hợp tốt hơn với các đối tượng thí nghiệm trong tương lai. Nhà nghiên cứu chính của dự án cũng đã nhận được cảnh báo chính thức.
Hội đồng đạo đức chỉ ra: “Dự án này cung cấp những hiểu biết quan trọng và rủi ro rất nhỏ. Do đó, việc kiềm chế công bố những thành quả và giá trị mà nghiên cứu mang lại là không tương xứng.”
Đại học Zurich chưa ngay lập tức phản hồi về vấn đề này. Cointelegraph cũng chưa nhận được phản hồi từ email liên quan đến thí nghiệm đó.
Các đề xuất liên quan: Phiên bản "Stablecoin Ruble" của Nga ra mắt: Giám đốc điều hành giải thích bảy tính năng đặc trưng của Tether (USDT)
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Thí nghiệm trí tuệ nhân tạo (AI) bí mật của Đại học Zurich (Zurich Uni) đã kiểm soát quan điểm của người dùng Reddit.
Nguồn: Cointelegraph Nguyên văn: "Thí nghiệm trí tuệ nhân tạo (AI) bí mật của Đại học Zurich (Zurich Uni) đã điều khiển quan điểm của người dùng Reddit"
Các nhà nghiên cứu tại Đại học Zurich bị cáo buộc đã thực hiện một thí nghiệm kéo dài bốn tháng trên một diễn đàn Reddit mà không có sự cho phép, sử dụng các bình luận được tạo ra bởi AI để kiểm tra xem AI có thể thay đổi quan điểm của mọi người hay không.
Trong thử nghiệm, các tài khoản được hỗ trợ bởi AI giả mạo là nhiều danh tính khác nhau, bao gồm nạn nhân bị hãm hiếp, những người phản đối các phong trào xã hội cụ thể và các cố vấn chấn thương chuyên xử lý các trường hợp lạm dụng, theo một bài đăng ngày 26 tháng 4 của người kiểm duyệt của r/changemyview.
Người quản lý cho biết: "Diễn đàn con của chúng tôi là một không gian rõ ràng lấy con người làm trung tâm, kiên quyết từ chối hành vi che giấu việc sử dụng AI, đây là một giá trị cốt lõi. Mọi người đến đây không phải để thảo luận quan điểm với AI hoặc trở thành đối tượng thí nghiệm."
Theo bản nháp nghiên cứu này, các nhà nghiên cứu đã sử dụng AI để tạo ra các phản hồi và cố gắng cá nhân hóa những phản hồi này dựa trên lịch sử Reddit trước đó của người dùng trong bài viết gốc (chẳng hạn như xu hướng chính trị, giới tính, độ tuổi và chủng tộc).
Trong một thí nghiệm kéo dài bốn tháng, tài khoản AI giả mạo của Đại học Zurich đã đăng tổng cộng 1.783 bình luận và nhận được 137 dấu "delta" - đây là dấu hiệu mà người dùng Reddit sử dụng để thể hiện rằng quan điểm của họ về một vấn đề nào đó đã bị thuyết phục để thay đổi.
Các nhà nghiên cứu trong một bài đăng được phát hành trên tiểu mục này cho biết, tất cả các bình luận đều được kiểm tra thủ công trước khi phát hành để đảm bảo tuân thủ các quy tắc của cộng đồng và "giảm thiểu tối đa tổn hại tiềm ẩn".
Đội nghiên cứu của Đại học Zurich lập luận rằng "lợi ích tiềm năng của nghiên cứu này lớn hơn nhiều so với rủi ro của nó", vì họ phát hiện ra rằng các mô hình ngôn ngữ lớn (LLMs) được sử dụng trong thí nghiệm có sức thuyết phục mạnh mẽ, vượt qua "các chuẩn mực thuyết phục của con người đã biết trước đây".
Các nhà nghiên cứu cho biết: "Nghiên cứu có kiểm soát và rủi ro thấp mà chúng tôi thực hiện đã cung cấp những hiểu biết quý giá về khả năng thuyết phục của LLMs trong thế giới thực - khả năng này hiện nay có sẵn cho bất kỳ ai một cách dễ dàng, và những kẻ xấu có thể tận dụng nó vào những mục đích nguy hiểm hơn trên quy mô lớn."
Đồng thời, các nhà nghiên cứu cũng chỉ ra rằng thí nghiệm này cho thấy "việc phân biệt giữa con người và AI vẫn còn những thách thức lớn", vì trong suốt quá trình thí nghiệm, người dùng trong subreddits r/changemyview không nhận ra robot AI.
Nhánh phụ này có 3,8 triệu thành viên, đứng trong top 1% của tất cả các nhánh phụ trên Reddit.
Reddit xem xét hành động pháp lý
Các quản trị viên Reddit cho biết họ không biết về thí nghiệm này trước đó, đã gửi yêu cầu xin lỗi tới Đại học Zurich và yêu cầu ngăn chặn công bố các kết quả nghiên cứu liên quan.
Reddit có thể cũng đang xem xét hành động pháp lý. Giám đốc pháp lý của nền tảng, Ben Lee, đã cho biết trong một bài đăng tiếp theo vào ngày 28 tháng 4 rằng thí nghiệm này vi phạm thỏa thuận người dùng và quy tắc của Reddit, tất cả các tài khoản liên quan đến nghiên cứu của Đại học Zurich đều đã bị cấm.
Lee cho biết: "Chúng tôi đang chính thức gửi thư pháp lý tới Đại học Zurich và nhóm nghiên cứu này."
Ông ấy bổ sung rằng: "Chúng tôi sẽ nỗ lực hết mình để hỗ trợ cộng đồng và đảm bảo rằng các nhà nghiên cứu liên quan phải chịu trách nhiệm về hành vi sai trái của họ."
Ủy ban đạo đức của Khoa Nhân văn và Khoa học Xã hội, Đại học Zurich đã cho biết rằng họ đã tiến hành điều tra về sự kiện này và cam kết sẽ phối hợp tốt hơn với các đối tượng thí nghiệm trong tương lai. Nhà nghiên cứu chính của dự án cũng đã nhận được cảnh báo chính thức.
Hội đồng đạo đức chỉ ra: “Dự án này cung cấp những hiểu biết quan trọng và rủi ro rất nhỏ. Do đó, việc kiềm chế công bố những thành quả và giá trị mà nghiên cứu mang lại là không tương xứng.”
Đại học Zurich chưa ngay lập tức phản hồi về vấn đề này. Cointelegraph cũng chưa nhận được phản hồi từ email liên quan đến thí nghiệm đó.
Các đề xuất liên quan: Phiên bản "Stablecoin Ruble" của Nga ra mắt: Giám đốc điều hành giải thích bảy tính năng đặc trưng của Tether (USDT)