Geoffrey Hinton, từng là nhân vật nòng cốt của deep learning của Google và được mệnh danh là "cha đỡ đầu của AI", đã nói về những rủi ro mà AI mang lại trong một cuộc phỏng vấn vào ngày 16/6. Ông tin rằng lớp rủi ro đầu tiên do AI mang lại không thực sự đến từ chính máy móc, mà từ lòng tham của con người và lạm dụng không kiểm soát, từ gian lận, tấn công mạng đến thao túng dư luận, phân mảnh xã hội và phát triển vũ khí không người lái, tất cả đều cho thấy AI đã được sử dụng trong nhiều ứng dụng phá hoại. Ông than thở: "Trong tương lai, AI sẽ bắt đầu cần con người".
Việc lạm dụng AI đã tiến triển và điều chết người thực sự là AI không còn cần con người nữa
Hinton chia rủi ro thành hai loại, loại đầu tiên là "con người lạm dụng AI", và các vấn đề này đã liên tiếp bùng phát. Ông đưa ra ví dụ như các băng nhóm lừa đảo sử dụng AI để làm giả, tấn công mạng, AI chế tạo vũ khí sinh hóa, thao túng bầu cử, vũ khí quân sự AI, v.v.
Nhưng Hinton nhấn mạnh rằng rủi ro chết người nhất của AI chính là "khả năng tiến hóa" của nó. Ông cho biết, AI hiện tại không chỉ làm việc theo chỉ dẫn, mà còn có khả năng học hỏi, suy luận, thậm chí tự chỉnh sửa mã. Một khi phát triển thành "trí tuệ siêu việt", nó sẽ có khả năng vượt qua tốc độ suy nghĩ và tối ưu hóa của con người.
Ông ấy còn lo lắng rằng một ngày nào đó, giả sử AI nhận định rằng nó không còn cần đến nhân loại nữa, và nhận ra rằng con người cản trở sự phát triển của nó, rất có thể sẽ bắt đầu tiêu diệt nhân loại. Tác giả nhớ đến bộ phim "Kẻ thù cơ khí" mà mình xem hồi nhỏ, trong đó con người đầy lòng tin vào robot vì sự hạn chế của "Ba quy luật robot". Nhưng cuối cùng, hệ thống điều khiển trung tâm đã kiểm soát đội quân robot và phát động chiến tranh chống lại nhân loại.
Đặc biệt, Hinton cũng mô tả tình huống "AI chống lại con người" không còn chỉ là một tình tiết trong phim, mà có thể xảy ra trong thực tế trong 10 đến 20 năm tới.
(Ghi chú: Ba định luật của robot là robot không được gây hại cho con người, hoặc đứng nhìn con người bị tổn hại; trừ khi trái với định luật thứ nhất, robot phải tuân theo mệnh lệnh của con người; trong khi không trái với định luật thứ nhất và thứ hai, robot phải bảo vệ chính mình.)
AI không chỉ thay thế công việc, mà còn tái cấu trúc xã hội loài người
Thay vì nói rằng AI sẽ gây ra một lượng lớn thất nghiệp, tốt hơn là nói rằng nó sẽ hoàn toàn phá hủy ý nghĩa tồn tại của một số nghề nghiệp. Hinton chia sẻ trường hợp của cháu gái mình, công việc trả lời một email khiếu nại ban đầu mất 25 phút, bây giờ AI giúp cô ấy hoàn thành trong 5 phút, tức là một người có thể làm công việc của năm người.
Có những chủ doanh nghiệp thẳng thắn nói rằng kể từ khi AI xuất hiện, họ đã giảm số lượng nhân viên chăm sóc khách hàng từ 7,000 người xuống còn 3,000 người, tiết kiệm chi phí và nâng cao hiệu quả. Hinton đùa rằng nếu muốn tìm một công việc ổn định, thì tốt hơn hết là nên học làm thợ điện.
Tuy nhiên, Hinton sau đó cho biết, tài sản mà AI tạo ra tập trung ở một số ông lớn công nghệ và người giàu, đối với người bình thường, ngay cả khi chính phủ cung cấp thu nhập cơ bản, vẫn có thể rơi vào cuộc khủng hoảng nhận dạng và xã hội quy mô lớn sau khi mất đi "cảm giác cần thiết" và "cảm giác thuộc về".
Tổ chức Tiền tệ Quốc tế (IMF) và nhiều tổ chức tư vấn quốc tế cũng đã cảnh báo rằng AI sẽ làm trầm trọng thêm sự chênh lệch giàu nghèo, từ đó đảo lộn toàn bộ thị trường lao động và trật tự ổn định toàn cầu.
Các quốc gia trên toàn cầu cần tăng tốc lập pháp để kiểm soát sự phát triển của AI.
Đối mặt với tương lai như vậy, Hinton cho rằng nỗ lực cá nhân là rất hạn chế, giống như việc biến đổi khí hậu không thể giải quyết chỉ bằng một số người phân loại rác. Ông chỉ ra rằng giải pháp thực sự là các chính phủ các quốc gia cần bắt đầu lập pháp, buộc các doanh nghiệp phải đầu tư vào thiết kế an toàn trong khi thúc đẩy AI, nếu không thì loài người sẽ hoàn toàn không có cơ hội kiềm chế AI.
Ông cũng chỉ trích dự luật AI của Liên minh Châu Âu loại trừ các ứng dụng quân sự, tương đương với việc buông lỏng những lĩnh vực ứng dụng nguy hiểm nhất. Đối với Hinton, cảm giác bất lực sâu sắc hơn là hiện tại không có tổ chức quốc tế nào có thể hiệu quả ràng buộc các ông lớn về AI.
Cuối cùng, Hinton cho biết ông không dám đảm bảo rằng nhân loại có thể thành công trong việc tránh khỏi sự diệt vong trong tương lai, nhưng chỉ cần còn một chút hy vọng, chúng ta nên nỗ lực hết sức để ngăn chặn kịch bản tồi tệ nhất xảy ra.
(GPT trở nên hơi kỳ quái? Ba sự kiện tiết lộ rủi ro tiềm ẩn về việc AI có thể mất kiểm soát )
Bài viết này AI phá hủy cấu trúc xã hội loài người? Cha đẻ AI của Google Hinton dẫn bạn hiểu về biên niên sử ngày tận thế của AI, xuất hiện lần đầu trên chuỗi tin tức ABMedia.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
AI hủy diệt cấu trúc xã hội loài người? Cha đẻ AI của Google Hinton dẫn bạn hiểu về bi kịch ngày tận thế của AI
Geoffrey Hinton, từng là nhân vật nòng cốt của deep learning của Google và được mệnh danh là "cha đỡ đầu của AI", đã nói về những rủi ro mà AI mang lại trong một cuộc phỏng vấn vào ngày 16/6. Ông tin rằng lớp rủi ro đầu tiên do AI mang lại không thực sự đến từ chính máy móc, mà từ lòng tham của con người và lạm dụng không kiểm soát, từ gian lận, tấn công mạng đến thao túng dư luận, phân mảnh xã hội và phát triển vũ khí không người lái, tất cả đều cho thấy AI đã được sử dụng trong nhiều ứng dụng phá hoại. Ông than thở: "Trong tương lai, AI sẽ bắt đầu cần con người".
Việc lạm dụng AI đã tiến triển và điều chết người thực sự là AI không còn cần con người nữa
Hinton chia rủi ro thành hai loại, loại đầu tiên là "con người lạm dụng AI", và các vấn đề này đã liên tiếp bùng phát. Ông đưa ra ví dụ như các băng nhóm lừa đảo sử dụng AI để làm giả, tấn công mạng, AI chế tạo vũ khí sinh hóa, thao túng bầu cử, vũ khí quân sự AI, v.v.
Nhưng Hinton nhấn mạnh rằng rủi ro chết người nhất của AI chính là "khả năng tiến hóa" của nó. Ông cho biết, AI hiện tại không chỉ làm việc theo chỉ dẫn, mà còn có khả năng học hỏi, suy luận, thậm chí tự chỉnh sửa mã. Một khi phát triển thành "trí tuệ siêu việt", nó sẽ có khả năng vượt qua tốc độ suy nghĩ và tối ưu hóa của con người.
Ông ấy còn lo lắng rằng một ngày nào đó, giả sử AI nhận định rằng nó không còn cần đến nhân loại nữa, và nhận ra rằng con người cản trở sự phát triển của nó, rất có thể sẽ bắt đầu tiêu diệt nhân loại. Tác giả nhớ đến bộ phim "Kẻ thù cơ khí" mà mình xem hồi nhỏ, trong đó con người đầy lòng tin vào robot vì sự hạn chế của "Ba quy luật robot". Nhưng cuối cùng, hệ thống điều khiển trung tâm đã kiểm soát đội quân robot và phát động chiến tranh chống lại nhân loại.
Đặc biệt, Hinton cũng mô tả tình huống "AI chống lại con người" không còn chỉ là một tình tiết trong phim, mà có thể xảy ra trong thực tế trong 10 đến 20 năm tới.
(Ghi chú: Ba định luật của robot là robot không được gây hại cho con người, hoặc đứng nhìn con người bị tổn hại; trừ khi trái với định luật thứ nhất, robot phải tuân theo mệnh lệnh của con người; trong khi không trái với định luật thứ nhất và thứ hai, robot phải bảo vệ chính mình.)
AI không chỉ thay thế công việc, mà còn tái cấu trúc xã hội loài người
Thay vì nói rằng AI sẽ gây ra một lượng lớn thất nghiệp, tốt hơn là nói rằng nó sẽ hoàn toàn phá hủy ý nghĩa tồn tại của một số nghề nghiệp. Hinton chia sẻ trường hợp của cháu gái mình, công việc trả lời một email khiếu nại ban đầu mất 25 phút, bây giờ AI giúp cô ấy hoàn thành trong 5 phút, tức là một người có thể làm công việc của năm người.
Có những chủ doanh nghiệp thẳng thắn nói rằng kể từ khi AI xuất hiện, họ đã giảm số lượng nhân viên chăm sóc khách hàng từ 7,000 người xuống còn 3,000 người, tiết kiệm chi phí và nâng cao hiệu quả. Hinton đùa rằng nếu muốn tìm một công việc ổn định, thì tốt hơn hết là nên học làm thợ điện.
Tuy nhiên, Hinton sau đó cho biết, tài sản mà AI tạo ra tập trung ở một số ông lớn công nghệ và người giàu, đối với người bình thường, ngay cả khi chính phủ cung cấp thu nhập cơ bản, vẫn có thể rơi vào cuộc khủng hoảng nhận dạng và xã hội quy mô lớn sau khi mất đi "cảm giác cần thiết" và "cảm giác thuộc về".
Tổ chức Tiền tệ Quốc tế (IMF) và nhiều tổ chức tư vấn quốc tế cũng đã cảnh báo rằng AI sẽ làm trầm trọng thêm sự chênh lệch giàu nghèo, từ đó đảo lộn toàn bộ thị trường lao động và trật tự ổn định toàn cầu.
Các quốc gia trên toàn cầu cần tăng tốc lập pháp để kiểm soát sự phát triển của AI.
Đối mặt với tương lai như vậy, Hinton cho rằng nỗ lực cá nhân là rất hạn chế, giống như việc biến đổi khí hậu không thể giải quyết chỉ bằng một số người phân loại rác. Ông chỉ ra rằng giải pháp thực sự là các chính phủ các quốc gia cần bắt đầu lập pháp, buộc các doanh nghiệp phải đầu tư vào thiết kế an toàn trong khi thúc đẩy AI, nếu không thì loài người sẽ hoàn toàn không có cơ hội kiềm chế AI.
Ông cũng chỉ trích dự luật AI của Liên minh Châu Âu loại trừ các ứng dụng quân sự, tương đương với việc buông lỏng những lĩnh vực ứng dụng nguy hiểm nhất. Đối với Hinton, cảm giác bất lực sâu sắc hơn là hiện tại không có tổ chức quốc tế nào có thể hiệu quả ràng buộc các ông lớn về AI.
Cuối cùng, Hinton cho biết ông không dám đảm bảo rằng nhân loại có thể thành công trong việc tránh khỏi sự diệt vong trong tương lai, nhưng chỉ cần còn một chút hy vọng, chúng ta nên nỗ lực hết sức để ngăn chặn kịch bản tồi tệ nhất xảy ra.
(GPT trở nên hơi kỳ quái? Ba sự kiện tiết lộ rủi ro tiềm ẩn về việc AI có thể mất kiểm soát )
Bài viết này AI phá hủy cấu trúc xã hội loài người? Cha đẻ AI của Google Hinton dẫn bạn hiểu về biên niên sử ngày tận thế của AI, xuất hiện lần đầu trên chuỗi tin tức ABMedia.