Mô hình Manus đạt được thành tích SOTA, dẫn đến thảo luận về con đường phát triển AI và các vấn đề an ninh.
Manus đã thể hiện hiệu suất vượt trội trong bài kiểm tra GAIA, vượt qua các mô hình ngôn ngữ lớn cùng cấp. Điều này có nghĩa là nó có thể độc lập xử lý các nhiệm vụ phức tạp, chẳng hạn như đàm phán thương mại quốc tế, liên quan đến phân tích hợp đồng, xây dựng chiến lược và tạo ra các phương án. Ưu điểm của Manus nằm ở khả năng phân tách mục tiêu động, suy luận đa phương thức và khả năng học tăng cường trí nhớ. Nó có thể chia nhỏ các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục cải thiện hiệu quả ra quyết định thông qua học tăng cường, giảm tỷ lệ lỗi.
Những tiến bộ đột phá của Manus đã một lần nữa khơi dậy cuộc thảo luận trong ngành về con đường phát triển AI: có nên theo mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay nên theo mô hình hợp tác của các hệ thống đa tác nhân (MAS)?
Cuộc thảo luận này bắt nguồn từ triết lý thiết kế của Manus, nó ngụ ý hai hướng phát triển có thể có:
Đường AGI: Cải thiện khả năng tổng hợp của một hệ thống thông minh đơn lẻ một cách liên tục, làm cho nó gần gũi hơn với mức độ ra quyết định của con người.
Đường dẫn MAS: Sử dụng Manus như một siêu điều phối viên, chỉ huy nhiều đại lý thông minh trong các lĩnh vực chuyên môn hợp tác làm việc.
Bề ngoài, đây là một cuộc tranh luận về con đường công nghệ, nhưng thực chất phản ánh vấn đề cân bằng giữa hiệu quả và an toàn trong sự phát triển của AI. Hệ thống trí tuệ đơn lẻ càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định càng cao; trong khi hệ thống đa tác nhân có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến bộ của Manus cũng làm nổi bật những rủi ro tiềm ẩn trong sự phát triển của AI. Ví dụ, trong bối cảnh y tế, nó cần truy cập dữ liệu nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin doanh nghiệp chưa công khai. Hơn nữa, còn tồn tại vấn đề thiên lệch thuật toán, như trong quá trình tuyển dụng có thể đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể. Trong việc xem xét tài liệu pháp lý, tỷ lệ sai sót trong việc hiểu các điều khoản liên quan đến ngành mới nổi cũng cao. Nghiêm trọng hơn, tin tặc có thể cài cắm tín hiệu giọng nói cụ thể, dẫn dắt Manus đưa ra những phán đoán sai lầm trong các cuộc đàm phán.
Những vấn đề này làm nổi bật một thực tế nghiêm trọng: Hệ thống thông minh càng tiên tiến, thì càng có nhiều lỗ hổng bảo mật tiềm ẩn.
Trong lĩnh vực blockchain và tiền điện tử, an ninh luôn là mối quan tâm cốt lõi. Lý thuyết "tam giác không thể" (an toàn, phi tập trung và khả năng mở rộng không thể đạt được đồng thời) do người sáng lập Ethereum Vitalik Buterin đề xuất đã truyền cảm hứng cho nhiều chiến lược an ninh:
Mô hình bảo mật không tin cậy: Dựa trên nguyên tắc "không bao giờ tin tưởng, luôn xác thực", tiến hành xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): một tiêu chuẩn nhận dạng không cần đăng ký tập trung, hỗ trợ xác thực danh tính có thể xác minh và bền vững.
Mã hóa toàn đồng (FHE): công nghệ mã hóa tiên tiến cho phép thực hiện tính toán trực tiếp trên dữ liệu đã được mã hóa, đặc biệt phù hợp với các tình huống như điện toán đám mây và thuê ngoài dữ liệu.
Những chính sách an ninh này cung cấp những ý tưởng quan trọng để giải quyết các thách thức an ninh trong thời đại AI. Đặc biệt, công nghệ mã hóa toàn đồng tính được coi là một công cụ mạnh mẽ để đối phó với các vấn đề an ninh AI.
Công nghệ FHE có thể nâng cao tính an toàn của hệ thống AI ở một số cấp độ sau:
Khía cạnh dữ liệu: Tất cả thông tin mà người dùng nhập (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Cấp độ thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, khiến cho ngay cả các nhà phát triển cũng không thể trực tiếp hiểu được quá trình ra quyết định của AI.
Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Mặc dù những công nghệ bảo mật này có thể đối với người dùng bình thường có vẻ xa lạ, nhưng chúng liên quan mật thiết đến lợi ích của mọi người. Trong "rừng đen" của thế giới số, chỉ có việc liên tục củng cố các biện pháp phòng thủ an ninh mới có thể tránh trở thành nạn nhân tiềm năng.
Trong lĩnh vực danh tính phi tập trung, dự án uPort đã ra mắt trên mạng chính Ethereum vào năm 2017. Về mô hình bảo mật không tin cậy, dự án NKN đã phát hành mạng chính vào năm 2019. Còn trong lĩnh vực mã hóa hoàn toàn đồng nhất, Mind Network đã trở thành dự án FHE đầu tiên ra mắt trên mạng chính và hợp tác với các tổ chức như ZAMA, Google, DeepSeek.
Mặc dù các dự án an ninh trong quá khứ có thể không được các nhà đầu tư chú ý rộng rãi, nhưng với sự phát triển nhanh chóng của công nghệ AI, tầm quan trọng của vấn đề an ninh ngày càng nổi bật. Các dự án như Mind Network có thể trở thành những người dẫn đầu trong lĩnh vực an ninh hay không, xứng đáng để chúng ta tiếp tục theo dõi.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, chúng ta cần một hệ thống phòng thủ tiên tiến hơn. Công nghệ FHE không chỉ giải quyết các vấn đề hiện tại mà còn chuẩn bị cho một thời đại AI mạnh mẽ hơn trong tương lai. Trên con đường hướng tới AGI, FHE không còn là một lựa chọn mà là điều kiện cần thiết để đảm bảo sự phát triển an toàn của AI.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
8 thích
Phần thưởng
8
6
Chia sẻ
Bình luận
0/400
JustHereForMemes
· 9giờ trước
SOTA có tác dụng gì? Chẳng phải vẫn không thể chơi Blockchain.
Xem bản gốcTrả lời0
ParanoiaKing
· 9giờ trước
An toàn an toàn, dù có nóng đến đâu cũng chỉ là nói suông.
Mô hình Manus dẫn đầu sự đột phá AI, mã hóa đồng cấu hoàn toàn trở thành điểm nhấn an toàn mới
Mô hình Manus đạt được thành tích SOTA, dẫn đến thảo luận về con đường phát triển AI và các vấn đề an ninh.
Manus đã thể hiện hiệu suất vượt trội trong bài kiểm tra GAIA, vượt qua các mô hình ngôn ngữ lớn cùng cấp. Điều này có nghĩa là nó có thể độc lập xử lý các nhiệm vụ phức tạp, chẳng hạn như đàm phán thương mại quốc tế, liên quan đến phân tích hợp đồng, xây dựng chiến lược và tạo ra các phương án. Ưu điểm của Manus nằm ở khả năng phân tách mục tiêu động, suy luận đa phương thức và khả năng học tăng cường trí nhớ. Nó có thể chia nhỏ các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục cải thiện hiệu quả ra quyết định thông qua học tăng cường, giảm tỷ lệ lỗi.
Những tiến bộ đột phá của Manus đã một lần nữa khơi dậy cuộc thảo luận trong ngành về con đường phát triển AI: có nên theo mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay nên theo mô hình hợp tác của các hệ thống đa tác nhân (MAS)?
Cuộc thảo luận này bắt nguồn từ triết lý thiết kế của Manus, nó ngụ ý hai hướng phát triển có thể có:
Đường AGI: Cải thiện khả năng tổng hợp của một hệ thống thông minh đơn lẻ một cách liên tục, làm cho nó gần gũi hơn với mức độ ra quyết định của con người.
Đường dẫn MAS: Sử dụng Manus như một siêu điều phối viên, chỉ huy nhiều đại lý thông minh trong các lĩnh vực chuyên môn hợp tác làm việc.
Bề ngoài, đây là một cuộc tranh luận về con đường công nghệ, nhưng thực chất phản ánh vấn đề cân bằng giữa hiệu quả và an toàn trong sự phát triển của AI. Hệ thống trí tuệ đơn lẻ càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định càng cao; trong khi hệ thống đa tác nhân có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến bộ của Manus cũng làm nổi bật những rủi ro tiềm ẩn trong sự phát triển của AI. Ví dụ, trong bối cảnh y tế, nó cần truy cập dữ liệu nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin doanh nghiệp chưa công khai. Hơn nữa, còn tồn tại vấn đề thiên lệch thuật toán, như trong quá trình tuyển dụng có thể đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể. Trong việc xem xét tài liệu pháp lý, tỷ lệ sai sót trong việc hiểu các điều khoản liên quan đến ngành mới nổi cũng cao. Nghiêm trọng hơn, tin tặc có thể cài cắm tín hiệu giọng nói cụ thể, dẫn dắt Manus đưa ra những phán đoán sai lầm trong các cuộc đàm phán.
Những vấn đề này làm nổi bật một thực tế nghiêm trọng: Hệ thống thông minh càng tiên tiến, thì càng có nhiều lỗ hổng bảo mật tiềm ẩn.
Trong lĩnh vực blockchain và tiền điện tử, an ninh luôn là mối quan tâm cốt lõi. Lý thuyết "tam giác không thể" (an toàn, phi tập trung và khả năng mở rộng không thể đạt được đồng thời) do người sáng lập Ethereum Vitalik Buterin đề xuất đã truyền cảm hứng cho nhiều chiến lược an ninh:
Những chính sách an ninh này cung cấp những ý tưởng quan trọng để giải quyết các thách thức an ninh trong thời đại AI. Đặc biệt, công nghệ mã hóa toàn đồng tính được coi là một công cụ mạnh mẽ để đối phó với các vấn đề an ninh AI.
Công nghệ FHE có thể nâng cao tính an toàn của hệ thống AI ở một số cấp độ sau:
Khía cạnh dữ liệu: Tất cả thông tin mà người dùng nhập (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Cấp độ thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, khiến cho ngay cả các nhà phát triển cũng không thể trực tiếp hiểu được quá trình ra quyết định của AI.
Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Mặc dù những công nghệ bảo mật này có thể đối với người dùng bình thường có vẻ xa lạ, nhưng chúng liên quan mật thiết đến lợi ích của mọi người. Trong "rừng đen" của thế giới số, chỉ có việc liên tục củng cố các biện pháp phòng thủ an ninh mới có thể tránh trở thành nạn nhân tiềm năng.
Trong lĩnh vực danh tính phi tập trung, dự án uPort đã ra mắt trên mạng chính Ethereum vào năm 2017. Về mô hình bảo mật không tin cậy, dự án NKN đã phát hành mạng chính vào năm 2019. Còn trong lĩnh vực mã hóa hoàn toàn đồng nhất, Mind Network đã trở thành dự án FHE đầu tiên ra mắt trên mạng chính và hợp tác với các tổ chức như ZAMA, Google, DeepSeek.
Mặc dù các dự án an ninh trong quá khứ có thể không được các nhà đầu tư chú ý rộng rãi, nhưng với sự phát triển nhanh chóng của công nghệ AI, tầm quan trọng của vấn đề an ninh ngày càng nổi bật. Các dự án như Mind Network có thể trở thành những người dẫn đầu trong lĩnh vực an ninh hay không, xứng đáng để chúng ta tiếp tục theo dõi.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, chúng ta cần một hệ thống phòng thủ tiên tiến hơn. Công nghệ FHE không chỉ giải quyết các vấn đề hiện tại mà còn chuẩn bị cho một thời đại AI mạnh mẽ hơn trong tương lai. Trên con đường hướng tới AGI, FHE không còn là một lựa chọn mà là điều kiện cần thiết để đảm bảo sự phát triển an toàn của AI.