Manus đạt được những tiến bộ đột phá trong bài kiểm tra điểm chuẩn GAIA
Gần đây, Manus đã thiết lập một kỷ lục mới trong bài kiểm tra điểm chuẩn GAIA, với hiệu suất vượt qua các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này có nghĩa là Manus có khả năng xử lý độc lập các nhiệm vụ phức tạp, như đàm phán kinh doanh xuyên quốc gia, trong đó liên quan đến phân tích hợp đồng, lập kế hoạch chiến lược và xây dựng phương án.
So với các hệ thống truyền thống, lợi thế của Manus chủ yếu được thể hiện ở ba khía cạnh: phân giải mục tiêu động, suy diễn đa mô thức và học tăng cường trí nhớ. Nó có thể phân tách các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục nâng cao hiệu quả quyết định của chính nó thông qua việc học tăng cường, giảm thiểu xác suất xảy ra sai sót.
Sự tiến bộ của Manus lại kích thích cuộc thảo luận trong ngành về con đường phát triển trí tuệ nhân tạo: Tương lai sẽ là một mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay là mô hình hợp tác của các hệ thống đa tác nhân (MAS)?
Vấn đề này liên quan đến triết lý thiết kế của Manus, nó gợi ý hai hướng phát triển có thể có:
Đường đi của AGI: Bằng cách không ngừng nâng cao khả năng của một hệ thống thông minh duy nhất, giúp nó dần tiếp cận mức độ ra quyết định tổng hợp của con người.
Đường dẫn MAS: Định vị Manus là người điều phối siêu, chỉ huy nhiều tác nhân chuyên môn hợp tác làm việc.
Bề ngoài, đây là một cuộc thảo luận về lộ trình công nghệ, nhưng thực chất phản ánh mâu thuẫn cơ bản trong sự phát triển của AI: làm thế nào để đạt được sự cân bằng giữa hiệu quả và an toàn. Khi các hệ thống trí tuệ đơn lẻ ngày càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định cũng tăng lên; trong khi sự hợp tác của nhiều tác nhân thông minh có thể phân tán rủi ro, nhưng lại có thể bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến hóa của Manus vô hình chung đã phóng đại những rủi ro vốn có trong sự phát triển của AI. Ví dụ, trong bối cảnh y tế, Manus cần truy cập dữ liệu nhạy cảm của bệnh nhân trong thời gian thực; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin chưa được công bố của doanh nghiệp. Hơn nữa, còn có vấn đề thiên lệch thuật toán, chẳng hạn như đưa ra đề xuất lương không công bằng cho các nhóm cụ thể trong quá trình tuyển dụng, hoặc tỷ lệ sai sót cao trong việc đánh giá các điều khoản ngành mới nổi khi xem xét hợp đồng pháp lý. Một rủi ro đáng lưu ý khác là các cuộc tấn công đối kháng, nơi tin tặc có thể can thiệp vào việc đánh giá giá thầu của đối thủ trong các cuộc đàm phán của Manus bằng cách cài đặt các tín hiệu âm thanh cụ thể.
Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống thông minh càng tiên tiến, bề mặt tấn công tiềm năng càng rộng.
Trong lĩnh vực Web3, an ninh luôn là một chủ đề được quan tâm. Bắt đầu từ "Tam giác không thể" (mạng blockchain khó có thể đồng thời đạt được sự an toàn, phi tập trung và khả năng mở rộng) do người sáng lập Ethereum Vitalik Buterin đề xuất, đã phát triển ra nhiều công nghệ mã hóa khác nhau:
Mô hình bảo mật không tin cậy: Dựa trên nguyên tắc "Không bao giờ tin tưởng, luôn xác thực", tiến hành xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): một tiêu chuẩn nhận dạng không cần cơ quan đăng ký tập trung, cung cấp một cách quản lý danh tính mới cho hệ sinh thái Web3.
Mã hóa toàn phương (FHE): công nghệ tiên tiến cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, đặc biệt phù hợp với các tình huống như điện toán đám mây và thuê ngoài dữ liệu.
Trong số những công nghệ này, mã hóa toàn đồng nhất như một phương pháp mã hóa mới nổi, được kỳ vọng sẽ trở thành công nghệ then chốt giải quyết các vấn đề an ninh trong kỷ nguyên AI. Nó cho phép thực hiện tính toán trực tiếp trên dữ liệu được mã hóa, mở ra những khả năng mới để bảo vệ quyền riêng tư.
Để đối phó với những thách thức về an ninh do AI mang lại, có thể bắt đầu từ một số khía cạnh sau:
Cấp độ dữ liệu: Đảm bảo rằng tất cả thông tin người dùng nhập vào (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái được mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Khía cạnh thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, khiến ngay cả các nhà phát triển cũng không thể trực tiếp quan sát quá trình ra quyết định của AI.
Khía cạnh hợp tác: Trong hệ thống đa tác nhân, sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công, cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, chúng ta cần những hệ thống phòng thủ tiên tiến hơn. FHE không chỉ giải quyết các vấn đề an ninh hiện tại mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường tiến tới AGI, FHE không còn là một lựa chọn nữa, mà là điều kiện cần thiết để đảm bảo sự phát triển an toàn của AI.
Xem bản gốc
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Manus vượt qua điểm chuẩn GAIA, thách thức bảo mật AI làm nổi bật tiềm năng của mã hóa đồng cấu hoàn toàn.
Manus đạt được những tiến bộ đột phá trong bài kiểm tra điểm chuẩn GAIA
Gần đây, Manus đã thiết lập một kỷ lục mới trong bài kiểm tra điểm chuẩn GAIA, với hiệu suất vượt qua các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này có nghĩa là Manus có khả năng xử lý độc lập các nhiệm vụ phức tạp, như đàm phán kinh doanh xuyên quốc gia, trong đó liên quan đến phân tích hợp đồng, lập kế hoạch chiến lược và xây dựng phương án.
So với các hệ thống truyền thống, lợi thế của Manus chủ yếu được thể hiện ở ba khía cạnh: phân giải mục tiêu động, suy diễn đa mô thức và học tăng cường trí nhớ. Nó có thể phân tách các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục nâng cao hiệu quả quyết định của chính nó thông qua việc học tăng cường, giảm thiểu xác suất xảy ra sai sót.
Sự tiến bộ của Manus lại kích thích cuộc thảo luận trong ngành về con đường phát triển trí tuệ nhân tạo: Tương lai sẽ là một mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay là mô hình hợp tác của các hệ thống đa tác nhân (MAS)?
Vấn đề này liên quan đến triết lý thiết kế của Manus, nó gợi ý hai hướng phát triển có thể có:
Đường đi của AGI: Bằng cách không ngừng nâng cao khả năng của một hệ thống thông minh duy nhất, giúp nó dần tiếp cận mức độ ra quyết định tổng hợp của con người.
Đường dẫn MAS: Định vị Manus là người điều phối siêu, chỉ huy nhiều tác nhân chuyên môn hợp tác làm việc.
Bề ngoài, đây là một cuộc thảo luận về lộ trình công nghệ, nhưng thực chất phản ánh mâu thuẫn cơ bản trong sự phát triển của AI: làm thế nào để đạt được sự cân bằng giữa hiệu quả và an toàn. Khi các hệ thống trí tuệ đơn lẻ ngày càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định cũng tăng lên; trong khi sự hợp tác của nhiều tác nhân thông minh có thể phân tán rủi ro, nhưng lại có thể bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến hóa của Manus vô hình chung đã phóng đại những rủi ro vốn có trong sự phát triển của AI. Ví dụ, trong bối cảnh y tế, Manus cần truy cập dữ liệu nhạy cảm của bệnh nhân trong thời gian thực; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin chưa được công bố của doanh nghiệp. Hơn nữa, còn có vấn đề thiên lệch thuật toán, chẳng hạn như đưa ra đề xuất lương không công bằng cho các nhóm cụ thể trong quá trình tuyển dụng, hoặc tỷ lệ sai sót cao trong việc đánh giá các điều khoản ngành mới nổi khi xem xét hợp đồng pháp lý. Một rủi ro đáng lưu ý khác là các cuộc tấn công đối kháng, nơi tin tặc có thể can thiệp vào việc đánh giá giá thầu của đối thủ trong các cuộc đàm phán của Manus bằng cách cài đặt các tín hiệu âm thanh cụ thể.
Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống thông minh càng tiên tiến, bề mặt tấn công tiềm năng càng rộng.
Trong lĩnh vực Web3, an ninh luôn là một chủ đề được quan tâm. Bắt đầu từ "Tam giác không thể" (mạng blockchain khó có thể đồng thời đạt được sự an toàn, phi tập trung và khả năng mở rộng) do người sáng lập Ethereum Vitalik Buterin đề xuất, đã phát triển ra nhiều công nghệ mã hóa khác nhau:
Mô hình bảo mật không tin cậy: Dựa trên nguyên tắc "Không bao giờ tin tưởng, luôn xác thực", tiến hành xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): một tiêu chuẩn nhận dạng không cần cơ quan đăng ký tập trung, cung cấp một cách quản lý danh tính mới cho hệ sinh thái Web3.
Mã hóa toàn phương (FHE): công nghệ tiên tiến cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, đặc biệt phù hợp với các tình huống như điện toán đám mây và thuê ngoài dữ liệu.
Trong số những công nghệ này, mã hóa toàn đồng nhất như một phương pháp mã hóa mới nổi, được kỳ vọng sẽ trở thành công nghệ then chốt giải quyết các vấn đề an ninh trong kỷ nguyên AI. Nó cho phép thực hiện tính toán trực tiếp trên dữ liệu được mã hóa, mở ra những khả năng mới để bảo vệ quyền riêng tư.
Để đối phó với những thách thức về an ninh do AI mang lại, có thể bắt đầu từ một số khía cạnh sau:
Cấp độ dữ liệu: Đảm bảo rằng tất cả thông tin người dùng nhập vào (bao gồm đặc điểm sinh học, giọng nói, v.v.) được xử lý trong trạng thái được mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Khía cạnh thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, khiến ngay cả các nhà phát triển cũng không thể trực tiếp quan sát quá trình ra quyết định của AI.
Khía cạnh hợp tác: Trong hệ thống đa tác nhân, sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công, cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, chúng ta cần những hệ thống phòng thủ tiên tiến hơn. FHE không chỉ giải quyết các vấn đề an ninh hiện tại mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường tiến tới AGI, FHE không còn là một lựa chọn nữa, mà là điều kiện cần thiết để đảm bảo sự phát triển an toàn của AI.