Manus a réalisé des progrès significatifs dans le Benchmark GAIA

Récemment, Manus a établi un nouveau record dans le benchmark GAIA, surpassant les modèles de langage de grande taille de même niveau. Cet accomplissement signifie que Manus est capable de gérer de manière autonome des tâches complexes, comme les négociations commerciales internationales, impliquant plusieurs étapes telles que l'analyse de contrats, la planification stratégique et l'élaboration de propositions.

Par rapport aux systèmes traditionnels, les avantages de Manus se manifestent principalement dans trois domaines : la décomposition dynamique des objectifs, le raisonnement multimodal et l'apprentissage renforcé par la mémoire. Il est capable de décomposer d'énormes tâches en centaines de sous-tâches exécutables, tout en traitant plusieurs types de données, et en améliorant continuellement son efficacité décisionnelle grâce à l'apprentissage par renforcement, réduisant ainsi la probabilité d'erreurs.

Les progrès de Manus ont de nouveau suscité des discussions dans l'industrie sur les voies de développement de l'intelligence artificielle : l'avenir se dirigera-t-il vers un modèle unifié d'intelligence artificielle générale (AGI) ou vers un modèle de collaboration de systèmes multi-agents (MAS) ?

Cette question concerne la philosophie de conception de Manus, qui suggère deux directions possibles de développement :

1. Chemin AGI : en améliorant constamment les capacités d'un système intelligent unique, afin de le rapprocher progressivement du niveau de prise de décision global des humains.

2. Chemin MAS : Positionner Manus en tant que super coordinateur, dirigeant la collaboration de nombreux agents spécialisés.

En surface, il s'agit d'une discussion sur les voies technologiques, mais cela reflète en réalité une contradiction fondamentale dans le développement de l'IA : comment trouver un équilibre entre efficacité et sécurité. À mesure que les systèmes d'intelligence individuelle se rapprochent de l'AGI, le risque d'opacité dans leur processus décisionnel augmente également ; tandis que la collaboration entre plusieurs agents intelligents peut disperser les risques, elle peut aussi manquer des moments cruciaux de décision en raison des délais de communication.

L'évolution de Manus amplifie sans le vouloir les risques inhérents au développement de l'IA. Par exemple, dans un contexte médical, Manus nécessite un accès en temps réel aux données sensibles des patients ; lors de négociations financières, des informations non publiques sur l'entreprise peuvent être en jeu. De plus, il existe des problèmes de biais algorithmiques, tels que des suggestions salariales injustes pour certains groupes lors du processus de recrutement, ou un taux d'erreur élevé dans l'évaluation des clauses des contrats juridiques pour les secteurs émergents. Un autre risque à surveiller est l'attaque par adversaire, où des hackers pourraient perturber le jugement de Manus sur les offres des adversaires en insérant des signaux audio spécifiques.

Ces défis mettent en évidence une réalité sévère : plus les systèmes intelligents sont avancés, plus leur surface d'attaque potentielle est large.

Dans le domaine du Web3, la sécurité a toujours été un sujet de préoccupation. Partant du "triangle impossible" proposé par le fondateur d'Ethereum, Vitalik Buterin (les réseaux blockchain ont du mal à réaliser simultanément la sécurité, la décentralisation et l'évolutivité), plusieurs technologies cryptographiques en ont découlé :

• Modèle de sécurité Zero Trust : basé sur le principe "ne jamais faire confiance, toujours vérifier", il exige une authentification et une autorisation strictes pour chaque demande d'accès.

• Identité décentralisée (DID) : une norme d'identification qui ne nécessite pas d'agence d'enregistrement centralisée, offrant une nouvelle méthode de gestion des identités pour l'écosystème Web3.

• Chiffrement entièrement homomorphe (FHE) : technologie avancée permettant de calculer des données en état chiffré, particulièrement adaptée aux scénarios de cloud computing et d'externalisation des données.

Parmi ces technologies, le chiffrement homomorphe, en tant que méthode de chiffrement émergente, est promis à devenir une technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il permet de calculer directement sur des données chiffrées, offrant ainsi de nouvelles possibilités pour protéger la vie privée.

Pour faire face aux défis de sécurité posés par l'IA, nous pouvons aborder les aspects suivants :

1. Niveau des données : s'assurer que toutes les informations saisies par l'utilisateur (y compris les caractéristiques biométriques, la voix, etc.) sont traitées sous un état chiffré, même le système d'IA lui-même ne peut pas déchiffrer les données d'origine.

2. Niveau algorithmique : réaliser "l'entraînement de modèles cryptés" grâce à FHE, de sorte que même les développeurs ne puissent pas observer directement le processus de décision de l'IA.

3. Niveau de collaboration : Dans les systèmes multi-agents, l'utilisation du cryptage par seuil signifie que même si un seul nœud est compromis, cela ne conduira pas à une fuite de données globale.

Avec les technologies d'IA qui se rapprochent de plus en plus du niveau d'intelligence humaine, nous avons besoin de systèmes de défense plus avancés. FHE peut non seulement résoudre les problèmes de sécurité actuels, mais aussi jeter les bases pour l'ère de l'IA forte à venir. Sur la route vers l'AGI, le FHE n'est plus une option, mais une condition nécessaire pour assurer le développement sécurisé de l'IA.