Manus ha logrado avances significativos en las pruebas de referencia de GAIA

Recientemente, Manus estableció un nuevo récord en la prueba de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran envergadura de su categoría. Este logro significa que Manus tiene la capacidad de manejar de forma independiente tareas complejas, como negociaciones comerciales internacionales, que involucran múltiples aspectos como el análisis de contratos, la planificación estratégica y la formulación de propuestas.

En comparación con los sistemas tradicionales, las ventajas de Manus se reflejan principalmente en tres aspectos: descomposición de objetivos dinámicos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer tareas grandes en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente su eficiencia de decisión a través del aprendizaje por refuerzo, reduciendo la probabilidad de errores.

Los avances de Manus han vuelto a suscitar discusiones en la industria sobre las trayectorias del desarrollo de la inteligencia artificial: ¿el futuro se dirige hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un modelo de colaboración de sistemas multiagente (MAS)?

Este problema involucra la filosofía de diseño de Manus, la cual sugiere dos posibles direcciones de desarrollo:

1. Ruta de AGI: Mejorar continuamente la capacidad de un único sistema inteligente, acercándolo gradualmente al nivel de toma de decisiones integral de los humanos.

2. Ruta MAS: posicionar a Manus como el supercoordinador, dirigiendo a numerosos agentes especializados para trabajar en colaboración.

Superficialmente, se trata de una discusión sobre la ruta técnica, pero en esencia refleja la contradicción fundamental en el desarrollo de la IA: cómo lograr un equilibrio entre la eficiencia y la seguridad. A medida que los sistemas de inteligencia individuales se acercan cada vez más a la AGI, también aumenta el riesgo de la falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración entre múltiples agentes inteligentes puede dispersar el riesgo, podría perder oportunidades críticas de decisión debido a la latencia en la comunicación.

La evolución de Manus amplifica, de forma intangible, los riesgos inherentes al desarrollo de la IA. Por ejemplo, en el ámbito médico, Manus necesita acceder en tiempo real a datos sensibles de los pacientes; en negociaciones financieras, puede involucrar información no pública de las empresas. Además, también existe el problema del sesgo algorítmico, como ofrecer recomendaciones salariales injustas para ciertos grupos durante el proceso de contratación, o una tasa de error alta en la revisión de contratos legales en relación con los términos de las industrias emergentes. Otro riesgo que merece atención son los ataques adversarios, donde los hackers pueden interferir en el juicio de Manus sobre las ofertas de los oponentes en las negociaciones al insertar señales de audio específicas.

Estos desafíos destacan una dura realidad: cuanto más avanzados son los sistemas inteligentes, más amplia es su superficie de ataque potencial.

En el ámbito de Web3, la seguridad ha sido un tema de gran atención. A partir del "triángulo imposible" propuesto por Vitalik Buterin, fundador de Ethereum (la dificultad de que una red blockchain logre simultáneamente seguridad, descentralización y escalabilidad), han surgido diversas tecnologías criptográficas:

• Modelo de seguridad de cero confianza: basado en el principio de "nunca confiar, siempre verificar", se lleva a cabo una estricta autenticación y autorización para cada solicitud de acceso.

• Identidad descentralizada (DID): un estándar de identificación que no requiere una entidad de registro centralizada, proporcionando una nueva forma de gestión de identidades para el ecosistema Web3.

• Encriptación totalmente homomórfica (FHE): una tecnología avanzada que permite realizar cálculos sobre datos en estado encriptado, especialmente adecuada para escenarios como la computación en la nube y la externalización de datos.

Entre estas tecnologías, la criptografía completamente homomórfica, como el método de cifrado más reciente, se espera que se convierta en la tecnología clave para resolver los problemas de seguridad en la era de la IA. Permite realizar cálculos directamente sobre datos cifrados, ofreciendo nuevas posibilidades para proteger la privacidad.

Para hacer frente a los desafíos de seguridad que plantea la IA, se puede abordar desde los siguientes aspectos:

1. Capa de datos: Asegurarse de que toda la información ingresada por el usuario (incluidos los rasgos biométricos, la voz, etc.) se procese en un estado encriptado, de modo que ni siquiera el propio sistema de IA pueda descifrar los datos originales.

2. Nivel de algoritmo: a través de FHE se realiza "entrenamiento de modelos cifrados", de modo que incluso los desarrolladores no puedan observar directamente el proceso de decisión de la IA.

3. Dimensión de colaboración: en sistemas multiagente, se utiliza la criptografía umbral, de modo que incluso si un nodo individual es comprometido, no se producirá una filtración de datos global.

A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, necesitamos sistemas de defensa más avanzados. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la era de la IA fuerte en el futuro. En el camino hacia la AGI, FHE ya no es una opción, sino una condición necesaria para garantizar el desarrollo seguro de la IA.