Últimos avances en el campo de la IA: el rendimiento del modelo Manus supera a los productos de OpenAI de la misma categoría.

Recientemente, el modelo Manus ha logrado avances revolucionarios en las pruebas de referencia GAIA, superando el rendimiento de los modelos de OpenAI de su misma categoría. Esto significa que Manus ahora tiene la capacidad de completar de forma independiente tareas complejas, como negociaciones comerciales internacionales que involucran el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples pasos.

Las ventajas de Manus se reflejan principalmente en tres aspectos: descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado de la memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.

Este avance ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿hacia la inteligencia artificial general (AGI) o hacia sistemas multiagentes (MAS)? El concepto de diseño de Manus parece insinuar dos posibilidades: una es mejorar continuamente el nivel de inteligencia individual, acercándose a la capacidad de toma de decisiones integrales de los humanos; la otra es actuar como un supercoordinador, dirigiendo el trabajo conjunto de múltiples IAs en áreas especializadas.

Sin embargo, a medida que las capacidades de la IA mejoran, también aumentan sus riesgos potenciales. Por ejemplo, en escenarios médicos, la IA puede necesitar acceder a datos genéticos sensibles de los pacientes; en negociaciones financieras, puede involucrar información financiera de empresas que no se ha hecho pública. Además, los sistemas de IA también pueden presentar sesgos algorítmicos, como evaluaciones injustas hacia grupos específicos durante el proceso de contratación. Más grave aún, los sistemas de IA pueden enfrentarse a ataques adversariales, como hackers que insertan audio específico para que la IA tome decisiones incorrectas en las negociaciones.

Frente a estos desafíos, la industria está explorando diversas soluciones de seguridad. Entre ellas, la técnica de cifrado totalmente homomórfico (FHE) se considera una herramienta importante para abordar los problemas de seguridad en la era de la IA. FHE permite procesar datos en estado cifrado, incluso los propios sistemas de IA no pueden descifrar la información original. Esta técnica puede aplicarse en múltiples niveles:

1. Capa de datos: toda la información ingresada por el usuario (, incluidos rasgos biométricos y voz ), se procesa en un estado cifrado, lo que evita eficazmente la filtración de información.

2. A nivel de algoritmo: se logra el "entrenamiento de modelos cifrados" a través de FHE, de modo que ni los desarrolladores pueden observar directamente el proceso de decisión de la IA.

3. Nivel de colaboración: La comunicación entre múltiples agentes de IA utiliza cifrado umbral, lo que significa que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.

A pesar de que la aplicación de la tecnología FHE en el ámbito Web3 es aún relativamente limitada, su importancia está aumentando rápidamente con el desarrollo de la tecnología de IA. En el futuro, a medida que los sistemas de IA se acerquen cada vez más a la inteligencia humana, los sistemas de defensa de seguridad no tradicionales se volverán esenciales. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la era de la IA fuerte futura. En el camino hacia la AGI, es muy probable que FHE pase de ser una opción a convertirse en una necesidad para la supervivencia.