O modelo Manus supera o OpenAI, a encriptação totalmente homomórfica pode se tornar o novo padrão de Segurança da IA.

Últimos avanços no campo da IA: o desempenho do modelo Manus supera os produtos OpenAI da mesma categoria

Recentemente, o modelo Manus fez progressos revolucionários nos testes de referência GAIA, superando o desempenho dos modelos OpenAI da mesma categoria. Isso significa que o Manus já possui a capacidade de concluir tarefas complexas de forma independente, como negociações comerciais multinacionais e outras tarefas de múltiplos passos que envolvem análise de cláusulas contratuais, formulação de estratégias e geração de propostas.

As vantagens do Manus estão principalmente em três aspectos: decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado reforçado com memória. Ele consegue decompor tarefas complexas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados e melhora continuamente a eficiência da decisão e reduz a taxa de erros através do aprendizado por reforço.

Esta quebra levou a novas discussões na indústria sobre o caminho do desenvolvimento da IA: devemos avançar para a Inteligência Artificial Geral (AGI) ou para Sistemas Multi-Agentes (MAS)? O conceito de design do Manus parece sugerir duas possibilidades: uma é melhorar continuamente o nível de inteligência individual, aproximando-se da capacidade de tomada de decisão humana; a outra é atuar como um super coordenador, dirigindo a colaboração de várias IAs em campos especializados.

Manus traz a luz do amanhecer da AGI, a segurança da IA também merece reflexão

No entanto, à medida que as capacidades de IA aumentam, os riscos potenciais também estão a crescer. Por exemplo, em cenários médicos, a IA pode precisar de aceder a dados genéticos sensíveis dos pacientes; em negociações financeiras, pode envolver informações financeiras de empresas não divulgadas. Além disso, os sistemas de IA podem apresentar preconceitos algorítmicos, como avaliações injustas de determinados grupos durante o processo de recrutamento. Mais seriamente, os sistemas de IA podem enfrentar ataques adversariais, como hackers que inserem áudio específico para fazer com que a IA tome decisões erradas durante as negociações.

Diante desses desafios, a indústria está explorando várias soluções de segurança. Dentre elas, a criptografia totalmente homomórfica (FHE) é considerada uma ferramenta importante para resolver problemas de segurança na era da IA. A FHE permite o processamento de dados em estado criptografado, mesmo que o próprio sistema de IA não consiga descriptografar as informações originais. Esta tecnologia pode ser aplicada em vários níveis:

  1. Camada de dados: Todas as informações inseridas pelo usuário (, incluindo características biométricas e voz ), são processadas em estado criptografado, prevenindo efetivamente o vazamento de informações.

  2. Nível algorítmico: através do FHE, é possível realizar "treinamento de modelos criptografados", de modo que nem os desenvolvedores conseguem observar diretamente o processo de decisão da IA.

  3. Nível de colaboração: A comunicação entre vários agentes de IA utiliza criptografia de limiar, mesmo que um único nó seja comprometido, não resultará na divulgação global de dados.

Apesar de a aplicação da tecnologia FHE no domínio do Web3 ser ainda relativamente limitada, a sua importância está a tornar-se cada vez mais evidente com o rápido desenvolvimento da tecnologia de IA. No futuro, à medida que os sistemas de IA se aproximam cada vez mais da inteligência humana, os sistemas de defesa de segurança não tradicionais tornar-se-ão essenciais. O FHE não só pode resolver os problemas de segurança atuais, como também estabelece as bases para a era da IA forte que se avizinha. No caminho para a AGI, é muito provável que o FHE passe de uma opção a um item de sobrevivência essencial.

Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Recompensa
  • Comentar
  • Partilhar
Comentar
0/400
Nenhum comentário
  • Pino
Negocie cripto em qualquer lugar e a qualquer hora
qrCode
Digitalizar para transferir a aplicação Gate
Novidades
Português (Portugal)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)