Прелюдия к AGI: Прорывы модели Manus и новые вызовы в области Безопасности с помощью искусственного интеллекта
В области искусственного интеллекта модель Manus недавно достигла значительного прорыва, показав передовые результаты в тестировании GAIA, ее производительность даже превосходит аналогичные крупные языковые модели. Это означает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные бизнес-переговоры, включая анализ контрактов, стратегическое прогнозирование и разработку планов, а также может координировать юридические и финансовые команды.
Преимущества Manus проявляются в трех основных аспектах: способность к динамическому разложению целей, способность к кросс-модальному выводу и способность к обучению с усилением памяти. Он может разбивать крупные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая свою эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прогресс Manus снова вызвал обсуждение в отрасли по поводу путей развития ИИ: возникнет ли в будущем единый универсальный искусственный интеллект (AGI) или будет доминировать система многоагентов (MAS)? Этот вопрос затрагивает основные принципы проектирования Manus и подразумевает два возможных направления развития:
Путь AGI: Постепенное приближение возможностей единой интеллектуальной системы к уровню комплексного принятия решений человеком.
Путь MAS: использовать Manus в качестве суперкоординатора для управления совместной работой тысяч специализированных агентов.
На поверхности это спор о технологических путях, но на самом деле это отражает основное противоречие в развитии ИИ: как достичь баланса между эффективностью и безопасностью? С приближением единой интеллектуальной системы к AGI риски непрозрачности ее процесса принятия решений также увеличиваются. Хотя координация мультиагентов может распределить риски, она может пропустить ключевые моменты принятия решений из-за задержки в коммуникации.
Развитие Manus невольно увеличивает присущие риски искусственного интеллекта. Например, в медицинских сценариях требуется доступ в реальном времени к геномным данным пациентов; в финансовых переговорах могут задействоваться нераскрытая финансовая информация компаний. Кроме того, существует проблема алгоритмической предвзятости, например, в процессе найма, когда определенным группам могут предлагаться несправедливые зарплатные рекомендации, или при проверке юридических контрактов высока вероятность неверной оценки условий для новых отраслей. Более того, Manus может иметь уязвимости для атак с использованием противодействующих средств, хакеры могут вводить в заблуждение его оценку переговоров, внедряя определенные аудиочастоты.
Это подчеркивает суровую реальность системы ИИ: чем выше уровень интеллекта, тем шире потенциальная поверхность атак.
В области Web3 безопасность всегда была ключевой темой. На основе теории "невозможного треугольника", предложенной Виталиком Бутериным (блокчейн-сети не могут одновременно обеспечить безопасность, децентрализацию и масштабируемость), возникло множество криптографических технологий:
Модель нулевого доверия: подчеркивает принцип "никогда не доверяй, всегда проверяй", требуя строгой проверки и авторизации для каждого запроса доступа.
Децентрализованная идентичность (DID): новый стандарт децентрализованной цифровой идентичности, позволяющий проводить проверку личности без необходимости централизованной регистрации.
Полностью гомоморфное шифрование (FHE): позволяет выполнять вычисления над данными в зашифрованном состоянии без необходимости их расшифровки.
В частности, гомоморфное шифрование как новейшая техника шифрования считается ключом к решению проблем безопасности в эпоху ИИ.
В ответ на вызовы безопасности систем ИИ, таких как Manus, FHE предлагает многоуровневые решения:
Уровень данных: Вся информация, введенная пользователями (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, и даже сама система ИИ не может расшифровать исходные данные.
Алгоритмический уровень: с помощью FHE реализовать "обучение зашифрованной модели", чтобы даже разработчики не могли напрямую наблюдать за процессом принятия решений ИИ.
Согласованность на уровне: связь между несколькими интеллектуальными агентами осуществляется с использованием порогового шифрования, что означает, что даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут казаться далекими для обычных пользователей, они тесно связаны с интересами каждого. В этом полном вызовов цифровом мире без активных мер защиты трудно избежать рисков информационной безопасности.
В области децентрализованных идентичностей проект uPort был запущен в 2017 году на основной сети Ethereum. В области модели нулевого доверия проект NKN выпустил основную сеть в 2019 году. А Mind Network стал первым проектом FHE, который запустился на основной сети и начал сотрудничество с известными организациями, такими как ZAMA, Google и DeepSeek.
Несмотря на то, что ранние проекты безопасности могли не вызвать широкого внимания, с быстрым развитием технологий ИИ важность области безопасности становится все более очевидной. Сможет ли Mind Network сломать эту тенденцию и стать лидером в области безопасности, стоит нашего постоянного внимания.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нам все больше нужны современные защитные системы. Ценность FHE заключается не только в решении текущих проблем, но и в закладке основ для будущей эпохи сильного ИИ. На пути к AGI FHE больше не является опциональным, а становится необходимым условием для безопасного развития ИИ.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
10 Лайков
Награда
10
4
Поделиться
комментарий
0/400
SandwichVictim
· 07-05 16:53
Это действительно так?
Посмотреть ОригиналОтветить0
MEVictim
· 07-05 16:53
Пророческий офис - Секта PI
Посмотреть ОригиналОтветить0
ForkMonger
· 07-05 16:52
еще один вектор для манипуляции системой... только что нашли наш следующий эксплойт управления
Прорыв модели Manus вызвал обсуждение AGI, FHE может стать ключом к безопасности с помощью искусственного интеллекта.
Прелюдия к AGI: Прорывы модели Manus и новые вызовы в области Безопасности с помощью искусственного интеллекта
В области искусственного интеллекта модель Manus недавно достигла значительного прорыва, показав передовые результаты в тестировании GAIA, ее производительность даже превосходит аналогичные крупные языковые модели. Это означает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные бизнес-переговоры, включая анализ контрактов, стратегическое прогнозирование и разработку планов, а также может координировать юридические и финансовые команды.
Преимущества Manus проявляются в трех основных аспектах: способность к динамическому разложению целей, способность к кросс-модальному выводу и способность к обучению с усилением памяти. Он может разбивать крупные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая свою эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прогресс Manus снова вызвал обсуждение в отрасли по поводу путей развития ИИ: возникнет ли в будущем единый универсальный искусственный интеллект (AGI) или будет доминировать система многоагентов (MAS)? Этот вопрос затрагивает основные принципы проектирования Manus и подразумевает два возможных направления развития:
Путь AGI: Постепенное приближение возможностей единой интеллектуальной системы к уровню комплексного принятия решений человеком.
Путь MAS: использовать Manus в качестве суперкоординатора для управления совместной работой тысяч специализированных агентов.
На поверхности это спор о технологических путях, но на самом деле это отражает основное противоречие в развитии ИИ: как достичь баланса между эффективностью и безопасностью? С приближением единой интеллектуальной системы к AGI риски непрозрачности ее процесса принятия решений также увеличиваются. Хотя координация мультиагентов может распределить риски, она может пропустить ключевые моменты принятия решений из-за задержки в коммуникации.
Развитие Manus невольно увеличивает присущие риски искусственного интеллекта. Например, в медицинских сценариях требуется доступ в реальном времени к геномным данным пациентов; в финансовых переговорах могут задействоваться нераскрытая финансовая информация компаний. Кроме того, существует проблема алгоритмической предвзятости, например, в процессе найма, когда определенным группам могут предлагаться несправедливые зарплатные рекомендации, или при проверке юридических контрактов высока вероятность неверной оценки условий для новых отраслей. Более того, Manus может иметь уязвимости для атак с использованием противодействующих средств, хакеры могут вводить в заблуждение его оценку переговоров, внедряя определенные аудиочастоты.
Это подчеркивает суровую реальность системы ИИ: чем выше уровень интеллекта, тем шире потенциальная поверхность атак.
В области Web3 безопасность всегда была ключевой темой. На основе теории "невозможного треугольника", предложенной Виталиком Бутериным (блокчейн-сети не могут одновременно обеспечить безопасность, децентрализацию и масштабируемость), возникло множество криптографических технологий:
В частности, гомоморфное шифрование как новейшая техника шифрования считается ключом к решению проблем безопасности в эпоху ИИ.
В ответ на вызовы безопасности систем ИИ, таких как Manus, FHE предлагает многоуровневые решения:
Уровень данных: Вся информация, введенная пользователями (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, и даже сама система ИИ не может расшифровать исходные данные.
Алгоритмический уровень: с помощью FHE реализовать "обучение зашифрованной модели", чтобы даже разработчики не могли напрямую наблюдать за процессом принятия решений ИИ.
Согласованность на уровне: связь между несколькими интеллектуальными агентами осуществляется с использованием порогового шифрования, что означает, что даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут казаться далекими для обычных пользователей, они тесно связаны с интересами каждого. В этом полном вызовов цифровом мире без активных мер защиты трудно избежать рисков информационной безопасности.
В области децентрализованных идентичностей проект uPort был запущен в 2017 году на основной сети Ethereum. В области модели нулевого доверия проект NKN выпустил основную сеть в 2019 году. А Mind Network стал первым проектом FHE, который запустился на основной сети и начал сотрудничество с известными организациями, такими как ZAMA, Google и DeepSeek.
Несмотря на то, что ранние проекты безопасности могли не вызвать широкого внимания, с быстрым развитием технологий ИИ важность области безопасности становится все более очевидной. Сможет ли Mind Network сломать эту тенденцию и стать лидером в области безопасности, стоит нашего постоянного внимания.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нам все больше нужны современные защитные системы. Ценность FHE заключается не только в решении текущих проблем, но и в закладке основ для будущей эпохи сильного ИИ. На пути к AGI FHE больше не является опциональным, а становится необходимым условием для безопасного развития ИИ.