Manus, GAIA Benchmark testinde çığır açan ilerlemeler kaydetti.

Son zamanlarda, Manus GAIA Benchmark testinde yeni bir rekor kırdı ve performansı benzer boyuttaki büyük dil modellerini geride bıraktı. Bu başarı, Manus'un uluslararası ticari müzakereler gibi karmaşık görevleri bağımsız bir şekilde ele alabilme yeteneğine sahip olduğunu gösteriyor; bu, sözleşme analizi, stratejik planlama ve öneri geliştirme gibi birçok aşamayı içeriyor.

Geleneksel sistemlerle karşılaştırıldığında, Manus'un avantajları esas olarak üç alanda ortaya çıkmaktadır: dinamik hedef ayrıştırma, çok modlu akıl yürütme ve bellek güçlendirilmiş öğrenme. Büyük görevleri yüzlerce uygulanabilir alt göreve bölerken, çeşitli veri türlerini işleyebilmekte ve pekiştirmeli öğrenme ile sürekli olarak karar verme verimliliğini artırmakta ve hata olasılığını düşürmektedir.

Manus'un ilerlemesi, sektörde yapay zeka gelişim yolları üzerine tartışmalara yeniden yol açtı: Gelecek, genel yapay zeka (AGI) için tek tip bir model mi yoksa çoklu akıllı sistemler (MAS) için işbirliği modeli mi olacak?

Bu sorun, Manus'un tasarım felsefesini içeriyor ve iki olası gelişim yönünü ima ediyor:

1. AGI Yolu: Tekil bir zeka sisteminin yeteneklerini sürekli olarak geliştirerek, insanın entegre karar verme seviyesine yavaş yavaş yaklaşmasını sağlamak.

2. MAS Yolu: Manus'u süper koordinator olarak konumlandırmak, birçok uzmanlık alanındaki akıllı varlıkların işbirliği yapmasını yönetmek.

Yüzeyde, bu bir teknik yol haritası tartışmasıdır, ancak aslında AI gelişimindeki temel çelişkiyi yansıtmaktadır: Verimlilik ile güvenlik arasında nasıl bir denge sağlanır. Tekil zeka sistemleri AGI'ye yaklaştıkça, karar verme süreçlerinin şeffaf olmama riski de artmaktadır; ve çoklu zeka işbirliği riskleri dağıtabilse de, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırabilir.

Manus'un evrimi, AI gelişiminin doğasında bulunan riskleri görünmez bir şekilde büyütmektedir. Örneğin, sağlık alanında Manus'un hastaların hassas verilerine gerçek zamanlı erişimi gerekmektedir; finansal müzakerelerde ise, şirketlerin açıklanmamış bilgileri söz konusu olabilir. Ayrıca, belirli gruplara haksız maaş önerileri verilmesi gibi algoritma önyargısı sorunları da bulunmaktadır veya hukuki sözleşme incelemelerinde yeni ortaya çıkan sektör koşullarının yanlış değerlendirilme oranı yüksektir. Dikkate değer bir diğer risk ise karşıt saldırılardır; hackerlar, belirli ses sinyalleri yerleştirerek Manus'un müzakerelerde rakip teklifi değerlendirmesini engelleyebilir.

Bu zorluklar, akıllı sistemler ne kadar gelişmiş olursa, potansiyel saldırı yüzeyinin de o kadar genişlediği sert bir gerçeği ortaya koymaktadır.

Web3 alanında güvenlik her zaman dikkat çeken bir konu olmuştur. Ethereum'un kurucusu Vitalik Buterin'in "imkansız üçgen" (blok zinciri ağlarının güvenlik, merkeziyetsizlik ve ölçeklenebilirliği aynı anda sağlamada zorluk yaşaması) fikrinden yola çıkarak birçok kripto teknolojisi türetilmiştir:

• Sıfır Güven Güvenlik Modeli: "Asla Güvenme, Her Zaman Doğrula" ilkesine dayalı olarak, her erişim isteği için sıkı kimlik doğrulama ve yetkilendirme yapılır.

• Merkeziyetsiz Kimlik (DID): Merkezi bir kayıt kuruluşuna ihtiyaç duymadan kimlik tanıma standardı, Web3 ekosistemine yeni bir kimlik yönetimi yöntemi sunar.

• Tam Eşitlik Şifrelemesi (FHE): Verilerin şifreli durumda hesaplanmasına izin veren ileri teknoloji, özellikle bulut bilişim ve veri dış kaynak kullanımı gibi senaryolar için uygundur.

Bu teknolojiler arasında, tamamen homomorfik şifreleme, AI çağının güvenlik sorunlarını çözmede anahtar teknoloji olma potansiyeline sahip en yeni şifreleme yöntemi olarak öne çıkıyor. Şifrelenmiş veriler üzerinde doğrudan hesaplama yapılmasına izin vererek gizliliği korumak için yeni olanaklar sunuyor.

AI tarafından getirilen güvenlik zorluklarıyla başa çıkmak için aşağıdaki birkaç yönden hareket edilebilir:

1. Veri düzeyinde: Kullanıcı tarafından girilen tüm bilgilerin (biyometrik veriler, ses vb. dahil) şifreli bir şekilde işlenmesini sağlamak ve AI sisteminin bile orijinal verilere erişememesini sağlamak.

2. Algoritma düzeyi: FHE aracılığıyla "şifreli model eğitimi" gerçekleştirilerek, geliştiricilerin bile AI'nın karar verme sürecini doğrudan gözlemleyememesi sağlanır.

3. İşbirliği Boyutu: Çoklu ajan sistemlerinde eşik şifreleme kullanarak, tek bir düğüm ele geçirildiğinde bile küresel veri ifşası gerçekleşmez.

Yapay zeka teknolojisi insan zekâ seviyesine yaklaştıkça, daha gelişmiş savunma sistemlerine ihtiyaç duyuyoruz. FHE, mevcut güvenlik sorunlarını çözmekle kalmayıp, gelecekteki güçlü AI döneminin de temelini atıyor. AGI'ye giden yolda, FHE artık bir seçenek değil, AI'nın güvenli gelişimini sağlamak için gerekli bir şart.