Terobosan Baru dalam Pengembangan AI: Model Manus Melampaui Model Besar Sejajar, Menimbulkan Kekhawatiran Keamanan

Belakangan ini, model Manus telah mencapai hasil terobosan dalam pengujian benchmark GAIA, dengan kinerja yang melampaui model bahasa besar sekelasnya. Prestasi ini menunjukkan kemampuan luar biasa Manus dalam menangani tugas-tugas kompleks, seperti negosiasi bisnis multinasional yang melibatkan berbagai keterampilan. Kelebihan Manus terutama terletak pada pemecahan tujuan dinamis, penalaran lintas moda, dan pembelajaran yang ditingkatkan dengan memori. Model ini dapat membagi tugas besar menjadi ratusan sub-tugas, sekaligus menangani berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Perkembangan ini kembali memicu diskusi di industri tentang jalur pengembangan AI: apakah menuju jalur kecerdasan buatan umum (AGI) yang bersifat monolitik, atau jalur sistem multi-agen (MAS) yang bersifat terdistribusi dan kolaboratif? Kedua jalur ini memiliki kelebihan dan kekurangan masing-masing. Jalur AGI mengejar sistem tunggal yang mendekati kemampuan pengambilan keputusan komprehensif manusia, sementara jalur MAS berfokus pada koordinasi kolaborasi agen cerdas dari berbagai bidang keahlian.

Namun, seiring dengan semakin cerdasnya sistem AI, risiko potensialnya juga terus meningkat. Kekhawatiran utama termasuk:

1. Privasi data: Dalam bidang sensitif seperti kesehatan dan keuangan, sistem AI perlu mengakses sejumlah besar data pribadi.
2. Bias algoritma: AI mungkin menunjukkan kecenderungan tidak adil atau diskriminatif dalam beberapa keputusan.
3. Kerentanan Keamanan: Sistem yang sangat cerdas dapat menjadi target utama serangan hacker.

Untuk menghadapi tantangan ini, industri sedang menjelajahi berbagai teknologi kripto dan model keamanan:

• Model Keamanan Zero Trust: Menekankan verifikasi ketat untuk setiap permintaan akses.
• Identitas Terdesentralisasi (DID): Mencapai identifikasi yang dapat diverifikasi dan permanen tanpa pendaftaran terpusat.
• Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, melindungi privasi.

Di antara itu, enkripsi homomorfik sepenuhnya dianggap sebagai salah satu teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat melindungi privasi pengguna di tingkat data, mewujudkan pelatihan model terenkripsi di tingkat algoritma, dan menggunakan enkripsi ambang untuk melindungi komunikasi di tingkat kolaborasi.

Meskipun teknologi keamanan telah menjadi topik hangat di bidang cryptocurrency, banyak proyek inovatif tidak mendapatkan perhatian yang cukup. Misalnya, proyek identitas terdesentralisasi awal dan jaringan blockchain yang mengadopsi model zero trust, tidak mampu mempertahankan ketertarikan di pasar dalam jangka panjang. Saat ini, beberapa proyek FHE yang baru muncul sedang mencoba menerapkan teknologi ini ke dalam skenario praktis dan bekerja sama dengan berbagai raksasa teknologi.

Dengan kemajuan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan keamanan yang kuat menjadi semakin penting. Teknologi seperti kriptografi homomorfik tidak hanya dapat menyelesaikan tantangan keamanan saat ini, tetapi juga akan meletakkan dasar untuk era AI kuat di masa depan. Dalam perjalanan menuju AGI, teknologi keamanan ini bukan lagi pilihan, melainkan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan andal.