Kemajuan Teknologi Kecerdasan Buatan dan Tantangan Keamanannya

Belakangan ini, sebuah sistem kecerdasan buatan bernama Manus telah mencapai hasil terobosan dalam pengujian benchmark GAIA, mengungguli model bahasa besar sekelasnya. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti melakukan negosiasi bisnis lintas negara, yang melibatkan analisis ketentuan kontrak, perumusan strategi, dan pengembangan proposal di berbagai tahap. Dibandingkan dengan sistem tradisional, keunggulan Manus terletak pada kemampuannya untuk membongkar tujuan secara dinamis, kemampuan penalaran lintas moda, serta kemampuan pembelajaran berbasis memori yang ditingkatkan. Ia dapat membagi tugas besar menjadi ratusan sub-tugas yang dapat dilaksanakan, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Kemajuan revolusioner Manus sekali lagi memicu diskusi di bidang kecerdasan buatan tentang jalur perkembangan di masa depan: apakah akan berkembang ke arah Kecerdasan Buatan Umum (AGI), atau apakah sistem multi-agen (MAS) akan mendominasi secara kolaboratif? Pertanyaan ini sebenarnya mencerminkan sebuah kontradiksi inti dalam perkembangan kecerdasan buatan: bagaimana mencapai keseimbangan antara efisiensi dan keamanan?

Seiring dengan sistem kecerdasan tunggal yang semakin mendekati AGI, risiko ketidakjelasan dalam proses pengambilan keputusan juga meningkat. Meskipun kolaborasi multi-agen dapat mendistribusikan risiko, komunikasi yang tertunda dapat menyebabkan kehilangan momen pengambilan keputusan yang penting. Evolusi Manus secara tidak langsung memperbesar risiko yang melekat pada perkembangan kecerdasan buatan, termasuk masalah kebocoran privasi data, bias algoritma, dan serangan adversarial.

Dalam konteks medis, Manus perlu mengakses data sensitif pasien secara real-time; dalam negosiasi keuangan, ia mungkin terpapar informasi perusahaan yang tidak dipublikasikan. Dalam proses perekrutan, Manus mungkin memberikan saran gaji yang tidak adil kepada kelompok tertentu; saat meninjau kontrak hukum, tingkat kesalahan penilaian terhadap klausul industri yang sedang berkembang bisa mendekati setengah. Selain itu, hacker mungkin mengganggu penilaian Manus dalam negosiasi dengan menyisipkan frekuensi suara tertentu.

Masalah-masalah ini menyoroti tren yang mengkhawatirkan: semakin canggih sistem pintar, semakin luas pula potensi area serangannya.

Untuk menghadapi tantangan ini, industri sedang menjelajahi berbagai teknologi kripto dan model keamanan:

1. Model keamanan zero trust: menekankan verifikasi identitas dan otorisasi yang ketat untuk setiap permintaan akses, tanpa mempercayai perangkat atau pengguna secara default.

2. Identitas Terdesentralisasi (DID): standar identitas digital terdesentralisasi baru yang tidak memerlukan bergantung pada sistem pendaftaran terpusat.

3. Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan data dalam kondisi terenkripsi, melindungi privasi data sambil memanfaatkan data.

Enkripsi homomorfik penuh sebagai teknologi enkripsi yang baru muncul, diharapkan dapat menjadi alat kunci untuk menyelesaikan masalah keamanan di era kecerdasan buatan. Ini dapat melindungi semua informasi yang dimasukkan pengguna di tingkat data, termasuk biometrik dan nada suara, bahkan sistem AI itu sendiri pun tidak dapat mendekripsi data asli. Di tingkat algoritma, FHE dapat mewujudkan "pelatihan model terenkripsi", sehingga bahkan pengembang pun tidak dapat langsung mengamati proses pengambilan keputusan AI. Dalam kolaborasi multi-agen, menggunakan enkripsi ambang dapat memastikan bahwa bahkan jika satu node diserang, itu tidak akan menyebabkan kebocoran data global.

Seiring dengan semakin mendekatnya teknologi kecerdasan buatan kepada kecerdasan manusia, membangun sistem pertahanan non-manusia menjadi semakin penting. Enkripsi homomorfik penuh tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga meletakkan dasar untuk era kecerdasan buatan yang kuat di masa depan. Dalam perjalanan menuju AGI, FHE tidak lagi menjadi pilihan, tetapi merupakan sarana yang diperlukan untuk memastikan sistem kecerdasan buatan aman dan terkontrol.