Integrasi AI dan Web3: Tantangan Keamanan Baru yang Dibawa oleh Kebangkitan DeFAI

Baru-baru ini, Pekan Blockchain Istanbul (IBW 2025) berfokus pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Dalam acara yang berlangsung selama dua hari, beberapa forum meja bundar membahas secara mendalam tentang aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.

Para ahli yang hadir menunjukkan bahwa dengan cepatnya perkembangan model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru — Keuangan AI Terdesentralisasi (DeFAI) — sedang secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan baru dan risiko keamanan.

Seorang ahli keamanan yang berpartisipasi dalam diskusi mengatakan: "DeFAI meskipun memiliki prospek yang luas, juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan peluang bagi penyerang."

Agen AI pada dasarnya adalah entitas cerdas yang dapat mengambil keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, yang biasanya diizinkan untuk berjalan oleh pengguna, protokol, atau DAO. Salah satu contoh paling umum adalah robot perdagangan AI. Saat ini, sebagian besar agen AI beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terkompromi, tidak hanya dapat mengakibatkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.

Forum juga menyebutkan situasi serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang memposting alarm palsu, seperti "protokol tertentu diserang", yang dapat menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga akan memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan mendahului (Front Running).

Menyangkut risiko yang disebutkan di atas, para ahli yang hadir umumnya percaya bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pertama, pengguna perlu memahami batasan hak yang dimiliki oleh agen dan dengan hati-hati memberikan izin, serta perlu memperhatikan peninjauan terhadap operasi berisiko tinggi yang dilakukan oleh agen AI. Kedua, pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti: penguatan kata kunci, isolasi sandbox, pembatasan laju, dan logika pemulihan. Sementara itu, perusahaan keamanan pihak ketiga harus memberikan peninjauan independen terhadap perilaku model agen AI, infrastruktur, serta cara integrasi on-chain, dan bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.

Seorang ahli keamanan memperingatkan: "Jika kita terus menganggap agen AI sebagai 'kotak hitam', kejadian kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Bagi para pengembang yang sedang menjelajahi arah DeFAI, saran yang diberikan adalah: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan melalui kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."

Sebagai salah satu acara blockchain paling berpengaruh di Eropa, IBW telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang global, proyek, investor, dan regulator. Tahun ini, dengan Komisi Pasar Modal Turki (CMB) secara resmi meluncurkan penerbitan lisensi proyek blockchain, posisi industri IBW semakin meningkat.