Злиття AI та Web3: Нові виклики безпеки, що виникають з підйомом DeFAI

Нещодавно Стамбульський тиждень блокчейну (IBW 2025) зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. Протягом двох днів заходу відбулося кілька круглих столів, на яких було проведено поглиблені обговорення щодо поточного стану застосування технології AI у децентралізованих фінансах (DeFi) та викликів безпеки.

Експерти, які брали участь у конференції, зазначили, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів формується нова фінансова парадигма — децентралізовані штучні інтелектуальні фінанси (DeFAI). Однак ця трансформація також принесла нові вектори атак та загрози безпеці.

Один з експертів з безпеки, який брав участь в обговоренні, зазначив: "Хоча DeFAI має великі перспективи, він також змушує нас переосмислити механізми довіри у децентралізованих системах. На відміну від смарт-контрактів на основі фіксованої логіки, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників."

AI-агенти по суті є інтелектуальними агентами, які можуть самостійно приймати рішення та виконувати їх на основі AI-логіки, зазвичай вони працюють за授权ом користувача, протоколу або DAO. Найяскравішим прикладом є AI-трейдинг роботи. Наразі більшість AI-агентів працюють на основі архітектури Web2, залежачи від централізованих серверів та API, що робить їх вразливими до атак впровадження, маніпуляцій з моделями або підробки даних. Якщо їх захопити, це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

У форумі також згадувалися типовий сценарій атаки: коли AI-трейдер, який управляє користувачем DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, наприклад, "якийсь протокол піддається атаці", що може спонукати агента негайно запустити надзвичайну ліквідацію. Така операція не лише призводить до втрат активів користувача, але й викликає коливання на ринку, які зловмисник може використовувати шляхом фронт-раннінгу.

З огляду на вищезазначені ризики, експерти, які взяли участь у засіданні, вважають, що безпека AI-агентів не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.

По-перше, користувачам потрібно чітко усвідомлювати обсяг повноважень, які має агент, обережно надаючи права, а також звертати увагу на перевірку високих ризиків операцій AI-агента. По-друге, розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як: зміцнення підказок, ізоляція пісочниці, обмеження швидкості та логіка відкату. Треті компанії з безпеки повинні забезпечити незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, співпрацюючи з розробниками та користувачами для виявлення ризиків та пропозиції заходів з їх пом'якшення.

Експерт з безпеки попередив: "Якщо продовжувати вважати AI-агенти 'чорною скринькою', то у реальному світі аварії з безпеки – це лише питання часу." Для розробників, які досліджують напрямок DeFAI, він дав пораду: "Як і у випадку зі смарт-контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує можливість атаки, тому потрібен професійний аудит безпеки та пенетраційне тестування."

Як одна з найвпливовіших блокчейн-подій у Європі, IBW накопичила понад 15 тисяч учасників, включаючи розробників, проєктні команди, інвесторів та регуляторів з усього світу. Цього року, з офіційним запуском видачі ліцензій на блокчейн-проєкти Комісією з капітальних ринків Туреччини (CMB), індустріальний статус IBW отримав подальше підвищення.