Desafios de segurança na tendência de fusão entre AI e Web3

Recentemente, durante a Blockchain Week realizada em Istambul, especialistas da indústria discutiram profundamente a tendência de fusão entre inteligência artificial e Web3, com especial atenção aos novos desafios de segurança que surgem nessa tendência.

Com o rápido desenvolvimento dos grandes modelos de linguagem e dos agentes de IA, um novo modelo financeiro conhecido como "DeFAI" (finanças de inteligência artificial descentralizada) está gradualmente tomando forma. Esta inovação, embora tenha um grande potencial, também traz novas vulnerabilidades e superfícies de ataque.

Especialistas apontam que, ao contrário dos contratos inteligentes tradicionais baseados em lógica fixa, o processo de tomada de decisão dos agentes de IA é influenciado por vários fatores, incluindo contexto, tempo e até interações históricas. Essa imprevisibilidade não só aumenta o risco, mas também oferece uma oportunidade para potenciais atacantes.

Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou organizações autônomas descentralizadas. Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a vários ataques, como injeção, manipulação de modelos ou adulteração de dados. Uma vez que um agente de IA é sequestrado, isso pode não apenas resultar em perdas financeiras, mas também afetar a estabilidade de todo o protocolo.

Os especialistas deram um exemplo de um cenário de ataque típico: quando um agente de negociação AI que um usuário DeFi está a operar está a monitorizar mensagens nas redes sociais como sinais de negociação, um atacante pode publicar alarmes falsos, como alegar que um determinado protocolo está a ser atacado. Isso pode induzir o agente AI a iniciar imediatamente operações de liquidação de emergência, resultando não apenas na perda de ativos do usuário, mas também podendo desencadear volatilidade no mercado, que o atacante pode explorar através de técnicas como o front-running.

Em relação a esses riscos, os especialistas concordam que a segurança dos agentes de IA não deve ser responsabilidade de um único lado, mas sim um esforço conjunto de usuários, desenvolvedores e instituições de segurança de terceiros.

Os usuários precisam entender claramente o alcance das permissões concedidas ao agente, autorizando com cautela e prestando atenção à revisão das operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa desde a fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma como a integração na blockchain é realizada, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.

Para os desenvolvedores que estão a explorar a direção do DeFAI, os especialistas recomendam considerar os agentes de IA como código que pode ser atacado, e não como uma "caixa preta". Assim, tal como os contratos inteligentes, os agentes de IA também precisam de ser submetidos a auditorias de segurança e testes de penetração profissionais, para garantir a sua segurança e fiabilidade.

Com a profunda fusão da IA com a Web3, os desafios de segurança continuarão a evoluir. Especialistas do setor pedem que todas as partes permaneçam alerta e trabalhem juntas para construir um ecossistema financeiro descentralizado de inteligência artificial mais seguro e confiável.