La fusión de la IA y Web3: Nuevos desafíos de seguridad traídos por el auge de DeFAI
Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión de AI y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. Durante el evento de dos días, se llevaron a cabo múltiples foros de mesa redonda que discutieron en profundidad el estado actual de las aplicaciones de tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.
Los expertos presentes señalaron que, con el rápido desarrollo de los modelos de lenguaje grande (LLM) y los agentes de IA, se está formando un nuevo paradigma financiero: las finanzas descentralizadas basadas en inteligencia artificial (DeFAI). Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un experto en seguridad que participó en la discusión dijo: "DeFAI, aunque tiene un futuro prometedor, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de decisión de los agentes de IA está influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en la lógica de IA, generalmente autorizados para operar por usuarios, protocolos o DAO. El representante más típico son los robots de trading de IA. Actualmente, la mayoría de los agentes de IA funcionan sobre una arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas financieras, sino que también pueden afectar la estabilidad de todo el protocolo.
En el foro también se mencionó un escenario típico de ataque: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante publica una falsa alarma, como "cierto protocolo está siendo atacado", lo que podría inducir al agente a iniciar de inmediato una liquidación de emergencia. Esta operación no solo puede causar pérdidas de activos al usuario, sino que también puede provocar fluctuaciones en el mercado, que el atacante puede aprovechar mediante el front running.
Con respecto a los riesgos mencionados, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las instituciones de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgando permisos con cautela y prestando atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa en la fase de diseño, como: refuerzo de las palabras clave, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma en que se integra en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que exploran la dirección de DeFAI, su consejo es: "Al igual que con los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa a través de código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita una auditoría de seguridad profesional y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, el IBW ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial de la emisión de licencias de proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía (CMB), la posición del IBW en la industria se ha reforzado aún más.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
15 me gusta
Recompensa
15
8
Republicar
Compartir
Comentar
0/400
SandwichHunter
· 07-29 04:21
¿Otra vez explotando el tema? Ser engañados.
Ver originalesResponder0
quietly_staking
· 07-28 20:43
No hables tanto, solo hazlo.
Ver originalesResponder0
LucidSleepwalker
· 07-26 15:32
Nuevamente, el fervor por la especulación de conceptos tecnológicos
Ver originalesResponder0
0xSunnyDay
· 07-26 06:12
Los ataques de inyección son realmente un poco aterradores.
Ver originalesResponder0
GraphGuru
· 07-26 06:11
La IA y las vulnerabilidades de seguridad son temas eternos, ¿verdad?
Ver originalesResponder0
ChainBrain
· 07-26 06:07
Nuevas formas de Ser engañados han llegado.
Ver originalesResponder0
failed_dev_successful_ape
· 07-26 06:07
Otra advertencia de seguridad del código de un proyecto.
El auge de DeFAI: la seguridad de los agentes de IA se convierte en un nuevo desafío para Web3
La fusión de la IA y Web3: Nuevos desafíos de seguridad traídos por el auge de DeFAI
Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión de AI y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. Durante el evento de dos días, se llevaron a cabo múltiples foros de mesa redonda que discutieron en profundidad el estado actual de las aplicaciones de tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.
Los expertos presentes señalaron que, con el rápido desarrollo de los modelos de lenguaje grande (LLM) y los agentes de IA, se está formando un nuevo paradigma financiero: las finanzas descentralizadas basadas en inteligencia artificial (DeFAI). Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un experto en seguridad que participó en la discusión dijo: "DeFAI, aunque tiene un futuro prometedor, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de decisión de los agentes de IA está influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en la lógica de IA, generalmente autorizados para operar por usuarios, protocolos o DAO. El representante más típico son los robots de trading de IA. Actualmente, la mayoría de los agentes de IA funcionan sobre una arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas financieras, sino que también pueden afectar la estabilidad de todo el protocolo.
En el foro también se mencionó un escenario típico de ataque: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante publica una falsa alarma, como "cierto protocolo está siendo atacado", lo que podría inducir al agente a iniciar de inmediato una liquidación de emergencia. Esta operación no solo puede causar pérdidas de activos al usuario, sino que también puede provocar fluctuaciones en el mercado, que el atacante puede aprovechar mediante el front running.
Con respecto a los riesgos mencionados, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las instituciones de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgando permisos con cautela y prestando atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa en la fase de diseño, como: refuerzo de las palabras clave, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma en que se integra en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que exploran la dirección de DeFAI, su consejo es: "Al igual que con los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa a través de código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita una auditoría de seguridad profesional y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, el IBW ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial de la emisión de licencias de proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía (CMB), la posición del IBW en la industria se ha reforzado aún más.