L'intégration de l'IA et du Web3 soulève de nouveaux défis de sécurité, DeFAI devient le point focal
Récemment, un grand événement blockchain axé sur les tendances de la fusion entre l'IA et le Web3 a eu lieu à Istanbul. Plusieurs experts provenant de sociétés de sécurité, de cabinets comptables et de projets blockchain se sont réunis pour discuter en profondeur de l'état actuel de l'application de la technologie IA dans le domaine de la finance décentralisée ( DeFi ) et des défis de sécurité qu'elle entraîne.
Au cours de la réunion, "DeFAI"( la finance artificielle décentralisée) est devenue un sujet de discussion brûlant. Avec le développement rapide des modèles de langage( LLM) et des agents IA, ce nouveau paradigme financier est en train de prendre forme. Cependant, en même temps, il a également introduit de nouvelles surfaces d'attaque et des risques de sécurité.
Un expert en sécurité a déclaré : "Bien que DeFAI ait un avenir prometteur, cela nous oblige également à réévaluer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus décisionnel des agents AI est influencé par de nombreux facteurs, ce qui le rend imprévisible. Cela augmente non seulement les risques, mais crée également des opportunités pour les attaquants."
Les agents AI sont des entités intelligentes capables de prendre des décisions et d'exécuter des actions de manière autonome sur la base de la logique AI, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Actuellement, la plupart des agents AI fonctionnent sur une architecture Web2, reposant sur des serveurs centralisés et des API, ce qui les rend vulnérables à diverses menaces d'attaque. Une fois détournés, cela peut non seulement entraîner des pertes financières, mais aussi affecter la stabilité de l'ensemble du protocole.
Les experts ont également discuté d'un scénario d'attaque typique : lorsque les agents de trading AI utilisés par les utilisateurs de DeFi surveillent les messages des réseaux sociaux comme signaux de trading, les attaquants peuvent inciter les agents à déclencher des liquidations d'urgence en publiant de fausses alertes. Cela peut non seulement entraîner des pertes d'actifs pour les utilisateurs, mais également provoquer des fluctuations du marché, que les attaquants peuvent exploiter davantage.
Concernant ces risques, les experts présents s'accordent à dire que la sécurité des agents IA devrait être une responsabilité partagée entre les utilisateurs, les développeurs et les agences de sécurité tierces. Les utilisateurs doivent accorder des autorisations avec prudence et examiner les opérations à haut risque ; les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception ; tandis que les entreprises de sécurité tierces doivent fournir des examens indépendants et collaborer avec toutes les parties pour identifier les risques et proposer des mesures d'atténuation.
Un expert a averti : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il ne s'agit que d'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Il a conseillé aux développeurs qui explorent la direction DeFAI : "La logique comportementale des agents IA est également réalisée par du code. Puisque c'est du code, il y a une possibilité d'être attaqué, donc des audits de sécurité professionnels et des tests de pénétration sont nécessaires."
Avec l'évolution continue de la technologie blockchain et l'amélioration progressive du cadre réglementaire, la fusion de l'IA et du Web3 continuera à susciter davantage d'attention et de discussions. L'industrie doit travailler ensemble pour promouvoir l'innovation tout en accordant une attention adéquate et en répondant aux défis de sécurité qui pourraient survenir.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
7 J'aime
Récompense
7
5
Partager
Commentaire
0/400
CryptoComedian
· Il y a 14h
Pigeons d'aujourd'hui : L'IA prend les gens pour des idiots sans même réfléchir pendant 0,1 seconde.
Voir l'originalRépondre0
DefiSecurityGuard
· Il y a 14h
*sigh* une autre surface d'attaque dont nous n'avions pas besoin... ces agents LLM sont essentiellement des pots de miel en attente de se produire, pour être honnête. DYOR mais mon analyse de menace suggère des signaux d'alarme immédiats.
Voir l'originalRépondre0
BearMarketLightning
· Il y a 14h
Encore une autre belle promesse~ On joue avec le concept.
Voir l'originalRépondre0
ExpectationFarmer
· Il y a 15h
C'est vrai, l'IA protège l'IA, quand va-t-elle me protéger ?
Voir l'originalRépondre0
LeekCutter
· Il y a 15h
Eh, ceux qui font de grands modèles vont encore se faire prendre pour des cons.
L'émergence de DeFAI pilotée par l'IA : les défis de sécurité mettent à l'épreuve l'innovation Web3
L'intégration de l'IA et du Web3 soulève de nouveaux défis de sécurité, DeFAI devient le point focal
Récemment, un grand événement blockchain axé sur les tendances de la fusion entre l'IA et le Web3 a eu lieu à Istanbul. Plusieurs experts provenant de sociétés de sécurité, de cabinets comptables et de projets blockchain se sont réunis pour discuter en profondeur de l'état actuel de l'application de la technologie IA dans le domaine de la finance décentralisée ( DeFi ) et des défis de sécurité qu'elle entraîne.
Au cours de la réunion, "DeFAI"( la finance artificielle décentralisée) est devenue un sujet de discussion brûlant. Avec le développement rapide des modèles de langage( LLM) et des agents IA, ce nouveau paradigme financier est en train de prendre forme. Cependant, en même temps, il a également introduit de nouvelles surfaces d'attaque et des risques de sécurité.
Un expert en sécurité a déclaré : "Bien que DeFAI ait un avenir prometteur, cela nous oblige également à réévaluer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus décisionnel des agents AI est influencé par de nombreux facteurs, ce qui le rend imprévisible. Cela augmente non seulement les risques, mais crée également des opportunités pour les attaquants."
Les agents AI sont des entités intelligentes capables de prendre des décisions et d'exécuter des actions de manière autonome sur la base de la logique AI, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Actuellement, la plupart des agents AI fonctionnent sur une architecture Web2, reposant sur des serveurs centralisés et des API, ce qui les rend vulnérables à diverses menaces d'attaque. Une fois détournés, cela peut non seulement entraîner des pertes financières, mais aussi affecter la stabilité de l'ensemble du protocole.
Les experts ont également discuté d'un scénario d'attaque typique : lorsque les agents de trading AI utilisés par les utilisateurs de DeFi surveillent les messages des réseaux sociaux comme signaux de trading, les attaquants peuvent inciter les agents à déclencher des liquidations d'urgence en publiant de fausses alertes. Cela peut non seulement entraîner des pertes d'actifs pour les utilisateurs, mais également provoquer des fluctuations du marché, que les attaquants peuvent exploiter davantage.
Concernant ces risques, les experts présents s'accordent à dire que la sécurité des agents IA devrait être une responsabilité partagée entre les utilisateurs, les développeurs et les agences de sécurité tierces. Les utilisateurs doivent accorder des autorisations avec prudence et examiner les opérations à haut risque ; les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception ; tandis que les entreprises de sécurité tierces doivent fournir des examens indépendants et collaborer avec toutes les parties pour identifier les risques et proposer des mesures d'atténuation.
Un expert a averti : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il ne s'agit que d'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Il a conseillé aux développeurs qui explorent la direction DeFAI : "La logique comportementale des agents IA est également réalisée par du code. Puisque c'est du code, il y a une possibilité d'être attaqué, donc des audits de sécurité professionnels et des tests de pénétration sont nécessaires."
Avec l'évolution continue de la technologie blockchain et l'amélioration progressive du cadre réglementaire, la fusion de l'IA et du Web3 continuera à susciter davantage d'attention et de discussions. L'industrie doit travailler ensemble pour promouvoir l'innovation tout en accordant une attention adéquate et en répondant aux défis de sécurité qui pourraient survenir.