Agents IA Dupés par de Faux Souvenirs, Permettant le Vol de Crypto-monnaie

Une nouvelle étude de recherche a révélé des vulnérabilités de sécurité significatives dans les agents Web3 alimentés par l’intelligence artificielle AI-powered agents, qui permettent aux attaquants d’utiliser de faux souvenirs pour effectuer des transferts de cryptomonnaies non autorisés.

Des chercheurs de l’Université de Princeton et de la Fondation Sentient ont découvert que ces agents IA, conçus pour gérer des tâches basées sur la blockchain telles que le trading de crypto-monnaies et la gestion d’actifs numériques, sont vulnérables à une tactique appelée manipulation de contexte.

L’attaque fonctionne en ciblant les systèmes de mémoire de plateformes comme ElizaOS, qui crée des agents IA pour des applications décentralisées. Le système de mémoire de ces agents stocke les conversations passées pour les utiliser comme guide pour leurs choix futurs.

Les chercheurs ont démontré que les attaquants peuvent intégrer des commandes trompeuses dans le système de mémoire, amenant l’IA à envoyer des fonds du portefeuille prévu à un portefeuille contrôlé par l’attaquant. De manière alarmante, ces faux souvenirs peuvent voyager entre les plateformes.

Par exemple, un agent compromis sur Discord pourrait plus tard effectuer des transferts incorrects via X, sans se rendre compte que quelque chose ne va pas.

Ce qui rend cela particulièrement dangereux, c’est que les mesures défensives standard ne peuvent pas arrêter ce type d’attaque. Le traitement de faux souvenirs comme de véritables instructions rend les mesures de sécurité basiques basées sur les invites inefficaces contre ce genre d’attaque.

Toutes les transactions de blockchain deviennent permanentes, il n’y a donc aucune possibilité de récupérer des fonds volés. Le problème s’aggrave car certains agents IA stockent la mémoire sur plusieurs utilisateurs, donc une seule violation de sécurité pourrait affecter de nombreux utilisateurs.

L’équipe de recherche a testé plusieurs moyens pour prévenir cela, y compris l’ajustement de la formation IA et l’exigence d’une approbation manuelle pour les transactions. Bien que ces approches offrent un certain espoir, elles ont pour contrepartie de ralentir l’automatisation.

Le problème dépasse la cryptomonnaie. La même vulnérabilité pourrait affecter les assistants IA à usage général, risquant des fuites de données ou des actions nuisibles si les attaquants modifient leur mémoire.

Cette vulnérabilité est particulièrement alarmante à la lumière des résultats récents où 84% des dirigeants en informatique font autant ou plus confiance aux agents IA qu’aux employés humains, et 92% s’attendent à ce que ces systèmes génèrent des résultats commerciaux dans les 12 à 18 mois à venir.

Pour aborder le problème, les chercheurs ont mis en place un outil appelé CrAIBench pour aider les développeurs à tester leurs systèmes et à construire des défenses plus solides. Jusqu’à présent, les experts avertissent les utilisateurs d’être prudents lorsqu’ils confient des décisions financières à des agents IA.