ConfusedPilot – Une nouvelle menace qui vise les systèmes RAG
Des chercheurs du Spark Research Lab de l’Université du Texas à Austin, sous la supervision du professeur Mohit Tiwari, également PDG de Symmetry Systems, ont découvert une méthode pour manipuler les systèmes d’IA utilisant le RAG, comme le célèbre Microsoft 365 Copilot. Ce qui est inquiétant, c’est que cette attaque peut cibler tous les systèmes…