Prompt injection : un essaim d'agents IA fait tomber les défenses des meilleurs modèles
Des chercheurs de Google DeepMind montrent qu'un essaim de 16 agents attaquants, organisés en huit équipes, perce les défenses contre l'injection de prompt des modèles les plus robustes. Les modèles open weights résistent à peine 1 à 5 % des attaques. La course attaque-défense n'est pas finie, elle change d'échelle.
// SIGNALUne démonstration méthodique, signée Google DeepMind : avec un essaim de 16 agents coordonnés et un budget de 320 requêtes, aucun modèle testé ne résiste pleinement, y compris le meilleur Gemini (66 % de résistance à budget maximal). La résistance s'effondre à mesure que l'attaquant monte en gamme : la capacité des modèles progresse des deux côtés, et l'attaque en profite directement. Le red-teaming automatisé en continu devient une nécessité, pas un luxe.