Morris II, un ver informatique qui se propage en retournant l'IA contre elle-même
Retourner une IA contre elle-même pour générer un ver informatique attaquant les messageries, c’est l’expérience menée par des chercheurs en cybersécurité aux États-Unis. Pour y parvenir, une invite a manipulé les IA des chatbots afin de les corrompre.
Il s’appelle Morris II (en clin d’œil au premier ver informatique « Morris » qui avait été créé en 1988) et cible les assistants de messagerie par IA génératives. Il les manipule et vole des données dans les e-mails et est capable d’envoyer des messages pour contaminer d'autres messageries. Ce virus a été créé par des chercheurs du Cornell Tech à New York. Il ne s’agit que d’un « exercice » conçu pour montrer les risques liés aux écosystèmes d’IA connectés et autonomes. Mais Morris II a une particularité, il peut être généré directement via ChatGPT ou Gemini en sachant « parler » correctement avec le chatbot et en passant outre les verrous de protection.
Morris II peut se propager d’un système à l’autre, en volant des données ou en déployant des logiciels malveillants dans le système. Et l’expérience montre comment une simple invite de commande – le fameux prompt – peut être utilisée comme une arme en amenant le système de l'IA à ignorer ses propres règles de sécurité. Pour créer ce ver génératif, les chercheurs ont utilisé une...
Par Sylvain Biget, Journaliste
