Moris II : le ver informatique qui menace les systèmes d'IA générative

Publié le 03/15/2024
مدونة ذكاء


Des chercheurs de l'université Cornell Tech ont développé le premier ver informatique conçu pour infecter les systèmes d'intelligence artificielle (IA) générative. Il est baptisé Moris II, en référence au premier créé en 1988. Ce ver peut se propager d'une IA à une autre, voler des données, envoyer des e-mails et diffuser des logiciels malveillants.

Cette cyberattaque repose sur un "adversarial self-replicating prompt", des instructions autoréplicatives. Il s'agit d'un texte en langage naturel qui manipule le modèle d'IA à produire un prompt dans sa réponse, générant de nouvelles instructions pour propager le ver.

Selon Ben Nassi, l'un des chercheurs à l'origine de l'étude, cette découverte signifie qu'il est désormais possible de mener des cyberattaques inédites ciblant spécifiquement les IA génératives. Elles sont de plus en plus utilisées par les entreprises et les particuliers, ce qui en fait une cible de choix pour les pirates informatiques.

Les auteurs estiment que cette menace pourrait se concrétiser dans les conditions réelles d'ici deux à trois ans. Ils appellent dès maintenant à sécuriser les systèmes d'IA contre de telles attaques, notamment en améliorant la détection des prompts malveillants et les mécanismes empêchant les IA de générer du code arbitraire.

Le développement de Moris II soulève des questions cruciales sur les risques de cybersécurité liés à l'essor de l'IA générative. Alors que ces technologies ont de grandes perspectives, il est essentiel d'anticiper dès à présent leurs failles et les moyens d'y remédier pour une adoption sereine et sécurisée à grande échelle.