Comment l'IA va-t-elle rebattre les cartes de la cybersécurité ?

Le ver est dans la pomme. Des chercheurs spécialisés dans la cybersécurité ont mis au point un ver informatique capable d'infester les systèmes d'intelligence artificielle pour voler des données, envoyer des spams ou propager des logiciels malveillants. La malveillance va connaître une nouvelle ère.

L'information provient du site américain Wired, rapportée par Courrier International. Baptisé Moris II, le ver informatique auquel les chercheurs ont donné naissance utilise un "adversarial self-replicating prompt", des instructions autoréplicatives. Concrètement, il s'agit d'une technique de "manipulation" de la machine : avec un prompt (une consigne textuelle) spécifique, le ver entraîne l'IA à générer un autre prompt elle-même. Ainsi, "il est capable de les manipuler pour leur faire dévoiler des informations contenues dans un courriel ou pour leur faire propager des spams via une boîte de messagerie". 

"En résumé, cela signifie qu’il est désormais possible de mener une cyberattaque d’un genre complètement nouveau", explique Ben Nassi, chercheur à Cornell Tech. Avec d'autres chercheurs, il a mené l'étude en utilisant Gemini Pro de Google, ChatGPT 4.0 d’OpenAI et LLaVA de l’université du Wisconsin-Madison. Dans leur cas, l'expérience demeure "virtuelle" et contrôlée. Mais selon leur rapport, ce genre d'attaques en cybersécurité pourraient advenir en conditions réelles d'ici à deux ans maximum.

OpenAI (ChatGPT) a promis à ce sujet qu'elle travaillerait pour que ses systèmes soient "plus résilients" et que les développeurs "utilisent des méthodes veillant à ne pas employer de commande nuisible".