Vers une "entité des Nations unies" pour contrôler l'utilisation de l'IA ?

DÉPÊCHE — Le secrétaire général de l'ONU, Antonio Guterres, a redit ses craintes concernant les risques de l'intelligence artificielle (IA) pour la paix et la sécurité mondiale. L'organisation internationale appelle à mettre en place des garde-fous de façon urgente, notamment via une "entité des Nations unies", à l'instar de l'Agence internationale de l'énergie atomique (AIEA) ou du GIEC pour le climat.

Les 6 et 7 juillet dernier, l'ONU organisait un sommet sur l'IA à Genève, réunissant quelque 3 000 participants. Dix jours plus tard, Antonio Guterres déclare : "Il est clair que l'IA va avoir un impact sur tous les aspects de notre vie". "L'IA générative a un potentiel immense pour faire le bien et le mal à large échelle", a-t-il ajouté.

Lire aussi : "Moment critique de l'Histoire" : L'ONU organise un sommet sur l'IA

Si ces technologies peuvent aider à "éradiquer la pauvreté, chasser la faim, soigner le cancer et stimuler l'action climatique", "les applications militaires et non militaires de l'IA pourraient avoir de graves conséquences sur la paix et la sécurité mondiale". Comme souvent, la question devient manichéenne : qu'est-ce qui est bien, ou mal ?

Comme le rapporte l'AFP, en matière de sécurité, l'IA est de plus en plus utilisée. L'ONU, notamment, s'en sert "pour identifier des schémas de violence, surveiller des cessez-le-feu" ou "renforcer le maintien de la paix, la médiation et les efforts humanitaires".

Mais, selon le secrétaire général de l'organisation internationale, "l'utilisation malveillante des systèmes d'IA à des fins terroristes, criminelles ou étatiques pourrait provoquer des niveaux terribles de morts et de destruction, un traumatisme généralisé et des dommages psychologiques d'une ampleur inimaginable". Il s'est également inquiété des risques de "défaillance" de systèmes utilisant ces technologies, en particulier dans les domaines des armes nucléaires, des biotechnologies, des neurotechnologies et de la robotique.

Ainsi, il appelle à ne "jamais enlever" le contrôle humain. Dans cette logique, il voudrait faire interdire les "systèmes d'armes létaux autonomes" d'ici à 2026.

Plus généralement, l'institution réfléchit à une "entité des Nations unies" pour se pencher sur toutes ces questions, sur le modèle de l'Agence internationale de l'énergie atomique (AIEA) ou du groupe d'experts de l'ONU sur le climat (Giec).