Open AI (ChatGPT) ouvre la voie à l'usage "militaire" de l'intelligence artificielle

La société mère de ChatGPT, Open AI, a discrètement modifié ses règles d'utilisation au début du mois pour ouvrir ses portes au secteur de la défense. Un changement qui a de quoi inquiéter, bien que l'entreprise se veuille rassurante.

Il y a encore peu de temps, les mots "militaire et guerre" étaient inscrits dans la liste de ce qu'il est interdit de faire avec l'intelligence artificielle d'OpenAI, au côté de la pédocriminalité, du harcèlement ou des activités illégales. Si l'on en croit le média The Intercept, ils n'y sont plus depuis le 10 janvier dernier.

Comme le rapporte Presse Citron, l'entreprise américaine n'a pas nié ce changement de langage, mais a tenu à s'expliquer : "Il existe des cas d’utilisation en matière de sécurité nationale qui correspondent à notre mission. Par exemple, nous travaillons déjà avec la DARPA (ndlr, l’agence américaine pour les projets de recherche avancée de défense) pour stimuler la création de nouveaux outils de cybersécurité afin de sécuriser les logiciels open source dont dépendent les infrastructures critiques et l’industrie. Il n’était pas clair si ces cas d’utilisation bénéfiques auraient été autorisés sous la rubrique « militaire » dans nos politiques précédentes. L’objectif de notre mise à jour de politique est donc d’apporter de la clarté et de permettre d’avoir ces discussions."

Et de préciser qu'il y avait des limites à ces nouvelles utilisations : "Notre politique ne permet pas que nos outils soient utilisés pour nuire à des personnes, développer des armes, pour surveiller les communications, ou pour blesser autrui ou détruire des biens".

Cela étant dit, comme le montre un article de TechCrunch au travers de deux captures d'écran, "tout a été réécrit". Alors que la version précédente des règles établissait une liste d'interdiction très claire, la nouvelle est un assemblage de consignes plutôt floues, et flexibles. Advienne que pourra !