"Robots-tueurs" : les scientifiques craignent les dérives de l'intelligence artificielle

Des milliers de signataires, parmi lesquels le célèbre astrophysicien Stephen Hawking, ont publié lundi 27 une lettre ouverte mettant en garde contre les dérives de l'intelligence artificielle. Ils craignent que son développement entraîne sous peu la création de "robots-tueurs" qui pourraient tomber entre de mauvaises mains.

Terminator, I, Robot, Matrix… Nombreux sont les films de science-fiction dans lesquels l'humanité risque d'être exterminée par sa propre création, l'intelligence artificielle (IA). Mais la réalité pourrait bientôt rattraper la fiction, ce qui inquiète de nombreux scientifiques de renom face au risque des "robots-tueurs".

En effet, les derniers progrès en matière d'IA laissent présager son développement dans un futur proche et notamment dans les systèmes d'armement. L'idée d'un robot capable de penser mais aussi de tuer effraie la communauté scientifique. Lundi 27, plusieurs milliers de chercheurs, ingénieurs, professeurs, professionnels de l'informatique, etc., ont signé une lettre ouverte pour mettre en garde contre les "armes autonomes", l'intelligence artificielle et la recherche en robotique.

Parmi les signataires, on retrouve des personnalités de renom comme le célèbre astrophysicien britannique Stephen Hawking, le prix Nobel de physique Frank Wilczek ainsi que le cofondateur d'Apple Steve Wozniak ou le patron de Tesla et Space X Elon Reeve Musk.

"L’intelligence artificielle a atteint un point où le déploiement de tels systèmes sera –matériellement sinon légalement– faisable d’ici quelques années, et non décennies, et les enjeux sont importants: les armes autonomes ont été décrites comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires", peut-on lire dans cette lettre.

Les signataires s'inquiètent qu'une grande puissance amorce une "course à l'armement" dans ce domaine et qu'elle soit logiquement copiée par d'autres pays. A terme, de telles armes pourraient alors se retrouver dans les mains de terroristes, dictateurs ou seigneurs de guerre. Seule solution, selon les auteurs de ce document: interdire le développement de telles armes et réserver l'intelligence artificielle à un usage bénéfique à tous.

"Il y a bien des façons grâce auxquelles l'IA pourrait rendre les champs de bataille plus sûrs pour les humains, spécialement les civils, sans créer des outils pour tuer les gens. (…) Lancer une race d'armes IA est une mauvaise idée et devrait être prévenu par une interdiction des armes offensives autonomes hors d'un contrôle humain significatif".

Stephen Hawking avait déjà déclaré en décembre dernier que sous-estimer les dangers liés à l'intelligence artificielle serait "la plus grave erreur de notre histoire". Il avait plus récement mis en garde contre un autre risque lié aux progrès scientifique, lundi 20 juillet.

Alors qu'il participe à un programme de recherche de signaux extraterrestres, lui et plusieurs autres scientifiques ont rappelé le danger quant à envoyer des signaux dans l'espace à destination d'évenutuels aliens. Des extraterrestres avec plusieurs milliards d'années d'avance sur nous pourraient nous accorder l'importance "d'une bactérie" et nous exterminer d'un revers de tentacule...