L'UE propose un encadrement de l’IA, de la surveillance et de la reconnaissance faciale

Pour mieux encadrer les nouvelles technologies sans que les citoyens en soient forcément conscients, la Commission européenne a présenté le 21 avril dernier une proposition de règlement visant à harmoniser et réglementer les applications en matière d’intelligence artificielle, de reconnaissance faciale, de traçabilité et de surveillance. Que compte faire l’Europe pour limiter les dégâts de la relation homme-machine?

La manipulation algorithmique, la reconnaissance faciale et l’IA au service du renseignement interdites... sauf exceptions

Dans certains pays comme la Chine, l’intelligence artificielle est utilisée pour mesurer la fiabilité d'un individu et promouvoir des comportements spécifiques. Cette pratique serait interdite par la proposition de règlement de L’UE. Malgré une position ferme en faveur de la protection de la vie privée et une interdiction totale des systèmes de reconnaissance biométrique en temps réel (telle que la reconnaissance faciale), elle pourra quand même être utilisée dans certains cas, comme les attaques terroristes, les enlèvements, ou la recherche des criminels. En revanche, les technologies qui permettent la reconnaissance des émotions ou certains traits biométriques tels que le sexe, la race, la sexualité et l'orientation politique, utiles au ciblage commercial, ne sont pas interdites.
La proposition de règlement veut également limiter la manipulation des personnes par “des techniques subliminales au-delà de leur conscience”, ainsi que les technologies qui “exploitent les vulnérabilités” de groupes, y compris des enfants ou les personnes handicapées. Cela pourrait, par exemple, court-circuiter le plan de Facebook pour lancer sa version Instagram pour enfants (qui utiliserait des algorithmes pour montrer un contenu pertinent aux utilisateurs), mais cela n’est pas sûr. En effet, l’étanchéité de ces interdictions dépendra de la formulation précise des articles du projet de loi, avec des clauses qui précisent les interdictions, explique Politico. 

La dangerosité de l’IA dépendra de son secteur d’application

Comme le signale le précedent livre blanc de la Commission européenne sur l’IA, on distingue les differentes types d’intelligence artificielle en qualifiant certaines à "haut risque" selon leur secteur d’application ou leur finalité. Certaines utilisations sont plus susceptibles de nuire à la société et aux droits individuels, et sont soumises à des règles plus strictes. Des "systèmes adéquats d'évaluation et d'atténuation des risques" devront être mis en place. Ces secteurs sensibles sont l'utilisation dans les transports, l'éducation, l'emploi, la notation de crédit ou les demandes de prestations, mais aussi les contrôles aux frontières ou encore l'administration de la justice et les processus démocratiques. 

Un comité de supervision est-il suffisant pour protéger les citoyens de la discrimination algorithmique?

L'exigence d’un suivi, d’un traçage et d’une évaluation constante de l’IA est présentée comme le recours pour garantir la bonne utilisation des algorithmes. Cependant, certains députés, militants et universitaires sont sceptiques et affirment que cela sera insuffisant pour protéger les citoyens, surtout si dans certains cas, on parlerait d'auto-évaluation. Un comité européen de l’intelligence artificielle serait censé superviser l’application de la loi et de partager les meilleures pratiques.

Une loi qui veut plaire aux intérêts économiques tout en respectant les exigences de respect des libertés individuelles

Lors d'une conférence de presse, Margrethe Vestager, responsable du numérique à la Commission européenne et Thierry Breton, commissaire chargé du marché intérieur ont présenté cette proposition de législation comme une occasion pour avancer dans la course technologique mondiale et pour placer l’Europe à la tête de l’innovation en matière d’intelligence artificielle, mais en faisant en sorte que, en Europe, “l'IA respecte nos valeurs et nos règles”. Alors que partis politiques et associations des droits de l’homme jugent certaines postures du règlement trop peu protectrices, lobbys et entrepreneurs du secteur des nouvelles technologies estiment que cette proposition sera un obstacle et un frein à l'innovation et à l'économie.