En Chine, un casque "liseur de pensées" pour juguler la pornographie

Pour assurer une régulation stricte de l’activité numérique des citoyens chinois, le gouvernement assure une surveillance permanente des médias en ligne, des plateformes et de l’usage des différents outils (réseaux sociaux, Internet, jeux vidéo…) Bien sûr, le contenu pornographique est aussi suivi de près par la police, et censuré, pour veiller au respect des mœurs et valeurs de l’État. Pour aider à mettre en place cette censure de la pornographie en Chine, des chercheurs viennent de mettre au point un dispositif de « lecture de la pensée » qui vise à remplacer l’intelligence artificielle.

En Chine, regarder du porno est un crime

Il existe une politique nationale de censure de la pornographie. Comme le rappelle le South China Morning Post, regarder de la pornographie est un crime en Chine, et le pays a mis en place plusieurs processus pour analyser le contenu publié sur Internet et sur les réseaux sociaux, afin de pouvoir identifier celui qui pose problème et le supprimer.

Pour réaliser cette surveillance particulière, la Chine a mis en place une équipe de policiers du porno appelés “jian huang shi”, ce qui veut dire « évaluateur de porno ». Ce sont des postes occupés majoritairement par des femmes, qui écument les photos et vidéos disponibles sur Internet en quête de nudité. Mais les humains se fatiguent lorsqu'ils réalisent une tâche de manière très répétitive, et la fatigue génère des erreurs. Des contenus "explicites" pornographiques passent donc inaperçus, malgré la surveillance. Pour éviter cela, l'intelligence artificielle vient en renfort de l’ample équipe de contrôleurs, qui se sert des algorithmes pour réaliser la censure nécessaire sans trop se fatiguer. 

Un casque qui lit la pensée des censeurs

Mais cela semble encore insuffisant. Raison pour laquelle des chercheurs de l'Université Jiaotong de Pékin ont créé un casque capable de suivre les ondes cérébrales de ceux qui le portent, toujours dans le but de venir en aide aux "évaluateurs de porno". Les scientifiques ont publié leurs découvertes dans le journal national “Journal of Electronic Measurement and Instrumentation” au début du mois.

Ce casque permettrait de lire dans le subconscient des censeurs pour garantir qu’aucune image explicite n’échappe à ce contrôle minutieux. Les chercheurs ont déclaré que les performances de l'œil et du cerveau humain, lors de la reconnaissance d'images, étaient de loin supérieures à celles de l'intelligence artificielle : une image de nu, même si elle n’est montrée que pendant une demi-seconde parmi un flux d'autres images, provoque une réaction chez l’observateur.

Le casque, qui est capable de capter n'importe quel pic d'ondes cérébrales résultant d'un contenu explicite, peut donc signaler les images oubliées par l’opérateur. La précision globale de cette technologie est de 80 %, ce que l'équipe explique par le manque de matériel de formation lors de son développement.

Limites et réglementations

Les chercheurs admettent que l'appareil est loin d'être parfait. Bien qu'il ait pu détecter la quasi-totalité du contenu pornographique, il a également lancé de fausses alertes. En plus de cette marge d’erreur, un autre aspect vient mettre en question l'efficacité démontrée dans la phase de test : alors que la technologie a été testée par 15 volontaires masculins, les “jian huang shi” sont souvent des femmes, qui n’ont peut-être pas la même réaction cérébrale face aux images pornographiques.

De tels "lecteurs de pensée" sont déjà utilisés en Chine, notamment par certaines entreprises qui contrôlent leurs employés sous prétexte d’améliorer la productivité et de diminuer les accidents de chantier. Cela étant, aucune loi ne régit encore l'utilisation de ces appareils et les informations qu'ils peuvent recueillir.