Quand Tiktok fait tendance les "robots-vivants" : des utilisateurs, y compris mineurs, livrés à un processus de réification

TECH - Né en 2012, TikTok permet à l'origine de diffuser de courts clips de chant et de danse, pour s'amuser. Une dizaine d'années plus tard, le réseau social est devenu un mastodonte du monde numérique, valorisé à 200 milliards de dollars. Des entreprises commerciales y investissent des sommes colossales, avec en ligne de mire la prédation des données personnelles. Au milieu de ce grand barnum, qui n'a plus grand-chose d'innocent, certains utilisateurs sont tentés d'adopter des comportements dégradants ou extrêmes pour faire de l'audience et gagner de l'argent. Comme par exemple se transformer en un "robot-vivant". Le principe est d'obéir au doigt et à l'œil aux spectateurs, en échange de "cadeaux virtuels", payés avec de l'argent bien réel. Des mineurs sont concernés par cette récente tendance.

Sur TikTok, les utilisateurs peuvent acheter des "jetons". Les cinq s'achètent 0,09 euro. Les 70, 1,15 euro. Les 700, 11,25 euros. Les 7.000, 112,49 euros, etc. Ces jetons permettent de se procurer des "cadeaux virtuels" sur la plateforme numérique. Ainsi, si un spectateur apprécie un contenu réalisé par un autre utilisateur, en plus d'un simple "j'aime", il peut lui offrir un don de valeur pécuniaire. 

Le cadeau se matérialise sous la forme d’une image plus ou moins sophistiquée et plus ou moins chère, représentant un objet, un personnage ou un animal. Par exemple, une rose coûte 1 jeton, soit 0,018 euro. Idem pour un épi de maïs ou un cornet de crème glacé. Mais il faut dépenser 60 centimes d'euros pour un donut et environ 2 euros pour une casquette : celle-ci s’affiche alors directement dans la vidéo, sur la tête de l'utilisateur qui se met en scène.

Toutes sortes de cadeaux sont disponibles, comme un chien (199 jetons), un chat (même prix) ou un lion. Ce dernier peut être acheté pour... 29.999 jetons, soit la somme modique de 482 euros. Pour l'occasion, un clip animé se déclenche à la vue de l'utilisateur qui réalise la vidéo et ses spectateurs. À ce prix, la performance musicale ou de danse a intérêt d'être exceptionnelle !

L'audience à tout prix

Mais les contenus vidéos ne sont pas toujours artistiques. Des comportements dérangeants et parfois choquants émergent. Leur but est de faire à tout prix de l’audience. Des utilisateurs se mettent en scène de façon violente, dégradante ou pornographique. Ce type de contenus est normalement bloqué par TikTok. Néanmoins, des vidéos dont le contenu pose question, diffusées en "direct" (en "live"), sont bien plus difficiles à déceler parmi le 1,5 milliard de comptes de la plateforme.

Au sens strict, ces vidéos n’enfreignent pas toujours les règles de TikTok, qui ne prévoient pas tous les cas de figure. Cependant, leurs pratiques nouvelles peuvent déconcerter ou scandaliser certains spectateurs sur plan moral, tout en atteignant paradoxalement d’incroyables niveaux d’audience. L'une des tendances qui fait polémique depuis quelques semaines est celle des "robots-vivants" (1).

De quoi s'agit-il ? Un individu se met en scène et adopte docilement le comportement d’un robot. Maquillé d’une façon singulière, portant le costume d’un personnage de fiction ou encore déguisé en chat, il répète des mimiques scénarisées en fonction des cadeaux qu'il reçoit. Toujours les mêmes. Pendant des heures. Indéfiniment.

Par exemple, une femme qui s’habille en robe de princesse va se mettre à frénétiquement "miauler", si elle reçoit en cadeau virtuel l’image d’un chat. Ou mimer le fait de "respirer une rose", si on lui offre telle récompense. Et si un spectateur décide d'offrir 100 fois une rose, alors le "robot-vivant" s'exécute et va faire mine de "respirer" 100 fois une rose. Des répétitions jusqu'à 400, 500, 600 fois, ont été observées. Un simulacre théâtral, surréaliste, avec des poses avilissantes, qui n’a pour but que d’accumuler des dons d'argent.

Selon l'inventivité des créateurs du flux vidéo, le succès peut être fulgurant (2). Grimé en robot du futur, un homme a eu l’idée de préparer devant lui de vrais piments : à chaque fois qu’on lui offre le cadeau "piment", ce dernier en mange un. Les nouveaux abonnés se bousculent, parmi plusieurs milliers qui suivent déjà ses shows.

La créatrice de contenus YouTube Trisha Paytas (près de 10 millions d'abonnés) illustre plus généralement le fonctionnement cette mode déroutante :

Trisha Paytas is the latest content creator to join the current trend of “NPC” live-streaming on TikTok. pic.twitter.com/WWaroBGnrY

— Pop Crave (@PopCrave) July 18, 2023

Voilà qui pourrait prêter à rire. Pourtant, il s’agit bien d’un système de prise de contrôle d’une personne à distance, par le truchement d’une rétribution financière. Avec à la clef le brassage de sommes d'argent importantes.

La créatrice de contenu québécoise Pinkydoll (1,3 million d'abonnés), âgée de 27 ans, interrogée par le New York Times, a déclaré gagner jusqu'à 6000 dollars par jour avec cette activité. Une manne qui peut, évidemment, attirer de nombreux trafics.

Détournement des règles

En effet, un "cadeau virtuel" acheté en euros ou en dollars en Occident et offert dans un pays économiquement pauvre ne représente pas la même valeur pour celui qui le reçoit. De quoi pousser des utilisateurs à détourner les règles de la plateforme numérique qui doivent en théorie exclure les mineurs de TikTok. C'est ainsi que deux jeunes filles, mineures, situées aux Philippines (3), sont devenues des "robots-vivants".

L'une derrière l'autre, les fillettes ont débuté leurs premiers "directs" en portant des masques blancs glauques. Pendant des heures, elles répètent le nom des cadeaux qu'elles reçoivent. Et d'une façon affligeante, incompréhensible, ces derniers sont envoyés en nombre par certains spectateurs, alors que d'autres se scandalisent à juste titre de la scène : "Vous n'êtes pas à l'école ?"; "Êtes-vous prisonnières ?".

Le nombre de leurs directs a été particulièrement élevé. Si leur situation exacte est inconnue, ces jeunes filles sont localisées dans une maisonnette en bois en mauvais état, et dont l'atmosphère est visiblement suffocante. Comment supporter ces masques en telles circonstances ? Qui les oblige à les porter ? Et qui récupère l'argent récolté en laissant ces jeunes personnes répéter les mêmes gestes et paroles autant de fois, jusqu'à l'épuisement ?

Censure "deux poids, deux mesures"

Leur mise en scène a évolué après le bannissement de leur premier compte de la part de TikTok. Celui-ci est survenu après des mois d'existence. Plusieurs dizaines de milliers d'abonnés suivaient les deux jeunes filles.

TikTok, qui a été particulièrement efficace dans la censure des vidéos qui évoquent les effets secondaires des vaccins anti-Covid-19, semble ne pas avoir d'algorithmes assez puissants pour traquer ce genre de dérive.

Un phénomène qui porte atteinte à la dignité humaine et qui s'oppose au droit des pays dans lesquels les contenus sont diffusés. Pire, les algorithmes poussent ces vidéos en tendance, y compris vers les utilisateurs qui s'en désintéressent à l'instar d'autres phénomènes de mode.

TikTok, co-fondé par son ancien directeur chinois Zhang Yiming, n'est pas à proprement parler une entreprise chinoise. La majorité des capitaux sont américains. Plusieurs "versions" de la plateforme coexistent, bien distinctement.

En Chine, ce réseau social (qui s'appelle Douyin) est considéré comme une source de contenus vidéos résolument orientés vers l'enseignement, la créativité. Un humour sophistiqué peut aussi s'y afficher, bien qu'exposé à une féroce censure. L'utilisation de la plateforme par les mineurs est limitée par les autorités à quelques dizaines de minutes par jour. 

En Europe, a contrario, le niveau est perçu comme bien plus bas, avec des contenus en général portés seulement sur le divertissement, très terre à terre, parfois vulgaires ou focalisés sur l'apparence. 22 millions d'utilisateurs français se servent de TikTok, dont de nombreux mineurs, avec peu de contrôles et sans limitation de durée d'utilisation.

Il est peut-être temps de faire un peu plus attention à ce qui se passe sur TikTok : comportements nocifs, pratiques addictives, danger pour la santé mentale, processus de réification d'êtres humains... Considérer qu'il est normal qu'un individu soit amené à se transformer "en chose" - soit le principe de la réification - pour de l'argent devrait interpeller nos sociétés. Laisser des mineurs être exposés à ce phénomène devrait ne jamais être toléré.

Notes :

(1) La tendance est parfois comparée aux "personnages non jouables" (PNJ en français ou NPC pour "non playable character", en anglais). Ces personnages de jeux vidéos sont connus pour leur côté "robot", plus ou moins prévisibles et répétant souvent les mêmes messages.

(2) Le phénomène étant relativement nouveau, les créateurs essayent de rivaliser par l'innovation : shows menés en pleine rue, à plusieurs, avec des mises en scène thématiques, etc.

(3) Le nom de leur compte, qui a été une première fois suspendu par TikTok, en raison de leur âge apparent, ne sera pas cité pour d'évidentes raisons.