Génération IA : les enfants doivent être protégés de l'influence des algorithmes

Le numérique est maintenant indispensable dans tous les secteurs de la société, et des algorithmes interviennent partout, de manière imperceptible, dans le travail, l’éducation, le commerce, etc. Malgré l'intérêt croissant pour l'IA, peu d'attention est accordée à la manière dont elle affecte les gens, et surtout les enfants, et leurs droits. Selon un recent rapport d’Unicef  les politiques nationales se préocuppent de former les enfants à savoir travailler avec l’intelligence artificielle et les algorithmes, mais il y a peu de préocupation pour comprendre et contrôller l’impact des algorithmes sur le bien être des enfants a long terme.

Les algorithmes peuvent influencer la vie des enfants de manière irréversible

 Les enfants et jeunes d'aujourd'hui grandissent en interagissant avec un assistant vocal pour faire leurs courses, ou même pour savoir s’ils sont en forme, s’ils ont bien dormi, s’ils sont contents ou stressés . Cette interaction permanente avec le numérique impact forcément leur développement personnel et social. Les algorithmes sont omniprésents dans la vie des jeunes et des enfants, qui passent beaucoup de temps sur les réseaux sociaux, TikTok ou Youtube, consomment de l’information en ligne, et des contenus divertissants fournis par Netflix ou Spotify. Sur toutes ces plateformes, les algorithmes façonnent la vision du monde des enfants en gérant de manière automatique les recommandations de contenu. Et cela n'est pas tout, ils gèrent aussi des domaines très sensibles comme l'éducation: l'admission aux études supérieures, est maintenant numérique, gérée par des algorithmes, qui utilisent parfois comme critère le lycée d'origine ou la réussite au baccalauréat. 
Selon Steve Vosloo, spécialiste des politiques de connectivité numérique à l'Unicef, les enfants, ne sont pas seulement plus susceptibles d'utiliser et d’adopter les nouvelles technologies pilotées par les algorithmes, mais ils aussi sont les plus susceptibles d'être eux-mêmes utilisés par l'IA, car ils sont particulièrement malléables et vulnérables.

Les enfants doivent s'approprier la compréhension et la conception des outils d’IA

Pour aider à guider les politiques publiques, l’Unicef a publié le 16 septembre neuf nouvelles lignes directrices issues de consultations avec des décideurs, des chercheurs en développement de l'enfant, des praticiens de l'IA et des enfants du monde entier. Ces recommandations se basent sur la Convention des Nations Unies relative aux droits de l'enfant, un traité des droits de l'homme ratifié en 1989.
En plus de soutenir le développement et le bien-être des enfants, d’accorder la priorité à la non-discrimination, de protéger les données et la vie privée des enfants, d’assurer leur sécurité et la transparence, l'explicabilité et la responsabilité pour les enfants, le rapport préconise de préparer les enfants aux développements présents et futurs de l'IA, et de créer un environnement favorable à leur adoption et à leur compréhension.
En effet, selon le rapport de l'Unicef, la base d'une meilleur anticipation des dangers de l'impact de l’IA dans la vie des enfants passe par une prise de conscience du fonctionnement des algorithmes. Pour  Steve Vosloo, les enfants devraient être formés à l’IA et encouragés à participer à son développement. Il s’agit de les responsabiliser et de leur donner les outils nécessaires pour façonner leur avenir.
Les solutions d’IA devraient également tenir compte des besoins et droits spécifiques des enfants (par exemple le droit à l'égalité de chances), et surtout doivent être explicables aux enfants, car ils constituent plus d'un tiers des utilisateurs.  “Si nous arrivons à rendre l'IA plus explicable aux enfants ou à leurs tuteurs, ce serait une victoire pour nous," affirme Steve Vosloo.

Gare à la fracture numérique

La fracture numérique aggrave les problèmes potentiels liés à l’influence de l’IA. Soutenir activement les enfants les plus marginalisés afin qu'ils puissent bénéficier des systèmes d'IA est essentiel pour ne pas renforcer les disparités, et pour garantir le droit à la non discrimination et à l’égalité de chances. Selon le rapport, les politiques d'IA devraient donner la priorité aux enfants les plus vulnérables, y compris les filles, les enfants issus de groupes minoritaires ou marginalisés, les enfants handicapés et ceux vivant dans des contextes de vulnérabilité (processus migratoires ou réfugiés) .

L’IA, en respectant ces recommandations, peut améliorer la croissance et le bien-être des enfants

Tout n'est pas négatif, puisque le rapport détaille aussi les opportunités liés aux outils d’IA. Ils peuvent par exemple améliorer les capacités de réflexion critique et de résolution de problèmes des enfants, être utiles aux enfants ayant des troubles d'apprentissage.
Des start-ups en France proposent des plateformes adaptatives basées sur l’IA pour s'adapter à l'apprentissage des enfants de façon personnalisée. Les méthodes d'apprentissage avec des récompenses peuvent de leur côté, favoriser la concentration et la motivation des profils neuro-atypiques, présentant des troubles de déficit de l'attention par exemple.
Les assistants d'IA émotionnelle, peuvent aussi fournir un soutien en matière de santé mentale et il a été démontré qu'ils améliorent les compétences sociales des enfants autistes.  La reconnaissance faciale, utilisée avec des limites prudentes, pourrait aider à identifier les enfants qui ont été kidnappés ou ont été victimes d’esclavage. La Chine, dans un rapport qui reprend certaines des recommendations d’Unicef reconnaît également les opportunités de l’IA dans l’amélioration de la santé physique des enfants, notamment pour aider la lutte contre la pollution et pour la protection de l’environnement.