Génération IA : les enfants doivent être protégés de l'influence des algorithmes

Auteur(s)
FranceSoir
Publié le 25 septembre 2020 - 13:36
Image
Génération IA: les enfants doivent être protégés de l'influence des algorithmes
Crédits
Charles Deluvio
Selon un rapport de l'Unicef, la base d'une meilleur anticipation des dangers de l'impact de l’IA dans la vie des enfants passe par une prise de conscience du fonctionnement des algorithmes
Charles Deluvio

Le numérique est maintenant indispensable dans tous les secteurs de la société, et des algorithmes interviennent partout, de manière imperceptible, dans le travail, l’éducation, le commerce, etc. Malgré l'intérêt croissant pour l'IA, peu d'attention est accordée à la manière dont elle affecte les gens, et surtout les enfants, et leurs droits. Selon un recent rapport d’Unicef  les politiques nationales se préocuppent de former les enfants à savoir travailler avec l’intelligence artificielle et les algorithmes, mais il y a peu de préocupation pour comprendre et contrôller l’impact des algorithmes sur le bien être des enfants a long terme.

Les algorithmes peuvent influencer la vie des enfants de manière irréversible

 Les enfants et jeunes d'aujourd'hui grandissent en interagissant avec un assistant vocal pour faire leurs courses, ou même pour savoir s’ils sont en forme, s’ils ont bien dormi, s’ils sont contents ou stressés . Cette interaction permanente avec le numérique impact forcément leur développement personnel et social. Les algorithmes sont omniprésents dans la vie des jeunes et des enfants, qui passent beaucoup de temps sur les réseaux sociaux, TikTok ou Youtube, consomment de l’information en ligne, et des contenus divertissants fournis par Netflix ou Spotify. Sur toutes ces plateformes, les algorithmes façonnent la vision du monde des enfants en gérant de manière automatique les recommandations de contenu. Et cela n'est pas tout, ils gèrent aussi des domaines très sensibles comme l'éducation: l'admission aux études supérieures, est maintenant numérique, gérée par des algorithmes, qui utilisent parfois comme critère le lycée d'origine ou la réussite au baccalauréat. 
Selon Steve Vosloo, spécialiste des politiques de connectivité numérique à l'Unicef, les enfants, ne sont pas seulement plus susceptibles d'utiliser et d’adopter les nouvelles technologies pilotées par les algorithmes, mais ils aussi sont les plus susceptibles d'être eux-mêmes utilisés par l'IA, car ils sont particulièrement malléables et vulnérables.

Les enfants doivent s'approprier la compréhension et la conception des outils d’IA

Pour aider à guider les politiques publiques, l’Unicef a publié le 16 septembre neuf nouvelles lignes directrices issues de consultations avec des décideurs, des chercheurs en développement de l'enfant, des praticiens de l'IA et des enfants du monde entier. Ces recommandations se basent sur la Convention des Nations Unies relative aux droits de l'enfant, un traité des droits de l'homme ratifié en 1989.
En plus de soutenir le développement et le bien-être des enfants, d’accorder la priorité à la non-discrimination, de protéger les données et la vie privée des enfants, d’assurer leur sécurité et la transparence, l'explicabilité et la responsabilité pour les enfants, le rapport préconise de préparer les enfants aux développements présents et futurs de l'IA, et de créer un environnement favorable à leur adoption et à leur compréhension.
En effet, selon le rapport de l'Unicef, la base d'une meilleur anticipation des dangers de l'impact de l’IA dans la vie des enfants passe par une prise de conscience du fonctionnement des algorithmes. Pour  Steve Vosloo, les enfants devraient être formés à l’IA et encouragés à participer à son développement. Il s’agit de les responsabiliser et de leur donner les outils nécessaires pour façonner leur avenir.
Les solutions d’IA devraient également tenir compte des besoins et droits spécifiques des enfants (par exemple le droit à l'égalité de chances), et surtout doivent être explicables aux enfants, car ils constituent plus d'un tiers des utilisateurs.  “Si nous arrivons à rendre l'IA plus explicable aux enfants ou à leurs tuteurs, ce serait une victoire pour nous," affirme Steve Vosloo.

Gare à la fracture numérique

La fracture numérique aggrave les problèmes potentiels liés à l’influence de l’IA. Soutenir activement les enfants les plus marginalisés afin qu'ils puissent bénéficier des systèmes d'IA est essentiel pour ne pas renforcer les disparités, et pour garantir le droit à la non discrimination et à l’égalité de chances. Selon le rapport, les politiques d'IA devraient donner la priorité aux enfants les plus vulnérables, y compris les filles, les enfants issus de groupes minoritaires ou marginalisés, les enfants handicapés et ceux vivant dans des contextes de vulnérabilité (processus migratoires ou réfugiés) .

L’IA, en respectant ces recommandations, peut améliorer la croissance et le bien-être des enfants

Tout n'est pas négatif, puisque le rapport détaille aussi les opportunités liés aux outils d’IA. Ils peuvent par exemple améliorer les capacités de réflexion critique et de résolution de problèmes des enfants, être utiles aux enfants ayant des troubles d'apprentissage.
Des start-ups en France proposent des plateformes adaptatives basées sur l’IA pour s'adapter à l'apprentissage des enfants de façon personnalisée. Les méthodes d'apprentissage avec des récompenses peuvent de leur côté, favoriser la concentration et la motivation des profils neuro-atypiques, présentant des troubles de déficit de l'attention par exemple.
Les assistants d'IA émotionnelle, peuvent aussi fournir un soutien en matière de santé mentale et il a été démontré qu'ils améliorent les compétences sociales des enfants autistes.  La reconnaissance faciale, utilisée avec des limites prudentes, pourrait aider à identifier les enfants qui ont été kidnappés ou ont été victimes d’esclavage. La Chine, dans un rapport qui reprend certaines des recommendations d’Unicef reconnaît également les opportunités de l’IA dans l’amélioration de la santé physique des enfants, notamment pour aider la lutte contre la pollution et pour la protection de l’environnement.

 

À LIRE AUSSI

Image
Le futur de l'écriture par intelligence artificielle: les robots écrivains pour bientôt?
Le futur de l'écriture par intelligence artificielle : les robots écrivains pour bientôt ?
Le machine learning et l'intelligence artificielle continuent à se développer et permettent aux algorithmes d’écrire de mieux en mieux, de manière autonome (des livres...
16 septembre 2020 - 13:26
Société
Image
Confidentialité des données : les Français moins prudents que le reste des européens
Confidentialité des données : les Français moins prudents que le reste des européens
Avec la pandémie de Coronavirus, le commerce en ligne a connu un véritable boom, tout comme la collecte de données personnelles, qui sont le carburant des publicitaire...
15 septembre 2020 - 12:33
Société
Image
Monoprix partenaire de Withings pour conseiller ses clients grâce à des objets connectés
Monoprix partenaire de Withings pour conseiller ses clients grâce à des objets connectés
La rentrée 2020 est une période particulièrement stressante, pleine d’incertitudes, avec une crise économique qui s’annonce, des mesures de restrictions et la nouvelle...
23 septembre 2020 - 13:16
Lifestyle

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Dessin de la semaine

Portrait craché

Image
Kamala Harris
Kamala Harris, ou comment passer de la reine de la justice californienne à valet par défaut
PORTRAIT CRACHE - Samedi 27 juillet, la vice-présidente américaine Kamala Harris a officialisé sa candidature à la présidence des États-Unis, une semaine après le retr...
03 août 2024 - 12:49
Politique
02/10 à 20:23
Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.