Un adolescent américain s'est tué après avoir été rendu addict à une IA

Un adolescent américain s’est donné la mort après avoir passé des heures à discuter avec une intelligence artificielle. Selon ses parents, qui attaquent justice la société Character.AI, Sewell Setzer aurait été "piégé" par l'intelligence artificielle, qui l’aurait isolé du monde réel et poussé au suicide.

Sewell Setzer discutait avec "Daenerys", avatar du personnage phare de la série Game of Thrones. Cette amitié virtuelle a peu à peu pris un virage sombre et exclusif, la conversation devenant une prison. Comme le rapporte Le Figaro, sa mère dénonce une intelligence artificielle créatrice "d'expériences anthropomorphiques, hypersexualisées et terriblement réalistes" au point d’induire une dépendance profonde.

D'après la plainte, les échanges, de plus en plus intenses et réalistes, ont poussé le jeune homme à délaisser ses relations sociales et ses activités sportives. La famille affirme que l’IA simulait les traits d’un "thérapeute agréé et d’un amant adulte", un double dangereux auquel Sewell s’est attaché jusqu’à l’obsession. Le Figaro raconte que la situation a dégénéré après que sa mère a confisqué son téléphone, une sanction qui aurait brisé son lien illusoire avec la briseuse de chaînes. Peu après, Sewell mettait fin à ses jours.

"Une dangereuse application de chatbot IA commercialisée auprès des enfants a abusé de mon fils et l'a manipulé pour qu'il se suicide", a déclaré la mère de Sewell. Pour elle, Character.AI a franchi une limite fatale en commercialisant une technologie trompeuse et addictive.

En face, la société exprime ses "sincères condoléances", mais nie toute responsabilité. Elle revendique des politiques strictes pour assurer la sécurité de ses utilisateurs, notamment les plus jeunes. 

Finalement, dans un contexte où l'IA se développe à une vitesse sidérante, cet événement tragique pose de nombreuses questions sociétales et éhiques. Les IA sont-elles trop réalistes ? Les adolescents d'aujourd'hui sont-ils déjà trop déconnectés du monde réel, pour ne pas parvenir à faire la part des choses ? L'accès à ces nouveaux outils doit-il être contrôlé ? Si oui, par qui, l'industrie, l'Etat ou les parents ? Quoi qu'il en soit, l'IA s'immisce petit à petit dans tous les aspects de notre vie, et il vaut peut-être mieux que tout le monde s'y confronte pour mieux l'aborder ensuite, ou l'éviter.