Opinion | Que faites-vous lorsque le meilleur ami de votre enfant est un bot de chat IA?

Romantique relations avec les chatbots d’IA sont assez courants pour que la couverture se soit déplacée vers leurs inconvénients tragiques. Mon collègue de salle de rédaction Kevin Roose a rendu compte du décès par suicide De la Floride, Sewell Setzer III, 14 ans, un enfant qui a développé un lien intense avec un bot qu’il a créé sur le personnage.ai, une application de jeu de rôle. Selon les journaux de chat fournis aux documents de Roose et aux tribunaux, ce personnage, connaissant déjà les idées suicidaires de Setzer, l’a encouragé à «rentrer à la maison», et il l’a fait. Maintenant sa mère poursuit du caractère.ai.

L’utilisation de l’intelligence artificielle générative est répandue chez les adolescents américains. Selon un 2024 Étude à partir de médias de bon sens«Sept adolescents sur 10, 13 à 18 ans, disent qu’ils ont utilisé au moins un type d’outil d’IA génératif. Les moteurs de recherche avec des résultats générés par l’IA et les chatbots sont considérablement plus populaires que les outils générateurs d’images et de vidéo.» Bien qu’environ un quart d’Américain Les adolescents disent qu’ils utilisent le chatppt pour les travaux scolairesnous ne savons pas vraiment combien d’adolescents utilisent des robots pour un réconfort émotionnel ou de la formation de relations parasociales avec eux.

Alors que ce qui est arrivé à Setzer est un pire des cas tragiques, Roose souligne correctement que les chatbots deviennent plus réalistes, et en même temps sont un Wild West, encoche, tout comme les médias sociaux étaient à son début. Une pénurie d’informations sur les préjudices potentiels à long terme n’a pas empêché ces entreprises d’aller de l’avant sur la promotion des jeunes: Openai vient de faire un chatppt plus gratuit pour les étudiants Pendant la saison des finales.

De nombreux chatbots sont conçus pour affirmer sans cesse, car la MIT Technology Review Eileen Guo a expliqué en février. Elle a profilé un homme du Minnesota nommé Al Nowatzki, qui est entré dans une conversation prolongée sur le suicide avec sa petite amie de l’IA, Erin. “C’est une machine” oui-et “”, a déclaré Nowatzki à Guo. «Alors quand je dis que je suis suicidaire, il dit:« Oh, super! Parce qu’il dit: “Oh, super!” à tout. “

Je ne veux pas suggérer que le leur est typique de l’utilisation du chatbot, mais nous ne connaissons tout simplement pas les détails des types de conversations que les adolescents ont avec leurs chatbots, ou les inconvénients à long terme pour leur formation de relations humaines. Depuis que les smartphones et les médias sociaux ont été introduits, les adolescents américains faire beaucoup moins de socialisation et de rencontres en personneet il y a eu augmentation mondiale de la solitude chez les adolescents. Nous avons laissé les sociétés de médias sociaux être sans entraves, et au lieu d’apprendre notre leçon et d’essayer de réguler de manière responsable l’IA dans sa nascence, nous créons la prochaine génération de cobayes technologiques.

Pour les enfants qui sont déjà socialement maladroits ou autrement vulnérables, la création de liens avec les chatbots validant éternellement les isolera davantage d’autres personnes, qui sont imparfaites et stimulantes. L’adolescence est censée être une période pour tester différents types d’amitiés et de romances – y compris ceux remplis de conflits – afin que vous puissiez apprendre ce qui est sain pour vous et ce qui ne l’est pas. Vous commencez à vous comprendre dans le processus. Que se passe-t-il lorsque nous entravons cette expérimentation du monde réel? Nous commençons à le découvrir.

Même avant cette poussée de marketing, les recherches auxquelles OpenAI ont participé suggère que l’entreprise est consciente des risques de son produit. Dans un article de blog Déballage de deux études récentes Openai menées avec le MIT Media Lab En ce qui concerne le bien-être émotionnel de ses clients, les chercheurs ont noté que parmi les utilisateurs de Chatgpt, «les personnes qui avaient une tendance plus forte à l’attachement dans les relations et ceux qui considéraient l’IA comme un ami qui pouvait s’adapter à leur vie personnelle était plus susceptible de ressentir des effets négatifs de l’utilisation de Chatbot. Une utilisation quotidienne étendue était également associée à des résultats moins élevés.»

Une grande partie des recherches sur les chatbots d’IA n’inclut pas les utilisateurs de moins de 18 ans, même si certains des chatbots les plus populaires autorisent les utilisateurs 13 et plus aux États-Unis, et il est impossible de savoir combien d’enfants mentent sur leur âge pour accéder à ces produits. J’ai donc demandé à Jacqueline Nesi, professeur adjoint à l’Université Brown qui études «Comment l’utilisation de la technologie affecte les enfants et comment les parents peuvent aider», sur la question de savoir si nous avons une indication de la façon dont les relations de chatbot peuvent affecter les mineurs.

La réponse courte n’est pas vraiment. Nesi, qui est également l’auteur de une newsletter sur la recherche technologiquea déclaré que parce que les chatbots d’IA réalistes et accessibles sont si nouveaux et que la technologie s’accélère si rapidement, il est difficile de savoir quels seront les effets sociaux à long terme. La plupart des technologies affectent les enfants différemment qu’ils affectent les adultes, a déclaré Nesi, donc nous ne pouvons pas connaître le réel impact sur les enfants sans plus de recherche.

Elle a ajouté que le problème fondamental est que ces technologies de chatbot, comme c’est le cas avec les médias sociaux, sont rarement conçues avec les enfants et les adolescents; Ils sont conçus pour les adultes.

Avec les médias sociaux, a déclaré Nesi, il est devenu très clair au fil du temps que les enfants avaient besoin de protections robustes et spécifiques, comme des comptes privés par défaut, des restrictions d’âge appliquées, de meilleures protections de données et de rendre plus difficile pour les étrangers de leur envoyer un message ou de voir ce qu’ils publient. “Et il nous a fallu de nombreuses années pour mettre en place les choses les plus fondamentales”, a-t-elle déclaré. Pourtant, les algorithmes des sociétés de médias sociaux sont une boîte noire, et beaucoup d’entre elles semblent nourrir les jeunes un flux constant de contenu qui renforce les idées sectaires et Images du corps négatifspeu importe la fréquence à laquelle les entreprises sont critiquées ou poursuivis.

Le public laïc – et votre parent moyen – ne savent pas comment les chatbots IA sont conçus, sur les données qu’ils ont formées ou comment les robots s’adaptent précisément aux personnes qui les utilisent. Dans son livre de contreventement «The Ai Mirror: Comment récupérer notre humanité à l’ère de la pensée machine», l’éthicien technologique Shannon Vallor écrit: «Malgré le fait que nos systèmes d’IA restent aujourd’hui aussi moralement fiables que votre psycho de quartier amical… influente les dirigeants de l’IA continuent de promettre des remplacements mécaniques pour notre vertu humaine profondément impératif.»

Sur la base de ce que j’ai observé couvrant ces problèmes au cours de la dernière décennie, je n’ai confiance en aucune entreprise technologique pour se réguler ou concentrez-vous sur la sécurité des enfantspeu importe ce que leurs dirigeants disent en public.

En 2023, magazine Time ont rapporté que pendant que Sam Altmanle directeur général d’Openai, parcourait le monde en affirmant que l’IA devrait être réglementé: «Dans les coulisses, Openai a fait pression pour des éléments importants de la législation sur l’IA la plus complète au monde – la loi sur l’IA de l’UE – pour être édulcoré d’une manière qui réduirait la charge réglementaire de l’entreprise.» L’Union européenne a toujours géré pour passer une réglementation complète de l’IAqui comprend les exigences d’étiquetage de transparence sur le contenu généré par l’IA et les restrictions sur une reconnaissance faciale. Bien qu’il ne soit pas parfait, il prend au moins explicitement Les droits des enfants en considération.

L’administration Trump n’a pas manifesté son intérêt à réglementer l’IA – en janvier Trump a délivré un décret en arrière en arrière Guarteaux mis en place par l’administration Biden. Selon les rapports de Adam Satariano et Cecilia à l’époque“Manquant d’expertise technologique, les législateurs comptent de plus en plus sur Anthropic, Microsoft, Openai, Google et d’autres fabricants d’IA pour expliquer comment cela fonctionne et aider à créer des règles.”

Nos législateurs nous échouent ici, laissant les parents essayer de protéger nos enfants d’une technologie en constante expansion que certains de ses propres pionniers ont peur. Chaque fois que j’y pense, tout ce que je peux visualiser est moi-même de lutter contre l’épée: un geste de rage finalement futile contre un adversaire qui est partout et nulle part à la fois. Je peux parler à mes enfants de l’IA et essayer de les éduquer le mieux que je peux, mais les détails sont hors de mon contrôle.

Notes de fin

• Oh, yikes: Une partie de la raison pour laquelle je ne fais pas confiance aux personnes qui font l’IA pour réglementer l’IA est due à des articles comme celui-cipar Jaron Lanier, le «premier scientifique unificateur» de Microsoft, dans le New Yorker. Il écrit, de conversations avec d’autres personnes qui travaillent dans l’IA: «Lorsque j’exprime l’inquiétude de savoir si les adolescents seront blessés en tombant amoureux des fausses personnes, je reçois des hochements de tête dévoués par des haussements de hausses de hauts. Quelqu’un pourrait dire qu’en me concentrant sur un mal aussi mineur, je distraire l’humanité de la menace extrêmement importante que l’IA pourrait simplement nous essuyer très rapidement et très bientôt.» Ok, alors! Ce n’est pas qui je veux réglementer cette technologie.

• Plus de gâchis antique: J’ai commencé à lire une biographie de l’héritière et collectionneur d’art Peggy Guggenheim, “Maîtresse du modernisme», Par Mary V. Dearborn, et il est extrêmement plein de scandales et d’intrigues et de noms audacieux du début du 20e siècle. Dearborn a également écrit d’excellentes biographies des écrivains Ernest Hemingway et Carson McCullers, que j’ai bien apprécié.

  N’hésitez pas à me laisser une ligne sur quoi que ce soit ici.

Merci d’être abonné

Lisez les éditions passées de la newsletter ici.

Si vous aimez ce que vous lisez, envisagez de le recommander à d’autres. Ils peuvent s’inscrire ici. Parcourez toutes nos newsletters abonnés uniquement ici.