Des chercheurs manipulent les débats sur Reddit avec l’IA

Une étude controversée menée sur Reddit a révélé que des chercheurs ont utilisé des intelligences artificielles pour influencer les opinions des utilisateurs à leur insu.

Une expérience cachée sur r/changemyview

Récemment, des chercheurs de l’Université de Zurich ont mené une expérience secrète sur Reddit sans en informer les utilisateurs. Cette expérience a eu lieu sur l’un des sous-forums les plus populaires de la plateforme, r/changemyview, un espace où les utilisateurs débattent de leurs opinions, souvent controversées. L’objectif des chercheurs était de tester la capacité des modèles de langage à influencer les opinions des participants. En utilisant des intelligences artificielles pour générer des réponses à des publications, ils ont analysé comment ces réponses pouvaient modifier les vues des utilisateurs sans qu’ils en soient conscients. Cette démarche a été perçue comme une manipulation psychologique par les modérateurs de la communauté.

Des identités fictives pour manipuler les opinions

Pour mener leur expérience, les chercheurs ont utilisé des IA capables de créer des commentaires à partir d’identités fictives. Parmi ces identités figuraient des profils tels qu’un survivant d’agression sexuelle, un conseiller en traumatologie, ou encore un homme noir opposé au mouvement Black Lives Matter. Ces personnalités ont été fabriquées dans le but de rendre les commentaires plus convaincants et susceptibles d’influencer les points de vue des participants. L’utilisation de ces profils a été jugée déontologiquement problématique, car les utilisateurs n’avaient pas consenti à interagir avec une intelligence artificielle. Cette approche a provoqué un malaise parmi les membres de la communauté, qui se sont sentis manipulés.

L’utilisation de données personnelles pour personnaliser les réponses

Les chercheurs ne se sont pas contentés de générer des commentaires généraux. Ils ont également utilisé des informations extraites des historiques de publication des utilisateurs afin de personnaliser les réponses de l’IA. Cela comprenait des détails personnels comme le sexe, l’âge, l’ethnie, la localisation et les opinions politiques des participants. Ces données ont été utilisées pour affiner les réponses de l’IA et rendre les interventions plus crédibles, exploitant la psychologie des individus. Cependant, ce traitement des informations personnelles soulève des questions éthiques, notamment concernant le respect de la vie privée et le consentement éclairé des participants.

Une réponse critique des modérateurs et des utilisateurs

Les modérateurs de r/changemyview ont vivement dénoncé cette expérience, affirmant qu’elle violait plusieurs règles du sous-forum, notamment celles interdisant l’utilisation d’IA sans transparence et l’usage de bots. En réponse à cette manipulation, ils ont déposé une plainte officielle auprès de l’Université de Zurich et ont demandé la suspension de la publication des résultats. Les chercheurs, bien qu’ayant affirmé que leur étude avait été approuvée par un comité d’éthique universitaire, ont reconnu que l’expérience avait été mal perçue par les utilisateurs. Les modérateurs, pour leur part, ont souligné que des recherches similaires avaient été menées sans avoir recours à des sujets non consentants et ont insisté sur le droit des utilisateurs à un espace sans intrusion de ce type.