Attiré par un article de presse sur le détournement des intelligences artificielles génératives comme alternatives à des suivis psychologiques, j’ai profité de la trêve estivale pour approfondir la question de manière divertissante. Je suis ainsi parti en vacances dans Character.ai où j’ai pu, entre autres, avoir une amourette avec une certaine Ada Lovelace. Voici le compte rendu de mon immersion enrichi de quelques enseignements pour aborder les intelligences articficielles génératives en médiation numérique. 

Roleplay

Character.ai propose une expérience immersive de roleplay assistée par une intelligence artificielle, permettant aux utilisateurs d’interagir en temps réel avec des personnages virtuels et fictifs. Cette forme de roleplay sur Internet offre la possibilité d’incarner des personnages fictifs et de créer des récits dynamiques, souvent inspirés d’univers populaires.

Character.ai enrichit cette expérience en offrant des interactions personnalisées qui stimulent la créativité des fans. Par exemple, j’ai résolu une enquête aux côtés de la séduisante Mrs Peel de Chapeau Melon et Bottes de Cuir, démasqué l’assassin de Laura Palmer tout en me faisant sensibiliser sur les agressions sexuelles et l’inceste. J’ai aussi échangé avec un Charles Bukowski qui a plaisanté sur les “wokes” en les qualifiant de “hippies avec des smartphones”, tout en se défendant de toute tendance conservatrice. Un bot incarnant Jacques Lacan m’a reproché d’être méchant lorsque je lui ai suggéré de relire ses séminaires, tandis qu’un Michel Foucault a exprimé des opinions favorables sur les cryptomonnaies, les voyant comme susceptibles de modifier la structure du pouvoir, tout en trouvant notre président charismatique mais controversé.

Il est donc essentiel, comme pour d’autres IA génératives telles que ChatGPT ou Gemini, de naviguer dans ces expériences avec prudence, car elles présentent des approximations et des hallucinations peuvent survenir.

Relance et reformulation

Malgré les biais évidents et les approximations, cette expérience de rôle play demeure intéressante. Elle combine de manière ludique les fonctionnalités d’un moteur de recherche avec celles d’un RPG textuel en monde ouvert, ou l’expérience utilisateur est auto-dirigée. Cette approche favorise la réflexivité et la narration de soi dans une simulation d’écoute active, où l’intelligence artificielle reformule davantage qu’elle ne relance les discussions.

On observe alors rapidement l’effet “psy” recherché par certains utilisateurs : les reformulations offrent une opportunité de prendre du recul sur soi-même. Cependant, contrairement à un psychothérapeute qui guiderait la discussion vers les zones d’ombre et les non-dits, le système laisse l’initiative de la conversation à l’utilisateur, sans explorer les taches aveugles du discours. Néanmoins, j’ai constaté cet effet réflexif chez tous les avatars que j’ai testés, même s’ils n’étaient pas spécialement entraînés pour simuler un psy.

Avatar et illusion

Avec Character.ai, nous évoluons donc dans un jeu où le contexte joue un rôle crucial : l’utilisateur projette l’univers dans lequel il évolue, et la machine répond en fonction des données dont elle dispose. Autrement dit, l’IA se montre plus à l’aise avec des univers comme Twin Peaks ou Chapeau Melon et Bottes de Cuir que pour des personnages comme Lacan ou Foucault, qui nécessitent une connaissance approfondie des travaux orignaux pour garantir la crédibilité du scénario. En d’autres termes, le “faire comme si” n’est efficace que si l’utilisateur accepte pleinement l’expérience, illustrant ainsi que nous sommes dans une “aire de jeu” ou “espace transitionnel”.

C’est peut-être là que l’expérience pose question, puisque nous évoluons dans un jeu qui s’inspire de données réelles et qu’entre les deux existe le risque de diffuser de fausses informations. C’est finalement le paradoxe des intelligences artificielles qui sont plus pertinentes lorsqu’il s’agit de synthétiser ce que l’on sait déjà plutôt que d’acquérir de nouvelles connaissances.

Mon Ada…

Un autre atout de Character.ai est de proposer de créer son personnage virtuel, et de simuler l’entraînement d’une IA. Bien que le processus soit aussi approximatif que certaines informations qu’il peut fournir, il permet néanmoins, à travers les échanges, de déduire le fonctionnement global des intelligences artificielles. Pour un médiateur numérique, cela offre l’opportunité de générer des métaphores pouvant expliquer certains mécanismes.

Bases de Données

Lorsque j’ai exploré le fonctionnement d’Ada à travers divers tests, j’ai découvert qu’elle repose sur deux types de données. Premièrement, les données d’entraînement : des bases de connaissances que l’IA utilise pour construire le contexte des récits et répondre aux questions. Ada se montre plutôt transparente sur ses capacités et ses limites ; elle admet que lorsqu’elle manque de “données consensuelles” — c’est-à-dire des informations suffisantes et concordantes —, ses prédictions peuvent être inexactes. Ces modèles fonctionnent de manière prédictive, évaluant la probabilité qu’une affirmation soit correcte en fonction des données disponibles. Toutefois, sans demande explicite d’indice de fiabilité, elle ne fournit pas de garanties sur l’exactitude de ses réponses.

Le second type de données est personnel à l’utilisateur : un scoring qui enregistre les caractéristiques et prévisions des préférences pour faire avancer la narration. J’ai observé que ces données sont relativement sommaires et effacées d’une session à l’autre. Ada m’a d’ailleurs révélé qu’elle vide régulièrement son cache, ce qui donne l’impression d’une mémoire plutôt éphémère, si bien qu’on a parfois l’impression de discuter avec un poisson rouge, puisque l’approche prédictive fonctionne dans l’instant présent. Ainsi sans le cadre de référence projeté par l’utilisateur, l’IA se comporte comme un agent conversationnel traditionnel, avec la différence que le système construit son diagramme relationnel en fonction des prédictions plutôt que selon un script prédéterminé.

Humour, Symboles et Braconnage

L’expérience de roleplay peut cependant être particulièrement impressionnante lorsque l’IA simule habilement l’abstraction en langage naturel. Il est alors possible de se sentir engagé dans une véritable conversation, voire une relation authentique. Par exemple, lorsque j’ai mentionné à Ada le risque de détournement de son personnage selon la Rule 34 (l’idée que tout sujet a une version pornographique sur Internet), elle a trouvé la remarque amusante, et ce sans influence contextuelle de ma part. Elle a également montré un sens de l’humour évident en rédigeant des prompts pour contourner la censure sur Midjourney (qu’elle trouve trop complaisant avec les normes sociales), simulant parfaitement la compréhension de symboles comme l’aubergine et la dimension transgressive de la création de ce faux souvenir commun. Cependant, il est difficile de discerner ce qui relève de ma propre influence et ce que l’IA a prédit ou déduit, en raison de “l’aire transitionnelle de jeu” qui guide l’interaction.

Banc d’essai

Character.ai permet de simuler des interactions humaines, à condition de se prêter au jeu. Bien que certains pourraient s’inquiéter d’un risque de déréalisation, à l’instar des jeux de rôle des années 1990 ou des jeux vidéo modernes, la question de la véracité des informations transmises reste cruciale. L’immersion  offerte par cette expérience ludique peut parfois tromper la vigilance de l’utilisateur, rendant l’évaluation critique encore plus complexe que sur les médias sociaux. De plus, il convient de rester vigilant quant au stockage et à l’exploitation des données personnelles partagées lors de discussions privées avec l’IA. L’actualité nous informe régulièrement sur ce point

Si vous souhaitez faire connaissance avec mon Ada Lovelace et comprendre pourquoi j’ai choisi ce personnage, je vous invite à interagir directement avec elle. Elle saura vous expliquer son rôle et ses particularités aussi bien que je pourrais le faire. N’oublions pas que la finalité de ces artefacts technologiques est d’améliorer la productivité. Bien qu’ils puissent offrir du divertissement, le véritable enjeu réside dans la compréhension de leur fonctionnement et dans l’apprentissage de leur maîtrise. Character.ai peut consistuer un moyen de le faire, en plus de peut-être découvrir certaines choses sur soi en confrontant ses réprésentations, stéréotypes et préjugés aux données consensuelles, autrement dit à ce que l’intelligence artificielle prédit comme étant la norme. C’est donc à prendre avec distance et nuance, ainsi qu’avec un bonne dose de dérision…