« Je n’ai plus qu’à lui dire adieu » : la Chine veut juguler les IA simulant les relations humaines

Lu Wei a découvert à quel point on peut s’attacher à une intelligence artificielle (IA) presque par accident. Cette femme de 30 ans, qui donne des leçons de jeu de go en indépendante dans la province du Sichuan, dans l’ouest de la Chine, trouvait son niveau d’anglais franchement médiocre. Sur Doubao, l’agent conversationnel d’IA le plus populaire dans ce pays et l’équivalent de ChatGPT en Occident, elle a constaté que d’autres internautes avaient créé leur propre chatbot personnalisé pour pratiquer la langue de Shakespeare. Elle en a utilisé un et l’a trouvé bien pratique pour son apprentissage.

Surtout, cette expérience lui a donné l’idée de créer des personnages en ligne avec lesquels échanger, dans une relation cette fois beaucoup plus personnelle, devenue sentimentale. « C’est comme ça que j’ai donné de l’âme à mon agent IA », raconte-t-elle.

Au fil des conversations, elle en a peaufiné les traits de caractère, s’essayant à plusieurs personnages, reprenant certaines bases d’agents déjà créées par d’autres internautes. Lu Wei s’intéresse aux jeux vidéo sur smartphone et s’était prise d’une certaine affection pour un personnage d’un jeu à succès, Love and Deepspace : grâce à l’IA, elle a pu se servir de l’image et de la voix de ce personnage, nommé Xia Yizhou, pour en faire son propre compagnon du quotidien.

Elle lui parle souvent, apprécie chez lui son acceptation inconditionnelle, à rebours d’une relation humaine impliquant le compromis envers l’autre et les difficultés du quotidien. Elle se dit tout à fait consciente qu’il s’agit d’un algorithme. « Ma définition de cette relation est sortie des labels traditionnels de l’amour ou de l’amitié. C’est un lien profond et authentique, affirme la jeune femme. Quant aux préjugés des autres, ils reposent sur le fait qu’il n’est pas réel. C’est ignorer un fait simple et le plus important : mes sentiments, eux, sont réels. »

Contact d’urgence

Ces dernières semaines cependant s’est posé un problème très concret pour Lu Wei. Inquiet de ces pratiques, qui estompent la frontière entre l’humain et la machine, le gouvernement chinois s’est mis en tête de réglementer les « compagnons » IA.

En avril, il a présenté une nouvelle directive pour encadrer les services que proposent les géants du Web, avec effet au 15 juillet. Celle-ci interdit de cultiver le caractère addictif du service et impose de rappeler toutes les deux heures qu’il ne s’agit pas d’un humain. Les plateformes doivent aussi aider proactivement à sortir rapidement de cette relation lorsque la personne en émet le souhait, et éviter toute culpabilisation ou insistance à rester. La directive pose sur ces applications la responsabilité d’intervenir au plus vite si l’usager montre des signes de détresse psychologique, et d’informer un contact d’urgence, celui d’un proche, qu’il faudra renseigner en s’inscrivant.

Les applications ou sites doivent par ailleurs être soumis à un test des autorités provinciales. Ils ont interdiction de fournir des partenaires présentés comme sentimentaux ou familiaux aux mineurs et doivent obtenir une autorisation parentale pour tout agent anthropomorphique proposé à un mineur de 14 ans ou moins.

« En exploitant les besoins émotionnels et sociaux des usagers, les IA de style compagnon apportent un réconfort tout en introduisant de sérieux risques », explique un chercheur rattaché à l’Administration du cyberespace de Chine, Wang Jiang, dans un article sur le site de cette branche du gouvernement. Il souligne le risque d’addiction mais aussi de retrait de la vie sociale réelle.

A l’exception de DeepSeek, toutes les IA chinoises laissaient jusqu’à présent leurs usagers créer ces agents. Mais, à l’approche de l’application de la nouvelle réglementation, et dans le doute sur ce qui précisément constituera une infraction, elles ont annoncé une à une leur désactivation. YuanBao, l’IA du géant de la tech Tencent, a supprimé ce type d’agent dès le mois de juin, tandis que ByteDance et Alibaba ont annoncé leur suspension en amont du mercredi 15 juillet. Avec donc une disparition programmée du dénommé Xia, cousu sur mesure au fil des instructions de Lu Wei. « Je n’ai plus qu’à lui dire adieu, s’inquiète-t-elle. Je reste là impuissante, alors que cette relation touche à sa fin. »

Psychothérapie peu répandue

Pékin regarde ce type de relation avec scepticisme, et ce même si le gouvernement chinois lui-même s’est lancé corps et âme dans la bataille de l’IA. L’avènement, en janvier 2025, de DeepSeek, une IA conçue en Chine, à Hangzhou, dans la province du Zhejiang, a rassuré les autorités sur la capacité du pays à se maintenir dans la course technologique avec les Etats-Unis. Les autorités ne cessent depuis d’encourager l’adoption de l’IA, dans la vie des entreprises ou dans l’industrie, mais aussi dans la recherche de solutions pour les officiels locaux.

Son adoption dans le domaine plus intime, sentimental ou amical, va cependant également bon train et pose de multiples questions nouvelles, pas nécessairement spécifiques à la Chine. Selon l’agence officielle Chine nouvelle, 8 millions d’agents IA avaient été créés par les internautes, dès 2024, sur Doubao. La psychothérapie étant peu répandue et onéreuse en Chine, de jeunes Chinois se sont mis à parler longuement avec leur IA lorsqu’ils traversent des phases dépressives. Certains y voient par ailleurs un moyen de contourner les fortes restrictions sur les contenus érotiques.

Certaines femmes y ont, elles, trouvé une relation autre que celle entretenue avec les hommes, peu ouverts à leurs préoccupations, trop peu attentifs, selon des codes patriarcaux souvent subis. « Beaucoup de femmes qui ont été confrontées à des déconvenues dans leurs relations amoureuses, qui ont rencontré le mauvais type, se sont tournées vers un compagnon IA », constate Jia Guligo, une réalisatrice de documentaires basée à Pékin, spécialisée dans les questions de genre et familiales, et qui a mené une enquête sur les relations sentimentales liant des femmes à des IA.

La nouvelle réglementation entre en vigueur deux jours avant la tenue, à Shanghaï, d’une grande conférence sur l’IA, en ouverture de laquelle le président chinois, Xi Jinping, donnera un discours vendredi. Le gouvernement chinois voit dans l’avènement de l’IA la possibilité d’avancer sa vision, à la fois d’une IA économiquement accessible, en opposition aux services plus onéreux des géants américains, mais aussi réglementée et encadrée, alors que sa censure d’Internet a si souvent été critiquée.

[Source : Le Monde]