Avec Sora, Tibo InShape au cœur d’un flot de vidéos racistes générées par IA

« Salut les gars, aujourd’hui, je coupe un peu de saucisson car c’est important pour les protéines, et surtout ça éloigne les… bougnoules ! » Dans cette vidéo générée par intelligence artificielle (IA), le youtubeur Tibo InShape est mis en scène hurlant à plusieurs reprises l’insulte raciste. Elle n’est qu’une des nombreuses séquences du genre qui envahissent depuis quelques jours le Web francophone.

Tibo InShape sécurisant son vélo avec du jambon, empêchant un homme de monter dans un bus, refusant de donner à manger à une femme voilée… Chaque vidéo est ponctuée de l’insulte « bougnoule » (plus rarement, « négro »), devenue un « gag » récurrent du moment sur les réseaux sociaux.

S’il est difficile d’échapper au phénomène sur TikTok ou X, par exemple, c’est pourtant sur une autre application qu’est née cette trend (« tendance ») : Sora. Lancée fin septembre par OpenAI, l’entreprise à l’origine de ChatGPT, c’est une copie de TikTok dopée à l’IA. Ses utilisateurs peuvent, grâce à l’intelligence artificielle, générer des vidéos à partir d’une simple consigne écrite.

La particularité – et le succès – de Sora réside surtout dans ses « cameos » : la possibilité de se mettre en scène soi-même dans des vidéos, mais aussi de mettre son image à disposition des autres utilisateurs.

Des deepfakes consentis

C’est ce qu’a immédiatement fait Thibaud Delapart (alias Tibo InShape), le youtubeur français le plus suivi au monde avec 26,9 millions d’abonnés.

Un choix osé, puisqu’il permet à n’importe qui de lui faire dire et faire n’importe quoi. Mais stratégique : en investissant très tôt ce nouveau réseau social, il s’y assure une grande visibilité. Et sans faire grand-chose, puisque ce sont les internautes qui se chargent de fabriquer ces deepfakes et de diffuser son image. S’engager sur cette plateforme fait aussi partie de sa stratégie d’internationalisation, qui lui a permis d’acquérir le statut de numéro un.

Bien que Sora ne soit pas encore disponible en France, des vidéos humoristiques mettant en scène le youtubeur ont alors commencé à pulluler : Tibo InShape se maquillant dans un tuto beauté, Tibo InShape épousant un haltère, Tibo InShape fumant du cannabis… Des vidéos abondamment relayées sur les comptes du principal intéressé.

Mais désormais, le grand jeu consiste à lui faire proférer des insultes racistes. Et si cette trend fonctionne tant, c’est qu’elle fait référence aux accusations dont a dû se défendre le vidéaste, régulièrement taxé de « facho » par ses détracteurs – il avait d’ailleurs annoncé, après les élections législatives de 2024, avoir voté pour la majorité présidentielle, afin de les faire taire.

« Je ne valide pas »

Mardi 28 octobre, Tibo InShape s’est exprimé sur cette vague de vidéos. « Il y a clairement eu du débordement, estime-t-il. Je condamne donc fermement ces vidéos, surtout que c’est tellement bien fait qu’il y a des personnes qui pensent que c’est réellement moi. » Pour autant, il n’a pas supprimé les vidéos utilisant son cameo, ce que le youtubeur a pourtant la possibilité de faire sur Sora.

Deux jours plus tard, l’influenceur a publié un nouveau message, moins catégorique : « Des personnes me font dire des mots problématiques que je ne valide pas, mais c’est dans le cadre d’une trend TikTok, c’est de l’humour noir (…). Et quand je lis les commentaires, tout le monde kiffe ces vidéos. J’ai l’impression qu’on a enfin trouvé une trend qui fait rigoler tout le monde, et ça, qu’importe sa religion et sa couleur de peau. »

Tibo InShape, souvent sur la ligne de crête, est un habitué des polémiques, qui lui font gagner en visibilité. Celle-là ne fait pas exception et le youtubeur (qui n’a pas répondu aux sollicitations du Monde) rebondit même dessus pour faire la promotion de son nouvel ouvrage, Derrière la lumière, sorti le 23 octobre chez Amphora. « J’ai sorti un nouveau bou… quin », dit-il dans une vidéo, publiée sur son compte, dont on ne sait plus si elle est vraie ou fausse. « A la base, tout part d’une bou… tade (…), tout ce qui est important pour moi c’est que vous bou… giez un maximum. »

Sora accumule les polémiques

Au-delà de Tibo InShape, l’omniprésence de ces vidéos soulève la question de la modération des plateformes. A commencer par TikTok, où ces vidéos sont relayées, notamment auprès des mineurs friands de cette application. Si Le Monde a pu constater que certaines d’entre elles avaient été supprimées, il est aisé d’en trouver des dizaines d’autres.

TikTok, dont le règlement proscrit les contenus qui « attaquent les personnes sur la base de caractéristiques protégées telles que la race, la religion, le sexe ou l’orientation sexuelle », est la cible de nombreuses critiques en France. La commission d’enquête parlementaire sur les effets psychologiques de ce réseau social sur les mineurs l’a notamment étrillé dans son rapport remis en septembre, jugeant sa modération « insuffisante, inégale et négligente ».

Qu’en est-il de Sora, qui permet la création de ces vidéos, en contradiction avec ses règles d’utilisation interdisant « les contenus haineux » ? Le Monde a pu constater que Sora refusait de générer des vidéos contenant le terme « bougnoule », mais qu’il était facile de contourner cette mesure en proposant des termes aux sonorités proches. Reste qu’OpenAI, qui n’avait pas répondu aux sollicitations du Monde au moment de la publication de cet article, s’inquiète probablement peu de la France pour le moment, puisque l’application n’y est pas officiellement disponible.

La société américaine n’a, par ailleurs, pas peur des polémiques et Sora, malgré sa courte existence, en cumule déjà plusieurs. L’application permettait, par exemple, à son lancement, de mettre en scène des personnages protégés par le droit d’auteur, comme Pikachu ou Bob l’éponge, avant qu’OpenAI fasse marche arrière. Elle a ensuite provoqué la colère de descendants de personnalités publiques disparues, comme Robin Williams ou Martin Luther King, dont l’image pouvait être utilisée dans des vidéos Sora.

Tibo InShape a annoncé dans sa vidéo de jeudi qu’il était « entré en contact avec Sora et OpenAI pour essayer de comprendre les mesures qu’ils allaient mettre en place pour lutter contre les dérives », et compte bientôt publier un contenu plus approfondi sur le sujet. Avant de conclure, « pour les personnes qui souhaiteraient [lui] coller une étiquette » : « Je respecte tout le monde, quelles que soient les origines, la religion ou la couleur de peau. (…) J’aime tout le monde. Prenez soin de vous ! Amour et protéines. »

[Source: Le Monde]