IA infectées & deepfakes pornographiques : qui est vraiment Kamya Buch ?

Kamya Buch

« Portal Kombat : quand la désinformation russe "biberonne" ChatGPT et autres IA ». C'est en errant comme une âme en peine sur le fil X de Tristan Mendès-France que je suis tombée sur cet article, ma foi fort intéressant, qui nous incite à ne pas faire confiance aux chatbots, "infectés" par un large réseau de propagande russe. L'article datant de mars 2025, il commençait à être trop vieux pour que je me cantonne à son seul propos dans l'optique de mon nouvel opus sur AgoraVox, que je voulais consacrer au thème IA et désinformation.

S'il vous plaît... Écris-moi un article !

En panne d'inspiration, je demandais à ChatGPT de me fournir des idées pour élargir mon horizon, ne pas me contenter de l'inévitable désinformation russe, trouver d'autres cas de par le monde. "Souhaites-tu que je creuse des cas concrets peu connus ou inédits (ex. campagnes de désinformation en Afrique, Amérique latine, autour de conflits récents, etc.) ?", me demanda ChatGPT. "Oui, c'est exactement ce que je veux : de l'inédit, ou du moins de l'original, du peu connu (mon public doit apprendre des choses dont il n'a jamais entendu parler)", lui répondis-je.

Dans ma lancée, je lui demandai de rédiger l'article. Je croyais ainsi gagner du temps. En vérité, j'allais en perdre, considérablement. L'article que l'IA m'avait pondu allait certes m'apprendre des choses, que je me permets de partager ici :

... ces «  chatbots  » hallucinent régulièrement et véhiculent des biais. Une enquête du fact-checkeur Newsguard souligne que ces outils «  produisent au moins une fausse information dans 30 % des cas  ». Dans un test mondial de 2025, 9 des 11 grands modèles d’IA interrogés ont ainsi repris une rumeur infondée – affirmant faussement par exemple que des soldats français combattaient au Cameroun – comme si cette «  infox  » était un fait avéré. Les progrès promis peinent à corriger ces errements  : à mesure que les chatbots s’ouvrent au Web en temps réel, ils citent davantage de sources douteuses et amplifient parfois les fausses nouvelles.

Les outils d’IA conversationnelle ne sont qu’un versant du phénomène. En coulisses, de véritables usines à fausses nouvelles se sont déployées sur le Web. NewsGuard recense plus de 1 200 sites « d’actualité » générés par IA dans le monde, couvrant une dizaine de langues. Ces portails au nom banal (Daily Update, World Chronicle…) publient des articles génériques sur la politique, la technologie, la santé ou le divertissement, souvent rédigés sans la moindre supervision humaine. Leurs contenus recyclent de vieilles dépêches, surfent sur des canulars (anciennes rumeurs recyclées en « scoops »), ou inventent carrément des événements (visites présidentielles, révélations judiciaires…). Finies l’exactitude et la nuance : ces «  fermes à infox  » cherchent d’abord le clic et les revenus publicitaires associés. Pire, des marques mondiales se retrouvent souvent piégées dans la boucle  : NewsGuard a identifié 141 grands annonceurs qui financent involontairement ces sites merdiatiques (sic) via de la publicité programmatique. De nouveaux «  newsbots  » se profilent ainsi en force, au point que 49 sites d’information en ligne sembleraient aujourd’hui écrits à quasiment 100 % par un logiciel.

Sur les réseaux sociaux comme TikTok, l’IA générative nourrit à son tour de gigantesques campagnes de désinformation. NewsGuard a repéré 41 comptes TikTok (en anglais et en français) où des voix off synthétiques crient tous azimuts des affirmations politiques mensongères. Dans ces «  fermes de contenu vidéo  », des IA racontent à la chaîne des récits «  vraisemblables  » sur des candidats ou des événements, jouant sur nos émotions. Les plateformes, qui tardent encore à signaler clairement ce qui est créé artificiellement, permettent à ces vidéos de devenir virales auprès d’audiences naïves...

La bonne histoire : sexe, mensonge et exotisme

Pour autant, je n'étais pas satisfaite du résultat. Et surtout, je restai bloquée sur le tout premier paragraphe du texte, qui nous amenait en Inde et me procurait exactement le type de cas pour lequel j'avais sollicité ChatGPT :

La Haute Cour de Delhi a tranché net en juillet 2025 : des contenus truqués mettant en scène la professeure et militante Kamya Buch ont été jugés «  révoltants, déplorables et diffamatoires  ». Le tribunal a épinglé «  des images modifiées, des visuels générés par intelligence artificielle, des deepfakes pornographiques  » visant à présenter Mme Buch sous un jour obscène. Ces montages fabriqués deviennent de redoutables instruments de harcèlement en ligne. Dans sa décision historique, la justice indienne a ordonné le retrait immédiat de ces faux contenus et a contraint plateformes et intermédiaires à les supprimer ou désindexer. Ce précédent lourd de symboles rappelle que l’«  intelligence artificielle générative  » ne relève plus de la science-fiction  : elle est déjà en train de forger notre réalité, parfois au prix de la vérité.

Article de ChatGPT

ChatGPT me fournit une unique source : un article du 22 juillet 2025 sur le site du cabinet d'affaire DDG (Deprez Guignot Associés), signé Vincent Fauchoux, avocat associé, reconnu pour son implication dans le domaine de l’innovation et sa contribution au développement du droit de l’Internet en France depuis plus de 20 ans.

Contexte judiciaire de l'affaire

Avant d'en arriver au cœur de mon sujet, commençons par résumer l'affaire, telle que présentée par cet article :

Contexte et décision judiciaire

Le 18 juillet 2025, la Haute Cour de Delhi a rendu une décision qualifiée de pionnière contre une campagne virale de harcèlement numérique visant une militante dénommée Kamya Buch. Cette personne a été ciblée par des contenus générés par intelligence artificielle : deepfakes pornographiques, images modifiées (morphed images) et textes diffamatoires décrits comme violents, humiliants et à caractère obscène. La procédure a été engagée contre de nombreux individus anonymes, des sites pornographiques, ainsi que des plateformes majeures comme X Corp (Twitter), Meta (Facebook/Instagram), Google LLC et l’Union de l’Inde donnant accès à ces contenus.

Profil de la plaignante

L’article affirme que Kamya Buch est «  une universitaire et militante reconnue en Inde pour ses positions en faveur d’un usage éthique des technologies  », et qu’elle défend activement les droits des femmes et des minorités. Elle aurait pris publiquement la parole contre les biais des systèmes d’IA et la diffusion de contenus haineux en ligne.

Motifs juridiques invoqués

Purushaindra Kumar Kaurav

Représentée par Me Awasthi, la plaignante a articulé :

• une atteinte grave à ses droits fondamentaux (vie privée, dignité, réputation),
• des torts civils (diffamation, atteinte à son image),
• et une manière de responsabiliser les plateformes pour leur rôle dans la diffusion des contenus.

Mesures ordonnées par la Cour

La justice, par le biais du juge Purushaindra Kumar Kaurav, a imposé des mesures inédites pour un ressort civil en Inde :

1. Injonction immédiate interdisant aux défendeurs (réseaux, sites) de diffuser les contenus incriminés.
2. Ordre donné à X Corp, Meta et Google de retirer ou de dé-indexer sous 15 jours les liens incriminés.
3. Obligation imposée à l’État indien de bloquer l’accès aux pages concernées via les fournisseurs d’accès.
4. Recueil d’informations : Meta et X doivent communiquer l’identité ou données basiques des auteurs initiaux.
5. Anonymisation de la plaignante dans les documents publics pour garantir sa protection.

Une portée symbolique et internationale

L’article souligne que cette décision s’inscrit dans une nouvelle ère jurisprudentielle, où l’Inde se montre proactive en matière de droit à la réputation numérique et de contenus IA abusifs.

Ce jugement est présenté comme un modèle potentiel pour d’autres juridictions cherchant à réglementer efficacement les deepfakes et protéger les victimes.

La plaignante : un profil fantôme

Venons-en maintenant à l'essentiel.

Voulant creuser mon sujet et croiser les sources, je cherche ailleurs des informations sur la plaignante. Problème : je ne trouve nulle part la moindre information sur une certaine Kamya Buch, qui répondrait à la description qu'en fait l'avocat Vincent Fauchoux :

La demanderesse, Mme Kamya Buch, est une universitaire et militante reconnue en Inde pour ses positions en faveur d’un usage éthique des technologies et pour son engagement dans la défense des droits des femmes et des minorités. Elle s’était récemment illustrée par des prises de parole publiques et des travaux de recherche dénonçant les biais discriminatoires des systèmes d’intelligence artificielle, ainsi que par des campagnes contre la prolifération de contenus haineux sur les réseaux sociaux.

C’est dans ce contexte qu’elle a été visée par une campagne de harcèlement numérique d’une ampleur exceptionnelle, impliquant la création et la diffusion de contenus fallacieux et profondément dégradants. (...) Ces contenus avaient pour effet de présenter Mme Buch sous un jour obscène et de porter gravement atteinte à sa réputation, à sa dignité et à sa sécurité personnelle. L’objectif présumé des auteurs était de réduire au silence une voix critique en la discréditant publiquement et en l’exposant à la vindicte.

Article de Vincent Fauchoux (www.ddg.fr)

Pourtant, nous avons bien affaire à une personnalité publique connue, reconnue, engagée, dont on devrait normalement retrouver facilement les prises de parole et les travaux de recherche. Mais non, rien, on ne trouve absolument rien. Et les IA elles-mêmes ne trouvent rien...

ChatGPT

Il existe bel et bien une femme du nom de Kamya Buch, mais elle a un profil complètement différent : un profil d'influenceuse, de nomade digitale et d'activiste... de la spiritualité. Plusieurs médias (The Reelstars, SheSight, Cosmic Sister) ont eu l'occasion de parler d'elle et permettent d'en dresser le portrait.

A la recherche de la vraie Kamya Buch

Le parcours de Kamya Buch commence non pas dans la spiritualité, mais dans la douleur. En 2011, confrontée à une dépression sévère, elle refuse les traitements classiques et se tourne vers des méthodes holistiques. Sa rencontre avec un maître spirituel (Guruji) marque un tournant : elle guérit, non seulement de son mal-être, mais aussi d’une vie déconnectée de l’essentiel.

Diplômée en économie à l'université Warwick, Kamya ressent pourtant un vide intérieur. En 2016, elle abandonne tout et part seule en Asie, de la Thaïlande au nord de l’Inde, en quête d’elle-même. Ce voyage devient un mode de vie : elle lance un blog, Wandering Kamya, et s’affirme comme “digital nomad” et exploratrice spirituelle.

Voici l'une de ses vidéos de voyage, datée de 2017

En 2020, sa trajectoire prend une nouvelle dimension. Plongée dans l’étude du patrimoine hindou, elle dénonce l’effacement culturel post-colonial, l’uniformisation occidentale, et la coupure des jeunes générations d’avec leurs racines. Sur ses réseaux, elle valorise les traditions ancestrales : chants sanskrits, lignées spirituelles, sagesse védique, avec un objectif clair — restaurer l’estime de soi des Hindous et préserver la dernière civilisation ancienne encore vivante.

Activiste digitale, Kamya anime des cercles de méditation, des retraites, des ateliers de transformation intérieure et des sessions de mantras en ligne. Son approche mêle spiritualité, autonomie financière (via son programme Dharmic Entrepreneurship) et connaissance de soi. Inspirée par Kashi (Varanasi), ville sacrée par excellence, elle y organise des yatras spirituelles et défend une vision du travail ancrée dans le dharma.

Depuis 2019, elle explore aussi les sciences psychédéliques et fonde la Psychedelic Society India, qui milite pour une approche sacrée et responsable des médecines traditionnelles.

Pour elle, l’époque moderne est une “Matrice”, un piège matérialiste. La clé pour s’en libérer ? Une spiritualité vivante, incarnée, capable de remettre l’humain en lien avec lui-même et avec le monde.

Un nom qui n'aurait jamais dû sortir

A ce stade, deux imposantes questions se dressent face à nous : et d'une, la plaignante à la Haute Cour de Delhi serait-elle cette Kamya Buch-là, la digitale nomade férue d'hindouisme ? Et de deux, d'où sort l'autre Kamya Buch, l'universitaire éminente, experte en éthique de l'IA, et militante en faveur des femmes et des minorités (qui d'évidence n'existe pas) ?

Pour répondre à la première question, il faut trouver d'autres sources rendant compte de la décision de la Haute Cour de Delhi du 18 juillet 2025. Il y en a peu et se cantonnent au web indien.

Le premier article qui nous informe sur l'affaire date du 18 juillet et émane du site LawBeat. Il y est question d'une "femme", sans aucune précision. On lit d'ailleurs que le juge "a ordonné au greffe de préserver la confidentialité de l’identité de la plaignante, en retirant son nom de l’intitulé de l’affaire et en autorisant le dépôt ultérieur de documents sous pli scellé". Cela n'empêche pas LawBeat de nous donner le nom de la plaignante en double exemplaire, dans l'intitulé de l'affaire et dans le jugement lui-même... 

(https://lawbeat.in)

Le 19 juillet, The Law Advice et LawChakra, puis, le 20 juillet, Verdictum évoquent une "influenceuse sur les réseaux sociaux" et préservent son anonymat. Et pour cause :

Compte tenu de la sensibilité de l’affaire, la Cour a ordonné que l’identité de la plaignante soit masquée dans les dossiers judiciaires. Le greffe a été enjoint de supprimer son nom du mémoire des parties et de modifier l’intitulé de l’affaire en conséquence. 

L'intitulé de l'affaire et le jugement sont anonymisés :

(www.verdictum.in)

Autrement dit, personne n'aurait jamais dû entendre parler de Kamya Buch dans ces circonstances. Mais LawBeat a, de manière incompréhensible, lâché son nom. Et un cabinet d'avocats français lui a emboîté le pas en lui dressant un portrait détaillé, largement faux. Et, au final, Kamya Buch est arrivée comme par magie dans un article que j'avais commandé à ChatGPT. L'IA, ici, n'a pas été infectée par des désinformateurs russes, mais par un cabinet d'avocats parisien (qui, rappelons-le, était l'unique source à laquelle s'était abreuvé ChatGPT).

Il est à noter que le compte LinkedIn de l’International Law Association for Artificial Intelligence (ILAAI) fait référence à "une éminente universitaire et activiste" du nom de Kamya Buch, et renvoie vers un article en anglais sur le cabinet DDG, signé Vincent Fauchoux, daté du 21 juillet.

Rien de surprenant lorsque l'on sait que Vincent Fauchoux est président de l'ILAAI. Le post de l'ILAAI se retrouvera traduit en français quelques jours plus tard sur le compte LinkedIn de l'avocat, renvoyant vers l'article en français du site du cabinet DDG.

Une curiosité : dans le post de l'ILAAI, une copie du jugement de la Haute Cour de Delhi est présente, avec le nom de la plaignante caviardé ; ce qui n'empêche pas l'ILAAI de dévoiler le nom dans son texte. Il y a là comme un petit souci de déontologie.

Incursion en terres inconnues

Afin de m'assurer de l'identité de la plaignante, j'ai essayé de retrouver les deepfakes condamnés par la justice. Et, effectivement, en associant tout simplement le nom "Kamya Buch" au mot-clé "porno", je suis tombée sur plusieurs images montrant une femme nue avec le visage de la digitale nomade Kamya Buch (dont une photo la montrant allongée sur les marches d'un temple). La qualité de ces images, dont on nous dit qu'elles sont truquées, les rend quasi indiscernables de photos authentiques.

Les véritables raisons d'un harcèlement d'envergure

Mais une question se pose alors à celui qui voudrait comprendre le fond de l'affaire. Pour quelle raison Kamya Buch a-t-elle été victime d'un cyber-harcèlement de grande ampleur ? Que lui reproche-t-on ? Et qui sont ses harceleurs ? L'article de l'avocat Vincent Fauchoux nous a induit en erreur, en nous proposant un contexte qui s'est avéré complètement fictif.

J'ai demandé à des IA (Grok et DeepSeek) de m'aider à comprendre le véritable contexte qui a conduit au cyber-harcèlement de Kamya Buch, et ce, sur la base de plusieurs articles (Janta Ka Reporter et The Commune), qui rendent compte d'autres harcèlements de l'influenceuse ces dernières années. Le texte qui suit, après moult améliorations, émane de Grok :

Kamya Buch, une influenceuse indo-britannique, nomade digitale et militante pour les traditions hindoues, a été la cible d’un cyberharcèlement intense en raison de ses prises de position publiques sur des questions religieuses et culturelles sensibles en Inde. Ce harcèlement, qui s’est manifesté par des attaques verbales, du slut-shaming et la diffusion d’images intimes divulguées, trouve son origine dans des débats polarisants autour de l’identité hindoue et des tensions intercommunautaires, notamment liées à la construction du temple Ram Mandir à Ayodhya, un site sacré pour les hindous mais controversé en raison de la destruction d’une mosquée en 1992.

En 2020, Buch a publié un post Instagram célébrant la cérémonie de Bhoomi Poojan, marquant le début de la construction du Ram Mandir, qu’elle a présenté comme une « réappropriation du patrimoine indigène » après des siècles de sacrifices. Elle a comparé Ayodhya au Vatican pour les chrétiens, soulignant son importance dans le Ramayana, un texte sacré hindou. Ce message a provoqué une vague de réactions hostiles de la part de libéraux autoproclamés et de trolls, qui l’ont accusée de célébrer la démolition de la mosquée Babri et d’ignorer les souffrances des musulmans. Les attaques incluaient des insultes hinduphobes, comme « bouse de vache », et des commentaires sexistes visant ses photos Instagram, la ridiculisant pour son apparence et sa vie personnelle. Une vidéo où elle exprimait son désarroi face à cette « hindouphobie » a été supprimée après une nouvelle vague d’intimidation.

En 2023, le harcèlement a pris une nouvelle dimension lorsque Buch a accusé Chandan Singh, membre de la cellule informatique du Bharatiya Janata Party (BJP), le parti au pouvoir, d’avoir utilisé des images explicites divulguées pour la diffamer. Selon elle, ces attaques se sont intensifiées après ses commentaires indépendants sur un documentaire concernant le corridor de Bankey Bihari, un autre site religieux hindou. Singh a riposté en l’accusant de diffamer l’hindouisme et en remettant en question sa légitimité en tant que citoyenne britannique, la qualifiant de « fraude » et publiant des remarques dégradantes, notamment des allusions à des photos suggestives prises devant un temple. Ces échanges ont exacerbé les tensions, Buch déplorant le manque de soutien des groupes hindutva, contrairement à ce qu’elle percevait comme une solidarité plus forte chez les militants de gauche.

Le harcèlement, qui combine cyberintimidation, humiliation sexuelle et exploitation d’images personnelles, illustre les profondes divisions idéologiques en Inde, où les débats sur la religion et l’identité nationale suscitent des réactions virulentes. Buch, en tant que femme publique et figure pro-hindoue, s’est retrouvée au cœur de ces tensions, attaquée à la fois par des opposants au nationalisme hindou et par certains membres de ce mouvement, révélant les défis auxquels font face les influenceurs dans un paysage numérique polarisé.

A l'origine de la création d'un spectre artificiel

Nous avons donc répondu à la première de nos deux imposantes questions. Oui, Kamya Buch, la digitale nomade, est très probablement (voire assurément) la plaignante. Notre deuxième question était la suivante : comment une Kamya Buch, universitaire éminente, spécialiste des IA et des biais algorithmiques, par ailleurs militante pour les droits des femmes et des minorités, a-t-elle pu se retrouver dans l'article de Vincent Fauchoux, et, in fine, dans les résultats de recherche de ChatGPT ?

Les deux profils (le vrai et le faux) de Kamya Buch étant à ce point différents, il n'est pas concevable que l'avocat se soit de bonne foi trompé, en traduisant mal les sources en anglais sur lesquelles il se serait basé. Comme on ne voit pas bien pour quelle obscure raison il aurait sciemment trafiqué le profil de Kamya Buch, je ne vois qu'une seule hypothèse plausible : la rédaction de son article a été, au moins en partie, assistée par une IA et celle-ci a halluciné. L'IA a fourni un profil plausible en fonction des prompts qui lui ont été adressés. Si tel est le cas, c'est une IA, en pleine hallucination, qui aurait infecté une autre IA (ChatGPT, auquel j'ai eu recours), et l'intoxication n'aurait pu avoir lieu que parce que l'usager humain aurait laissé faire, aurait validé passivement les dires de son assistante virtuelle, qui se seraient ainsi retrouvés imprimés sur un site d'avocats jugé fiable.

Face aux IA : appel à la responsabilité individuelle

Cet épisode nous rappelle que l'usage des IA doit s'accompagner d'un fort sentiment de responsabilité. L'usager humain reste seul responsable du texte qu'il produit. Les IA, on le sait, peuvent se tromper, et, dans mes échanges avec elles pour la rédaction de cet article, je n'ai cessé d'être confrontée à leurs erreurs, qu'il fallait constamment corriger. Nous avons tendance à faire confiance aux IA, du fait de la supposée infaillibilité de la machine, et notre paresse naturelle n'arrange rien. Plus que jamais, nous devons être sur nos gardes avec les IA et muscler notre esprit critique. Plus que jamais, nous devons maintenir - dans notre relation avec elles - l'exigence des Lumières : penser par soi-même et résister à la paresse cognitive. C'est peut-être le plus grand défi de notre temps.