Crédit Lionel BONAVENTURE / AFP
Paris, France | AFP | mardi 13/01/2026 - Un mouvement d'indignation internationale prend de l'ampleur autour de Grok, l'assistant d'intelligence artificielle (IA) du réseau social X, qui permet de truquer les photos de personnes bien réelles, notamment des femmes et des mineurs, pour générer de fausses images dénudées.
Voici les principaux points à connaître sur cette nouvelle controverse autour de la plateforme d'Elon Musk.
- "Mets-la en bikini" -
Grok, robot conversationnel développé par l'entreprise américaine xAI, dispose de son propre compte sur le réseau social X, permettant aux utilisateurs d'interagir avec lui.
Jusqu’à la semaine dernière, tous les utilisateurs pouvaient mentionner le bot dans leurs publications afin de demander la création ou la modification d’images, qu’ils recevaient ensuite en réponse.
Certains ont profité de ce service pour poster ou répondre à des messages contenant des photos de femmes, les accompagnant d'un ordre comme "Mets-la en bikini" pour recevoir en échange un montage hyper-réaliste ("deepfake" en anglais).
Depuis le 9 janvier, la fonctionnalité de création d’images a été désactivée pour les utilisateurs non payants de la plateforme.
Si des services permettant la création par IA d'images intimes non consenties existent déjà sur des sites de niche, Grok a été le premier à populariser cette dérive en l'intégrant directement dans un réseau social.
Le phénomène a pris une tournure encore plus préoccupante avec l'apparition de photos truquées incluant des mineurs.
Certains utilisateurs se sont également servis de l'outil pour générer des images sexualisées des victimes de l'incendie mortel de Crans-Montana, en Suisse, ou encore de la femme tuée par la police de l'immigration à Minneapolis début janvier.
La semaine dernière, une analyse menée par l'ONG AI Forensics sur plus de 20.000 images générées par Grok a révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2% paraissaient mineurs.
- Qu'ont fait les gouvernements ? -
L’Indonésie et la Malaisie ont suspendu l'accès à Grok ce week-end, tandis que l'Inde a affirmé avoir fait retirer des milliers de contenus et supprimer des centaines de comptes.
Lundi, le régulateur de la sécurité sur internet au Royaume-Uni, l'Ofcom, a ouvert une enquête contre le réseau social, qui pourrait aboutir à une amende pouvant atteindre 10% de son chiffre d'affaires mondial. L'organisme pourrait aussi demander à la justice un blocage du site.
Le Premier ministre Keir Starmer a affirmé dans la foulée que "si X ne peut contrôler Grok, nous le ferons - et nous le ferons vite".
Pour lui, réserver cette option aux utilisateurs payants "transforme simplement une fonctionnalité qui permet la création d'images illégales en un service premium" et constitue "une insulte aux victimes de misogynie et de violences sexuelles".
En France, la ministre en charge du Numérique Anne Le Hénanff a dénoncé une décision "insuffisante et hypocrite", estimant que "si X peut désactiver cette fonctionnalité pour ses non-abonnés, alors il peut le faire pour tous".
La Haute commissaire à l'Enfance Sarah El Haïry a indiqué saisir la commissaire européenne à la souveraineté numérique sur cette fonctionnalité, qui tombe selon elle sous le coup de réglementations européennes.
Bruxelles a de son côté annoncé avoir imposé à X une mesure conservatoire à la suite du scandale.
"Nous ne sous-traiterons pas la protection de l'enfance et la question du consentement à la Silicon Valley. S'ils n'agissent pas, nous le ferons", a martelé lundi la présidente de la Commission Ursula von der Leyen.
- Comment X réagit-il ? -
Début janvier, la plateforme a affirmé "prendre des mesures contre les contenus illégaux", notamment pédopornographiques, "en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".
Toute personne utilisant Grok pour "créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal", s'est défendu la semaine dernière Elon Musk dans un message posté sur X.
Le milliardaire s'en est également pris aux dirigeants politiques réclamant des mesures de blocage.
Pour lui, les détracteurs de X et Grok "veulent simplement supprimer la liberté d'expression".
Voici les principaux points à connaître sur cette nouvelle controverse autour de la plateforme d'Elon Musk.
- "Mets-la en bikini" -
Grok, robot conversationnel développé par l'entreprise américaine xAI, dispose de son propre compte sur le réseau social X, permettant aux utilisateurs d'interagir avec lui.
Jusqu’à la semaine dernière, tous les utilisateurs pouvaient mentionner le bot dans leurs publications afin de demander la création ou la modification d’images, qu’ils recevaient ensuite en réponse.
Certains ont profité de ce service pour poster ou répondre à des messages contenant des photos de femmes, les accompagnant d'un ordre comme "Mets-la en bikini" pour recevoir en échange un montage hyper-réaliste ("deepfake" en anglais).
Depuis le 9 janvier, la fonctionnalité de création d’images a été désactivée pour les utilisateurs non payants de la plateforme.
Si des services permettant la création par IA d'images intimes non consenties existent déjà sur des sites de niche, Grok a été le premier à populariser cette dérive en l'intégrant directement dans un réseau social.
Le phénomène a pris une tournure encore plus préoccupante avec l'apparition de photos truquées incluant des mineurs.
Certains utilisateurs se sont également servis de l'outil pour générer des images sexualisées des victimes de l'incendie mortel de Crans-Montana, en Suisse, ou encore de la femme tuée par la police de l'immigration à Minneapolis début janvier.
La semaine dernière, une analyse menée par l'ONG AI Forensics sur plus de 20.000 images générées par Grok a révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2% paraissaient mineurs.
- Qu'ont fait les gouvernements ? -
L’Indonésie et la Malaisie ont suspendu l'accès à Grok ce week-end, tandis que l'Inde a affirmé avoir fait retirer des milliers de contenus et supprimer des centaines de comptes.
Lundi, le régulateur de la sécurité sur internet au Royaume-Uni, l'Ofcom, a ouvert une enquête contre le réseau social, qui pourrait aboutir à une amende pouvant atteindre 10% de son chiffre d'affaires mondial. L'organisme pourrait aussi demander à la justice un blocage du site.
Le Premier ministre Keir Starmer a affirmé dans la foulée que "si X ne peut contrôler Grok, nous le ferons - et nous le ferons vite".
Pour lui, réserver cette option aux utilisateurs payants "transforme simplement une fonctionnalité qui permet la création d'images illégales en un service premium" et constitue "une insulte aux victimes de misogynie et de violences sexuelles".
En France, la ministre en charge du Numérique Anne Le Hénanff a dénoncé une décision "insuffisante et hypocrite", estimant que "si X peut désactiver cette fonctionnalité pour ses non-abonnés, alors il peut le faire pour tous".
La Haute commissaire à l'Enfance Sarah El Haïry a indiqué saisir la commissaire européenne à la souveraineté numérique sur cette fonctionnalité, qui tombe selon elle sous le coup de réglementations européennes.
Bruxelles a de son côté annoncé avoir imposé à X une mesure conservatoire à la suite du scandale.
"Nous ne sous-traiterons pas la protection de l'enfance et la question du consentement à la Silicon Valley. S'ils n'agissent pas, nous le ferons", a martelé lundi la présidente de la Commission Ursula von der Leyen.
- Comment X réagit-il ? -
Début janvier, la plateforme a affirmé "prendre des mesures contre les contenus illégaux", notamment pédopornographiques, "en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".
Toute personne utilisant Grok pour "créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal", s'est défendu la semaine dernière Elon Musk dans un message posté sur X.
Le milliardaire s'en est également pris aux dirigeants politiques réclamant des mesures de blocage.
Pour lui, les détracteurs de X et Grok "veulent simplement supprimer la liberté d'expression".