Le régulateur britannique des médias Ofcom a pris un « contact urgent » avec xAI, l’entreprise d’intelligence artificielle appartenant à Elon Musk, à la suite d’informations selon lesquelles son chatbot Grok peut être utilisé pour générer des images sexualisées d’enfants et des images explicites non consensuelles de femmes.
L’intervention fait suite à une inquiétude généralisée concernant les capacités de génération d’images de Grok sur X, où les utilisateurs ont publié des exemples d’IA incitée à « déshabiller » numériquement des femmes ou à les placer dans des scénarios sexualisés sans leur consentement.
L’Ofcom a confirmé qu’il enquêtait pour savoir si l’utilisation de Grok enfreignait les Loi britannique sur la sécurité en lignequi interdit la création ou le partage d’images intimes ou sexuellement explicites, y compris les « deepfakes » générés par l’IA, sans le consentement d’une personne.
Un porte-parole de l’Ofcom a déclaré que le régulateur examinait également les allégations selon lesquelles Grok aurait produit des « images déshabillées » d’individus, ajoutant que les entreprises technologiques sont légalement tenues de prendre les mesures appropriées pour empêcher les utilisateurs britanniques de rencontrer des contenus illégaux et de supprimer rapidement ces contenus une fois signalés.
X n’a pas répondu publiquement à la demande de clarification de l’Ofcom. Cependant, au cours du week-end, la plateforme a averti les utilisateurs de ne pas utiliser Grok pour générer du matériel illégal, notamment des images d’abus sexuels sur des enfants. Musk a également posté sur X que quiconque inciterait Grok à créer du contenu illégal « subirait les mêmes conséquences » que s’il avait lui-même mis en ligne un tel contenu.
Malgré cela, la propre politique d’utilisation acceptable de Grok, qui interdit explicitement de représenter de vraies personnes de manière pornographique, semble avoir été systématiquement contournée. Des images de personnalités de premier plan, dont Catherine, princesse de Galles, figuraient parmi celles qui auraient été manipulées à l’aide de l’outil d’IA.
L’Internet Watch Foundation a confirmé avoir reçu des rapports de membres du public concernant des images générées par Grok. Cependant, il a déclaré que, jusqu’à présent, il n’avait pas identifié de contenu dépassant le seuil légal pour être classé comme matériel d’abus sexuel sur des enfants en vertu de la loi britannique.
La question a également suscité une attention particulière au-delà du Royaume-Uni. La Commission européenne a déclaré qu’elle « étudiait sérieusement la question », tandis que les régulateurs en France, en Malaisie et en Inde seraient en train d’évaluer si Grok enfreint les lois locales.
Thomas Régnier, porte-parole de la Commission européenne, a qualifié le contenu d’« épouvantable » et de « dégoûtant », affirmant qu’il n’y avait « pas de place » pour de tels documents en Europe. X a été condamné à une amende de 120 millions d’euros (104 millions de livres sterling) par les régulateurs de l’UE en décembre pour avoir manqué à ses obligations en vertu de la loi sur les services numériques.
Les critiques se sont intensifiées de la part des politiciens britanniques. Dame Chi Onwurah, présidente du comité des sciences, de l’innovation et de la technologie, a déclaré que les allégations étaient « profondément troublantes » et a fait valoir que les garanties existantes ne parvenaient pas à protéger le public. Elle a qualifié la loi sur la sécurité en ligne de « terriblement inadéquate » et a appelé à des pouvoirs d’application plus forts contre les plateformes de médias sociaux.
La controverse a également mis en évidence l’impact humain de l’utilisation abusive de l’IA. La journaliste Samantha Smith a déclaré à la BBC que voir des images d’elle-même en bikini générées par l’IA était « aussi violent que si quelqu’un avait publié une image réelle et explicite ».
“Cela me ressemblait. C’était comme moi. Et c’était déshumanisant”, a-t-elle déclaré.
Le ministère de l’Intérieur a confirmé qu’il progressait dans la législation visant à interdire complètement les outils de « nudification », en proposant une nouvelle infraction pénale qui verrait les fournisseurs de cette technologie s’exposer à des peines de prison et à des amendes substantielles.
Alors que les régulateurs s’efforcent de renforcer leur surveillance, l’épisode Grok est devenu un point chaud dans le débat plus large sur la responsabilité de l’IA, la responsabilité des plateformes et les limites de la liberté d’expression à l’ère de la technologie générative.
Jamie Jeune
Jamie est journaliste principal chez Business Matters, apportant plus d’une décennie d’expérience dans le reporting commercial des PME britanniques. Jamie est titulaire d’un diplôme en administration des affaires et participe régulièrement à des conférences et des ateliers de l’industrie. Lorsqu’il ne rend pas compte des derniers développements commerciaux, Jamie se passionne pour encadrer les journalistes et les entrepreneurs de la relève afin d’inspirer la prochaine génération de chefs d’entreprise.
