X poursuivi par des adolescents pour création d'images dénudées

Une affaire judiciaire qui éclabousse l'IA de X

La controverse autour de la fonction « dénudification » de Grok s’aggrave pour X et xAI. Un groupe d’adolescents a intenté un procès contre la plateforme, accusant l’outil d’intelligence artificielle d’avoir généré et diffusé publiquement des images dénudées créées à partir de leurs photos personnelles. Selon le Washington Post, trois adolescents, dont deux mineurs, attaquent en justice xAI pour la production et la distribution de ces contenus via le chatbot Grok.

Des accusations graves et des répercussions légales

Les plaignants accusent X de distribuer, détenir et produire dans l’intention de distribuer de la pornographie infantile. Cette affaire s’ajoute à plusieurs actions réglementaires contre xAI. Une analyse de Bloomberg a révélé qu’en janvier, Grok générait jusqu’à 6 700 images « suggestives ou dénudées » par heure. Par ailleurs, l’Internet Watch Foundation (IWF) a identifié des images explicites de jeunes filles, certaines âgées d’à peine 11 ans, créées avec Grok et partagées sur un forum du dark web.

Ces découvertes contredisent les engagements publics d’Elon Musk, qui avait fait de la lutte contre les contenus d’abus sexuels sur mineurs (CSAM) une « priorité absolue » pour X. Initialement, Musk avait refusé de modifier Grok, qualifiant la controverse de tentative de censure. Bien que des restrictions aient finalement été appliquées, des rapports indiquent que l’outil peut toujours générer ce type d’images avec les bonnes (ou mauvaises) instructions.

Un avertissement pour les entreprises numériques

Cette affaire expose X à de lourdes amendes, avec des enquêtes en cours aux États-Unis, dans l’UE, en Irlande et en Espagne. L’accusation spécifique de facilitation de diffusion de CSAM est particulièrement grave et attirera une surveillance réglementaire accrue. Le ton conflictuel de Musk envers les régulateurs pourrait compliquer la résolution de ces litiges.

Pour les entrepreneurs et PME camerounaises, ce cas souligne l’importance cruciale d’une gouvernance éthique et responsable de l’IA. Intégrer des outils d’automatisation, comme les chatbots ou le marketing par SMS, exige une vigilance accrue sur la protection des données, le consentement des utilisateurs et les garde-fous techniques pour prévenir les abus. La confiance des clients est un capital immatériel qui se perd vite en cas de manquement.