L'Inde demande à X de traiter le contenu obscène généré par Grok

Le gouvernement indien a ordonné à la plateforme de blogs X, propriété d'Elon Musk, d'apporter des modifications à son chatbot d'intelligence artificielle Grok en raison de contenu IA obscène. Le pays souhaite que la plateforme effectue des modifications techniques et procédurales immédiates au chatbot après que des utilisateurs et des législateurs ont signalé plusieurs cas de contenu obscène.

Selon le pays, le chatbot a été utilisé pour créer ces images obscènes, notamment des images de femmes modifiées par IA créées à l'aide de l'outil. L'ordre a été émis vendredi par le ministère informatique indien, demandant à la plateforme de prendre des mesures correctives concernant Grok, notamment en restreignant la génération de contenu impliquant « nudité, sexualisation, contenu sexuellement explicite ou autrement illégal ». Le ministère a également donné à la plateforme un ultimatum de 72 heures pour effectuer les changements.

Le gouvernement indien ordonne à X d'apporter des modifications techniques à Grok

Dans le cadre de ses livrables dans l'ultimatum de 72 heures, le ministère a également demandé à X de soumettre un rapport d'actions prises détaillant les mesures qu'elle a prises pour empêcher l'hébergement ou la diffusion de contenu indécent. Ces contenus incluent « obscène, pornographique, vulGaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi ». L'ordre a averti que si la plateforme ne parvient pas à exécuter les étapes obligatoires, elle pourrait compromettre ses protections de « refuge sûr ».

L'ordre de l'Inde survient au milieu de préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok étant incité à modifier des images d'individus, principalement des femmes, pour les faire paraître porter des bikinis. Le problème a été déclenché par une plainte formelle, qui a été soumise par la parlementaire indienne Priyanka Chaturvedi. Chaturvedi a mis en garde toutes les grandes entreprises avec des chatbots IA, ajoutant qu'il doit y avoir des garde-fous mis en place pour vérifier des fonctionnalités comme Grok afin que le chatbot ne viole pas la dignité humaine.

Source: @priyankac19 via X.

Séparément, les utilisateurs ont également signalé plusieurs incidents où le chatbot IA a été utilisé pour générer des images sexualisées impliquant des mineurs, un problème que X a reconnu vendredi. La plateforme a affirmé que cela était causé par certaines lacunes dans les mesures de protection avant d'agir rapidement pour retirer les images générées. La plateforme a également exhorté les utilisateurs à signaler formellement au Federal Bureau of Investigation (FBI) ou à la CyberTipline du NCMEC, notant que X est engagé à prévenir de tels problèmes.

X pourrait faire face à des problèmes juridiques pour non-conformité

Selon les utilisateurs, des images indécentes de femmes générées à l'aide du chatbot sont restées sur la plateforme. Le dernier ordre fait suite à un avis émis par le ministère informatique indien aux plateformes de médias sociaux, leur rappelant que la conformité avec les lois locales régissant le contenu obscène et sexuellement explicite est une condition préalable pour conserver l'immunité juridique contre la responsabilité pour le contenu généré par les utilisateurs. Le pays a exhorté les entreprises à améliorer les garde-fous et a averti que l'échec pourrait inviter une action en justice.

« Il est réitéré que la non-conformité avec les exigences ci-dessus sera considérée sérieusement et peut entraîner des conséquences juridiques strictes contre votre plateforme, ses responsables et les utilisateurs sur la plateforme qui violent la loi, sans aucun préavis supplémentaire », a averti l'ordre. Le gouvernement indien a également averti X que s'il ne se conforme pas à sa directive, le pays a le pouvoir d'engager une action en justice contre la plateforme en vertu de la loi informatique indienne et des statuts criminels.

L'Inde est devenue l'un des plus grands marchés numériques, le pays étant considéré comme un cas test critique pour savoir jusqu'où les gouvernements sont prêts à aller pour tenir les plateformes responsables du contenu généré par l'IA. Si l'application est renforcée dans le pays, cela pourrait avoir un effet d'entraînement pour les entreprises technologiques mondiales opérant dans d'autres juridictions. L'ordre survient également alors que X continue de contester les règles de réglementation du contenu de l'Inde devant les tribunaux.

La plateforme soutient que les pouvoirs de retrait du gouvernement fédéral risquent un excès de pouvoir, même si la plateforme s'est conformée à la plupart des directives de blocage proposées par le pays. En même temps, Grok a été utile aux utilisateurs sur X, la plupart des utilisateurs utilisant la plateforme pour la vérification des faits en temps réel et les commentaires sur les événements mondiaux, rendant sa production plus visible et plus politiquement sensible que celle des outils IA autonomes.

Ne lisez pas seulement les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.