Le Japon appelle X à prendre des mesures contre les images sexualisées générées par l'IA
TOKYO — Le gouvernement japonais a annoncé vendredi avoir appelé X à prendre des mesures contre l'altération et la sexualisation d'images utilisant l'outil d'intelligence artificielle du réseau social.
X a récemment constaté une augmentation du nombre de publications générées par l’IA contenant des images de personnes réelles modifiées de manière inappropriée. Alors que des dizaines de millions de personnes utiliseraient la plateforme au Japon, le gouvernement demande également à l'opérateur de rendre compte de son plan pour résoudre le problème et pourrait publier des orientations basées sur la loi sur l'IA si aucune amélioration n'est constatée.
« Nous accélérerons les discussions tout en obtenant la coopération des ministères et agences concernés », a déclaré le ministre chargé de la stratégie de l'IA, Kimi Onoda, lors d'une conférence de presse à l'issue d'une réunion du Cabinet.
Dirigé par l'entrepreneur américain Elon Musk, X a présenté l'année dernière son outil d'IA générative « Grok », qui permet aux utilisateurs de manipuler des images en saisissant des invites.
La création généralisée de fausses images sexuelles de personnes réelles par le biais d'un abus du service a donné lieu à des enquêtes sur X par plusieurs gouvernements à travers le monde. C'est la première fois que la réponse du Japon est révélée.
La dernière demande a été émise par le Cabinet Office, qui supervise la législation sur l'IA, car il s'inquiète de la facilité avec laquelle de faux contenus peuvent être créés et diffusés.
Les fausses images de personnes peuvent porter atteinte à leurs droits, tels que le droit à la publicité ou le droit à la réputation.
Les gouvernements de pays comme la Grande-Bretagne, le Canada et la Malaisie ont également signalé que cette question était problématique.
En réponse, X a déclaré : « Nous prenons des mesures pour supprimer les contenus violants hautement prioritaires, y compris les contenus pédopornographiques et la nudité non consensuelle. »
L'année dernière, le gouvernement a également demandé des améliorations au générateur vidéo « Sora » d'OpenAI concernant la création de vidéos ressemblant beaucoup à des dessins animés japonais.
