Les victimes sexuelles des deepfakes sont souvent des camarades de classe de l'agresseur
La pornographie deepfake créée par des jeunes cible souvent un camarade de classe, selon la police nationalec'est premier rapport sur le problème.
La police a enregistré 79 cas de victimes de moins de 20 ans au cours des neuf premiers mois de cette année, a indiqué l'agence.
Dans plus de la moitié des cas, les créateurs des images sexuellement explicites étaient des élèves de la même école.
La police a porté des accusations criminelles dans quatre cas.
Les responsables estiment que dans de nombreux cas, les auteurs ont utilisé des outils d’intelligence artificielle générative pour convertir des photos de personnes réelles en fausses images. Certains auteurs ont utilisé des applications de retouche d’images.
Le rapport du NPA répond à la prévalence croissante des deepfakes sexuellement explicites. C'était la première fois que la NPA rassemblait des informations détaillées sur des cas confirmés par des rapports et des consultations.
L'année dernière, il y a eu 110 cas sur toute l'année. Sept d'entre elles ont donné lieu à une intervention de la police, soupçonnée de diffamation et d'autres délits. La police a émis des avertissements dans 38 autres cas.
Dans cinq cas, la police a alerté les centres de consultation pour enfants. Ils ont assuré l'orientation des mineurs dans quatre cas.
Parmi les victimes signalées entre janvier et septembre de cette année, plus de la moitié étaient des lycéens et plus de 30 pour cent étaient des lycéens. Quatre cas concernaient des élèves du primaire.
Bien que de nombreux incidents se soient produits au sein des mêmes écoles, certains impliquaient des auteurs et des victimes entrés en contact via les réseaux sociaux.
Dans un cas, un lycéen a utilisé l'IA pour modifier la photo d'une camarade de classe publiée sur les réseaux sociaux afin de représenter la nudité. Il a ensuite vendu l'image à un autre étudiant.
Dans un autre cas, un lycéen a manipulé des images d’un album d’événements scolaires accessible via des tablettes fournies par l’école.
Et un assistant pédagogique a abusé d’un album de fin d’études secondaires sur son lieu de travail.
En novembre, la police de la préfecture de Kyoto a déféré aux procureurs un lycéen de la préfecture de Tochigi, soupçonné d'avoir affiché publiquement des enregistrements électromagnétiques obscènes.
L’élève avait demandé à un homme rencontré sur les réseaux sociaux de sexualiser l’image d’une camarade de classe. L’homme a créé une fausse image à l’aide de l’IA et l’a publiée sur les réseaux sociaux.
La NPA met en garde contre l’utilisation abusive de l’IA à des fins de deepfakes sexualisés. Il a coproduit un dépliant avec d'autres branches du gouvernement, intitulé « La façon dont vous utilisez l'IA pourrait être illégale ».
Le dépliant fournit des informations sur les endroits où les victimes peuvent demander de l'aide, y compris la ligne d'assistance téléphonique pour les victimes de crimes sexuels #8103.
