Le projet de lignes directrices japonaises sur l’IA demande des mesures pour lutter contre la dépendance excessive

Les entreprises et les organisations qui utilisent l’intelligence artificielle seront tenues de prendre des mesures pour réduire le risque de dépendance excessive à l’égard de cette technologie, a montré samedi un projet de lignes directrices élaboré par un panel du gouvernement japonais.

Le projet de lignes directrices obtenu par Kyodo News appelle également les développeurs d’IA à veiller à ne pas utiliser de données biaisées pour l’apprentissage automatique, tout en les exhortant à conserver des enregistrements de leurs interactions avec la technologie, à fournir en cas de problème.

Le panel, chargé de discuter de la stratégie du pays en matière d’IA, devrait finaliser les lignes directrices d’ici la fin de l’année. Le Japon, qui préside cette année le Groupe des Sept pays industrialisés, travaille également avec d’autres membres à l’élaboration de lignes directrices internationales pour les développeurs d’IA.

Le projet définit 10 règles de base pour les entreprises liées à l’IA, telles que garantir l’équité et la transparence en matière de protection des droits de l’homme et empêcher que des informations personnelles soient divulguées à des tiers sans l’autorisation d’un individu.

Les règles exigent également que des informations soient fournies sur la manière dont les données sont acquises auprès d’un individu ou d’une entité et sur la manière dont elles sont ensuite utilisées par les parties liées.

Les entreprises qui développent des plateformes d’IA, les fournisseurs de services qui utilisent cette technologie et les utilisateurs seront tous tenus de partager un certain degré de responsabilité.

Les lignes directrices fournissent des principes selon les catégories d’entreprises. Les développeurs sont priés de veiller à ce que les données utilisées à des fins d’IA soient à la fois exactes et à jour, et d’adopter de préférence des mesures pour garantir que les informations dont l’utilisation n’a pas été approuvée ne soient pas accessibles.

Dans le même temps, les fournisseurs qui utilisent l’IA seront invités à avertir les utilisateurs d’éviter de saisir des informations personnelles auxquelles ils ne souhaitent pas que des tiers accèdent, et à garantir que leurs services sont limités à l’utilisation prévue pour empêcher les mauvais acteurs d’utiliser la technologie à des fins malveillantes.