Les faux nus de Taylor Swift générés par l'IA démontrent la nécessité d'une réglementation de l'IA : experts

« La question de savoir si des poursuites judiciaires seront engagées ou non est en cours de décision, mais une chose est claire : ces fausses images générées par l'IA sont abusives, offensantes, exploitantes… Une législation doit être adoptée pour empêcher cela et des lois doivent être promulguées ».

X a affirmé avoir une politique de tolérance zéro envers le contenu. Immédiatement après la mise en ligne des nus IA, il a fallu quelques minutes pour trouver plusieurs comptes distribuant les images explicites en ligne. Il aurait fallu dix-sept heures pour que les fausses images circulant sur X soient retirées.

Mohit Rajhans, consultant en médias et technologie de Think Start, affirme qu'il y a beaucoup de désinformation et probablement de harcèlement qui risquent de se propager plus rapidement si cette technologie n'est pas réglementée. « Ce qui s'est passé, c'est que… à cause de l'utilisation de l'image de Taylor Swift pour tout faire, depuis la vente de produits avec lesquels elle n'est pas affiliée jusqu'à la manipulation de son (image) dans divers actes sexuels, de plus en plus de gens ont pris conscience de l'ampleur de cette technologie. Il y a beaucoup de harcèlement potentiel et de désinformation qui se propagent si cette technologie n'est pas réglementée.

Les Deepfakes sont des images générées par l’IA de fausses situations mettant en scène de vraies personnes. Contrairement aux images retouchées, les deep fakes sont largement plus réalistes. Selon un rapport de 2023, 98% de tous les deepfakes en ligne étaient pornographiques et 99% des personnes ciblées étaient des femmes. Les chanteuses et actrices sud-coréennes représentaient 53% des personnes ciblées dans la pornographie deepfake. Le rapport affirme que, grâce à l'existence de la technologie, les utilisateurs peuvent créer gratuitement une fausse vidéo pornographique de 60 secondes en moins d'une demi-heure.

EXPLORE PLUS: La collection de nus sexy de Taylor Swift qui a fait parler les internautes