DEEP FAKES PORNOGRAPHIQUES : Que dit la loi ?

La diffusion de deepfakes pornographiques mettant en scène la chanteuse Taylor Swift à la fin du mois de janvier a mis en lumière un phénomène qui est, malheureusement, en plein essor [1].

Qu’est-ce qu’une deepfake pornographique ?

A l’aide d’outils d’intelligence artificielle, des photos et vidéos sont modifiées ou générées
pour mettre en scène des femmes dans des séquences pornographiques, sans leur
consentement. Ces images sont appelées « deepfakes » ou « hypertrucages » en français. Elles
constituent l’un des pans néfastes de l’amélioration et de la démocratisation de l’IA.

Le champ des possibles offert par le développement des nouvelles technologies peut ainsi
permettre de créer des images très réalistes et nourrir tant des sites pornographiques que des
vagues de cyberviolences sexistes. Le champ des deepfakes ne se limite pas à la pornographie
puisque les outils employés permettent tout type de modification d’image, de vidéo, ou
d’audio pour prêter à une personne ou à plusieurs des comportements ou propos qu’ils n’ont
pas tenus. Les deepfakes malveillantes à caractère pornographique connaissent
malheureusement un grand succès. 

Les deepfake reposent sur deux innovations intervenues en 2014. D’une part, le Deepface,
développé par Facebook, utilise les réseaux neuronaux afin d’identifier les visages. Il a permis
un saut qualitatif avec une précision de 97,35% contre 27% pour les outils précédents. D’autre
part, les réseaux antagonistes génératifs (les GAN), créés par Ian Goodfellow, chercheur en
IA américain employé par Google Brain permettent de créer des images extrêmement
réalistes. Un groupe de chercheurs s’est emparé de ces innovations et a publié Face2Face :
Real-Time Face Capture and Reenactment of RGB Videos [2] dans lequel ils expliquent leurs
travaux sur la manipulation de vidéos en temps réel. Ils y détaillent la possibilité de transférer
les expressions du visage d’une personne sur un avatar numérique créé en temps réel.

Quelques mois plus tard, trois chercheurs de l’université de Washington décrivent leur
méthodologie pour synchroniser une piste audio A à une vidéo B [3]. Le résultat est saisissant et
ne coute que peu d’efforts là où, une décennie plus tôt, de telles prouesses techniques
n’étaient pas réalisables. Un groupe nommé « deepfake » s’empare de ces méthodes pour
publier des vidéos pornographiques sur le réseau social Reddit à l’automne 2017. Depuis,
cette technologie n’a cessé de se démocratiser et est désormais accessible en quelques clics
aux profanes [4].

La démocratisation des outils d’IA conduit à l’explosion du nombre de deepfakes
malveillantes…

D’après les recherches de l’analyste américaine Genevieve Oh, plus de 275 000 deepfakes
pornographiques étaient accessibles sur le Web traditionnel à la fin de l’année 2023 [5] . Si
la majorité d’entre elles sont recensées sur des sites consacrés à ces images, elles sont
également hébergées sur des plateformes pornographiques traditionnelles, ou diffusées sur des serveurs Discord et des canaux privés. Une simple recherche sur Google suffit à mettre la
main sur des deepfakes et des ressources en ligne permettant l’apprentissage de leur
création…

Que dit la loi ?

L’encadrement par la loi de cette pratique est un enjeu considérable puisque les vidéos
hypertruquées pornographiques représentent 96% des deepfakes, et que 99% de ces d’entre
elles visent des femmes, dont 81% sont des personnalités publiques [6]. 

En l’attente d’éventuels textes dédiés aux deepfakes pornographiques, plusieurs dispositions
permettent d’ores et déjà la protection du droit à l’image de la victime et la répression de
l’auteur de tels montages.

• Le code pénal prévoit la répression des montages vidéo diffusés sans le consentement de la personne s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention (article 226-8).
• Le droit à l’image est également protégé par le droit français. Il découle de l’article 9 du code civil relatif au droit au respect de la vie privée. Il a été jugé au visa de cet article que « « [toute] personne dispose sur son image, partie intégrante de sa personnalité, d’un droit exclusif qui lui permet de s’opposer à sa reproduction sans son autorisation expresse et spéciale ; de sorte que chacun a la possibilité de déterminer l’usage qui peut en être fait en choisissant notamment le support qu’il estime adapté à son éventuelle diffusion » [7]  . Afin d’obtenir le retrait des images ou photographies et la réparation des préjudices subis, la personne dont le droit à l’image n’a pas été respecté peut agir devant les tribunaux civils, y compris en référé [8] .

A l’été 2023 les sénateurs ont amendé le projet de loi visant à sécuriser et réguler l’espace
numérique (SREN) afin de réprimer plus lourdement les deepfake et notamment celles à
caractère sexuel. Le texte n’a pas encore été adopté, mais il permettrait de pouvoir
poursuivre de manière plus précise les deepfake malveillantes [9].

Des juristes soulignent en effet l’insuffisance des textes actuels. Le terme « montage » de
l’article 226-8 du code pénal peut par exemple faire débat en ce qu’il ne recouvre peut-être
pas la transformation d’images par algorithme. En outre, les dispositions relatives au droit à
l’image ne punissent pas le caractère pornographique de manière spécifique, alors que l’on
peut considérer que ces deepfake ne portent pas uniquement une atteinte à la vie privée des
individus, mais constituent également une nouvelle forme de violence sexiste. Le projet de loi SREN semble aller dans le sens de la reconnaissance de cette spécificité avec la création
d’infractions dédiées aux deepfake et aux deepfake pornographiques.

Que faire si vous êtes victimes d’une deepfake malveillante ?

Nous vous recommandons en premier lieu de faire des captures écrans des images truquées.
Vous pouvez également demander aux plateformes relayant ces images de les supprimer, et
engager des poursuites judiciaires. Altij Avocats peut vous conseiller et vous accompagner, contactez-nous !

Découvrez le cycle de formation de notre Legal Tech sur la gestion de votre e-réputation et celle  de votre organisation afin de vous aider à mettre en place des outils et méthodes pour organiser votre veille, anticiper les crises digitales et mieux les gérer.

[1] Taylor Swift victime de fausses images pornographiques, l’intelligence artificielle en accusation (lemonde.fr)

[2] Thies, Justus & Zollhöfer, Michael & Stamminger, Marc & Theobalt, Christian & Nießner, Matthias. (2018). Face2Face: Real-time face capture and reenactment of RGB videos, 2018.

[3] Synthesizing Obama : Learning Lip Sync from Audio

[4] GROFFE-CHARRIER Julie, "Vers un encadrement légal des deepfakes", Dalloz Actualités, 12 juillet 2023

[5] Le nombre de « deepfakes » pornographiques explose du fait des progrès de l’intelligence artificielle (lemonde.fr)

[6] LANGLAIS-FONTAINE Claire, « Démêler le vrai du faux : étude de la capacité du droit actuel à lutter contre les deepfakes », La Revue des droits de l’homme [En ligne], 18 | 2020, mis en ligne le 12 juin 2020. URL : http://journals.openedition.org/revdh/9747

[7] TGI de Paris, 12 septembre 2000, Charlotte R. épouse Jean-Michel J./SARL DF Presse

[8] Article 9 alinéa 2 du code civil

[9] Hobulowicz Gerald, "La courte histoire des deepfakes", billet de blog du 23 mai 2020 (Mediapart)