Les deepfakes, qu’on appelle aussi médias synthétiques, héritent leur nom d’un utilisateur de la plateforme Reddit, u/deepfakes. Ce dernier fabriquait des séquences pornographiques détournées. Pour cela, il greffait numériquement le visage de célébrités sur le corps d’actrices de films pour adultes.
Ainsi, les deep-porn sont apparus pour la première fois en 2017 sur le forum Reddit. Dans la foulée, elles ont fait l’objet d’un trafic entre les utilisateurs et leur créateur. Le groupe qui s’était formé autour de cette thématique a atteint près de 100 000 membres.
En 2018, Sam Cole, un journaliste de Motherboard, a découvert qu’un utilisateur de Reddit du nom de “deepfakes” publiait de fausses vidéos pornographiques non consensuelles. Pour cela, il utilisait un algorithme d’intelligence artificielle. Celui-ci lui permettait d’échanger les visages de célébrités dans de vraies vidéos pornographiques.
C’est ainsi que, au moment où la technologie rencontrait un fort succès, Sam Cole a tiré la sonnette d’alarme sur ce phénomène. En un an, le deepfake porn s’est finalement répandu bien au-delà de Reddit. Des applications qui pouvaient “déshabiller” toute femme photographiée ont même fait leur apparition.
En septembre 2019, Deeptrace, une société d’intelligence artificielle, a trouvé 15 000 vidéos deepfake en ligne. Ce qui signifie que leur nombre avait doublé en seulement neuf mois. Parmi les vidéos, 96 % étaient pornographiques et 99 % d’entre elles mettaient en correspondance des visages de célébrités féminines avec des stars du monde pornographique.
Dans le même contexte, en 2020, Sensity.ai, une société néerlandaise spécialisée dans la détection de médias synthétiques, a révélé que près de 680 000 femmes auraient été victimes de DeepNude. Il s’agit d’un générateur de Deep porns sur Télégram. Le principe était relativement simple.
En effet, il suffisait de téléverser une photo de femme habillée et l’algorithme générait un deepfake de cette même femme, nu.
D’après le site journalism.design, le bot, dont les images ont été diffusées sur différentes chaines affiliées regrouperait 101 080 utilisateurs dans le monde. 70 % se trouvent en Russie ou dans les pays satellites de l’ex-URSS. Pour rappel, un bot est un service automatisé disponible sur les messageries instantanées comme Messenger ou encore Télégram.
Avec lesoir.be
