Deepfake

1 2, 3
Le deepfake [ˈdiːpfeɪk] , ou hypertrucage , est une technique de
synthèse multimédia reposant sur l'intelligence artificielle. Elle peut
servir à superposer des fichiers vidéo ou audio existants sur d'autres
fichiers vidéo (par exemple changer le visage d'une personne sur une
vidéo) ou audio (par exemple reproduire la voix d'une personne pour lui
0:00
faire dire des choses inventées). Cette technique peut être utilisée pour
4, 5
créer des infox et des canulars malveillants . Le terme deepfake est un
mot-valise provenant de l'anglais formé à partir de deep learning Deepfake sur Kim Jong-Un.
6
(« apprentissage profond ») et de fake (« faux », « contrefait ») .
7
Il est possible de créer des hypertrucages en utilisant l'application FakeApp , qui utilise TensorFlow, un outil
8
open source développé par Google .
9 9
Les hypertrucages vidéo sont aussi appelés infox vidéo ou vidéotox .

Historique
Les techniques pour simuler des mouvements faciaux et les transposer sur une personne cible ont été
présentées en 2016. Elles permettaient de contrefaire, en temps quasi réel, des expressions faciales dans des
10
vidéos en 2D .

L'hypertrucage audio est apparu en novembre 2016, avec la présentation du programme Adobe Voco, premier
11
programme d'hypertrucage audio capable de reproduire la voix humaine .

En juillet 2017, la BBC diffuse un discours prononcé par une intelligence artificielle reproduisant Obama,
12
discours essentiellement indiscernable de la réalité .
13
La pornographie hypertruquée est apparue sur Internet en 2017, notamment sur Reddit , et a depuis été
14, 15, 16
interdite par Reddit, Twitter, Pornhub et d'autres .

En janvier 2018 a été mise en ligne une application appelée FakeApp qui permet de créer facilement des vidéos
où les visages ont été permutés et de les partager. Les célébrités sont les principales cibles de ces fausses vidéos
17, 18, 19
sexuelles, mais certaines autres personnes sont aussi touchées .

En août 2018, des chercheurs de l'université de Californie à Berkeley ont publié une étude sur la création de
20, 21
fausses vidéos de danseurs. Un individu peut être collé sur les mouvements d'un danseur professionnel .

Domaines d'application

Pornographie
Les hypertrucages sont surtout connus pour avoir été utilisés afin de créer de fausses vidéos érotiques
22
(sextapes), mettant en scène des célébrités, et de la pornodivulgation (revenge porn) .

Au cours de l'automne 2017, un utilisateur anonyme du site Reddit publie, sous le pseudonyme « Deepfakes »,
plusieurs vidéos pornographiques. La première a attiré l'attention et l'une de celles ayant suscité le plus de
réactions met en scène l'actrice Daisy Ridley. Une autre montre l'actrice Gal Gadot (vedette du fim Wonder
Woman) en train d'avoir des rapports sexuels avec son beau-frère. D'autres célébrités — Emma Watson, Katy
Perry, Taylor Swift ou Scarlett Johansson — ont également été la cible de vidéos créées par l'utilisateur
« Deepfakes ».

Avec le temps, le faussaire a corrigé les défauts des vidéos, les rendant de plus en plus réalistes. Le phénomène
des hypertrucages a d'abord été dénoncé en décembre 2017 dans la section technique et scientifique du
23
magazine Vice, ce qui a entraîné l'apparition de nombreux reportages dans d'autres médias .

Au Royaume-Uni, les producteurs d'hypertrucages peuvent être poursuivis pour harcèlement, mais il y a des
24
appels à faire de l'hypertrucage un délit à part entière .

Les deepfakes pornographiques sont très répandus en Corée du Sud en conséquence du fort sexisme de la
25
société coréenne .

Politique
La permutation de visages a été utilisée pour donner une image fausse de politiciens connus sur des portails
vidéo, des plates-formes de streaming et de discussion en ligne. Par exemple, le visage du président argentin
Mauricio Macri a été remplacé par celui d'Adolf Hitler et le visage d'Angela Merkel par celui de Donald
26, 27
Trump . En avril 2018, Jordan Peele et Jonah Peretti ont montré les dangers de l'hypertrucages en créant
28
une fausse vidéo de Barack Obama faisant une annonce publique .

Le deepfake peut parfois servir un but d'influence et de modification du comportement de la population ou

servir à discréditer une personnalité. En 2022, en pleine invasion russe de l'Ukraine, la chaîne d'information
Ukraine 24 diffuse sur son site Internet une vidéo prétendument tournée par le président ukrainien
Volodymyr Zelensky, dans laquelle il exhorte la population à rendre les armes. La vidéo était en réalité un
deepfake, partagé au même moment sur les réseaux sociaux Facebook et Telegram, probablement à l'initiative
de la Russie ou d'un compte pro-russe, et avait pour but de semer le trouble sur les intentions réelles du chef
29
d'État .

Vidéo d'Art
En mars 2018, l'artiste Joseph Ayerle publie la vidéo d'art intitulée Un'emozione per sempre 2.0, dans laquelle il
met en scène une Ornella Muti virtuelle, recréée par intelligence artificielle. Le logiciel était capable d'animer
30, 31
le visage de l'actrice italienne pour réaliser des scènes qu'elle n'a jamais jouées .

Cinéma
Sorti en 2022, Fairytale, réalisé par le cinéaste russe Alexandre Sokourov, utilise une technologie de deepfake
pour rassembler Staline, Hitler, Churchill et Mussolini au Purgatoire.

Le procédé a aussi été utilisé pour insérer, dans une fiction cinématographique, une archive historique en
substituant la silhouette et le visage de l'interprète du personnage historique à ceux du personnage historique
32
lui-même .

Il pourra également être utilisé au cinéma afin de modifier le mouvement des lèvres des acteurs afin de
33
correspondre au doublage dans une autre langue .

Télévision
L'émission de télévision française à caractère humoristique et satirique C Canteloup sur TF1 utilise cette
technologie à partir du 18 novembre 2019, depuis la diffusion d'un numéro spécial intitulé C'est Canteloup, La
grande Métamorphose.

Le feuilleton télévisé français Plus belle la vie a pu poursuivre le tournage de son intrigue malgré l'absence
d'une comédienne, Malika Alaoui, à l'isolement car cas contact au Covid-19, en greffant son visage sur celui
34
d'une autre actrice .
Deep Fake Neighbour Wars, littéralement « La guerre des voisins façon deepfake », est une comédie en six
épisodes de 30 minutes utilisant le deepfake, mise en ligne le 26 janvier 2023 sur ITV, la télévision privée du
35
Royaume-Uni .

Programmes de trucage
FakeApp utilise des réseaux de neurones artificiels. Elle utilise la puissance de la carte graphique plus 3 ou
4 Go de stockage pour générer le rendu final. Pour un bon rendu, le programme a besoin de beaucoup de
photos de la personne. En effet, le programme doit apprendre quels aspects de la vidéo cible doivent être
modifiés et, pour ce faire, il utilise des algorithmes d'apprentissage profond. Le logiciel utilise TensorFlow, un
outil développé par Google, qui, entre autres, a été déjà utilisé pour créer DeepDream.

Programmes d'hypertrucage audio

Adobe Voco est un logiciel prototype d'édition et de production d'hypertrucage audio conçu par Adobe qui permet
la création et la modification audio novatrices. Surnommé « Photoshop-for-Voice », il a été présenté pour la
première fois lors de l'événement Adobe MAX en novembre 2016.
La technologie présentée dans Adobe MAX était un aperçu pouvant potentiellement être intégré à Adobe
Creative Cloud. À compter de juillet 2019, Adobe n'a pas encore publié d'informations supplémentaires sur une
11
date de sortie potentielle .

LyreBird

WaveNet est un réseau de neurones profond permettant de générer du son brut. Il a été créé par des chercheurs
de la société d'intelligence artificielle basée à Londres.
La technique, décrite dans un document de septembre 2016, est capable de générer des voix de type humain à
la voix relativement réaliste en modélisant directement des formes d'onde à l'aide d'une méthode de réseau
neuronal entraînée avec des enregistrements de parole réelle. Des tests avec l'anglais américain et le mandarin
auraient montré que le système surpasse les meilleurs systèmes de synthèse vocale existants de Google, même
si, en 2016, sa synthèse textuelle était encore moins convaincante que le discours humain réel.

La capacité de WaveNet à générer des formes d'ondes brutes lui permet de modéliser tout type d'audio, y
36
compris la musique .

Critiques

Abus
Le quotidien suisse germanophone Aargauer Zeitung affirme que la retouche d'images et de vidéos à l'aide de
l'intelligence artificielle pourrait devenir un phénomène de masse dangereux. Cependant, la falsification
d'images et de vidéos est antérieure à l'avènement des logiciels de montage vidéo et des programmes de
retouche d'images ; dans ce cas, c'est le réalisme, la facilité et la rapidité de la modification et son caractère de
plus en plus difficile à détecter qui créent un nouveau problème.

Il est également possible d'utiliser l'hypertrucage pour des canulars ciblés et de la pornodivulgation à des fins
37, 38
idéologiques ou de cyberharcèlement . Le 24 octobre 2023, la Commission du Sénat américain sur la
cybersécurité, les technologies de l'information et l'innovation gouvernementale, lors d'une session consacrée
à l'état des avancées de la technologie du deepfake, a auditionné trois témoins (Dana Rao, vice-président
exécutif, directeur juridique et directeur de la confiance chez Adobe, le docteur David Doermann, président
par intérim de l'université d'État d'informatique et d'ingénierie de New York à Buffalo ,et Sam Gregory,
directrice exécutive de WITNESS). Tous trois sont convenus que fabriquer un deepfake très réaliste devient de
plus en plus accessible et facile, ce qui implique un risque d'utilisation accrue pour diffuser de fausses
informations ou nuire à la réputation de quelqu'un, y compris via des contenus à caractère sexuel non

39
 39
consenti . Selon Dana Rao, les deepfakes peuvent être encore améliorés via des techniques sophistiquées. Pour
Sam Gregory, il est urgent d'améliorer les technologies de détection, de créer une législation dédiée et de
39
sensibiliser le public aux risques posés par les deepfakes .

Effets sur la crédibilité et l'authenticité

Un autre effet de l'hypertrucage est qu'on ne peut plus distinguer si le contenu est satirique ou authentique.
Interrogé, en 2018, par le site américain The Verge (qui traite de l'actualité technologique, de l'information et
des médias), le chercheur en intelligence artificielle américain Alex Champandard (programmeur et
cofondateur de la startup Creative) estime que

« tout le monde devrait être conscient de la rapidité à laquelle les choses peuvent être modifiées
aujourd'hui à l'aide de cette technique et que le problème ne doit pas venir de la technique mais
plutôt être résolu par la confiance des personnes dans l'information et le journalisme. Le
principal danger est de voir arriver le moment où les humains ne pourront plus déterminer si ce
40
qui se trouve dans une vidéo correspond à la vérité ou non . »

Informations immatérielles et non palpables, les infox vidéo brisent la confiance du fait qu'elles trompent les
41
individus .

Réactions

Mesures prises sur Internet

Les sites Twitter et Gfycat ont annoncé qu'ils allaient supprimer les hypertrucages et bloquer leurs auteurs.
Auparavant, la plate-forme Discord avait bloqué un canal de discussion comportant des hypertrucages. Le site
pornographique Pornhub prévoyait, lui aussi, de bloquer ces contenus, mais cette interdiction n'a pas été
42, 43
appliquée en 2017 et 2018 .

Chez Reddit, la situation était restée incertaine jusqu'à ce que le subreddit — la sous-partie thématique en
question — soit suspendu le 7 février 2018 en raison de la violation de la politique de « pornographie
44, 45, 46, 47
involontaire » .

En mai 2022, Google modifie ses conditions d'utilisation de Jupyter Notebook, une application Web multimédia
pour la création et le partage de documents informatiques, interdisant son utilisation pour créer des
48
deepfakes . Ce changement intervient peu après la publication d'un article de Vice affirmant que « la plupart
des deepfakes sont du porno non consensuel », souvent générés par le logiciel alors le plus populaire de
deepfake DeepFaceLab (DFL), utilisé par la Walt Disney Company pour des clips vidéo officiels et la websérie
Sassy Justice, des créateurs de South Park, mais aussi via GitHub ou Discord pour générer des deepfakes
49
pornographiques .

Lois ou projets de loi

À partir du 1er janvier 2020, la Chine interdit tout contenu ne mentionnant pas l'utilisation de superpositions de
vidéos et50,
d'audios
51
; les infox vidéo qui ne sont pas mentionnées comme telles seront considérées comme
illégales .
Aux États-Unis, en 2023, aucune loi fédérale n'interdit les contrefaçons numériques d'images ou de vidéos
présentant un caractère intime sexuel ou pornographique, créées via une IA et inspirées de personnes réelles ; un
projet de loi déposé en 2023, proposant des peines allant jusqu'à 10 ans de prison, n'avait pas avancé. Seuls
quelques États avaient voté leurs propres lois : au Texas, les auteurs risquent jusqu'à un an d'emprisonnement, et
en Californie, ils peuvent se voir infliger des dommages et intérêts.
Début 2024, après la circulation de fausses images sexuellement explicites de Taylor Swift dans les médias
sociaux, des élus ont déposé un nouveau projet de loi fédérale, dit Disrupt Explicit Forged Images and Non-
Consensual Edits Act of 2024 ou DEFIANCE Act of 2024, qui devrait permettre à des victimes de plus facilement
poursuivre en justice (recours civil fédéral) les auteurs présumés de deepfakes à caractère explicitement sexuel
ou pornographique, réalisés et publiés sans le consentement du sujet. Le projet (janvier 2024) de loi vise aussi les
personnes en possession de faux contenu dans le but de le distribuer, de même que ceux qui ont reçu ou distribué
ce type de deepfakes
52
si elles « savaient ou ont ignoré par imprudence » que la victime n'a pas donné son
consentement .
 Au Canada, le projet de loi n° 730 de l’Assemblée interdit la distribution de faux médias audio ou visuels
53
malveillants ciblant un candidat candidat à une fonction publique dans les 60 jours suivant son élection .

Développement de moyens de détection

Audio
Détecter de l'audio falsifié s'avère de plus en plus complexe, mais l'IA qui a permis de créer des fakes peut
aussi, via l'apprentissage profond, détecter ces fakes. La préparation des caractéristiques et l'augmentation du
54
masquage se sont avérées efficaces pour améliorer les performances .

Vidéo
Dans les années 2010, la recherche académique sur les deepfakes s'est surtout concentrée sur la détection des
55
vidéos deepfakes .

Des logiciels, tels qu'InVid et Amnesty Youtube Dataviewer, un outil proposé, depuis 2014, par l'organisation
non gouvernementale internationale Amnesty International, permettent aux journalistes de déterminer si une
41, 56
vidéo est truquée ou manipulée .

Divers types d'algorithmes peuvent détecter des faux et de subtiles incohérences caractéristiques des vidéos
55 57
deepfakes , par exemple concernant l'éclairage . Ainsi, des chercheurs de l'université de Buffalo ont montré,
en octobre 2020, que l'analyse des reflets de la lumière dans les yeux des personnes représentées permettaient
58
de repérer la plupart des deepfakes sans même avoir besoin de l'assistance d'une IA, du moins à ce moment .
Cependant, la technique de production de deepfakes continue aussi à progresser, imposant une amélioration
55
constante des algorithmes de détection .

Pour encourager et évaluer les algorithmes de détection de contenu manipulé et sélectionner les plus efficaces
des systèmes de détection, une coalition d'entreprises technologiques a lancé un concours : le Deepfake
59
Detection Challenge . Le modèle gagnant du Deepfake Detection Challenge était précis à 65 % sur un ensemble
60
de 4 000 vidéos . Fin 2021, une équipe du MIT (Massachusetts Institute of Technology) a démontré que les
humains ordinaires pouvaient, avec une précision de 69 à 72 %, identifier les fakes dans un échantillon
61
aléatoire de 50 de ces vidéos .

Pour le cas d'individus bien « documentés » (ex. : personnalités politiques et du spectacle), des algorithmes ont
62
été conçus pour distinguer les différences avec leur réelles manières faciales, gestuelles et vocales .

Wael AbdAlmageed et ses collègues du Laboratoire d'intelligence visuelle et d'analyse multimédia (VIMAL) de
63, 64
l'Institut des sciences de l'information de l'université de Californie du Sud ont développé deux générations
64
de détecteurs de deepfake basés sur des réseaux neuronaux convolutifs. La première génération utilisait des
réseaux de neurones récurrents pour repérer les incohérences spatio-temporelles et identifier les artefacts
visuels laissés par le processus de génération de deepfake. L'algorithme a atteint une précision de détection de
96 % (sur FaceForensics++, le seul benchmark deepfake à grande échelle disponible à l'époque). La seconde
génération a utilisé des réseaux profonds de bout en bout pour différencier les artefacts et les informations
faciales sémantiques de haut niveau à l'aide de réseaux à deux branches. La première branche propage les
informations de couleur tandis que l'autre branche supprime le contenu facial et amplifie les fréquences de
bas niveau à l'aide du laplacien de gaussien (LoG). De plus, ils ont inclus une nouvelle fonction de perte qui
apprend une représentation compacte des visages authentiques tout en dispersant les représentations (c'est-à-
dire les caractéristiques) des deepfakes. L'approche de VIMAL a montré des performances de pointe sur les
benchmarks FaceForensics++ et Celeb-DF et, le 16 mars 2022 (le jour même de la sortie), a détecté le deepfake
de Volodymyr Zelensky sans aucune connaissance de l'algorithme avec lequel le deepfake a été créé.

Facebook lance un concours « Deepfake Detection Challenge » (DDC), afin de créer des technologies et logiciels
65
capables de déceler des vidéos utilisant la technique d'infox vidéo .

D'autres suggestions ont été évoquées :

utiliser la blockchain pour enregistrer chaque média émis par une source supposée fiable. Ensuite, l'origine d'une
vidéo pourrait alors être vérifiée via le « grand livre » avant d'être diffusée sur des plates-formes de médias
66
sociaux . Mais outre que c'est une solution technologique qui serait très consommatrice d'énergie et de
 ressources informatiques, rien n'empêcherait un bon producteur de fausse vidéo de faire enregistrer son travail
dans la blockchain ;
utiliser une signature numérique native, codée de difficilement falsifiable, dans toutes les vidéos et images faites
par des appareils-photo, smartphones ou caméras vidéo. Ainsi, Solange Ghernaouti (spécialiste en cybersécurité
et cyberdéfense) suggère que les images et vidéos numériques devraient être dotées de tatouages numériques
identifiant l'origine du contenu.
Cependant, non seulement cela n'empêcherait pas les fausses vidéos, mais une telle « signature » permettrait à
des dictatures et à des États répressifs de retracer l'origine de chaque photographie ou vidéo en facilitant aussi la
67
traque de détracteurs, photo-journalistes ou lanceurs d'alerte, prévenait Kalev Leetaru en 2018 ;
pour savoir si une personne à l'écran, lors d'un appel vidéo « en direct » et « en temps réel », est vraie ou s'il s'agit
d'une image animée par une IA, un moyen simple est de demander à l'appelant de se tourner de côté. Au début
68
des années 2020, les vidéos deepfakes ne sont généralement pas très efficaces pour générer des vues de profil .

Voir aussi

Sur les autres projets Wikimedia :

deepfake, sur le Wiktionnaire

Documentaire

(en) Deepfakes : la nouvelle donne ([Link]

e/) [Production de télévision], Shuchen Tan (réalisation), Soraya Pol (recherche), sur Arte (2021, 50 min minutes),
consulté le 21 août 2024

Articles connexes

Effets spéciaux numériques

Intelligence artificielle générative
Donnée synthétique
Ère post-vérité
Infox

Liens externes

Ressource relative à l'audiovisuel : France 24 ([Link]

Notices d'autorité :
Israël ([Link] ·
Lettonie ([Link]

Le "deep fake" : vers la fin de la vérité dans l'image numérique ? ([Link]

e-la-porte/la-fenetre-de-la-porte-21-mai-2019), Xavier de La Porte, France Inter, 21 mai 2019
Le Congrès américain veut combattre les hypertrucages ([Link]
s-congres-etats-unis-americain-projet-loi-audiences-hypertrucages), Radio-Canada, 13 juin 2019
Deepfake : faut-il le voir pour le croire ?, La Méthode scientifique ([Link]
de-scientifique/deepfake-faut-il-le-voir-pour-le-croire), France Culture, 26 juin 2019
Internet : les deepfakes, comment ça marche ? ([Link]
ternet-les-deepfakes-comment-ca-marche_3613893.html) France info, 12 septembre 2019
Fabien Soyez, Au-delà du politique et du porno, le deepfake changera aussi le cinéma ([Link]
news/[Link]), Cnet, 11 octobre
2019
Morgane Tual, Deepfakes : faut-il avoir peur de ces vidéos trafiquées ? ([Link]
9/11/24/deepfakes-faut-il-avoir-peur-de-ces-videos-trafiquees_6020333_4408996.html), Le Monde, 24 novembre
2019
Jennifer Mertens, Le deepfake audio, la nouvelle arnaque tendance développée par les hackers, Bibliothèque du
Parlement, 2020, 20 Minutes, [lire en ligne ([Link]
arnaque-tendance-des-hackers)].
 Benoit Marini, Deepfakes : Quand l'Intelligence Artificielle transforme nos réalités ? ([Link]
tch?v=QtiQOUqjs9g), TedX Bordeaux, 3 novembre 2018

Références
1. Prononciation en anglais retranscrite selon la norme API.
2. « hypertrucage ([Link] », Grand Dictionnaire
terminologique, Office québécois de la langue française (consulté le 18 mars 2019).
3. Billy Joe Siekierski, Hypertrucage : que peut-on faire à propos du contenu audio et vidéo de synthèse, Bibliothèque du
Parlement, 2019, 8 pages [lire en ligne ([Link]
201911E)].
4. (en) « Experts fear face swapping tech could start an international showdown ([Link]
epfake-videos-are-freaking-experts-out) », sur The Outline (consulté le 28 février 2018).
5. (en-US) Kevin Roose, « Here Come the Fake Videos, Too », The New York Times,‎4 mars 2018 (ISSN 0362-4331 (http
s://[Link]/resource/issn/0362-4331), lire en ligne ([Link]
[Link]), consulté le 24 mars 2018).
6. (en) John Brandon, « Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise ([Link]
ech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise) », sur [Link], 16 février 2018.
7. (en) « FakeApp: Finally, a Program that Will Let You Seamlessly Put Donald Trump in Porn! », [Link],‎
25 janvier 2018 (lire en ligne ([Link] consulté
le 24 mars 2018).
8. « I’m using AI to face-swap Elon Musk and Jeff Bezos, and I’m really bad at it », The Verge,‎11 février 2018 (lire en
ligne ([Link] consulté le
24 mars 2018).
9. Commission d’enrichissement de la langue française, « infox vidéo ([Link]
53) », sur FranceTerme, ministère de la Culture (consulté le 17 juin 2020).
10. Justus Thies, « Face2Face: Real-time Face Capture and Reenactment of RGB Videos ([Link]
ojects/[Link]) », Proc. Computer Vision and Pattern Recognition (CVPR), IEEE, 2016 (consulté le
24 février 2018).
11. (en) « Adobe Voco 'Photoshop-for-voice' causes concern ([Link] », sur
[Link], 7 novembre 2016.
12. (en) « Fake Obama created using AI tool to make phoney speeches ([Link]
98465/fake-obama-created-using-ai-tool-to-make-phoney-speeches) », sur [Link].
13. (en-US) Janko Roettgers, « Porn Producers Offer to Help Hollywood Take Down deepfake Videos », Variety,‎
21 février 2018 (lire en ligne ([Link]
consulté le 28 février 2018).
14. (en) « It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet », The Register,‎9 février 2018
(lire en ligne ([Link] consulté le 20 février 2018).
15. Arjun Kharpal, « Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor »,
CNBC,‎8 février 2018 (lire en ligne ([Link]
ml), consulté le 20 février 2018).
16. (en) « PornHub, Twitter Ban 'deepfake' AI-Modified Porn », PCMAG,‎7 février 2018 (lire en ligne ([Link]
om/news/359067/pornhub-twitter-ban-deepfake-ai-modified-porn), consulté le 20 février 2018).
17. Britta Bauchmüller, « "Fake-App": Mit diesem Programm kann jeder im Porno landen – ob er will oder nicht! »,
[Link],‎29 janvier 2018 (lire en ligne ([Link]
-programm-kann-jeder-im-porno-landen---ob-er-will-oder-nicht--29578018)).
18. Eike Kühl, « Künstliche Intelligenz: Auf Fake News folgt Fake Porn », Die Zeit,‎26 janvier 2018 (ISSN 0044-2070 (http
s://[Link]/resource/issn/0044-2070), lire en ligne ([Link]
ntelligenz-deepfakes-porno-face-swap)).
19. heise online, « deepfakes: Neuronale Netzwerke erschaffen Fake-Porn und Hitler-Parodien », Heise Online,‎
25 janvier 2018 (lire en ligne ([Link]
[Link])).
20. (en) Peter Farquhar, « An AI program will soon be here to help your deepfake dancing - just don't call it deepfake »,
Business Insider Australia,‎27 août 2018 (lire en ligne ([Link]
eepfake-dancing-2018-8), consulté le 27 août 2018).
21. « deepfakes for dancing: you can now use AI to fake those dance moves you always wanted », The Verge,‎
26 août 2018 (lire en ligne ([Link]
s), consulté le 27 août 2018).
22. (en-US) « What Are deepfakes & Why the Future of Porn is Terrifying », Highsnobiety,‎20 février 2018 (lire en ligne (htt
ps://[Link]/p/what-are-deepfakes-ai-porn/), consulté le 20 février 2018).
23. « AI-Assisted Fake Porn Is Here and We’re All Fucked », Motherboard,‎11 décembre 2017 (lire en ligne ([Link]
[Link]/en_us/article/gydydm/gal-gadot-fake-ai-porn)).
24. Call for upskirting bill to include 'deepfake' pornography ban ([Link]
for-upskirting-bill-to-include-deepfake-pornography-ban) The Guardian.
25. « Les deepfakes pornographiques, une réalité quotidienne pour les Sud-Coréennes », Le [Link],‎7 mars 2024 (lire
en ligne ([Link]
postes-du-fleau_6220683_4408996.html))
26. (de) « Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos ([Link]
[Link]/leben/digital/wenn-merkel-ploetzlich-trumps-gesicht-traegt-die-gefaehrliche-manipulation-von
-bildern-und-videos-132155720) », az Aargauer Zeitung, 3 février 2018.
27. (de) Patrick Gensing, « deepfakes: Auf dem Weg in eine alternative Realität? ([Link]
rgrund/[Link]) ».
28. (en) Aja Romano, « Jordan Peele’s simulated Obama PSA is a double-edged warning against fake news ([Link]
[Link]/2018/4/18/17252410/jordan-peele-obama-deepfake-buzzfeed) », sur Vox, 18 avril 2018 (consulté le
10 septembre 2018).
29. « Qu'est-ce que le deepfake de Zelensky laisse craindre pour la suite ? ([Link]
3258303-20220323-guerre-ukraine-deepfake-zelensky-laisse-craindre-suite-conflit) », sur [Link], 23 mars 2022
(consulté le 16 février 2023).
30. (en) Katerina Cizek, William Uricchio et Sarah Wolozin, « Part 6: Media co-creation with non-human systems », dans
Collective Wisdom, PubPub, 3 juin 2019 (lire en ligne ([Link]
31. (en) « Un'emozione per sempre 2.0 ([Link] », sur Internet Movie Database,
24 mars 2018 (consulté le 12 avril 2021).
32. Par exemple, dans le film de Léa Domenach Bernadette, (sorti en octobre 2023) la silhouette et le visage de
Catherine Deneuve, qui y interprète le rôle de Bernadette Chirac, lui ont été substitués dans l'archive historique
présentant la rencontre Bernadette Chirac -Hillary Clinton en Corrèze, le 12 mai 1998. ([Link]
lle-19000/politique/quand-hillary-clinton-s-initiait-a-la-politique-avec-bernadette-chirac-en-correze_12137525/%7Cs
a)
33. 01net, « Les deepfakes pourraient se révéler utiles dans les doublages des films et des séries TV ([Link]
[Link]/actualites/les-deepfakes-pourraient-se-reveler-utiles-dans-les-doublages-des-films-et-des-series-tv-2042907.h
tml) », sur 01net (consulté le 19 mai 2021).
34. « Coronavirus : quand "Plus belle la vie" utilise le "deep fake" pour remplacer une comédienne ([Link]
r/culture/coronavirus-covid-19-quand-plus-belle-la-vie-utilise-le-deep-fake-pour-remplacer-une-comedienne-2170330.
html) », sur TF1 INFO, 17 novembre 2020
35. « "Deep Fake Neighbour Wars", la série au (faux) casting incroyable qui intrigue autant qu’elle inquiète ([Link]
[Link]/culture/deep-fake-neighbour-wars-la-serie-du-royaume-uni-au-faux-casting-incroyable-qui-intrigue-autant-qu
-[Link]) », sur TF1 INFO,
1er février 2023
36. [Link]
37. « Künstliche Intelligenz: Selfies sind eine gute Quelle », Die Zeit,‎26 janvier 2018 (ISSN 0044-2070 ([Link]
org/resource/issn/0044-2070), lire en ligne ([Link]
fakes-porno-face-swap/seite-2)).
38. « „deepfake“ - FakeApp kann Personen in Pornos austauschen – Welche Rechte haben Geschädigte? », Wilde Beuger
Solmecke Rechtsanwälte,‎2 février 2018 (lire en ligne ([Link]
p-kann-personen-in-pornos-austauschen-welche-rechte-haben-geschaedigte-76428/)).
39. (en) « *POSTPONED*Advances in Deepfake Technology ([Link]
technology/) », sur United States House Committee on Oversight and Accountability, 25 octobre 2023 (consulté le
1er novembre 2023).
40. What an ‘infinite’ AI-generated podcast can tell us about the future of entertainment ([Link]
8/3/11/17099578/ai-generated-podcast-procedural-storytelling-art-sheldon-county), The Verge, 11 mai 2018.
41. Harold Grand, « Après les fake news, la menace du «deep fake» prend de l'ampleur sur le web ([Link]
r/secteur/high-tech/2019/01/02/32001-20190102ARTFIG00162-apres-les-fake-news-la-menace-du-deep-fake-prend
-[Link]) », Le Figaro, 2 janvier 2019 (consulté le 18 décembre 2019).
42. (en-US) Jon Fingas, « Pornhub hasn't been actively enforcing its deepfake ban ([Link]
[Link]) », sur Engadget, 19 avril 2018 (consulté le 11 octobre 2024)
43. (en) « Pornhub Banned deepfake Celebrity Sex Videos, But The Site Is Still Full Of Them », BuzzFeed,‎18 avril 2018
(lire en ligne ([Link]
consulté le 21 avril 2018).
44. Markus Böhm, « "deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor », Spiegel Online,‎7 février 2018 (lire
en ligne ([Link]
[Link])).
45. [Link], « deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos », futurzone,‎8 février 2018
(lire en ligne ([Link]
s)).
46. heise online, « deepfakes: Auch Reddit verbannt Fake-Porn ([Link]
[Link]) ».
47. « Reddit verbannt deepfake-Pornos ([Link]
ornos) ».
48. (en) « Google Has Banned the Training of Deepfakes in Colab - [Link] ([Link]
-training-of-deepfakes-in-colab/) », sur [Link] (consulté le 4 février 2024).
49. (en) Emanuel Maiberg, « It Takes 2 Clicks to Get From ‘Deep Tom Cruise’ to Vile Deepfake Porn ([Link]
m/en/article/qjb7b7/ethical-deepfakes-deep-tom-cruise-ai-generated-porn) », sur [Link], 17 mai 2022 (consulté le
4 février 2024).
50. Corentin Bechade, « La Chine veut bannir les intox et les deepfakes ([Link]
[Link]) », Les Numériques, 2 décembre 2019 (consulté le
11 décembre 2019).
51. Léa Faure, « Le deepfake en Chine désormais considéré comme criminel si l'auteur ne signale pas la nature
trompeuse du contenu ([Link]
s-ne-signalent-nature-trompeuse-contenu/) », sur IT Social (consulté le 11 décembre 2019).
52. Kesso Diallo, « Aux États-Unis, un projet de loi pour lutter contre les deepfakes porno ([Link]
cle/427618-aux-etats-unis-un-projet-de-loi-pour-lutter-contre-les-deepfakes-pornographiques/) », sur L'Éclaireur Fnac,
31 janvier 2024 (consulté le 3 février 2024).
53. « Bill Text - AB-730 Elections: deceptive audio or visual media. ([Link]
[Link]?bill_id=201920200AB730) », sur [Link] (consulté le 4 février 2024)
54. (en) Ariel Cohen, Inbal Rimon, Eran Aflalo et Haim H. Permuter, « A study on data augmentation in voice anti-
spoofing », Speech Communication, vol. 141,‎juin 2022, p. 56–67
(DOI 10.1016/[Link].2022.04.005 ([Link] lire en ligne ([Link]
[Link]/retrieve/pii/S0167639322000619), consulté le 3 février 2024).
55. (en-US) Kara Manke, « Researchers use facial quirks to unmask 'deepfakes' ([Link]
esearchers-use-facial-quirks-to-unmask-deepfakes/) », sur [Link], 18 juin 2019 (consulté le 3 février 2024).
56. « Comment vérifier une vidéo ? ([Link]
ent-verifier-video) », sur Les Observateurs de France 24 (consulté le 18 décembre 2019).
57. (en) Hany Farid, « Digital Doctoring: How to Tell the Real from the Fake », Significance, vol. 3, no 4,‎
1er décembre 2006, p. 162–166 (ISSN 1740-9705 ([Link] et 1740-9713 (h
ttps://[Link]/resource/issn/1740-9713),
DOI 10.1111/j.1740-9713.2006.00197.x ([Link] lire en ligne (http
s://[Link]/jrssig/article/3/4/162/7029743), consulté le 3 février 2024).
58. (en) Shu Hu, Yuezun Li et Siwei Lyu, « Exposing GAN-generated Faces Using Inconsistent Corneal Specular
Highlights », ICASSP 2021 - 2021 IEEE International Conference on Acoustics, Speech and Signal Processing
(conférence),‎2020 (DOI 10.48550/ARXIV.2009.11924 ([Link] lire en ligne
([Link] consulté le 3 février 2024).
59. (en) « Deepfake Detection Challenge Dataset ([Link]
[Link]/) », sur [Link] (consulté le 3 février 2024).
60. (en) « Deepfake Detection Challenge Results: An open initiative to advance AI ([Link]
etection-challenge-results-an-open-initiative-to-advance-ai/) », sur [Link], 12 juin 2020 (consulté le
3 février 2024).
61. (en) Matthew Groh, Ziv Epstein, Chaz Firestone et Rosalind Picard, « Deepfake detection by human crowds,
machines, and machine-informed crowds », Proceedings of the National Academy of Sciences, vol. 119, no 1,‎
5 janvier 2022 (ISSN 0027-8424 ([Link] et 1091-6490 ([Link]
org/resource/issn/1091-6490), PMID 34969837 ([Link]
PMCID PMC8740705 ([Link]
DOI 10.1073/pnas.2110013119 ([Link] lire en ligne ([Link]
ll/10.1073/pnas.2110013119), consulté le 3 février 2024).
62. (en) Matyáš Boháček et Hany Farid, « Protecting world leaders against deep fakes using facial, gestural, and vocal
mannerisms », Proceedings of the National Academy of Sciences, vol. 119, no 48,‎29 novembre 2022 (ISSN 0027-
8424 ([Link] et 1091-6490 ([Link]
490), PMID 36417442 ([Link]
PMCID PMC9860138 ([Link]
DOI 10.1073/pnas.2216035119 ([Link] lire en ligne ([Link]
0.1073/pnas.2216035119), consulté le 3 février 2024).
63. (en) Michiel Verburg et Vlado Menkovski, « Micro-expression detection in long videos using optical flow and
recurrent neural networks », 2019 14th IEEE International Conference on Automatic Face & Gesture Recognition (FG
2019), IEEE,‎mai 2019 (DOI 10.1109/fg.2019.8756588 ([Link] lire en ligne (ht
tps://[Link]/10.1109/fg.2019.8756588), consulté le 3 février 2024).
64. Sabir, Ekraam, et al. « Recurrent convolutional strategies for face manipulation detection in videos » Interfaces (GUI)
3.1 (2019), p. 80-87.
65. Corentin Bechade, « Facebook et Microsoft partent à la chasse aux "deepfakes" ([Link]
e-du-net/[Link]) », Les Numériques,
6 septembre 2019 (consulté le 11 décembre 2019).
66. (en-US) Antonio García Martínez, « The Blockchain Solution to Our Deepfake Problems ([Link]
20231207101129/[Link] », sur Wired
(ISSN 1059-1028 ([Link] consulté le 3 février 2024).
67. (en) Kalev Leetaru, « Why Digital Signatures Won't Prevent Deep Fakes But Will Help Repressive Governments (http
s://[Link]/sites/kalevleetaru/2018/09/09/why-digital-signatures-wont-prevent-deep-fakes-but-will-help-re
pressive-governments/) », sur [Link], 9 septembre 2018 (consulté le 3 février 2024).
68. (en-US) Martin Anderson, « To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways ([Link]
[Link]/to-uncover-a-deepfake-video-call-ask-the-caller-to-turn-sideways/) », sur [Link], 8 août 2022 (consulté
le 3 février 2024).

Ce document provient de « [Link] ».