On connaissait les fake news qui, avec un peu de travail (remonter à la source originelle, croiser les informations, s’interroger sur la source, etc.), pouvaient être débusquées plus ou moins facilement.

Mais les deepfakes ont changé la donne en rendant quasiment impossible leur distinction par rapport à de vraies informations. En 2019, on estime qu’au moins 14.000 vidéos deepfakes ont été réalisées, dont 96% dans le secteur de la pornographie.

Qu’est-ce qu’une
deepfake ?

Une deepfake est un hypertrucage audio et/ou vidéo qui
parait véritable, grâce aux techniques évoluées de l’intelligence artificielle.
Répandue dans le cinéma, la technique du deepfake s’étend désormais de plus en
plus au grand public via des applis notamment.

Ainsi, on ne peut plus se fier à une voix ni même une
vidéo qui ont l’apparence du réel. Dans ces
vidéos, on reconnaît le visage, les expressions, les gestes et la voix
de la personne. Cela est d’autant plus efficace que le logiciel d’hypertrucage
et le travail opéré sont performants.

  • Ressources vidéos :

Comprendre les deepfakes

Comment créer une deepfake

Exemples de deepfakes

  • Jordan Peel et la fameuse fausse vidéo d’Obama

  • Mark
    Zukerberg

  • Derpfakes, une chaîne youtube de deepfakes à vocation humoristiques

A quoi servent les
deepfakes ?

Très répandues dans l’univers de la pornographie (on remplace des visages d’acteurs porno par ceux de personnalités), les deepfakes ont gagné le grand public avec des vidéos à but humoristique mais elles servent également à créer de fausses déclarations d’hommes politiques par exemple.

Ainsi, les deepfakes peuvent servir un processus de
désinformation dangereux, car quasiment indétectable.

Des deepfakes
accessibles au grand public

  • Faceapp

Oui, les deepfakes sont accessibles au grand public,
notamment avec des applications gratuites telle Faceapp. Cette appli permet de
se vieillir, se rajeunir, changer de sexe, etc.

Petit aparté : c’est gratuit donc c’est vous le
produit. Toutes les photos téléchargées sont envoyées sur les serveurs cloud de
FaceApp.

  • Faceswap live

Application mobile créée par Laan Labs qui permet aux
utilisateurs d’échanger des visages avec une autre personne en temps réel à
l’aide de la caméra de l’appareil

  • Zao

Appli qui permet de remplacer le visage d’une vidéo par
son propre visage très simplement !

  • Fakeapp

FakeApp est un
logiciel multimédia gratuit (pour un usage non commercial) qui permet de
modifier des vidéos en intervertissant deux visages. Le résultat est d’autant
plus efficace que les photos de la personne cible sont nombreuses.

  • Thispersondoesntexist

Le site « thispersondoesnotexist.com » génère de faux visages à l’aide d’un algorithme qui se base sur des photos existantes et sur la technologie des réseaux adverses génératifs (en anglais generative adversarial networks ou GANs). Les développeurs de ce site assurent que les visages fixes ne sont qu’un point de départ, la technologie permettant d’aller beaucoup plus loin.

Pour les amoureux de chats, le même site existe http://thesecatsdonotexist.com/

  • Deepfakes web

Les générateurs de deepfakes se développent sur internet, à l’instar de Deepfakes web ( https://deepfakesweb.com/ ) qui permet de générer automatiquement un hypertrucage.

Risques de manipulation, propagande, désinformation

Outre l’impossibilité de distinguer un vrai discours d’un
faux, il est désormais très facile de créer de multiples fausses identités …
Avec le risque de manipuler l’opinion. Rappelons à ce titre le « syndrome
Popeye » (je l’ai lu/vu/entendu dans plusieurs sources différentes, donc
c’est vrai)

Manipuler une élection en diffusant de fausses vidéos d’un adversaire politique, créer de multiples faux témoignages, diffuser une fausse information, sont autant de dangers avec les deepfakes dont la propagation virale est difficile à contrer.

Le risque est réel de désinformer en faisant passer pour vraies des fausses informations, en créant de fausses vidéos de témoignages par exemple.

Où en est-on ?

Alors que les logiciels permettant de générer des deep fakes sont de plus en plus performants, on peut désormais créer des deep fakes en temps réel grâce à un logiciel open source en développement par des chercheurs israéliens : le projet « Subject Agnostic Face Swapping and Reenactment (FSGAN) ».

Comment débusquer et contrer les deepfakes ?

Les GAFA luttent contre les deep fakes et tentent de
développer des systèmes pour les repérer.

Pour le quidam, il faut partir du principe qu’une vidéo ou
qu’un son ne sont pas une preuve de vérité (au-delà même du contexte, du
cadrage, du commentaire, etc. comme on sait le faire avec les fake news).

Pour cela, il convient de vérifier l’information auprès de sources fiables et spécialisées. Où la vidéo est-elle publiée (compte officiel, source fiable, etc.) ?

Le travail des experts (journalistes notamment) est ici essentiel pour s’assurer que l’information vue/lue/entendue est réelle et ne constitue pas un hypertrucage.

Enfin, n’oublions pas la part essentielle de l’éducation pour contrer ces fake news et deep fakes.

Deepfake hypertrucage : règne de la désinfo ?http://www.actubis.com/wp-content/uploads/2019/12/deepfakes-hypertrucage-1024x606.jpghttp://www.actubis.com/wp-content/uploads/2019/12/deepfakes-hypertrucage-150x150.jpgludovicBlogdeepfake,hypertrucage
On connaissait les fake news qui, avec un peu de travail (remonter à la source originelle, croiser les informations, s’interroger sur la source, etc.), pouvaient être débusquées plus ou moins facilement. Mais les deepfakes ont changé la donne en rendant quasiment impossible leur distinction par rapport à de vraies informations....