Catégories
Blog

Deepfake (hypertrucage) ou la distinction impossible entre vraies et fausses déclarations

On connaissait les fake news qui, avec un peu de travail (remonter à la source originelle, croiser les informations, s’interroger sur la source, etc.), pouvaient être débusquées plus ou moins facilement.

Mais les deepfakes ont changé la donne en rendant quasiment impossible leur distinction par rapport à de vraies informations. En 2019, on estime qu’au moins 14.000 vidéos deepfakes ont été réalisées, dont 96% dans le secteur de la pornographie.

Qu’est-ce qu’une deepfake ?

Une deepfake est un hypertrucage audio et/ou vidéo qui parait véritable, grâce aux techniques évoluées de l’intelligence artificielle. Répandue dans le cinéma, la technique du deepfake s’étend désormais de plus en plus au grand public via des applis notamment.

Ainsi, on ne peut plus se fier à une voix ni même une vidéo qui ont l’apparence du réel. Dans ces vidéos, on reconnaît le visage, les expressions, les gestes et la voix de la personne. Cela est d’autant plus efficace que le logiciel d’hypertrucage et le travail opéré sont performants.

  • Ressources vidéos :

Comprendre les deepfakes

Comment créer une deepfake

Exemples de deepfakes

  • Jordan Peel et la fameuse fausse vidéo d’Obama
  • Mark Zukerberg
  • Derpfakes, une chaîne youtube de deepfakes à vocation humoristiques

A quoi servent les deepfakes ?

Très répandues dans l’univers de la pornographie (on remplace des visages d’acteurs porno par ceux de personnalités), les deepfakes ont gagné le grand public avec des vidéos à but humoristique mais elles servent également à créer de fausses déclarations d’hommes politiques par exemple.

Ainsi, les deepfakes peuvent servir un processus de désinformation dangereux, car quasiment indétectable.

Des deepfakes accessibles au grand public

  • Faceapp

Oui, les deepfakes sont accessibles au grand public, notamment avec des applications gratuites telle Faceapp. Cette appli permet de se vieillir, se rajeunir, changer de sexe, etc.

Petit aparté : c’est gratuit donc c’est vous le produit. Toutes les photos téléchargées sont envoyées sur les serveurs cloud de FaceApp.

  • Faceswap live

Application mobile créée par Laan Labs qui permet aux utilisateurs d’échanger des visages avec une autre personne en temps réel à l’aide de la caméra de l’appareil

  • Zao

Appli qui permet de remplacer le visage d’une vidéo par son propre visage très simplement !

  • Fakeapp

FakeApp est un logiciel multimédia gratuit (pour un usage non commercial) qui permet de modifier des vidéos en intervertissant deux visages. Le résultat est d’autant plus efficace que les photos de la personne cible sont nombreuses.

  • Thispersondoesntexist

Le site « thispersondoesnotexist.com » génère de faux visages à l’aide d’un algorithme qui se base sur des photos existantes et sur la technologie des réseaux adverses génératifs (en anglais generative adversarial networks ou GANs). Les développeurs de ce site assurent que les visages fixes ne sont qu’un point de départ, la technologie permettant d’aller beaucoup plus loin.

Pour les amoureux de chats, le même site existe http://thesecatsdonotexist.com/

  • Deepfakes web

Les générateurs de deepfakes se développent sur internet, à l’instar de Deepfakes web ( https://deepfakesweb.com/ ) qui permet de générer automatiquement un hypertrucage.

Risques de manipulation, propagande, désinformation

Outre l’impossibilité de distinguer un vrai discours d’un faux, il est désormais très facile de créer de multiples fausses identités … Avec le risque de manipuler l’opinion. Rappelons à ce titre le « syndrome Popeye » (je l’ai lu/vu/entendu dans plusieurs sources différentes, donc c’est vrai)

Manipuler une élection en diffusant de fausses vidéos d’un adversaire politique, créer de multiples faux témoignages, diffuser une fausse information, sont autant de dangers avec les deepfakes dont la propagation virale est difficile à contrer.

Le risque est réel de désinformer en faisant passer pour vraies des fausses informations, en créant de fausses vidéos de témoignages par exemple.

Où en est-on ?

Alors que les logiciels permettant de générer des deep fakes sont de plus en plus performants, on peut désormais créer des deep fakes en temps réel grâce à un logiciel open source en développement par des chercheurs israéliens : le projet « Subject Agnostic Face Swapping and Reenactment (FSGAN) ».

Comment débusquer et contrer les deepfakes ?

Les GAFA luttent contre les deep fakes et tentent de développer des systèmes pour les repérer.

Pour le quidam, il faut partir du principe qu’une vidéo ou qu’un son ne sont pas une preuve de vérité (au-delà même du contexte, du cadrage, du commentaire, etc. comme on sait le faire avec les fake news).

Pour cela, il convient de vérifier l’information auprès de sources fiables et spécialisées. Où la vidéo est-elle publiée (compte officiel, source fiable, etc.) ?

Le travail des experts (journalistes notamment) est ici essentiel pour s’assurer que l’information vue/lue/entendue est réelle et ne constitue pas un hypertrucage.

Enfin, n’oublions pas la part essentielle de l’éducation pour contrer ces fake news et deep fakes.

4 réponses sur « Deepfake (hypertrucage) ou la distinction impossible entre vraies et fausses déclarations »

Heu… On est d’accord que un travail venant de gens estampillés “experts” (journalistes notamment) n’est gage de rien du tout ? Je pense qu’il faut séparer aussi “hypertrucage” et “deepfake” qui me semble plutôt être la création artificielle de sources multiples afin de contrecarrer le croisement d’informations… en la matière les journalistes ne semblent pas aujourd’hui immunisés du tout (au contraire l’industrie médiatique sert de caisse de résonance, les cas de grosse fake-news à succès ont toujours un épisode télévisuel). Les seuls exemples historiques de deepfakes que nous avons à notre disposition, nécessairement d’avant que la technologie ne soit facilement disponible, venaient des journalistes. Le “fact-checking” n’a pas non plus été mis à la mode par les grandes entreprises de presse il me semble, sans doute plutôt par des journalistes indépendants.
Ce qui semble essentiel c’est surtout d’avoir une confiance relativement faible envers n’importe quelle information et n’importe quelle source, et de ne justement pas succomber à l’influence de ceux qui fabriquent l’actualité.

Je vais reprendre vos remarques point par point.
– Les journalistes ont pour mission de vérifier l’information avant de la diffuser. je suis d’accord avec vous, tous les journalistes ne font pas nécessairement bien leur travail, néanmoins, leur mission et leur ligne déontologique les oblige à cet effort d’où le fait qu’il faut savoir identifier les médias fiables. Je ne pense pas qu’il faille douter de tous les médias, il faut au contraire savoir reconnaître les sources les plus fiables, même si évidemment, cela ne nous dispense pas de recouper l’information ailleurs évidemment (cf notre article sur l’esprit critique).
– Il est vrai qu’on met dans notre article en synonyme hypertrucage et deepfake. Toutefois, d’autres acceptions, d’autres subtilités peuvent faire ressortir des sens différents. Nous nous sommes contentés d’une synonymie et le texte écrit doit être interprété en ce sens.
– Oui, les journalistes ne sont pas encore tous immunisés contre les fake news je vous l’accorde. Comme nous lavons déjà écrit, la recherche de sensationnalisme attire certains pseudo journalistes (car je ne pense pas qu’on puisse parler de journaliste àce niveau là). Comme je l’ai dit précédemment, c’est du travail des journalistes de ne pas diffuser de fake news et au contraire même de les dénoncer (ce qui se fait de plus en plus, les rédactions ayant pris conscience de l’enjeu citoyen d’une telle information et du véritable risque que court notre démocratie).
– Le fact-checking est désormais très exploité par les différentes rédactions. Ils ont pris conscience que pour ne pas perdre la confiance des lecteurs/auditeurs/téléspectateurs, ils devaient faire preuve de davantage de transparence.
– Le fait d’avoir une confiance relativement faible envers les informations me parait une position radicale proche de la zététique. On ne défend nullement cette théorie. Je serais plus modéré en disant qu’il faut savoir faire confiance en des personnes fiables … tout en conservant son esprit critique évidemment.

Merci d’avoir pris le temps de me répondre aussi précisément.

Je suis globalement d’accord avec tout ce que vous dites, sauf sur la fin.
Peut-être que la situation actuelle est temporaire, dans le cadre d’une transition. Pourtant je parierais sur une transition à l’échelle de la génération, si ce n’est plus, et dont nous ne verrons pas le bout.
La ligne déontologique et la prise de conscience de l’enjeu citoyen que vous pensez pouvoir être à l’origine de changements de comportement ne me semblent pas opérantes, car non branchées sur une boucle de rétroaction pour de nombreux journalistes. Je pense que pour que ces deux éléments fassent à nouveau sens et s’incarner dans les comportements, une nouvelle relation à la réalité concrète et matérielle est nécessaire. Plus clairement il faudra que le modèle économique actuel, structuré autour de niches économiques artificielles et parfois arbitraires, s’écroule ; je préfèrerais la conduite d’une mutation (qui ne saurait se baser efficacement sur une limitation de l’exercice de la liberté d’expression pour tous)… j’avoue ne pas avoir de programme miracle sous la main.
En attendant, la confiance molle dont je parle n’est pas nécessairement une défiance totale ni une absence de hiérarchisation à titre individuel. Globalement la population a un niveau d’instruction qui n’est plus vraiment en phase avec les comportements. Les écoles continuent de centrer l’enseignement sur le principe de la rareté de l’information, les entreprises accumulent les couches hiérarchiques pour faire appliquer des procédures peu réévaluées… cela contribue plus à de l’obsolescence qu’autre chose. Sans aller jusqu’à la zététique je pense que nous pouvons faire de l’épistémologie (dans le sens de faire des états de ses connaissances) quelque chose de nécessaire, normal et courant.
A ce niveau tous nos outils de communication modernes devraient nous y aider par le dialogue et la dialectique… mais quelle est notre unique école d’échange en public institutionnalisée et comment s’y comportent les élites ? On parle en ce moment de haine sur l’Internet, mon expérience c’est qu’on y trouve surtout des comportements d’imitation de ce qu’on voit à la télé et des comportements de personnes ayant des rôles d’autorité… l’orientation actuelle me semble aller vers un système de licence de la bêtise plutôt qu’une hiérarchisation grâce à la distinction d’autorités fiables.
Et bon, cet article ne me fait pas réévaluer à la hausse le peu d’optimisme que j’ai encore.

Pour moi, l’optimisme est présent :
– Les enseignants ont pris à bras le corps le problème des fake news et plus généralement celui du développement de l’esprit critique. L’adolescence est un âge charnière pour cette éducation qu’assurent avec brio les professeurs (EMC, prof-doc, philo, français, etc.) alors que la charge est lourde (la psychologie de l’adolescent est une contrainte supplémentaire à toute formation autour de l’esprit critique).
– Les journalistes bénéficient de formation initiale comme continue sur les fakes, deepfakes. On constate un changement d’attitude dans la relation avec leur lectorat/audience. Toutefois, je suis bien d’accord que la contrainte économique de ces médias peut faire tendre certains d’entre eux vers des contenus “putaclics”.
– Les politiques ont conscience de l’enjeu citoyen (mais aussi et surtout du risque qui pèse sur leur réélection, je vous l’accorde) de la lutte contre ces fakes.
– Même les GAFAM s’y mettent (plus par souci de conserver leur audience que par intérêt démocratique, je vous l’accorde également) en cherchant à identifier et idéalement supprimer ces deepfakes.

Votre pessimisme s’explique sans nul doute par le développement de ces fakes, deepfakes et que sais-je imaginer encore dans le futur. Toutefois, je dirais qu’il n’y a rien de nouveau et que cela a de tout temps existé : le trucage de photos, la propagande, les fausses infos, la manipulation, etc. : la fameuse boucle historique se répète. C’est seulement le medium qui change.

Quant au mimétisme dont vous parlez, au fond vide que vous abordez, je dois avouer que je le déplore aussi. Peut-on refonder et transmettre une culture commune riche de sens, de culture, de savoir ? Je l’espère, je le crois, je m’engage pour.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.