Épisode 148 : La lutte contre les fake news est devenue un des grands axes de travail des géants du web comme Facebook ou Google. Nous vous présentons dans cet épisode ce qui peut révolutionner ces fakes news : le Deepfake !
Le DeepFake : les vidéos trafiquées
DeepFake, ou permutation intelligente de visages, est une technique de synthèse d’image basée sur l’intelligence artificielle. Elle est principalement utilisée pour combiner et superposer des images et des vidéos existantes sur d’autres images et/ou vidéos.
Au départ le buzz part de Reddit
La première fois que l’on a entendu parlé de DeepFakes c’est sur Reddit.
Avec notamment au coeur des discussions une application gratuite, simple d’utilisation baptisée «FakeApp». Il s’agit d’un soft qui en utilisant du machine learning, est capable de décomposer frame par frame une vidéo, pour remplacer le visage de quelqu’un par quelqu’un d’autre.
Mais attention, il ne s’agit pas d’un simple trucage cinématographique… non, non.
En nourrissant l’algorithme de nombreuses photos, celui-ci est capable de reconstituer un visage dans ses moindres détails et de le faire parfaitement correspondre à un autre, en reconstituant, y compris, les parties qu’il ne connaît pas.
Et comme bien souvent sur Reddit on en parle avec un angle forcément Trash.
L’utilisation première de Deepfakes a donc été de remplacer le visage d’acteurs ou d’actrices pornos par celui de célébrités.
Plusieurs internautes s’en sont ainsi servis pour créer des vidéos à caractère pornographique en y incrustant les visages de célébrités comme ceux de Jessica Alba ou Scarlett Johansson.
Étude c’est à ce moment que le buzz deepfakes est devenu un sujet grand public.
——
Quand Barrack Obama insulte Trump en vidéo
Au-delà des différentes polémiques liées aux contenus pornographiques, la technologie «deep fake» peut aussi être utilisée pour désinformer.
Pour dénoncer ces potentiels dangers, le média BuzzFeed avait fait beaucoup de bruit en avril dernier en partageant une vidéo de Barack Obama traitant Donald Trump «d’idiot total et absolu».
À l’aide d’une intelligence artificielle spécialisée, le cinéaste Jordan Peele, avait été capable de créer un faux Barack Obama capable de dire ce qu’on lui demande de dire.
Impressionnant !
——
Plusieurs technologies de pointe qui émerge au même moment
Le Facial Reenactment
La capacité de reproduire à l’identique des expressions faciales.
Le motion transfer
Des chercheurs de l’université de Berkeley ont aussi récemment partagé le fruit de leurs travaux sur le «motion transfer». Une technologie permettant de dupliquer les mouvements d’un corps sur un autre.
Lyrebird
L’application Lyrebird développe par exemple son propre outil de clonage des voix.
En avril 2018, Lyrebird annonçait avoir développé une technologie d’intelligence artificielle capable d’imiter n’importe quelle voix en se basant sur un enregistrement d’« une minute seulement »
Face to Face
Des chercheurs Allemands ont déjà créé le « Face to Face » qui permet le Deepfake sur une vidéo en direct !Heureusement pour le moment cette technique n’est pas disponible au public !
Nvidia
Des chercheurs de l’entreprise Nvidia, à la base spécialisée dans la puissance de calcul, ont construit leur propre outil de fabrication de «deep fake». Ils sont capables de mettre en concurrence deux algorithmes pour obtenir la meilleure imitation possible. L’un étant chargé de copier le style d’une vidéo en y ajoutant un visage tandis que l’autre juge si cette copie est crédible et si la réponse est non, tente de l’améliorer.
——
Le Deep Fake l’arme absolu de la désinformation qui fait peur aux institutions
Grâce à l’ensemble de ces outils, le risque que la production de vidéos «deep fake» ne devienne une véritable industrie est réel.
En septembre 2018, 3 élus américains ont décidé de s’emparer de ce sujet à l’approche des élections de mi-mandat aux États-Unis. Ils ont voulu inscrire le «deep fake» sur la liste des menaces contre «la sécurité nationale».
En France, le problème est aussi devenu un objet d’inquiétude.
Un rapport de l’IRSEM intitulé « Les manipulations de l’information : Un défi pour nos démocraties » souligne le fait que ces vidéos «deep fake» pouvaient participer dans les prochaines années à une «atomisation extrême de l’information, avec la disparition ou la fragilisation des acteurs pouvant servir de tiers de confiance».
——
Quelles armes contre d’éventuelles tentatives de manipulation
Pour tenter de lutter contre ces manipulations d’un nouveau genre, plusieurs institutions ont décidé de mettre en place leur propre outil de vérification.
Aux USA
Aux États-Unis, l’agence de recherche américaine de défense liée au Pentagone, la DARPA, a financé à hauteur de 68 millions de dollars des projets technologiques luttant contre les «deep fake».
InVid un projet européen
Les médias font aussi partie de ce combat.L’AFP est par exemple partenaire du projet européen InVid (pour In Video Veritas).
Destiné aux journalistes, ce plug-in qui peut être téléchargé sur n’importe quel navigateur internet est censé les aider à repérer les vidéos truquées.
Il permet notamment de savoir si une vidéo a été manipulée techniquement avant d’être mise en ligne.
Facebook et Google
Facebook et Google ont déjà annoncé qu’ils développaient leurs propres logiciels de détection.
France
En France des chercheurs travaillent sur un logiciel qui pourraient détecter aussi les Deepfake !Le plus gros problème pour ces logiciels de détection est de suivre l’amélioration permanente de cette technique du deepfake.
L’Éducation
Notre conseil, c’est de surtout garder un esprit critique envers les vidéos et les infos que nous trouvons de manière générale et en particulier sur les réseaux sociaux.Il faut essayer de toujours faire l’effort de recouper les informations que l’on trouve avec plusieurs sources afin de pouvoir en être sûr !
. . .
Le Super Daily est fabriqué avec une pluie d’amour par les équipes de Supernatifs.
Nous sommes une agence de content marketing et social media basée à Lyon. Nous aidons les entreprises à créer des relations durables et rentables avec leurs audiences. Nous inventons, produisons et diffusons des contenus qui engagent vos collaborateurs, vos prospects et vos consommateurs.
Contact : bonjour@supernatifs.com
