Les réseaux neuronaux permettent de créer des photos très convaincantes de personnes qui north'real pas. Ces images sont si réalistes qu'elles sont très difficiles à distinguer de portraits authentiques. Mais des chercheurs ont trouvé un moyen de distinguer les vraies des fausses.

Les intelligences artificielles sont capables, depuis quelques années, de produire des photos très réalistes de personnes qui n'existent pas. Des chercheurs de Nvidia ont réussi en 2017 à créer des milliers de visages, grâce à des réseaux neuronaux. Depuis 2019, le site ThisPersonDoesNotExist propose également des photos générées par intelligence artificielle.

Très impressionnante, la technologie peut aussi s'avérer un peu effrayante. CNN rapportait le cas de Jenna Abrams, une supposée conservatrice américaine suivie par près de 70 000 personnes sur Twitter, qui était en réalité united nations compte animé par une entité russe, liée au gouvernement, et qui se cachait derrière une photograph créée par intelligence artificielle. L'an dernier, une enquête du média américain The Daily Beast avait permis d'identifier united nations réseau de imitation journalistes, qui ont utilisé des photos générées par ThisPersonDoesNotExist, afin de se créer une fausse identité. Ces imitation journalistes avaient sévi pendant près d'un an, et avaient réussi à faire publier, dans des médias, des éditos qui faisaient fifty'éloge des Émirats arabes unis.

Pour aller plus loin

Style-based GAN // Source : Nvidia

Des défauts au niveau des pupilles

La question qui se pose, dans ces situations, est bien sûr celle de 50'identification. Est-il toujours possible, pour des humains, de réussir à déterminer south'il s'agit d'une vraie personne sur la photo ? Si l'exercice est complexe, la réponse est rassurante. Des chercheurs de l'université de l'état de New York ont étudié des photos créées par les réseaux neuronaux, et ils ont constaté que l'intelligence artificielle due north'arrivait toujours pas à bien reproduire les pupilles. « Nous nous sommes rendu compte que les pupilles d'united nations grand nombre de photos générées par IA étaient de forme irrégulière, et qu'elles sont différentes de celles de vrais êtres humains », précisent les chercheurs dans leur publication.

Ils racontent avoir analysé un millier de photos générées par ThisPersonDoesNotExist, qu'ils ont comparées à 1 000 photos de personnes réelles. Grâce à plusieurs outils, les scientifiques ont pu extraire les formes des pupilles de chaque photo, et créer des modèles. Résultat : les pupilles des êtres humains sont rondes, ou de forme elliptique, tandis que celles présentes sur les photos générées par IA souffrent très souvent de défauts.

Et c'est vrai : sur des images de ThisPersonDoesNotExist que Numerama a analysées, les défauts sur les pupilles se repèrent assez facilement, une fois que 50'on sait ce que l'on cherche. Dans l'exemple ci-dessous, un simple zoom permet de voir que les pupilles ne sont pas complètement rondes, et qu'elles présentent des défauts.

Bien sûr, la méthode des chercheurs a certaines limites. Il existe en effet des maladies rares qui provoquent une déformation des pupilles. Cela reste toutefois des cas de figure exceptionnels. Les chercheurs notent également que ces défauts sont difficiles à voir sur certaines photos générées par IA. Mais, globalement, « cette méthode permet à des humains de rapidement se faire une idée sur la photograph, et de savoir si elle représente une véritable personne ».

Pour aller plus loin

Vous n'êtes pas dans la matrice. Les deepfakes sont une réalité. // Source : Facebook

La position, les dents, et les oreilles

À quoi ces défauts au niveau de la pupille sont-ils dus ? Les chercheurs ne proposent pas de réponse pour l'instant. Mais ils précisent qu'ils comptent bien continuer leurs travaux sur le sujet. « Nous allons nous pencher sur d'autres types de défauts que les photos générées par IA présentent, comme les inconsistances entre les deux pupilles d'une même personne, leur position dans les yeux, ou encore leur géométrie », écrivent-ils.

Il existe déjà d'autres astuces cascade réussir à distinguer des photos créées par des IA, d'authentiques clichés. Le journaliste Adam Rowsley, qui a écrit à propos des images générées par IA pour The Daily Beast, explique que d'autres points sont à surveiller tels que les oreilles et les dents.

D'autres petits détails peuvent alerter : les cheveux ne sont pas cohérents, des accessoires tels que des boucles d'oreilles ou des cols apparaissent de manière étrange. Si une personne porte des lunettes, ces dernières sont également susceptibles d'avoir des défauts, que ce soit au niveau des branches ou des verres. Dans 50'exemple ci-dessous, on voit ainsi que la chaîne due north'est pas bien dessinée, et qu'elle semble disparaître avant le bord de la photo.

L'arrière-program des photos est généralement flou, voir complètement abstrait. Il y a aussi la position des visages. Ils sont, dans la grande majorité des cas, de face up ou bien légèrement de trois quarts, et la position des yeux est toujours la même, sur toutes les photos. On les voit très rarement de haut, ou en contre-plongée, et les visages sont de manière générale parfaitement centrés. Ces défauts sont malheureusement peu visibles au premier coup d'oeil : il faut la plupart du temps regarder la photograph avec attending, faire des zooms, et surtout, savoir quoi chercher.