{"id":9690,"date":"2023-04-03T12:22:49","date_gmt":"2023-04-03T12:22:49","guid":{"rendered":"https:\/\/dekkbi.com\/?p=9690"},"modified":"2023-04-03T12:22:50","modified_gmt":"2023-04-03T12:22:50","slug":"information-desinformation-identifier-des-images-generees-par-lia-mission-impossible","status":"publish","type":"post","link":"https:\/\/dekkbi.com\/?p=9690","title":{"rendered":"Information-d\u00e9sinformation: identifier des images g\u00e9n\u00e9r\u00e9es par l’IA, mission impossible?"},"content":{"rendered":"\n

Avec la mont\u00e9e en puissance des intelligences artificielles, les images g\u00e9n\u00e9r\u00e9es par l\u2019IA sont de plus en plus fr\u00e9quentes sur internet. Largement utilis\u00e9es par les propagateurs de\u00a0<\/strong>fake news<\/em>, leur r\u00e9alisme troublant les rend parfois tr\u00e8s difficiles \u00e0 identifier. Mais il y a des indices…<\/strong><\/p>\n\n\n\n

Des logiciels comme Midjourney, DALL-E ou Stable Diffusion sont ainsi capables de g\u00e9n\u00e9rer une infinit\u00e9 de clich\u00e9s \u00e0 partir d\u2019une immense base de donn\u00e9es sans cesse aliment\u00e9es par les demandes d\u2019utilisateurs. Ces images qui semblent tout \u00e0 fait r\u00e9alistes lors d\u2019un rapide coup d\u2019\u0153il s\u00e8ment la confusion, tout particuli\u00e8rement lorsqu\u2019elles sont li\u00e9es \u00e0 l\u2019actualit\u00e9, mais une analyse plus pouss\u00e9e peut – parfois – permettre de les identifier.<\/p>\n\n\n\n

Logo et recherche invers\u00e9e<\/h2>\n\n\n\n

Pour cr\u00e9er ces images, rien de plus simple. Dans\u00a0un logiciel comme Midjourney,<\/strong>\u00a0il suffit de taper dans une barre de recherche une demande \u00e9crite pour que soit g\u00e9n\u00e9r\u00e9e, \u00e0 partir de millions d\u2019images, une nouvelle image cr\u00e9\u00e9e, pixel par pixel, par l\u2019intelligence artificielle. Le r\u00e9sultat peut \u00eatre bluffant de r\u00e9alisme, mais certaines imperfections peuvent demeurer et mettre la puce \u00e0 l\u2019oreille.<\/p>\n\n\n\n

Le premier \u00e9l\u00e9ment qui peut indiquer qu\u2019une photo a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9e par une intelligence artificielle, c\u2019est la signature que l\u2019on peut trouver dans le coin inf\u00e9rieur droit de l\u2019image. Pour le logiciel DALL-E, il s\u2019agit par exemple d\u2019un rectangle multicolore, ce point de rep\u00e8re peut cependant facilement \u00eatre supprim\u00e9 par des gens mal intentionn\u00e9s en recadrant l\u2019image. Une autre solution est d\u2019effectuer une recherche invers\u00e9e dans un moteur de recherche en glissant l\u2019image en question dans la barre de recherche pour retrouver ses occurrences pass\u00e9es et retrouver sa source.<\/p>\n\n\n\n

S\u2019attacher aux d\u00e9tails<\/h2>\n\n\n\n

Mais la meilleure fa\u00e7on de rep\u00e9rer une image cr\u00e9\u00e9e par une intelligence artificielle reste encore d\u2019ouvrir grand les yeux en s\u2019attachant aux d\u00e9tails. Les IA ont par exemple encore \u00e9norm\u00e9ment de mal \u00e0 g\u00e9n\u00e9rer des reflets ou des ombres. Le grain de l\u2019image est souvent tr\u00e8s particulier et les arri\u00e8re-plans sont en g\u00e9n\u00e9ral tr\u00e8s flous et si l\u2019on y retrouve des textes, ils ne veulent rien dire.<\/p>\n\n\n\n

\u00ab\u00a0Il faut trouver les incoh\u00e9rences dans les d\u00e9tails. Ce sont souvent des photos qui, \u00e0 premi\u00e8re vue, sont tr\u00e8s r\u00e9alistes, mais quand on les regarde mieux, il y a souvent des probl\u00e8mes,<\/em>\u00a0analyse Lise Kiennemann, journaliste pour le site\u00a0Les Observateurs<\/strong>\u00a0de France 24, qui travaille sur ces th\u00e9matiques.\u00a0Les textes sont probl\u00e9matiques, car l\u2019IA n\u2019arrive pas bien \u00e0 les g\u00e9n\u00e9rer. Un autre indice, ce sont les visages en arri\u00e8re-plan qui sont assez mal faits. Ce sont des visages flous, pas tout \u00e0 fait form\u00e9s.<\/em>\u00a0\u00bb<\/p>\n\n\n\n

En s\u2019attardant sur\u00a0les fausses photos de l\u2019arrestation de Donald Trump<\/strong>\u00a0partag\u00e9es par le fondateur du\u00a0site Bellingcat<\/strong>, Eliot Higgins, on s\u2019aper\u00e7oit par exemple que ce qui est inscrit sur les casquettes des policiers ne veut rien dire, que l\u2019ex-pr\u00e9sident am\u00e9ricain porte une matraque et qu\u2019il y a une incoh\u00e9rence au niveau de ses membres inf\u00e9rieurs puisqu\u2019il semble disposer de trois jambes. Autant d\u2019indices qui permettent de dire qu\u2019il s\u2019agit d\u2019images g\u00e9n\u00e9r\u00e9es par une IA, d\u2019autant plus qu\u2019au moment de leur publication, Donald Trump n\u2019avait\u00a0toujours pas \u00e9t\u00e9 arr\u00eat\u00e9<\/strong>.<\/p>\n\n\n\n

Les g\u00e9n\u00e9rateurs d\u2019images cr\u00e9ent \u00e9galement souvent des asym\u00e9tries avec des visages disproportionn\u00e9s, avec des oreilles \u00e0 des hauteurs diff\u00e9rentes. Ils ont par ailleurs du mal \u00e0 reproduire les dents, les cheveux\u00a0mais aussi les doigts.<\/strong>\u00a0D\u00e9but f\u00e9vrier, des images de femmes enla\u00e7ant des policiers lors d\u2019une manifestation contre la r\u00e9forme des retraites sont devenues virales, mais elles ont rapidement \u00e9t\u00e9 identifi\u00e9es comme \u00e9tant fausses puisque sur l\u2019une d\u2019entre elles, le policier avait… six doigts.<\/p>\n\n\n\n

Vers la perfection<\/h2>\n\n\n\n

Les intelligences artificielles restent donc encore perfectibles mais \u00e0 la vitesse \u00e0 laquelle elles \u00e9voluent, il pourrait tr\u00e8s rapidement devenir impossible de diff\u00e9rencier des images g\u00e9n\u00e9r\u00e9es par l\u2019IA d\u2019images bel et bien r\u00e9elles. \u00ab Midjourney, ils en sont \u00e0 la V5. La diff\u00e9rence entre la V1 et la V5 en quelques mois, c\u2019est absolument bluffant. On peut penser que dans quelques ann\u00e9es peut-\u00eatre, mais je pense plut\u00f4t quelques mois, on ne saura plus faire la diff\u00e9rence<\/em> \u00bb, explique Guillaume Brossard, sp\u00e9cialiste de la d\u00e9sinformation et fondateur du site Hoaxbuster<\/strong><\/a>. Midjourney est d’ailleurs lui-m\u00eame d\u00e9pass\u00e9 par l’ampleur du ph\u00e9nom\u00e8ne puisque le site a annonc\u00e9 le 30 mars que, croulant sous \u00ab une demande extraordinaire et un abus des essais<\/em> \u00bb, il suspendait sa version d’essai gratuite.<\/p>\n\n\n\n

Corollaire de cette \u00e9volution, des images s\u00e8ment le doute alors qu\u2019elles sont pourtant bien r\u00e9elles. La photo d\u2019une jeune femme interpell\u00e9e \u00e0 Paris en marge des manifestations a par exemple tout de suite \u00e9t\u00e9\u00a0identifi\u00e9e comme la cr\u00e9ation d\u2019une intelligence artificielle<\/strong><\/a>\u00a0par des internautes, jusqu\u2019\u00e0 ce que l\u2019auteur de la photo confirme qu\u2019elle \u00e9tait bien r\u00e9elle et que d\u2019autres images de l\u2019interpellation, prises depuis un autre angle, viennent corroborer ses dires.<\/p>\n\n\n\n

\u00ab On peut croire que des images r\u00e9elles sont en r\u00e9alit\u00e9 de l\u2019IA et on peut croire que des images de l\u2019IA sont r\u00e9elles, donc les fronti\u00e8res sont d\u00e9j\u00e0 tr\u00e8s floues et elles vont encore s\u2019effacer un peu plus dans les mois \u00e0 venir,<\/em> analyse Guillaume Brossard. Mais il y a une chose que les IA ne savent pas faire et qu\u2019elles ne sont pas pr\u00e8s de savoir faire, je pense, c\u2019est de reproduire une sc\u00e8ne sous plusieurs angles et \u00e7a, c’est un tr\u00e8s bon indice.<\/em> \u00bb<\/p>\n\n\n\n

La d\u00e9sinformation dans une nouvelle \u00e8re<\/h2>\n\n\n\n

D\u00e8s lors, retrouver des images d\u2019un \u00e9v\u00e9nement prises sous diff\u00e9rents angles est un bon moyen de v\u00e9rifier si une image est bien r\u00e9elle. Des outils comme\u00a0l\u2019application Hugging Face<\/strong>\u00a0permettent aussi de d\u00e9terminer la probabilit\u00e9 qu\u2019une image soit issue d\u2019une IA, mais leur fiabilit\u00e9 reste relative et cela ne devrait pas aller en s\u2019arrangeant.<\/p>\n\n\n\n

Face \u00e0 ces nouvelles technologies qui vont faire rentrer la d\u00e9sinformation dans une nouvelle \u00e8re, le meilleur comportement pour se prot\u00e9ger reste donc de constamment s’interroger sur les images que l\u2019on peut voir, en particulier celles qui vont chercher \u00e0 toucher la corde sensible de nos \u00e9motions en essayant de nous scandaliser. Selon Guillaume Brossard, c\u2019est l\u2019un des principaux ressorts de la d\u00e9sinformation et \u00ab d\u00e8s lors qu\u2019une image g\u00e9n\u00e8re une \u00e9motion, il faut imp\u00e9rativement se poser la question de savoir si elle n\u2019est pas potentiellement trafiqu\u00e9e d\u2019une mani\u00e8re ou d\u2019une autre<\/em> \u00bb.<\/p>\n\n\n\n

Avec l’am\u00e9lioration fulgurante des intelligences artificielles, pas s\u00fbr cependant que cela soit suffisant pour lutter contre l’influence grandissante des fake news<\/em>. \u00ab Aujourd\u2019hui, les gens ne croient qu’\u00e0 ce dont ils ont envie de croire. Ils s\u2019en foutent que ce qu\u2019on leur montre soit vrai ou pas et c\u2019est bien le probl\u00e8me, <\/em>d\u00e9plore le fondateur de Hoaxbuster. On est un peu dans la suite de ce que Trump avait un peu th\u00e9oris\u00e9 avec les v\u00e9rit\u00e9s alternatives et l\u2019\u00e8re de la post-v\u00e9rit\u00e9. On est en plein dedans et il va falloir apprendre \u00e0 vivre avec.<\/em> \u00bb<\/p>\n\n\n\n

Pour contrer cette menace, l’\u00e9ducation aux m\u00e9dias reste un levier indispensable. Des voix s’\u00e9l\u00e8vent \u00e9galement pour r\u00e9clamer une \u00ab\u00a0mise en pause\u00a0<\/em>\u00bb du d\u00e9veloppement des intelligences artificielles. Des personnalit\u00e9s comme Elon Musk, le patron de Tesla, ou Steve Wozniack, cofondateur d’Apple, ont \u00e9crit\u00a0une lettre ouverte<\/strong>\u00a0pour demander l’ouverture d’un moratoire de six mois sur les IA qu’ils consid\u00e8rent comme un \u00ab\u00a0enjeu existentiel<\/em>\u00a0\u00bb pour l’humanit\u00e9. Une position partag\u00e9e par Guillaume Brossard : \u00ab\u00a0Il faudrait qu’il y ait un moratoire, un peu comme ce qui a pu \u00eatre fait \u00e0 une \u00e9poque pour les armes nucl\u00e9aires. Que l’humanit\u00e9 se pose un peu et d\u00e9cide de rajouter une sorte d’empreinte qui atteste \u00e0 100% qu’un fichier est issu d’une intelligence artificielle<\/em>\u00a0\u00bb. Mais l’expert le conc\u00e8de, \u00ab\u00a0compte tenu des enjeux de la d\u00e9sinformation aujourd’hui, ce n’est vraiment pas gagn\u00e9.<\/em>\u00a0\u00bb<\/p>\n\n\n\n

<\/a><\/a><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Avec la mont\u00e9e en puissance des intelligences artificielles, les images g\u00e9n\u00e9r\u00e9es par l\u2019IA sont de plus en plus fr\u00e9quentes sur<\/p>\n","protected":false},"author":1,"featured_media":9691,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[51],"tags":[],"class_list":["post-9690","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"_links":{"self":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/9690","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9690"}],"version-history":[{"count":1,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/9690\/revisions"}],"predecessor-version":[{"id":9692,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/9690\/revisions\/9692"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/media\/9691"}],"wp:attachment":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9690"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9690"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9690"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}