Des faux livres générés par l’intelligence artificielle signés sous le nom d’auteurs célèbres en vente sur Amazon
L’auteure Jane Friedman a récemment fait une découverte choquante: elle a trouvé plusieurs ouvrages signés à son nom en vente sur Amazon, des livres qu’elle n’a jamais écrits. La multinationale a d’abord refusé de retirer les faux ouvrages, ce qui a suscité l’indignation de l’auteure dans un article publié sur son blog personnel, rapidement devenu viral. Face à l’ampleur de la polémique, le géant du commerce en ligne a finalement décidé de retirer les titres contrefaits de son catalogue.
En parcourant Amazon et Goodreads, Jane Friedman a repéré une demi-douzaine de listes de livres frauduleux utilisant son nom. L’auteure indique qu’il est fort probable que ces livres contiennent soit des informations erronées, soit du contenu généré par une intelligence artificielle.
Amazon et Goodreads ont d’abord refusé de retirer ces faux titres malgré les protestations de l’auteure. Ce n’est que lorsque les plaintes de Jane Friedman ont commencé à faire le tour des réseaux sociaux que les deux plateformes ont finalement cédé.
Dans un article de blog intitulé “Je préférerais voir mes livres piratés que cela (ou: pourquoi Goodreads et Amazon deviennent des désastres)” publié lundi dernier, Friedman décrit sa lutte contre les livres contrefaits. “Celui qui fait cela profite évidemment des personnes qui font confiance à mon nom et qui pensent que j’ai réellement écrit ces livres”, a-t-elle écrit. “Ce n’est pas le cas. Il est fort probable qu’ils aient été générés par une IA,” ajoute-t-elle.
Le problème de la contrefaçon grandit à l’ère de l’intelligence artificielle. Il est même devenu monnaie courante. Les fraudeurs exploitent les algorithmes d’Amazon pour booster leurs ventes. Lorsqu’un utilisateur achète un ouvrage en ligne, les algorithmes de ces sites de vente en ligne s’empressent de lui proposer d’autres livres du même auteur. C’est grâce à cette fonctionnalité de recommandation ciblée que les faussaires génèrent du profit. Ils usurpent le nom d’auteurs célèbres. Ils trompent ainsi l’algorithme et par extension les consommateurs qui pensent acheter une production originale.
Jane Friedman craint que ces faux livres affectent sa réputation. “Un de mes lecteurs pourrait penser que j’exerce du contrôle sur les livres affichés sur mon profil Goodreads, ou que je les approuve, ou qu’au moins, je pourrais les retirer facilement. Ce n’est pas le cas.”
En ce qui concerne Amazon, retirer ces livres faussement attribués n’a pas été une tâche aisée. Lorsque Jane Friedman a contacté la firme pour obtenir de l’aide et supprimer les titres de son profil d’auteur, la plateforme a demandé des “numéros d’enregistrement de marque” liés à sa demande. Apprenant qu’elle ne possédait pas de marque déposée à son nom, Amazon a clos l’affaire sans retirer les livres de la vente. Après que l’histoire a pris de l’ampleur, les titres frauduleux ont finalement été retirés.
Un problème qui touche de nombreux auteurs
Le cas de Jane Friedman n’est malheureusement pas isolé. D’autres auteurs, dont Jane Ward et Sarah Rose, ont également signalé des titres incorrectement attribués sur Goodreads et Amazon. Le phénomène de l’usurpation d’identité d’auteur par des vendeurs peu scrupuleux semble être devenu courant, causant la frustration de nombreux écrivains.
La question qui se pose désormais est de savoir comment Amazon et Goodreads, deux géants du commerce en ligne, prévoient de protéger à la fois les auteurs et les clients contre ce type de fraude. Dans son article, Jane Friedman supplie Amazon et Goodreads de mettre en place un moyen de vérifier l’authenticité des auteurs ou de permettre aux auteurs de bloquer facilement les livres frauduleux qui leur sont attribués.
L’IA générative pourrait potentiellement submerger nos canaux de communication de contenus et de messages à qualité variable, voire douteuse. Il est du devoir des plateformes de vente en ligne comme Amazon de trouver une solution pour faire face à ce problème grandissant. La question demeure et le débat est ouvert: comment garantir la protection des auteurs et des clients contre la fraude à l’ère de l’intelligence artificielle générative?
