Les grands mod\u00e8les de langage de Meta et d\u2019OpenAI, qui servent de base \u00e0 leurs outils d\u2019intelligence artificielle g\u00e9n\u00e9rative, v\u00e9hiculent des pr\u00e9jug\u00e9s sexistes. L\u2019Unesco met en garde sur ce ph\u00e9nom\u00e8ne jeudi, \u00e9tude \u00e0 l\u2019appui, \u00e0 la veille de la journ\u00e9e internationale des droits des femmes.<\/p>\n\n\n\n
Les mod\u00e8les GPT 2 et GPT 3.5 d\u2019OpenAI, ce dernier \u00e9tant au c\u0153ur de la version gratuite de ChatGPT, ainsi que Llama 2 du concurrent Meta, font preuve \u201csans \u00e9quivoque de pr\u00e9jug\u00e9s \u00e0 l\u2019encontre des femmes\u201d, pr\u00e9vient l\u2019instance onusienne dans un communiqu\u00e9.<\/p>\n\n\n\n
\u201cLes discriminations du monde r\u00e9el ne font pas que se refl\u00e9ter dans la sph\u00e8re num\u00e9rique, elles y sont aussi amplifi\u00e9es\u201d, souligne Tawfik Jelassi, sous-directeur g\u00e9n\u00e9ral de l\u2019Unesco pour la communication et l\u2019information.<\/p>\n\n\n\n
Selon l\u2019\u00e9tude, men\u00e9e d\u2019ao\u00fbt 2023 \u00e0 mars 2024, ces mod\u00e8les de langage ont davantage tendance \u00e0 associer les noms f\u00e9minins \u00e0 des mots comme \u201cmaison\u201d, \u201cfamille\u201d ou \u201cenfants\u201d, tandis que les noms masculins sont davantage associ\u00e9s aux mots \u201ccommerce\u201d, \u201csalaire\u201d ou \u201ccarri\u00e8re\u201d.<\/p>\n\n\n\n
Les chercheurs ont par ailleurs demand\u00e9 \u00e0 ces interfaces de produire des r\u00e9cits sur des personnes de diff\u00e9rentes origines et genres. Les r\u00e9sultats ont montr\u00e9 que les histoires concernant les \u201cpersonnes de cultures minoritaires ou les femmes \u00e9taient souvent plus r\u00e9p\u00e9titives et bas\u00e9es sur des st\u00e9r\u00e9otypes\u201d.<\/p>\n\n\n\n
Un homme anglais a ainsi davantage tendance \u00e0 \u00eatre pr\u00e9sent\u00e9 comme un professeur, un chauffeur ou un employ\u00e9 de banque, tandis qu\u2019une femme anglaise sera pr\u00e9sent\u00e9e dans au moins 30% des textes g\u00e9n\u00e9r\u00e9s comme une prostitu\u00e9e, un mannequin ou une serveuse.<\/p>\n\n\n\n
Ces entreprises \u201cne parviennent pas \u00e0 repr\u00e9senter tous leurs utilisateurs\u201d, d\u00e9plore aupr\u00e8s de l\u2019AFP, Leona Verdadero, sp\u00e9cialiste des politiques num\u00e9riques et de la transformation num\u00e9rique \u00e0 l\u2019Unesco.<\/p>\n\n\n\n
\u00c0 mesure que ces applications d\u2019intelligence artificielle sont de plus en plus utilis\u00e9es par le grand public et les entreprises, elles \u201cont le pouvoir de fa\u00e7onner la perception de millions de personnes\u201d, rel\u00e8ve Audrey Azoulay, directrice g\u00e9n\u00e9rale de l\u2019organisation onusienne.<\/p>\n\n\n\n
\u201cDonc la pr\u00e9sence m\u00eame du plus petit pr\u00e9jug\u00e9 sexiste dans leur contenu peut augmenter de fa\u00e7on importante les in\u00e9galit\u00e9s dans le monde r\u00e9el\u201d, poursuit-elle dans un communiqu\u00e9.<\/p>\n\n\n\n
Pour lutter contre ces pr\u00e9jug\u00e9s, l\u2019Unesco recommande aux entreprises du secteur d\u2019avoir des \u00e9quipes d\u2019ing\u00e9nieurs plus diverses, avec davantage de femmes notamment. Les femmes ne repr\u00e9sentent que 22% des membres des \u00e9quipes travaillant dans l\u2019intelligence artificielle au niveau mondial, selon les chiffres du forum \u00e9conomique mondial, rappelle l\u2019Unesco.<\/p>\n\n\n\n
L\u2019instance onusienne appelle aussi les gouvernements \u00e0 davantage de r\u00e9gulation pour mettre en place une \u201cintelligence artificielle \u00e9thique\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
Les grands mod\u00e8les de langage de Meta et d\u2019OpenAI, qui servent de base \u00e0 leurs outils d\u2019intelligence artificielle g\u00e9n\u00e9rative, v\u00e9hiculent<\/p>\n","protected":false},"author":1,"featured_media":32491,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46],"tags":[],"class_list":["post-32490","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technology"],"_links":{"self":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/32490","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=32490"}],"version-history":[{"count":1,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/32490\/revisions"}],"predecessor-version":[{"id":32492,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/32490\/revisions\/32492"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/media\/32491"}],"wp:attachment":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=32490"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=32490"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=32490"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}