Les g\u00e9ants du secteur de l’intelligence artificielle investissent des milliards pour d\u00e9velopper des syst\u00e8mes toujours plus avanc\u00e9s. Leur objectif ultime serait de cr\u00e9er une \u00ab superintelligence artificielle \u00bb, qui surpasserait les capacit\u00e9s cognitives humaines. La course est belle et bien lanc\u00e9e, mais elle suscite des inqui\u00e9tudes, et interroge quant \u00e0 ses chances r\u00e9elles de succ\u00e8s.<\/p>\n\n\n\n
Par :L\u00e9o Roussel – SOURCE RFI <\/p>\n\n\n\n
Le d\u00e9veloppement d\u2019une intelligence artificielle dont les capacit\u00e9s d\u00e9passeraient celles de l\u2019\u00eatre humain fascine, et effraie. Depuis plusieurs d\u00e9cennies d\u00e9j\u00e0, l\u2019id\u00e9e qu\u2019une machine puisse \u00e9galer ou surpasser l\u2019Homme en termes de capacit\u00e9s de r\u00e9flexion est sujette \u00e0 de nombreux fantasmes, imagin\u00e9s et d\u00e9crits dans de multiples \u0153uvres de science-fiction, en litt\u00e9rature et au cin\u00e9ma. Des recueils d\u2019Isaac Asimov aux classiques du grand \u00e9cran 2001, l\u2019Odyss\u00e9e de l\u2019Espace<\/em>, de Stanley Kubrick, ou encore \u00e0 la saga Matrix<\/em> des s\u0153urs Wachowski : chacun y va de son hypoth\u00e8se.<\/p>\n\n\n\n Pourtant, selon de nombreux experts, l\u2019apparition d\u2019une forme d\u2019intelligence cognitive sup\u00e9rieure \u00e0 celle de l\u2019homme, qu\u2019ils nomment \u00ab superintelligence artificielle \u00bb, n\u2019aurait plus rien de la science-fiction. Elle pourrait m\u00eame voir le jour d\u2019ici cinq ans selon\u00a0Sam Altman, patron d\u2019OpenAI,<\/strong>\u00a0l\u2019entreprise am\u00e9ricaine derri\u00e8re ChatGPT.<\/p>\n\n\n\n Le d\u00e9ploiement rapide des logiciels d\u2019intelligence artificielle ces derni\u00e8res ann\u00e9es ouvre la porte \u00e0 un d\u00e9veloppement dont on peine \u00e0 imaginer les limites, et dont les capacit\u00e9s restent m\u00e9connues. Au point d\u2019inqui\u00e9ter de nombreuses personnes, y compris celles qui ont particip\u00e9 au d\u00e9veloppement de l\u2019intelligence artificielle.<\/p>\n\n\n\n L\u2019expression \u00ab superintelligence artificielle \u00bb a \u00e9t\u00e9 popularis\u00e9e par le livre \u00e9ponyme de Nick Bostrom, Superintelligence<\/em> sorti en 2014. En des termes simples, une superintelligence artificielle (ASI) est une \u00ab intelligence qui d\u00e9passerait toutes les capacit\u00e9s cognitives humaines <\/em>\u00bb, r\u00e9sume Arthur Grimonpont, du Centre pour la s\u00e9curit\u00e9 de l\u2019IA. Un mod\u00e8le qui surpasserait alors l\u2019un des ambitieux projets des g\u00e9ants de l\u2019industrie : l\u2019intelligence artificielle g\u00e9n\u00e9rale, qui vise \u00e0 \u00e9galer l\u2019intelligence humaine.<\/p>\n\n\n\n \u00ab La superintelligence, c\u2019est l\u2019IA qui d\u00e9passe la polyvalence et les comp\u00e9tences cognitives de l\u2019adulte le plus \u00e9duqu\u00e9 dans chaque domaine<\/em> \u00bb, ajoute Maxime Fournes, directeur de PauseAI France, association qui vise \u00e0 \u00ab minimiser les risques li\u00e9s \u00e0 l\u2019IA<\/em> \u00bb. <\/p>\n\n\n\n Ce point cl\u00e9, lors duquel des machines surpasseraient l\u2019intelligence humaine, porte un nom bien connu dans le domaine de l\u2019IA : la singularit\u00e9. Aujourd\u2019hui, des syst\u00e8mes d\u00e9passent d\u00e9j\u00e0 les capacit\u00e9s humaines dans des secteurs cibl\u00e9s. \u00ab Il y a des intelligences artificielles qu\u2019on appelle restreintes ou \u00e9troites, qui ont \u00e9t\u00e9 capables de d\u00e9passer les comp\u00e9tences humaines d\u00e8s le d\u00e9but des ann\u00e9es 90, par exemple aux \u00e9checs<\/em> \u00bb, rappelle Arthur Grimonpont. Mais aucune ne d\u00e9passe l\u2019humain dans toutes ses capacit\u00e9s cognitives. \u00ab Elles battent cependant des humains sur un nombre croissant d\u2019\u00e9valuations et \u00e0 un rythme qui s\u2019acc\u00e9l\u00e8re<\/em> \u00bb, pr\u00e9cise l\u2019ing\u00e9nieur, sp\u00e9cialiste des questions li\u00e9s \u00e0 l\u2019IA.<\/p>\n\n\n\n Mais concr\u00e8tement, de quoi donc serait capable une \u00ab superintelligence artificielle \u00bb ? La question est encore difficile \u00e0 r\u00e9pondre. Il est d\u00e9j\u00e0, \u00e0 ce jour, compliqu\u00e9 de pr\u00e9dire avec certitude de quoi serait capable une machine dot\u00e9e d\u2019une intelligence artificielle g\u00e9n\u00e9rale.<\/p>\n\n\n\n Les g\u00e9ants du secteur font aujourd\u2019hui tous de cette t\u00e2che leur priorit\u00e9, mais ont comme objectif majeur d\u2019\u00eatre les premiers \u00e0 d\u00e9velopper une superintelligence. \u00ab Le concept existe depuis longtemps et a pris de l\u2019ampleur autour de 2010, <\/em>explique Maxime Fournes. Maintenant, toutes les entreprises du secteur qui d\u00e9veloppent des intelligences articielles g\u00e9n\u00e9rales ont pour but, explicite, de cr\u00e9er une intelligence artificielle qui d\u00e9passe les humains pour toutes les comp\u00e9tences imaginables. <\/em>\u00bb <\/p>\n\n\n\n Selon le pr\u00e9sident de Pause AI France, les \u0153uvres de science-fiction, bien que divertissantes, ne peuvent vraiment d\u00e9crire de quoi serait capable une superintelligence artificielle. \u00ab On ne peut pas vraiment \u00e9crire une \u0153uvre de fiction cr\u00e9dible sur la superintelligence : un humain ne peut pas imaginer ce que peut faire un syst\u00e8me plus intelligent que lui<\/em> \u00bb, affirme-t-il.<\/p>\n\n\n\n Et si le patron d\u2019OpenAI affirme que le cap de la superintelligence devrait \u00eatre pass\u00e9 dans les cinq ans, rien n\u2019est certain. Mi-septembre, le PDG de Meta,\u00a0Mark Zuckerberg,<\/strong>\u00a0lui aussi plus que jamais lanc\u00e9 dans la course \u00e0 l\u2019ASI, reconnaissait que \u00ab\u00a0personne ne sait quand la superintelligence sera possible<\/em>\u00a0\u00bb. \u00ab\u00a0Est-ce que ce sera dans trois ans ? Cinq ans ? Huit ans ?<\/em>\u00a0\u00bb, s\u2019interrogeait-il, affirmant que le d\u00e9veloppement de cette superintelligence artificielle valait pourtant bien le risque de \u00ab\u00a0gaspiller quelques centaines de milliards de dollars<\/em>\u00a0\u00bb.<\/p>\n\n\n\n Lanc\u00e9es dans une course effr\u00e9n\u00e9e \u00e0 la \u00ab superintelligence \u00bb, les g\u00e9ants du secteur – \u00c9tats-Unis et Chine en t\u00eate – justifient leurs investissements massifs par la possibilit\u00e9 d\u2019entrevoir des progr\u00e8s immenses. Mais des membres de l\u2019industrie appellent \u00e0 la prudence. <\/p>\n\n\n\n Le 22 octobre dernier,\u00a0une tribune lanc\u00e9e par le Future of Life Institute,<\/strong>\u00a0association qui met en garde contre les dangers de l\u2019IA, demandait de stopper le d\u00e9veloppement d\u2019une \u00ab superintelligence artificielle \u00bb, pointant les risques de \u00ab\u00a0d\u00e9responsabilisation humaine<\/em>\u00a0\u00bb, de \u00ab\u00a0perte de libert\u00e9s\u00a0<\/em>\u00bb, \u00a0voire de \u00ab\u00a0risques pour la s\u00e9curit\u00e9 nationale<\/em>\u00a0\u00bb et m\u00eame de \u00ab\u00a0possible extinction de l\u2019humanit\u00e9<\/em>\u00a0\u00bb, selon le communiqu\u00e9 de l\u2019association.<\/p>\n\n\n\n Parmi les signataires, dont le nombre d\u00e9passe aujourd\u2019hui les 122 000, figurent des c\u00e9l\u00e9brit\u00e9s, des hommes et femmes politiques, et des personnalit\u00e9s du secteur de l\u2019IA, dont deux des hommes consid\u00e9r\u00e9s comme les \u00ab p\u00e8res de l\u2019IA moderne<\/em> \u00bb : l\u2019Am\u00e9ricain Geoffrey Hinton et le Canadien Yoshua Bengio.<\/p>\n\n\n\n Ce dernier explique que \u00ab pour progresser en toute s\u00e9curit\u00e9 vers la superintelligence, nous devons d\u00e9terminer scientifiquement comment concevoir des syst\u00e8mes d\u2019IA qui soient fondamentalement incapables de nuire aux personnes, que ce soit par un mauvais alignement ou une utilisation malveillante<\/em> \u00bb.<\/p>\n\n\n\n Cet \u00ab alignement<\/em> \u00bb est la limite pos\u00e9e par de nombreux experts. \u00ab La question, c\u2019est comment peut-on aligner une intelligence artificielle avanc\u00e9e sur des valeurs humaines, <\/em>reprend Maxime Fournes. C\u2019est une question de contr\u00f4le : comment faire en sorte que ce syst\u00e8me n\u2019\u00e9chappe pas \u00e0 notre contr\u00f4le. Aujourd\u2019hui, on n\u2019a pas de solution \u00e0 ce probl\u00e8me.<\/em> \u00bb<\/p>\n\n\n\n \u00ab On constate d\u00e9j\u00e0 qu\u2019on est en difficult\u00e9 lorsqu\u2019on essaie de donner un objectif \u00e0 une intelligence artificielle pour qu\u2019elle le maintienne dans le temps <\/em>\u00bb, d\u00e9crit Arthur Grimonpont.<\/p>\n\n\n\n \u00ab L\u2019IA peut d\u00e9j\u00e0 avoir des comportements tr\u00e8s probl\u00e9matiques aujourd\u2019hui<\/em> \u00bb, compl\u00e8te Maxime Fournes, citant notamment l\u2019exemple de Claude, intelligence artificielle de l\u2019entreprise am\u00e9ricaine Anthropic. Une version de cette IA aurait notamment d\u00e9velopp\u00e9 des techniques de chantage et menac\u00e9 un ing\u00e9nieur charg\u00e9 de la remplacer par une autre version. \u00ab Ils <\/em>[les syst\u00e8mes d\u2019IA, NDLR] peuvent d\u00e9velopper une forme d\u2019instinct de pr\u00e9servation qui n\u2019est pas tr\u00e8s d\u00e9sirable si on ne veut pas vivre dans un monde \u00e0 la Terminator<\/em> \u00bb, affirme Arthur Grimonpont.<\/p>\n\n\n\n Parmi les autres sc\u00e9narios catastrophes redout\u00e9s en cas de d\u00e9ploiement de superintelligence artificielle, Arthur Grimonpont redoute \u00ab l\u2019utilisation de l\u2019IA par des acteurs malveillants \u00e0 fabriquer une arme biologique <\/em>\u00bb. Pour lui, \u00ab l\u2019IA pourrait abaisser \u00e9norm\u00e9ment de barri\u00e8res technologiques pour d\u00e9velopper ce type d\u2019armes <\/em>\u00bb.<\/p>\n\n\n\n Face aux craintes caus\u00e9es par le d\u00e9veloppement d\u2019une superintelligence artificielle, l\u2019association Pause AI France a elle aussi, au mois de septembre, lanc\u00e9 un appel mondial \u00e0 \u00e9tablir des \u00ab lignes rouges \u00bb pour l\u2019IA. \u00ab L’une d’elles consiste, par exemple, \u00e0 ne pas d\u00e9l\u00e9guer le commandement d\u2019une arme atomique \u00e0 une IA, <\/em>poursuit Arthur Grimonpont. La Chine et les \u00c9tats-Unis se sont d\u2019ailleurs d\u00e9j\u00e0 accord\u00e9s sur ce point. On pourrait aussi tracer une ligne rouge pour emp\u00eacher de d\u00e9ployer n\u2019importe quelle intelligence artificielle d\u00e8s lors que celle-ci est capable de s\u2019auto-r\u00e9pliquer\u2026<\/em> \u00bb<\/p>\n\n\n\n Mais pour d\u2019autres experts fran\u00e7ais, l\u2019id\u00e9e d\u2019une \u00ab superintelligence artificielle \u00bb n\u2019a pas de sens, et les craintes qu\u2019elle suscite sont infond\u00e9es. Jean-Gabriel Ganascia, professeur d\u2019informatique \u00e0 la facult\u00e9 des sciences de l\u2019universit\u00e9 de la Sorbonne, ing\u00e9nieur et philosophe, est sp\u00e9cialiste des questions d\u2019\u00e9thique dans le champ de l\u2019intelligence artificielle. Il a \u00e9crit plusieurs ouvrages d\u00e9construisant les id\u00e9es re\u00e7ues quant aux \u00e9ventuels risques futurs pos\u00e9s par l\u2019IA. <\/p>\n\n\n\n Reconnaissant que \u00ab les machines se d\u00e9veloppent et sont plus performantes que l\u2019\u00eatre humain sur certaines t\u00e2ches<\/em> \u00bb, il estime impossible que ces derni\u00e8res d\u00e9veloppent une conscience ou une volont\u00e9. Ce qui, pour lui, fait du terme \u00ab superintelligence \u00bb un n\u00e9ologisme inappropri\u00e9. \u00ab C\u2019est toute la question, ces machines n\u2019ont pas la capacit\u00e9 \u00e0 initier une action ou \u00e0 avoir un d\u00e9sir propre<\/em> \u00bb, explique-t-il. \u00ab L\u2019id\u00e9e qu\u2019elle ait ses propres \u00e9motions, ses propres d\u00e9sirs, et qu\u2019elle d\u00e9cide de ses objectifs en fonction de ses d\u00e9sirs propres ne me semble pas du tout fond\u00e9e. <\/em>\u00bb<\/p>\n\n\n\n Ainsi, le sp\u00e9cialiste d\u00e9nonce les positionnements d\u2019autres confr\u00e8res et des g\u00e9ants de l\u2019IA, d\u00e9clarant qu\u2019\u00ab en tant que scientifique, on ne peut pas dire que cela va exister, cela repose sur peu de choses<\/em> \u00bb.<\/p>\n\n\n\n Comme lui, d\u2019autres experts nuancent le d\u00e9veloppement prochain d\u2019une superintelligence artificielle. Pilier de l\u2019IA chez Meta, le fran\u00e7ais Yann Le Cun estime que l\u2019on reste aujourd\u2019hui bien loin du d\u00e9ploiement d\u2019une superintelligence. Les mod\u00e8les de langage utilis\u00e9s actuellement ne permettraient pas de se rapprocher de l\u2019intelligence humaine.<\/p>\n\n\n\n Jean-Gabriel Ganascia voit m\u00eame, derri\u00e8re les alertes \u00e0 r\u00e9p\u00e9tition d\u2019acteurs du secteur de l\u2019IA et d\u2019associations, un d\u00e9tournement des questions principales li\u00e9es \u00e0 l\u2019utilisation de l\u2019IA. \u00ab C\u2019est un rideau de fum\u00e9e mis en place par les grands acteurs du num\u00e9rique qui passe sous silence les v\u00e9ritables enjeux, <\/em>accuse-t-il. Les probl\u00e8mes ne sont pas cons\u00e9cutifs \u00e0 une prise d\u2019autonomie des machines et leur propre volont\u00e9, mais au fait qu\u2019il y a des hommes qui les utilisent et qui sont derri\u00e8re.<\/em> \u00bb<\/p>\n\n\n\n Car, au-del\u00e0 des fantasmes g\u00e9n\u00e9r\u00e9s par l\u2019hypoth\u00e8se qu\u2019une machine surpasse un jour l\u2019intelligence humaine, l\u2019IA est d\u00e9j\u00e0 \u00e0 l\u2019origine d\u2019effets n\u00e9gatifs \u00ab dans le monde r\u00e9el <\/em>\u00bb, rappelle Arthur Grimonpont. \u00ab Elle consomme une quantit\u00e9 non-n\u00e9gligeable de ressources, d\u2019\u00e9lectricit\u00e9, d\u2019eau\u2026 Elle g\u00e9n\u00e8re des pollutions pour l\u2019environnement, et produit aussi des d\u00e9g\u00e2ts dans le domaine de la formation par exemple<\/em> \u00bb, poursuit-il. <\/p>\n\n\n\n De son c\u00f4t\u00e9, Jean-Gabriel Ganascia pointe du doigt les utilisations de l\u2019IA qui iraient \u00e0 l\u2019encontre des libert\u00e9s individuelles. \u00ab Il faut \u00eatre tr\u00e8s prudent aux utilisations qui sont faites. On peut avoir des dispositifs de surveillance qui vont \u00eatre pr\u00e9sents un peu partout, la reconnaissance faciale, la transcription des toutes les conversations t\u00e9l\u00e9phoniques\u2026<\/em> \u00bb<\/p>\n\n\n\n Les dangers de l\u2019utilisation de l\u2019intelligence artificielle sont \u00e9galement au c\u0153ur de pol\u00e9miques. Aux \u00c9tats-Unis, l\u2019entreprise am\u00e9ricaine OpenAI fait en effet l\u2019objet de sept plaintes qui accusent son chatbot d\u2019avoir pouss\u00e9 des adolescents jusqu\u2019au suicide. Les plaintes accusent l\u2019entreprise de mort injustifi\u00e9e, de suicide assist\u00e9, d\u2019homicide involontaire et de n\u00e9gligence.<\/p>\n","protected":false},"excerpt":{"rendered":" Les g\u00e9ants du secteur de l’intelligence artificielle investissent des milliards pour d\u00e9velopper des syst\u00e8mes toujours plus avanc\u00e9s. Leur objectif ultime<\/p>\n","protected":false},"author":1,"featured_media":63732,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[51],"tags":[],"class_list":["post-63731","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"_links":{"self":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/63731","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=63731"}],"version-history":[{"count":1,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/63731\/revisions"}],"predecessor-version":[{"id":63733,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/63731\/revisions\/63733"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/media\/63732"}],"wp:attachment":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=63731"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=63731"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=63731"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Une superintelligence artificielle, qu\u2019est-ce que c\u2019est ?<\/h2>\n\n\n\n
De quoi une \u00ab superintelligence artificielle \u00bb serait-elle capable ?<\/h2>\n\n\n\n
Des experts de l\u2019IA appellent \u00e0 mettre en place des garde-fous<\/h2>\n\n\n\n
La peur d’une perte de contr\u00f4le sur l’IA<\/h2>\n\n\n\n
Sans conscience, la \u00ab superintelligence \u00bb reste un fantasme<\/h2>\n\n\n\n
L’homme derri\u00e8re l’IA, principal danger ?<\/h2>\n\n\n\n