Le sp\u00e9cialiste de l\u2019intelligence artificielle (IA) Gary Marcus a pass\u00e9 ces derniers mois \u00e0 alerter ses pairs, les \u00e9lus et le public au sujet des risques li\u00e9s au d\u00e9veloppement et \u00e0 l\u2019adoption ultra-rapide des nouveaux outils d\u2019IA. Mais le danger d\u2019extinction de l\u2019humanit\u00e9 est \u201cexag\u00e9r\u00e9\u201d, a-t-il d\u00e9clar\u00e9 \u00e0 l\u2019AFP lors d\u2019un entretien \u00e0 San Francisco.<\/p>\n\n\n\n
\u201cPersonnellement, et pour l\u2019instant, je ne suis pas tr\u00e8s inquiet \u00e0 ce sujet, parce que les sc\u00e9narios ne sont pas tr\u00e8s concrets\u201d, explique ce professeur \u00e9m\u00e9rite de l\u2019universit\u00e9 de New York, venu en Californie pour une conf\u00e9rence. \u201cCe qui m\u2019inqui\u00e8te, c\u2019est que nous construisons des syst\u00e8mes d\u2019IA que nous ne contr\u00f4lons pas bien\u201d, continue-t-il.Gary Marcus a con\u00e7u son premier programme d\u2019IA au lyc\u00e9e – un logiciel pour traduire le latin en anglais – et apr\u00e8s des ann\u00e9es d\u2019\u00e9tudes de la psychologie infantile, il a fond\u00e9 Geometric Intelligence, une entreprise de \u201cmachine learning\u201d (apprentissage automatis\u00e9 des machines) ensuite rachet\u00e9e par Uber.En mars, il a cosign\u00e9 la lettre de centaines d\u2019experts demandant une pause de six mois dans le d\u00e9veloppement de syst\u00e8mes d\u2019IA ultra-puissants comme ceux de la start-up OpenAI, le temps de s\u2019assurer que les programmes d\u00e9j\u00e0 existants soient \u201cfiables, s\u00fbrs, transparents, loyaux (…) et align\u00e9s\u201d avec les valeurs humaines.Mais il n\u2019a pas sign\u00e9 la d\u00e9claration succincte de chefs d\u2019entreprise et sp\u00e9cialistes qui a fait du bruit cette semaine. Sam Altman, le patron d\u2019OpenAI, Geoffrey Hinton, un ancien ing\u00e9nieur pro\u00e9minent de Google, Demis Hassabis, le dirigeant de DeepMind (Google) et Kevin Scott, directeur technologique de Microsoft, notamment, y appellent \u00e0 lutter contre \u201cles risques d\u2019extinction\u201d de l\u2019humanit\u00e9 \u201cli\u00e9s \u00e0 l\u2019IA\u201d.<\/p>\n\n\n\n
Personnellement, et pour l\u2019instant, je ne suis pas tr\u00e8s inquiet \u00e0 ce sujet, parce que les sc\u00e9narios ne sont pas tr\u00e8s concrets\u201d, explique ce professeur \u00e9m\u00e9rite de l\u2019universit\u00e9 de New York, venu en Californie pour une conf\u00e9rence. \u201cCe qui m\u2019inqui\u00e8te, c\u2019est que nous construisons des syst\u00e8mes d\u2019IA que nous ne contr\u00f4lons pas bien\u201d, continue-t-il.<\/p>\n\n\n\n
Gary Marcus a con\u00e7u son premier programme d\u2019IA au lyc\u00e9e – un logiciel pour traduire le latin en anglais – et apr\u00e8s des ann\u00e9es d\u2019\u00e9tudes de la psychologie infantile, il a fond\u00e9 Geometric Intelligence, une entreprise de \u201cmachine learning\u201d (apprentissage automatis\u00e9 des machines) ensuite rachet\u00e9e par Uber.En mars, il a cosign\u00e9 la lettre de centaines d\u2019experts demandant une pause de six mois dans le d\u00e9veloppement de syst\u00e8mes d\u2019IA ultra-puissants comme ceux de la start-up OpenAI, le temps de s\u2019assurer que les programmes d\u00e9j\u00e0 existants soient \u201cfiables, s\u00fbrs, transparents, loyaux (…) et align\u00e9s\u201d avec les valeurs humaines.<\/p>\n\n\n\n
Mais il n\u2019a pas sign\u00e9 la d\u00e9claration succincte de chefs d\u2019entreprise et sp\u00e9cialistes qui a fait du bruit cette semaine. Sam Altman, le patron d\u2019OpenAI, Geoffrey Hinton, un ancien ing\u00e9nieur pro\u00e9minent de Google, Demis Hassabis, le dirigeant de DeepMind (Google) et Kevin Scott, directeur technologique de Microsoft, notamment, y appellent \u00e0 lutter contre \u201cles risques d\u2019extinction\u201d de l\u2019humanit\u00e9 \u201cli\u00e9s \u00e0 l\u2019IA\u201d.\u201cGuerre accidentelle\u201dLe succ\u00e8s sans pr\u00e9c\u00e9dent de ChatGPT, le robot conversationnel d\u2019OpenAI capable de produire toutes sortes de textes sur simple requ\u00eate en langage courant, a suscit\u00e9 une course \u00e0 cette intelligence artificielle dite \u201cg\u00e9n\u00e9rative\u201d entre les g\u00e9ants des technologies, mais aussi de nombreuses mises en garde et appels \u00e0 r\u00e9guler ce domaine. Y compris de la part de ceux qui construisent ces syst\u00e8mes informatiques en vue de parvenir \u00e0 une IA \u201cg\u00e9n\u00e9rale\u201d, aux capacit\u00e9s cognitives similaires \u00e0 celles des humains.<\/p>\n\n\n\n
\u201cSi vous pensez vraiment que cela repr\u00e9sente un risque existentiel, pourquoi vous travaillez l\u00e0-dessus? C\u2019est une question l\u00e9gitime\u201d, note Gary Marcus. \u201cL\u2019extinction de l\u2019esp\u00e8ce humaine… C\u2019est assez compliqu\u00e9, en r\u00e9alit\u00e9\u201d, pond\u00e8re-t-il. \u201cOn peut imaginer toutes sortes de fl\u00e9aux, mais des gens survivraient.\u201dIl existe, en revanche, des sc\u00e9narios r\u00e9alistes o\u00f9 l\u2019utilisation de l\u2019IA \u201cpeut causer des d\u00e9g\u00e2ts massifs\u201d, souligne-t-il. \u201cPar exemple, des gens pourraient r\u00e9ussir \u00e0 manipuler les march\u00e9s. Et peut-\u00eatre qu\u2019on accuserait les Russes d\u2019\u00eatre responsables, et qu\u2019on les attaquerait alors qu\u2019ils n\u2019y seraient pour rien et on pourrait se retrouver dans une guerre accidentelle, potentiellement nucl\u00e9aire\u201d, d\u00e9taille-t-il.\u201cAutoritarisme\u201dA plus court terme, Gary Marcus se fait davantage du souci pour la d\u00e9mocratie. Car les logiciels d\u2019IA g\u00e9n\u00e9rative produisent de fausses photographies, et bient\u00f4t des vid\u00e9os, de plus en plus convaincantes, \u00e0 peu de frais. Les \u00e9lections risquent donc selon lui \u201cd\u2019\u00eatre gagn\u00e9es par les personnes les plus dou\u00e9es \u00e0 r\u00e9pandre de la d\u00e9sinformation. Une fois \u00e9lues elles pourront changer les lois (…) et imposer l\u2019autoritarisme\u201d.Surtout, \u201cla d\u00e9mocratie repose sur l\u2019acc\u00e8s aux informations n\u00e9cessaires pour prendre les bonnes d\u00e9cisions. Si plus personne ne sait ce qui est vrai ou non, c\u2019est fini\u201d. L\u2019auteur du livre \u201cRebooting AI\u201d (\u201cRed\u00e9marrer l\u2019IA\u201d) ne pense pas n\u00e9anmoins qu\u2019il faille tout jeter dans cette technologie.<\/p>\n\n\n\n
\u201cIl y a une chance qu\u2019on utilise un jour une IA que nous n\u2019avons pas encore invent\u00e9e, qui nous aidera \u00e0 faire des progr\u00e8s dans la science, dans la m\u00e9decine, dans les soins des personnes \u00e2g\u00e9es (…) Mais pour l\u2019instant, nous ne sommes pas pr\u00eats. Nous avons besoin de r\u00e9gulation, et de rendre les programmes plus fiables\u201d.Lors d\u2019une audition devant une commission parlementaire am\u00e9ricaine en mai, il a d\u00e9fendu la cr\u00e9ation d\u2019une agence nationale ou internationale charg\u00e9e de la gouvernance de l\u2019intelligence artificielle. Un projet que soutient aussi Sam Altman, qui revient d\u2019une tourn\u00e9e europ\u00e9enne o\u00f9 il a exhort\u00e9 les dirigeants politiques \u00e0 trouver un \u201cjuste \u00e9quilibre\u201d entre protection et innovation.Mais attention \u00e0 ne pas laisser le pouvoir aux entreprises, avertit Gary Marcus: \u201cCes derniers mois nous ont rappel\u00e9 \u00e0 quel point ce sont elles qui prennent les d\u00e9cisions importantes, sans forc\u00e9ment tenir compte (…) des effets collat\u00e9raux\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
Le sp\u00e9cialiste de l\u2019intelligence artificielle (IA) Gary Marcus a pass\u00e9 ces derniers mois \u00e0 alerter ses pairs, les \u00e9lus et<\/p>\n","protected":false},"author":1,"featured_media":13404,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-13403","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-event-more-news"],"_links":{"self":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/13403","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=13403"}],"version-history":[{"count":1,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/13403\/revisions"}],"predecessor-version":[{"id":13405,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/13403\/revisions\/13405"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/media\/13404"}],"wp:attachment":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=13403"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=13403"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=13403"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}