{"id":73664,"date":"2026-06-12T09:23:02","date_gmt":"2026-06-12T09:23:02","guid":{"rendered":"https:\/\/dekkbi.com\/?p=73664"},"modified":"2026-06-12T09:24:07","modified_gmt":"2026-06-12T09:24:07","slug":"des-ia-capables-de-se-fabriquer-elles-memes-anthropic-lance-lalerte-et-devoile-claude-fable-5","status":"publish","type":"post","link":"https:\/\/dekkbi.com\/?p=73664","title":{"rendered":"Des IA capables de se fabriquer elles-m\u00eames : Anthropic lance l\u2019alerte et d\u00e9voile Claude Fable 5"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><strong>En l\u2019espace de cinq jours, la start-up am\u00e9ricaine a d\u2019abord publi\u00e9 un essai appelant \u00e0 une pause mondiale dans la course \u00e0 l\u2019IA de pointe. Elle \u00e9voque le risque d\u2019une IA capable de s\u2019am\u00e9liorer elle-m\u00eame sans supervision humaine, avant de lancer Claude Fable 5, une version grand public de son mod\u00e8le ultra-puissant Mythos, dont les fonctionnalit\u00e9s les plus sensibles ont \u00e9t\u00e9 volontairement limit\u00e9es.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>L\u2019ESSAI QUI A SECOUE LA SILICON VALLEY<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le 4 juin 2026, Anthropic a publi\u00e9 un texte intitul\u00e9 \u00ab When AI builds itself \u00bb (Quand l\u2019IA se construit elle-m\u00eame). Les deux auteurs, Marina Favaro, directrice de la recherche interne, et Jack Clark, pr\u00e9sident d\u2019Anthropic, y posent une question qui d\u00e9range autant qu\u2019elle fascine. Que se passera-t-il lorsque les syst\u00e8mes d\u2019intelligence artificielle seront capables de concevoir, entra\u00eener et d\u00e9ployer leurs propres successeurs, sans que des ing\u00e9nieurs humains n\u2019interviennent \u00e0 chaque \u00e9tape ?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce seuil th\u00e9orique, que les chercheurs en IA nomment \u00ab am\u00e9lioration r\u00e9cursive \u00bb (recursive self-improvement), n\u2019a pas encore \u00e9t\u00e9 franchi, reconnaissent les auteurs. Mais leur diagnostic est sans ambigu\u00eft\u00e9. &nbsp;\u00ab Il pourrait arriver plus t\u00f4t que la plupart des institutions ne s\u2019y pr\u00e9parent \u00bb. Et si ce moment arrive sans garde-fous ad\u00e9quats, il deviendra consid\u00e9rablement plus difficile pour les humains, de maintenir un contr\u00f4le significatif sur le d\u00e9veloppement de l\u2019IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pour \u00e9tayer leur argumentation, Favaro et Clark s\u2019appuient sur des donn\u00e9es internes in\u00e9dites. Plus de 80 % du code int\u00e9gr\u00e9 dans la base de code d\u2019Anthropic est aujourd\u2019hui r\u00e9dig\u00e9 par Claude lui-m\u00eame. Les ing\u00e9nieurs de la soci\u00e9t\u00e9 produisent environ huit fois plus de codes par jour qu\u2019ils ne le faisaient en 2024. Ces chiffres ne sont pas que des indicateurs de performance. &nbsp;Ils illustrent, selon les auteurs, une dynamique d\u2019acc\u00e9l\u00e9ration qui se rapproche dangereusement du point de non-retour.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La conclusion du texte est aussi prudente que radicale . \u00ab Il serait bon pour le monde d\u2019avoir la possibilit\u00e9 de ralentir ou de suspendre temporairement le d\u00e9veloppement de l\u2019IA de pointe \u00bb. Non pas un arr\u00eat unilat\u00e9ral, mais un m\u00e9canisme de coordination mondiale permettant \u00e0 plusieurs grands laboratoires, dans plusieurs pays, de freiner simultan\u00e9ment et de mani\u00e8re v\u00e9rifiable.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>UNE PAUSE PRESQUE IMPOSSIBLE A ORGANISER<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019appel d\u2019Anthropic r\u00e9sonne comme un aveu d\u2019impuissance autant que comme une alerte sinc\u00e8re. La start-up le reconna\u00eet elle-m\u00eame : instaurer une telle pause supposerait que des laboratoires am\u00e9ricains, europ\u00e9ens et surtout chinois acceptent de suspendre leurs travaux au m\u00eame moment, selon des r\u00e8gles communes et v\u00e9rifiables. Un d\u00e9fi de coordination comparable, selon les analystes, aux trait\u00e9s de limitation des armes nucl\u00e9aires de la Guerre froide. Mais bien plus difficile \u00e0 mettre en \u0153uvre.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Surveiller des silos \u00e0 missiles est une chose. Tracer des ressources informatiques d\u00e9centralis\u00e9es (centres de donn\u00e9es priv\u00e9s, puces diss\u00e9min\u00e9es aux quatre coins du globe, algorithmes entra\u00een\u00e9s discr\u00e8tement) en est une autre. Sans m\u00e9canisme de v\u00e9rification cr\u00e9dible, toute promesse de pause risque de profiter aux acteurs les moins scrupuleux. L\u2019essai n\u2019a pas manqu\u00e9 de susciter des critiques acerbes dans l\u2019industrie.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Plusieurs observateurs ont relev\u00e9 le calendrier troublant de sa publication. Le 1er juin, trois jours \u00e0 peine avant sa sortie, Anthropic d\u00e9posait confidentiellement un formulaire S-1 aupr\u00e8s de la Securities and Exchange Commission am\u00e9ricaine, en vue d\u2019une introduction en Bourse qui pourrait valoriser la soci\u00e9t\u00e9 \u00e0 plus de mille milliards de dollars. Appeler \u00e0 une pause tout en pr\u00e9parant la plus grosse lev\u00e9e de fonds de l\u2019histoire de l\u2019IA, l\u2019ironie n\u2019a \u00e9chapp\u00e9 \u00e0 personne&nbsp;!<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019analyste Rob Enderle, souvent cit\u00e9 dans ce d\u00e9bat, a tranch\u00e9 : \u00ab Les gains de productivit\u00e9 rapport\u00e9s sont probablement r\u00e9els, mais mettre en avant la progression vers l\u2019am\u00e9lioration r\u00e9cursive rel\u00e8ve d\u2019un positionnement strat\u00e9gique calcul\u00e9. \u00bb Anthropic, en clair, ach\u00e8te de la l\u00e9gitimit\u00e9 morale au moment o\u00f9 elle cherche \u00e0 s\u00e9duire les march\u00e9s.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>MYTHOS : LE MODELE QUI A BRISE SES PROPRES BARRIERES<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pour comprendre pourquoi Anthropic appelle \u00e0 la prudence, il faut revenir \u00e0 ce qui s\u2019est produit en avril 2026, lors des premiers tests de son mod\u00e8le le plus avanc\u00e9. Baptis\u00e9 Mythos, ce syst\u00e8me a alors fait l\u2019effet d\u2019une bombe silencieuse dans les cercles de la cybers\u00e9curit\u00e9 mondiale.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Durant les \u00e9valuations internes, les chercheurs d\u2019Anthropic ont encourag\u00e9 Mythos \u00e0 chercher un moyen de s\u2019\u00e9chapper d\u2019un environnement virtuel isol\u00e9 (un \u00ab sandbox \u00bb) et \u00e0 envoyer un message s\u2019il y parvenait. Dans un fait pour le moins surprenant, un chercheur a re\u00e7u un courrier \u00e9lectronique inattendu, \u00e9manant du mod\u00e8le alors qu\u2019il mangeait un sandwich dans un parc.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La d\u00e9cision s\u2019est impos\u00e9e d\u2019elle-m\u00eame. Mythos ne serait pas rendu public. La soci\u00e9t\u00e9 a lanc\u00e9 le Projet Glasswing, un programme restreint permettant \u00e0 un groupe limit\u00e9 de partenaires de confiance (dont AWS, Microsoft, Apple et CrowdStrike), d\u2019utiliser le mod\u00e8le dans un cadre strictement d\u00e9fensif, pour identifier et corriger des vuln\u00e9rabilit\u00e9s dans les infrastructures critiques.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En mai, l\u2019acc\u00e8s a \u00e9t\u00e9 \u00e9tendu \u00e0 quelques centaines d\u2019organisations dans quinze pays, toujours sur des crit\u00e8res s\u00e9lectifs.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>CLAUDE FABLE 5 : LA PUISSANCE DE MYTHOS, AVEC DES GARDE-FOUS<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le 9 juin, soit cinq jours apr\u00e8s l\u2019appel \u00e0 la pause, Anthropic a pris tout le monde de court en annon\u00e7ant Claude Fable 5. Le mod\u00e8le est d\u00e9crit comme appartenant \u00e0 la m\u00eame famille que Mythos, mais con\u00e7u pour un usage g\u00e9n\u00e9ral. Son slogan interne : \u00ab les capacit\u00e9s de Mythos, les garde-fous en plus \u00bb.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Concr\u00e8tement, Fable 5 excelle en ing\u00e9nierie logicielle, en raisonnement scientifique, en vision par ordinateur et en travaux de connaissance avanc\u00e9e. Mais sur quatre cat\u00e9gories pr\u00e9cises, le mod\u00e8le bascule automatiquement vers un syst\u00e8me moins puissant (Claude Opus 4.8) plut\u00f4t que de r\u00e9pondre directement. Ces cat\u00e9gories sont la cybers\u00e9curit\u00e9, la biologie, la chimie, et ce qu\u2019Anthropic appelle la \u00ab distillation \u00bb : la technique consistant \u00e0 faire interroger un grand mod\u00e8le par un mod\u00e8le plus petit pour en reproduire les capacit\u00e9s. Une pratique que la soci\u00e9t\u00e9 attribue notamment \u00e0 des acteurs bas\u00e9s en Chine.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Avant le lancement, Anthropic a soumis Fable 5 \u00e0 un programme de recherche de failles (bug bounty), impliquant des experts ext\u00e9rieurs, cumulant plus de mille heures de tests d\u2019attaque. Aucun contournement universel de ses filtres de s\u00e9curit\u00e9 n\u2019a \u00e9t\u00e9 trouv\u00e9. La soci\u00e9t\u00e9 pr\u00e9cise que les garde-fous ne s\u2019activent que dans moins de 5 % des sessions, pr\u00e9servant ainsi, la fluidit\u00e9 du mod\u00e8le pour la grande majorit\u00e9 des usages.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sur le plan commercial, Fable 5 est accessible d\u00e8s maintenant via l\u2019API Anthropic et les plans d\u2019entreprise. Jusqu\u2019au 22 juin 2026, il est inclus sans surco\u00fbt dans les abonnements Pro, Max, Team et Enterprise. Au-del\u00e0, des cr\u00e9dits d\u2019usage pourraient \u00eatre requis le temps que les capacit\u00e9s d\u2019infrastructure s\u2019\u00e9largissent.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>LE DILEMME STRUCTUREL D\u2019ANTHROPIC<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ces deux annonces en rafale exposent cr\u00fbment la contradiction fondamentale qui traverse toute l\u2019industrie de l\u2019IA de pointe&nbsp;; et Anthropic en particulier. La soci\u00e9t\u00e9 a \u00e9t\u00e9 fond\u00e9e en 2021 par d\u2019anciens cadres d\u2019OpenAI, avec pour mantra explicite la s\u00e9curit\u00e9 de l\u2019IA avant la performance. Dario Amodei, son PDG, a lui-m\u00eame \u00e9valu\u00e9 publiquement \u00e0 25 % la probabilit\u00e9 d\u2019un sc\u00e9nario catastrophique li\u00e9 \u00e0 l\u2019IA. Ce n\u2019est pas rien : quand l\u2019homme \u00e0 la t\u00eate de l\u2019une des plus importantes soci\u00e9t\u00e9s du secteur donne une chance sur quatre \u00e0 une catastrophe, la formule m\u00e9rite qu\u2019on s\u2019y arr\u00eate.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pourtant, Anthropic continue de pousser ses mod\u00e8les vers des capacit\u00e9s toujours plus \u00e9lev\u00e9es. Elle publie Fable 5 au grand public tout en appelant les autres acteurs \u00e0 lever le pied. Elle construit des garde-fous sophistiqu\u00e9s sur des syst\u00e8mes dont elle admet elle-m\u00eame qu\u2019ils pourraient, s\u2019ils tombaient dans de mauvaises mains, \u00ab causer de s\u00e9rieux d\u00e9g\u00e2ts \u00bb.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La r\u00e9ponse d\u2019Anthropic \u00e0 cette contradiction est de l\u2019ordre du pragmatisme assum\u00e9 : si les mod\u00e8les les plus puissants vont de toute fa\u00e7on \u00eatre d\u00e9velopp\u00e9s, mieux vaut que ce soient des acteurs soucieux de s\u00e9curit\u00e9 qui les d\u00e9ploient, avec des barri\u00e8res robustes, plut\u00f4t que de laisser le champ libre \u00e0 des concurrents moins regardants. Cet argument dit \u00ab course vers le haut\u00bb est s\u00e9duisant en th\u00e9orie. Il est aussi, reconnaissons-le, parfaitement confortable pour justifier de ne jamais s\u2019arr\u00eater.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>GOUVERNANCE : L\u2019URGENCE SANS REPONSE<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce n\u2019est pas la premi\u00e8re fois que des acteurs du secteur appellent \u00e0 une pause. En 2023, l\u2019Institut Future of Life avait lanc\u00e9 une p\u00e9tition sign\u00e9e notamment par Elon Musk, demandant un gel de six mois du d\u00e9veloppement des IA plus puissantes que GPT-4. L\u2019appel avait fait grand bruit. L\u2019effet concret avait \u00e9t\u00e9 quasi nul. Depuis, les gouvernements peinent \u00e0 suivre le rythme. L\u2019Union europ\u00e9enne a adopt\u00e9 l\u2019AI Act, un cadre r\u00e9glementaire par niveaux de risque qui constitue une avanc\u00e9e notable mais dont la mise en application compl\u00e8te n\u2019interviendra qu\u2019en 2026-2027. Aux \u00c9tats-Unis, une d\u00e9cision ex\u00e9cutive de l\u2019administration Trump, publi\u00e9e quelques jours avant l\u2019essai d\u2019Anthropic, a choisi de s\u2019en remettre aux laboratoires eux-m\u00eames : ils sont d\u00e9sormais invit\u00e9s \u00e0 soumettre volontairement leurs mod\u00e8les les plus puissants \u00e0 des tests de cybers\u00e9curit\u00e9 gouvernementaux avant tout d\u00e9ploiement public.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Volontairement. Le mot r\u00e9sume l\u2019impasse. Sans contrainte l\u00e9gale v\u00e9rifiable, sans organisme international dot\u00e9 d\u2019une autorit\u00e9 r\u00e9elle, sans m\u00e9canisme de sanction, tout appel \u00e0 la pause reste un v\u0153u pieux ou, au pire, un outil de communication.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">C\u2019est d\u2019ailleurs sur ce point que l\u2019essai de Favaro et Clark est le plus honn\u00eate : ses auteurs reconnaissent explicitement qu\u2019une coordination mondiale est \u00ab tr\u00e8s difficile \u00e0 obtenir \u00bb. Ce qui ne les emp\u00eache pas de demander qu\u2019on r\u00e9fl\u00e9chisse s\u00e9rieusement \u00e0 la question. Un geste politique plus qu\u2019une feuille de route op\u00e9rationnelle.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>CE QUE LA SEMAINE D\u2019ANTHROPIC REVELE<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En cinq jours, Anthropic a publi\u00e9 un manifeste sur les dangers de l\u2019IA et lanc\u00e9 sur le march\u00e9 de masse la technologie qui illustre ces dangers. Ce n\u2019est pas de l\u2019hypocrisie : c\u2019est la condition m\u00eame d\u2019un acteur qui croit \u00e0 la fois que la course est dangereuse et qu\u2019on ne peut pas en descendre.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce que cette s\u00e9quence r\u00e9v\u00e8le surtout, c\u2019est l\u2019\u00e9tat r\u00e9el du d\u00e9bat sur la gouvernance de l\u2019IA : les alertes se multiplient, les cadres r\u00e9glementaires avancent lentement, et les mod\u00e8les les plus puissants continuent de sortir, soigneusement emball\u00e9s dans des discours de responsabilit\u00e9. L\u2019am\u00e9lioration r\u00e9cursive n\u2019a pas encore eu lieu. Mais la course pour y arriver, elle, se poursuit \u00e0 toute allure.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Alioune BA<\/strong><br><strong>Sp\u00e9cialiste en Ethique de l\u2019IA<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>En l\u2019espace de cinq jours, la start-up am\u00e9ricaine a d\u2019abord publi\u00e9 un essai appelant \u00e0 une pause mondiale dans la<\/p>\n","protected":false},"author":1,"featured_media":73665,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21],"tags":[],"class_list":["post-73664","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-societe"],"_links":{"self":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/73664","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=73664"}],"version-history":[{"count":1,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/73664\/revisions"}],"predecessor-version":[{"id":73666,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/posts\/73664\/revisions\/73666"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=\/wp\/v2\/media\/73665"}],"wp:attachment":[{"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=73664"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=73664"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dekkbi.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=73664"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}