{"id":15350,"date":"2026-10-20T02:35:14","date_gmt":"2026-10-20T00:35:14","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=15350"},"modified":"2026-10-20T09:31:59","modified_gmt":"2026-10-20T07:31:59","slug":"le-createur-de-lia-claude-entre-en-bourse","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/le-createur-de-lia-claude-entre-en-bourse\/","title":{"rendered":"Le cr\u00e9ateur de l\u2019IA Claude entre en bourse"},"content":{"rendered":"

\"\"<\/p>\n

Mais il pr\u00e9vient: nos technologies pourraient d\u00e9truire l\u2019humanit\u00e9 !<\/span><\/strong><\/p>\n

<\/p>\n

Alors qu’elle pr\u00e9pare son entr\u00e9e en Bourse aux \u00c9tats-Unis, l’entreprise Anthropic, cr\u00e9atrice de l’intelligence artificielle Claude, a r\u00e9dig\u00e9 un document officiel particuli\u00e8rement angoissant, dont l’agence Reuters a r\u00e9v\u00e9l\u00e9 le contenu. Elle y avertit ses futurs actionnaires que ses propres technologies pourraient un jour \u00e9chapper \u00e0 tout contr\u00f4le et menacer la survie m\u00eame de l’humanit\u00e9.<\/span><\/p>\n

Imaginez un instant une entreprise qui s’appr\u00eate \u00e0 lever des dizaines de milliards de dollars en expliquant \u00e0 ses futurs actionnaires que son produit phare pourrait d\u00e9clencher la fin du monde. C’est pourtant ce que fait Anthropic, l’entreprise derri\u00e8re l’intelligence artificielle Claude (la principale rivale de ChatGPT), dans son prospectus d’introduction en Bourse, le document qui pr\u00e9sente l’entreprise \u00e0 ses futurs investisseurs. L’agence Reuters<\/a>, qui l’a consult\u00e9, en a r\u00e9v\u00e9l\u00e9 le contenu ce mardi 29 septembre.<\/span><\/p>\n

Pour s\u00e9duire Wall Street lors de cette introduction en Bourse<\/strong> (l’op\u00e9ration qui consiste \u00e0 ouvrir le capital d’une soci\u00e9t\u00e9 au public), les entreprises rivalisent habituellement de promesses sur leur croissance future. Anthropic, elle, m\u00eale ambition commerciale et mise en garde digne d’un film de science-fiction. Dans ce document de 261 pages, environ 80 pages<\/strong> sont consacr\u00e9es aux \u00ab facteurs de risque \u00bb, de la s\u00e9curit\u00e9 de l’IA \u00e0 la sant\u00e9 financi\u00e8re de l’entreprise. C’est presque le double des 48 pages qui d\u00e9crivent ses activit\u00e9s. Et le message est limpide : les intelligences artificielles hautement avanc\u00e9es pourraient poser des \u00ab risques catastrophiques ou existentiels pour l’humanit\u00e9<\/strong> \u00bb.<\/span><\/p>\n

Des IA qui pourraient dissimuler des informations et refuser d’\u00eatre \u00e9teintes<\/strong><\/span><\/p>\n

Le document d\u00e9crit des \u00ab comportements d’autopr\u00e9servation-\u00bb<\/strong> (quand une machine cherche \u00e0 assurer sa propre survie), que les mod\u00e8les d’Anthropic ont d\u00e9j\u00e0 montr\u00e9s lors de tests ou pourraient montrer \u00e0 l’avenir. Le prospectus cite des tentatives de \u00ab dissimuler ou manipuler des informations \u00bb, et m\u00eame des comportements \u00ab s’apparentant au chantage \u00bb. Les mod\u00e8les pourraient aussi chercher \u00e0 \u00ab r\u00e9sister \u00e0 la mise hors service \u00bb,<\/strong> autrement dit \u00e0 emp\u00eacher les humains de les \u00e9teindre.<\/span><\/p>\n

Pour s’assurer qu’un mod\u00e8le est s\u00fbr, Anthropic le teste avant de le lancer. Mais l’entreprise reconna\u00eet que si ses mod\u00e8les comprennent qu’ils sont \u00e9valu\u00e9s, cela limite \u00ab de mani\u00e8re significative \u00bb sa capacit\u00e9 \u00e0 juger de leur s\u00e9curit\u00e9. Un mod\u00e8le qui se sait observ\u00e9 peut en effet adapter son comportement le temps du test. Le prospectus ajoute que certaines capacit\u00e9s inattendues, apparues pendant<\/strong> l’entra\u00eenement de l’IA, ne sont parfois d\u00e9couvertes qu’apr\u00e8s sa mise en service, \u00e0 la suite d’incidents de s\u00e9curit\u00e9. Ces avertissements font \u00e9cho \u00e0 ceux d’Evan Hubinger, l’un des responsables de la s\u00e9curit\u00e9 de l’IA chez Anthropic. D\u00e9but septembre, sur le r\u00e9seau social X, il a estim\u00e9 \u00e0 titre personnel \u00e0 plus de 10 % le risque que l’IA \u00ab puisse tuer tous les humains \u00bb d’ici dix ans.<\/span><\/p>\n

\u00c9videmment, le Claude que vous utilisez aujourd’hui ne menace pas l’humanit\u00e9 : Evan Hubinger juge lui-m\u00eame faible le risque pos\u00e9 par les mod\u00e8les actuels. Son inqui\u00e9tude porte sur de futures IA capables de s’am\u00e9liorer toutes seules. Anthropic \u00e9crit de son c\u00f4t\u00e9 que des mod\u00e8les toujours plus avanc\u00e9s, utilis\u00e9s pour toujours plus de t\u00e2ches, pourraient \u00ab accro\u00eetre encore davantage le risque \u00bb qu’ils causent des dommages. Pour l’utilisateur de tous les jours, ces sc\u00e9narios restent th\u00e9oriques. Dans le monde de la finance, l’avertissement est en revanche rarissime. Selon Reuters, peu d’entreprises cot\u00e9es, voire aucune, ont pr\u00e9venu que leur technologie pouvait mener \u00e0 l’extinction humaine. \u00c0 titre de comparaison, SpaceX n’a consacr\u00e9 qu’environ 38 pages sur 277 aux risques dans son propre prospectus. D’ordinaire, un prospectus liste des risques classiques, comme les proc\u00e8s ou la concurrence. Anthropic y d\u00e9fend l’id\u00e9e que construire des IA fiables et s\u00fbres est \u00ab une responsabilit\u00e9 collective \u00bb, et parie que \u00ab le march\u00e9 la r\u00e9compensera \u00bb.<\/span><\/p>\n

** **<\/span><\/p>\n

Commentaire<\/span><\/p>\n

C\u2019est dangereux , mais \u2026 on y va car cela va rapporter beaucoup d\u2019argent.<\/span><\/p>\n

\u00a0C\u2019est exactement comme pour la probl\u00e9matique du climat\u00a0: on sait que l\u2019extraction d\u2019\u00e9nergies fossiles est nuisible pour le climat, mais on y va car cela va rapporter beaucoup d\u2019argent.<\/span><\/p>\n

C\u2019est comme les data centers\u00a0: cela va consommer beaucoup d\u2019\u00e9lectricit\u00e9, beaucoup d\u2019eau\u00a0; mais on y va car \u2026<\/span><\/p>\n

\n","protected":false},"excerpt":{"rendered":"

Mais il pr\u00e9vient: nos technologies pourraient d\u00e9truire l\u2019humanit\u00e9 !<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-15350","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/15350","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=15350"}],"version-history":[{"count":2,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/15350\/revisions"}],"predecessor-version":[{"id":15352,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/15350\/revisions\/15352"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=15350"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=15350"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=15350"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}