![\"\"](\"https:\/\/collectif-accad.fr\/site\/wp-content\/uploads\/2026\/06\/Incendies_Linky.jpg\")
<\/h1>\n<\/h1>\nCe qui suit laisse \u00e0 penser que l’on doit faire une pause<\/span><\/strong><\/span><\/p>\n <\/p>\n On n’en est plus l\u00e0. Il faut refuser l’IA<\/strong>\u00a0: c’est un danger pour l’humanit\u00e9, pour le monde animal, pou la nature\u00a0: POINT FINAL\u00a0!<\/span><\/span><\/p>\n ** **<\/span><\/span><\/p>\n Les dangers \u00e9conomiques et mat\u00e9riels li\u00e9s \u00e0 l\u2019intelligence artificielle concernent principalement les impacts directs sur les infrastructures, les entreprises, et la gestion des ressources. L\u2019IA promet des avanc\u00e9es significatives dans l\u2019optimisation et l\u2019automatisation de nombreux processus mais elle introduit \u00e9galement de nouvelles vuln\u00e9rabilit\u00e9s et risques de dysfonctionnements. Parmi ces menaces, on compte la facilitation d\u2019attaques \u00e0 l\u2019aide de l\u2019IA, les d\u00e9faillances techniques et l\u2019impact \u00e9conomique des technologies de rupture.<\/span><\/span><\/p>\n La gestion de ces menaces n\u00e9cessite une vigilance accrue, des r\u00e9gulations rigoureuses et surtout des innovations technologiques pour garantir la r\u00e9silience et la s\u00e9curit\u00e9 des syst\u00e8mes d\u2019IA et des syst\u00e8mes confront\u00e9s \u00e0 l\u2019IA.<\/span><\/span><\/p>\n Durant la r\u00e9volution industrielle, de nombreux ouvriers ont perdu leur emploi au profit des machines. Cependant, de nouveaux emplois, souvent meilleurs, ont \u00e9t\u00e9 cr\u00e9\u00e9s et l\u2019\u00e9conomie a connu une forte croissance. Cette fois-ci, la donne pourrait \u00eatre diff\u00e9rente.<\/span><\/span><\/p>\n Avec l\u2019invention de la machine \u00e0 vapeur, la valeur comparative du travail manuel de l\u2019homme a chut\u00e9\u202f; de m\u00eame, \u00e0 mesure que les capacit\u00e9s de l\u2019IA s\u2019am\u00e9liorent dans les domaines cognitifs, la perte de valeur de son travail intellectuel peut le rendre inemployable par rapport aux alternatives informatiques. Les mod\u00e8les de g\u00e9n\u00e9ration d\u2019images (entra\u00een\u00e9s en majorit\u00e9 sur du mat\u00e9riel prot\u00e9g\u00e9 par des droits d\u2019auteur) ont d\u00e9j\u00e0 un impact sur les m\u00e9tiers cr\u00e9atifs<\/a><\/span><\/span><\/p>\n . GPT-4 a r\u00e9ussi l\u2019examen du barreau<\/a><\/span><\/span><\/p>\n , peut r\u00e9diger des articles convaincants et \u00e9crire du code.<\/span><\/span><\/p>\n Le profit de la comp\u00e9titivit\u00e9 \u00e9conomique des IA b\u00e9n\u00e9ficiera \u00e0 leurs propri\u00e9taires, mais que deviendront ceux qui auront ainsi perdu leur emploi\u202f? Il est difficile de pr\u00e9dire quels emplois seront remplac\u00e9s en premier, ce qui m\u00e8ne \u00e0 une pr\u00e9carit\u00e9 sociale et peut invalider des ann\u00e9es d\u2019\u00e9tudes, d\u2019efforts et d\u2019investissements. Notre mod\u00e8le \u00e9conomique et notre syst\u00e8me de r\u00e9partition des richesses ne sont pas pr\u00e9par\u00e9s \u00e0 cette transition.<\/span><\/span><\/p>\n Pour une analyse plus approfondie de l\u2019impact de l\u2019intelligence artificielle sur l\u2019emploi, consultez notre page d\u00e9di\u00e9e aux risques de l\u2019IA sur le march\u00e9 du travail<\/a> .<\/span><\/span><\/p>\n Les logiciels espions comme Pegasus<\/a><\/span><\/span><\/p>\n co\u00fbtent des dizaines de millions de dollars \u00e0 d\u00e9velopper. Trouver des vuln\u00e9rabilit\u00e9s dites \u00ab\u00a0zero-day\u00a0\u00bb dans les logiciels (des vuln\u00e9rabilit\u00e9s qui n\u2019ont pas encore \u00e9t\u00e9 d\u00e9couvertes) demande beaucoup de travail, de comp\u00e9tences et de temps. Lorsque l\u2019IA surpassera les meilleurs programmeurs humains, elle pourra \u00eatre utilis\u00e9e afin de cr\u00e9er de nouveaux types de cyberattaques et d\u00e9couvrir de nouvelles vuln\u00e9rabilit\u00e9s plus vite et \u00e0 moindre co\u00fbt.<\/span><\/span><\/p>\n Les syst\u00e8mes d\u2019IA peuvent d\u00e9j\u00e0 analyser et \u00e9crire du code, trouver des vuln\u00e9rabilit\u00e9s<\/a><\/span><\/span><\/p>\n et les exploiter<\/a><\/span><\/span><\/p>\n . Ils peuvent \u00eatre utilis\u00e9s pour amplifier et automatiser des cyberattaques<\/a><\/span><\/span><\/p>\n , \u00e9largissant leur port\u00e9e et leur impact et les rendant capables de s\u2019adapter aux mesures de s\u00e9curit\u00e9.<\/span><\/span><\/p>\n L\u2019IA peut \u00e9galement \u00eatre utilis\u00e9e pour renforcer la cyberd\u00e9fense des syst\u00e8mes informatiques mais son adoption dans ce domaine risque d\u2019\u00eatre plus lente que son utilisation offensive. La cybers\u00e9curit\u00e9 est un domaine asym\u00e9trique o\u00f9 il est plus facile de d\u00e9couvrir des vuln\u00e9rabilit\u00e9s que de les corriger. Par exemple, les \u00e9quipes de s\u00e9curit\u00e9 d\u2019une entreprise mettent en moyenne 271 jours pour corriger une faille identifi\u00e9e<\/a><\/span><\/span><\/p>\n Les cyberattaques peuvent avoir des cons\u00e9quences s\u00e9rieuses sur des infrastructures critiques comme les ol\u00e9oducs<\/a><\/span><\/span><\/p>\n , les h\u00f4pitaux, les r\u00e9seaux \u00e9lectriques<\/a><\/span><\/span><\/p>\n , les bureaux gouvernementaux ou encore les banques<\/a><\/span><\/span><\/p>\n Ces types de menaces peuvent \u00eatre \u00e9vit\u00e9s par la r\u00e9gulation du d\u00e9ploiement d\u2019IA \u00e0 fortes capacit\u00e9s de programmation<\/a>.<\/span><\/span><\/p>\n \u00c0 cause de probl\u00e8mes de mauvaise g\u00e9n\u00e9ralisation des objectifs<\/a><\/span><\/span><\/p>\n ou de d\u00e9tournement des sp\u00e9cifications<\/a><\/span><\/span><\/p>\n , il est difficile de garantir que des syst\u00e8mes d\u2019IA auront un comportement correct apr\u00e8s leur d\u00e9ploiement. D\u2019autres probl\u00e8mes peuvent \u00e9merger durant l\u2019entra\u00eenement des mod\u00e8les d\u2019IA. Par exemple, une erreur humaine lors de l\u2019entra\u00eenement de GPT-2 a produit un mod\u00e8le qui produisait du texte \u00e0 l\u2019exact oppos\u00e9 du r\u00e9sultat d\u00e9sir\u00e9<\/a><\/span><\/span><\/p>\n . Lorsque ces syst\u00e8mes jouent un r\u00f4le crucial dans un processus \u00e9conomique, leur dysfonctionnement peut causer des dommages consid\u00e9rables.<\/span><\/span><\/p>\n Certains de ces dysfonctionnements sont issus d\u2019un manque de donn\u00e9es et de capacit\u00e9s et seront probablement r\u00e9gl\u00e9s lorsque la technologie sera plus mature.<\/span><\/span><\/p>\n Si vous utilisez des syst\u00e8mes d\u2019IA \u00e0 vos propres fins, tenez-vous au courant des limitations de vos outils, de leurs d\u00e9fauts connus et v\u00e9rifiez la qualit\u00e9 des r\u00e9sultats produits.<\/span><\/span><\/p>\n Ce danger peut \u00eatre mitig\u00e9 en contr\u00f4lant la qualit\u00e9 des syst\u00e8mes d\u2019IA<\/a> et en poussant plus loin les techniques actuelles d\u2019alignement.<\/span><\/span><\/p>\n Un syst\u00e8me d\u2019IA est plus \u00e0 risque de dysfonctionnement lorsqu\u2019il se trouve en-dehors de ses conditions normales d\u2019utilisation – on parle de sortie de distribution lorsque sa situation est diff\u00e9rente de celles sur lesquelles il a \u00e9t\u00e9 entra\u00een\u00e9. On tente autant que possible d\u2019am\u00e9liorer la robustesse des IA hors distribution de nos jours, mais elles restent encore vuln\u00e9rables aux \u00ab attaques adverses<\/a><\/span><\/span><\/p>\n \u00bb. Ces attaques consistent \u00e0 d\u00e9lib\u00e9r\u00e9ment tromper ou induire en erreur un mod\u00e8le de fa\u00e7on \u00e0 obtenir des comportements incorrects.<\/span><\/span><\/p>\n Concernant les IA g\u00e9n\u00e9ralistes comme les GPT, il est impossible d\u2019explorer tous les cas d\u2019utilisation possibles afin de les corriger, et il est relativement facile de contourner les pr\u00e9cautions de s\u00e9curit\u00e9<\/a><\/span><\/span><\/p>\n qui emp\u00eachent l\u2019utilisateur moyen d\u2019utiliser ces mod\u00e8les \u00e0 des fins n\u00e9fastes.<\/span><\/span><\/p>\n De plus, l\u2019utilisation de quantit\u00e9s massives de donn\u00e9es impossibles \u00e0 contr\u00f4ler manuellement ouvre la voie \u00e0 l\u2019empoisonnement de donn\u00e9es<\/a><\/span><\/span><\/p>\n qui introduisent des vuln\u00e9rabilit\u00e9s dans les syst\u00e8mes qui s\u2019entra\u00eenent dessus.<\/span><\/span><\/p>\n Les attaques adverses peuvent aussi \u00eatre utilis\u00e9es pour renforcer la s\u00e9curit\u00e9 d\u2019un syst\u00e8me et l\u2019empoisonnement de donn\u00e9es permet \u00e0 des acteurs ind\u00e9pendants de lutter contre le vol de donn\u00e9es.<\/span><\/span><\/p>\n Ces dangers font l\u2019objet de beaucoup de recherches motiv\u00e9es par des int\u00e9r\u00eats \u00e9conomiques et de souverainet\u00e9 donc la dynamique entre attaque et d\u00e9fense fluctue rapidement. Ils peuvent \u00eatre influenc\u00e9s par des actions \u00e0 toutes les \u00e9tapes\u00a0: r\u00e9gulation, standards, alignement technique, s\u00e9curit\u00e9 au d\u00e9ploiement, etc.<\/span><\/span><\/p>\n Les nombreuses applications de l\u2019IA pr\u00e9sentent des opportunit\u00e9s d\u2019innovations de rupture qui permettraient \u00e0 des entreprises de gagner rapidement en valeur et de s\u2019imposer \u00e0 travers la soci\u00e9t\u00e9. Alors que cette possibilit\u00e9 est g\u00e9n\u00e9ralement accept\u00e9e comme une cons\u00e9quence normale de notre syst\u00e8me \u00e9conomique, les applications de l\u2019IA \u00e0 la surveillance<\/a><\/span><\/span><\/p>\n , \u00e0 la persuasion<\/a><\/span><\/span><\/p>\n , \u00e0 la m\u00e9decine et \u00e0 l\u2019armement devraient nous rendre circonspect pour une fois\u00a0: voulons-nous d\u2019une entreprise globale qui domine notre capacit\u00e9 \u00e0 nous soigner ou dont l\u2019aval est n\u00e9cessaire pour avoir des opinions individuelles prot\u00e9g\u00e9es des outils de manipulation en ligne\u202f?<\/span><\/span><\/p>\n Un takeover entrepreneurial diminuerait la responsabilit\u00e9 des fournisseurs d\u2019IA et paverait la voie \u00e0 des abus d\u2019une ampleur sans pr\u00e9c\u00e9dent. Ce danger peut \u00eatre mitig\u00e9 par des r\u00e9gulations, des actions en justice et un engagement citoyen sur le sujet<\/a>.<\/span><\/span><\/p>\n Pauseia.fr<\/span><\/span><\/p>\n ** **<\/span><\/span><\/p>\n A lire dans la m\u00eame optique que ce qui a \u00e9t\u00e9 \u00e9crit au d\u00e9but de cet article\u00a0:<\/span><\/span><\/p>\n Danger pour les individus\u00a0: https:\/\/pauseia.fr\/fr\/dangers\/pour-les-individus<\/a><\/span><\/span><\/p>\n Danger pour la soci\u00e9t\u00e9\u00a0: https:\/\/pauseia.fr\/fr\/dangers\/pour-la-societe<\/a><\/span><\/span><\/p>\nDangers \u00e9conomiques et mat\u00e9riels<\/span><\/span><\/h2>\n
<\/a> Ch\u00f4mage de masse<\/span><\/span><\/h2>\n
<\/a> Cyberattaques<\/span><\/span><\/h2>\n
<\/a> Perte de fonction par d\u00e9faut<\/span><\/span><\/h2>\n
<\/a> Perte de fonction par intervention ext\u00e9rieure<\/span><\/span><\/h2>\n
<\/a> Takeover entrepreneurial<\/span><\/span><\/h2>\n