Il faut établir des lignes rouges
A l’occasion de la 80e session de l’assemblée générale des Nations unies, plus de 70 ONG et plus de 200 personnalités du monde entier, dont les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, et 10 prix Nobel (liste complète des signataires) exhortent les gouvernements à « conclure un accord politique sur des limites claires et infranchissables pour l’IA avant fin 2026, afin de prévenir les risques les plus catastrophiques liés à cette technologie ».
Texte de l’appel
L’intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. L’IA pourrait bientôt dépasser de loin les capacités humaines et exacerber les risques tels que le développement de pandémies artificielles, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains.
Certains systèmes d’IA avancés ont déjà manifesté des comportements trompeurs et nuisibles. Or, ces systèmes se voient accorder une autonomie croissante pour agir et prendre des décisions dans le monde réel. De nombreux experts, y compris ceux à la pointe du domaine, préviennent que si rien n’est fait, il deviendra de plus en plus difficile d’exercer un contrôle humain significatif dans les années à venir.
Les gouvernements doivent agir avec détermination avant qu’il ne soit trop tard pour toute intervention significative. Un accord international définissant des lignes rouges claires et vérifiables est indispensable pour parer à des risques jugés universellement inacceptables. Ces lignes rouges devront s’appuyer sur les cadres juridiques mondiaux existants et sur les engagements volontaires des entreprises, tout en les renforçant, afin de garantir que tous les développeurs d’IA avancée soient soumis aux règles communes.
Nous exhortons les gouvernements à parvenir à un accord politique international sur des lignes rouges pour l’IA — en veillant à ce qu’elles soient opérationnelles, avec des mécanismes d’application robustes — d’ici la fin de l’année 2026.
Halte au Contrôle Numérique