{"id":14043,"date":"2025-10-08T02:33:33","date_gmt":"2025-10-08T00:33:33","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=14043"},"modified":"2025-10-05T11:34:52","modified_gmt":"2025-10-05T09:34:52","slug":"les-ia-actuelles-ne-sont-pas-fiables","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/les-ia-actuelles-ne-sont-pas-fiables\/","title":{"rendered":"Les IA actuelles ne sont pas fiables"},"content":{"rendered":"

\"\"<\/p>\n

C’est OpenAI (ChatGPT) qui le dit<\/span><\/strong><\/span><\/p>\n

<\/p>\n

Plusieurs chercheurs affili\u00e9s \u00e0 OpenAI ont produit un article de recherche qui explique pourquoi les grands mod\u00e8les de langage comme ChatGPT \u00ab<\/span><\/span>\u2009<\/span><\/span>hallucinent<\/span><\/span>\u2009<\/span><\/span>\u00bb<\/span><\/span> encore de fausses informations et pourquoi cela risque d’<\/span><\/span>\u00ea<\/span><\/span>tre difficile de corriger le tir.<\/span><\/span><\/p>\n

Si vous avez d\u00e9j\u00e0 coch\u00e9 une case au hasard dans un QCM en esp\u00e9rant obtenir la bonne r\u00e9ponse, vous avez plus en commun avec les IA g\u00e9n\u00e9ratives que vous pouvez le penser. C’est le point de d\u00e9part <\/span><\/span>d’un article de recherche publi\u00e9 par des ing\u00e9nieurs de chez OpenAI<\/span><\/span><\/span><\/a><\/u><\/span> qui explique \u00ab <\/span><\/span>pourquoi les mod\u00e8les de langage hallucinent<\/i><\/span><\/span> \u00bb.<\/span><\/span><\/p>\n

Pour le dire simplement, ChatGPT, Claude, Mistral ou tous les autres ont beaucoup de mal \u00e0 admettre quand ils ne savent pas certaines choses et inventent donc des r\u00e9ponses \u00ab probables \u00bb en esp\u00e9rant tomber juste… Quitte \u00e0 tromper leurs auditoires, <\/span><\/span>note Computer World<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

P\u00e9naliser l’incertitude…<\/span><\/span><\/p>\n

\u00ab <\/span><\/span>Les grands mod\u00e8les de langage hallucinent, car les phases d’entra\u00eenement et d’\u00e9valuation r\u00e9compensent le fait de deviner plut\u00f4t que d’avouer un doute<\/i><\/span><\/span> \u00bb, d\u00e9taille l’\u00e9tude. M\u00eame entra\u00een\u00e9es sur les donn\u00e9es les plus solides et fiables du monde, <\/span><\/span>les IA g\u00e9n\u00e9ratives, comme ChatGPT, g\u00e9n\u00e8rent des fausses informations<\/span><\/span><\/span><\/a><\/u><\/span>, car leur mani\u00e8re de fonctionner \u00ab <\/span><\/span>ne fait pas de diff\u00e9rences entre des affirmations erron\u00e9es et des faits<\/i><\/span><\/span> \u00bb.<\/span><\/span><\/p>\n

Le probl\u00e8me avec les robots conversationnels \u00e0 tout faire est qu’ils sont en fait \u00ab <\/span><\/span>optimis\u00e9s pour les tests scolaires o\u00f9 deviner en cas d’incertitude am\u00e9liore les performances<\/i><\/span><\/span> \u00bb. Autrement dit, ChatGPT et consorts sont des b\u00eates \u00e0 concours \u00e0 qui l’on n’a jamais appris \u00ab <\/span><\/span>l’importance d’exprimer ses incertitudes<\/i><\/span><\/span> \u00bb, car la mati\u00e8re est surtout enseign\u00e9e hors des murs de l’\u00e9cole.<\/span><\/span><\/p>\n

\u00ab <\/span><\/span>Les examens ne repr\u00e9sentent qu’une petite partie de l’apprentissage humain<\/i><\/span><\/span> \u00bb, expliquent les auteurs. \u00ab <\/span><\/span>Inventer des dates d’anniversaire cr\u00e9era rapidement des situations g\u00eanantes<\/i><\/span><\/span> \u00bb entre humains de chairs et d’os, pointent par exemple les chercheurs. Mais pour les IA, point de telle remontrance social, juste un score statistique binaire qui p\u00e9nalise le fait de ne pas savoir et qui encourage donc les hallucinations.<\/span><\/span><\/p>\n

…Ou r\u00e9compenser le doute<\/span><\/span><\/p>\n

\u00ab <\/span><\/span>Les \u00e9valuations des mod\u00e8les de langage imposent une fausse dichotomie vraie-fausse qui n’accorde aucun cr\u00e9dit aux r\u00e9ponses incertaines<\/i><\/span><\/span> ou \u00e0 celles qui demandent des \u00e9claircissements sur le sujet<\/i><\/span><\/span> \u00bb, note l’\u00e9tude. Cocher une case de QCM, m\u00eame si elle est peut-\u00eatre fausse, offre statistiquement plus de chance de r\u00e9ussir que de n’en cocher aucune. Les chercheurs proposent donc d’instaurer des \u00ab <\/span><\/span>seuils de confiance<\/i><\/span><\/span> \u00bb qui feraient perdre des points pour une fausse r\u00e9ponse et n’en feraient gagner ou perdre aucun en cas d’absence de r\u00e9ponses.<\/span><\/span><\/p>\n

D’apr\u00e8s les r\u00e9sultats de recherche, seul ce genre de changements \u00ab <\/span><\/span>technico-sociaux<\/i><\/span><\/span> \u00bb pourrait endiguer la tendance des IA g\u00e9n\u00e9ratives \u00e0 inventer de fausses informations. Petit probl\u00e8me, ces derniers devraient \u00eatre adopt\u00e9s en c\u0153ur par toute l’industrie. Pas facile quand la plupart des arguments marketings des IA se concentrent justement <\/span><\/span>autour du taux de r\u00e9ussite des machines \u00e0 certains examens<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

tech.orange.fr<\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

C’est OpenAI (ChatGPT) qui le dit<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-14043","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/14043","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=14043"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/14043\/revisions"}],"predecessor-version":[{"id":14044,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/14043\/revisions\/14044"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=14043"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=14043"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=14043"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}