{"id":4168,"date":"2026-11-18T21:43:51","date_gmt":"2026-11-18T20:43:51","guid":{"rendered":"https:\/\/www.edinos.org\/?p=4168"},"modified":"2026-11-18T21:43:51","modified_gmt":"2026-11-18T20:43:51","slug":"cituation-59","status":"publish","type":"post","link":"https:\/\/www.edinos.org\/?p=4168","title":{"rendered":"Cituation #59"},"content":{"rendered":"\n<p>Cituation du mois de novembre 2026 (Cituation #59) :<\/p>\n\n\n<blockquote>\n<p style=\"text-align: justify;\">\u00ab Les contenus g\u00e9n\u00e9r\u00e9s par ces dispositifs refl\u00e8tent plus les visions des entrepreneurs qui les poss\u00e8dent que les exp\u00e9riences ou les imaginations des citoyens qui les utilisent. Ceux-ci n&rsquo;ont pas \u00e9t\u00e9 consult\u00e9s lors de la conception de ces logiciels priv\u00e9s et n&rsquo;ont aucune possibilit\u00e9 de les comprendre et de les transformer. Les bo\u00eetes noires des grands mod\u00e8les de langage ou de diffusion impliquent une double interm\u00e9diation, \u00e0 la fois algorithmique et id\u00e9ologique, qui conduit \u00e0 une <b>situation<\/b> de &quot;mis\u00e8re symbolique&quot; : le public est priv\u00e9 de la possibilit\u00e9 de participer \u00e0 la production des symboles circulant dans les soci\u00e9t\u00e9s. \u00bb<\/p>\n<\/blockquote>\n\n\n<address>Anne Alombert, <span style=\"text-decoration: underline;\">De la b\u00eatise artificielle<\/span>, p. 68, Editions Allia, Paris, 2025.<\/address>\n\n\n\n<div class=\"wp-block-group is-layout-flow wp-block-group-is-layout-flow\"><div class=\"wp-block-group__inner-container\">\n\n<p style=\"text-align: justify;\">La r\u00e9volution de la d\u00e9mocratisation de l&rsquo;utilisation de l&rsquo;intelligence artificielle g\u00e9n\u00e9rative (IAG) qui a d\u00e9marr\u00e9 \u00e0 l&rsquo;automne 2022 a boulevers\u00e9 la donne depuis notre pr\u00e9c\u00e9dente cituation du mois&#8230; Cette r\u00e9volution, en plus d&rsquo;acc\u00e9l\u00e9rer la diffusion des mythes et les fantasmes autour de l&rsquo;IA aupr\u00e8s du grand public, a fait de l&rsquo;IA un probl\u00e8me de soci\u00e9t\u00e9 et de civilisation. Un des fantasmes les plus pr\u00e9gnants que le d\u00e9ploiement des chatbots laisse croire au grand public : laisser penser que l&rsquo;IAG est un oracle omniscient, fiable, d\u00e9tenteur de la v\u00e9rit\u00e9. Certes, un utilisateur averti, connaissant les principes et les limites des capacit\u00e9s de l&rsquo;IAG, saura utiliser les chatbots \u00e0 bon escient, et dans des contextes pertinents. Mais m\u00eame celui-l\u00e0, \u00e0 un moment donn\u00e9, parce qu&rsquo;il ne voudra et ne pourra pas tout v\u00e9rifier, fera confiance dans une certaine mesure \u00e0 la boite noire et \u00e0 son r\u00e9sultat.\nOr les mod\u00e8les d&rsquo;IAG ont \u00e9t\u00e9 construits pour g\u00e9n\u00e9rer une r\u00e9ponse \u00e0 partir d&rsquo;informations ing\u00e9r\u00e9es, potentiellement contradictoires entre elles. Leur objectif est de donner une r\u00e9ponse <i>dans tous les cas<\/i>. Ces mod\u00e8les ne sont pas con\u00e7us pour r\u00e9pondre &quot;je ne sais pas&quot;. La r\u00e9ponse pourra faire ses preuves si elle est v\u00e9rifiable, par exemple si elle fournit une solution dont on peut tester imm\u00e9diatement qu&rsquo;elle fonctionne. Mais dans le cas contraire, rien ne garantit la fiabilit\u00e9 de la r\u00e9ponse, n&rsquo;en d\u00e9plaise aux concepteurs de ces syst\u00e8mes.\n\n\n<p style=\"text-align: justify;\">\nC&rsquo;est donc le mod\u00e8le de <i>boite noire<\/i> qui semble avoir gagn\u00e9 la bataille entre l&rsquo;IA probabiliste et l&rsquo;IA symbolique. A l&rsquo;oppos\u00e9 de notre mod\u00e8le de <i>nos<\/i> bas\u00e9 sur la transparence et sur la validation d&rsquo;un expert. L&rsquo;int\u00e9r\u00eat de l&rsquo;IAG est sa capacit\u00e9 d&rsquo;amalgamer des quantit\u00e9s ph\u00e9nom\u00e9nales d&rsquo;informations, sans intervention humaine et donc d&rsquo;\u00eatre en mesure d&rsquo;inventer et de proposer des solutions nouvelles. Mais qui, par essence, peuvent \u00eatre fausses. C&rsquo;est ici qu&rsquo;il y a supercherie : faire croire que la r\u00e9ponse sera vraie, du moins fiable. Le terme <i>hallucination<\/i> utilis\u00e9 pour faire r\u00e9f\u00e9rence aux erreurs de l&rsquo;IAG participe de cette supercherie et laisse entendre que les IAG ne peuvent pas se tromper. Bien s\u00fbr, qu&rsquo;elles se trompent, c&rsquo;est dans leur nature. Chaque nouvelle information ing\u00e9r\u00e9e peut faire changer les r\u00e9ponses donn\u00e9es par le syst\u00e8me, sans maitrise de la part des concepteurs (soit il n&rsquo;y a plus de notion de validation, soit il n&rsquo;y a plus d&rsquo;expert pour valider, soit on a plus moyen de savoir qui a valid\u00e9 quoi) et encore moins des utilisateurs.<\/p>\n\n<blockquote>\n<p style=\"text-align: justify;\">\u00ab Le vrai roman d&rsquo;anticipation sur l&rsquo;IA est Le Proc\u00e8s de Kafka, dans lequel personne ne comprend ce qui se passe, ni l&rsquo;accus\u00e9, ni m\u00eame les juges qui le mettent en examen, et pourtant les \u00e9v\u00e9nements suivent leur cours inexorable. Dans l&rsquo;autre grand roman de Kafka, lorsqu&rsquo;il tente de se concentrer sur le centre du pouvoir qui contr\u00f4le son destin, sans jamais y avoir acc\u00e8s ni en obtenir la moindre lumi\u00e8re, le regard de K, le protagoniste, &quot;glisse sur le Ch\u00e2teau, sans pouvoir s&rsquo;accrocher \u00e0 rien&quot;. Et quand il essaie de t\u00e9l\u00e9phoner, il n&rsquo;entend \u00e0 l&rsquo;autre bout du fil qu&rsquo;un chant de voix lointaines ou, \u00e0 l&rsquo;oppos\u00e9, une voix s\u00e9v\u00e8re et orgueilleuse qui refuse de lui fournir la moindre explication. \u00bb<\/p>\n<\/blockquote>\n\n<address>Giuliano Da Empoli, <span style=\"text-decoration: underline;\">L&rsquo;heure des pr\u00e9dateurs<\/span>, p. 138, Editions Gallimard, Paris, 2025.<\/address>\n\n<\/div><\/div>\n\n\n<p style=\"text-align: justify;\">Il n&rsquo;est pas acceptable de laisser les soci\u00e9t\u00e9s d&rsquo;IA capter la connaissance commune accumul\u00e9e sur l&rsquo;internet public dans des boites noires pour la revendre \u00e0 chacun via des canaux individuels et payants, le tout en provoquant un d\u00e9sastre cognitif, \u00e9cologique et social.<\/p>\n<p style=\"text-align: justify;\">\nAlors comment pourrait-on sortir de cette situation de boite noire, porte ouverte \u00e0 toutes les manipulations ?<\/p>\n<p style=\"text-align: justify;\">Les IAGs sont tr\u00e8s bonnes pour 1. identifier les situations 2. proposer des solutions. Et rien n&#8217;emp\u00eache de chercher \u00e0 partager ces connaissances si l&rsquo;on n&rsquo;est pas dans une logique de pr\u00e9dation de l&rsquo;information. Les situations les plus courantes (questions, probl\u00e8mes r\u00e9currents pos\u00e9s dans les chatbots) sont connues et les r\u00e9ponses ne changent pas tous les quatre matins\u2026 Il est tout \u00e0 fait envisageable de r\u00e9f\u00e9rencer ces r\u00e9ponses sur des sites statiques, publics et transparents qui permettent une validation par des experts et une tra\u00e7abilit\u00e9 de l&rsquo;\u00e9volution des r\u00e9ponses et des validations sur un mode wiki et \u00e0 la mani\u00e8re de wikipedia. Dans ce mod\u00e8le, les chatbots aiguilleraient les utilisateurs sur des pages d\u00e9crivant la situation et les r\u00e9ponses ou actions possibles. A la diff\u00e9rence de wikip\u00e9dia, ces sites ne contiendraient pas des connaissances encyclop\u00e9diques, mais des connaissances op\u00e9rationnelles : ils ne r\u00e9f\u00e9renceraient pas des noms communs ou des noms propres mais des situations, structur\u00e9es sous la forme d&rsquo;arbres. Les chatbots aideraient les utilisateurs \u00e0 naviguer dans ce r\u00e9seau de situations et aideraient les experts \u00e0 l&rsquo;organiser et \u00e0 l&rsquo;alimenter\u2026<\/p>\n<p style=\"text-align: justify;\">Ce mod\u00e8le, \u00e0 exp\u00e9rimenter, permettrait au citoyen de reprendre la main sur ces syst\u00e8mes parce qu&rsquo;il serait un moyen de r\u00e9pondre \u00e0 l&rsquo;exigence de tra\u00e7abilit\u00e9 et de transparence des connaissances.<\/p>","protected":false},"excerpt":{"rendered":"<p>Cituation du mois de novembre 2026 (Cituation #59) : \u00ab Les contenus g\u00e9n\u00e9r\u00e9s par ces dispositifs refl\u00e8tent plus les visions des entrepreneurs qui les poss\u00e8dent que les exp\u00e9riences ou les imaginations des citoyens qui les utilisent. Ceux-ci n&rsquo;ont pas \u00e9t\u00e9 consult\u00e9s lors de la conception de ces logiciels priv\u00e9s et n&rsquo;ont aucune possibilit\u00e9 de les [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"quote","meta":{"footnotes":""},"categories":[9],"tags":[],"_links":{"self":[{"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/posts\/4168"}],"collection":[{"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.edinos.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4168"}],"version-history":[{"count":2,"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/posts\/4168\/revisions"}],"predecessor-version":[{"id":4170,"href":"https:\/\/www.edinos.org\/index.php?rest_route=\/wp\/v2\/posts\/4168\/revisions\/4170"}],"wp:attachment":[{"href":"https:\/\/www.edinos.org\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4168"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.edinos.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4168"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.edinos.org\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4168"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}