Cituation du mois de novembre 2026 (Cituation #59) :

« Les contenus générés par ces dispositifs reflètent plus les visions des entrepreneurs qui les possèdent que les expériences ou les imaginations des citoyens qui les utilisent. Ceux-ci n’ont pas été consultés lors de la conception de ces logiciels privés et n’ont aucune possibilité de les comprendre et de les transformer. Les boîtes noires des grands modèles de langage ou de diffusion impliquent une double intermédiation, à la fois algorithmique et idéologique, qui conduit à une situation de "misère symbolique" : le public est privé de la possibilité de participer à la production des symboles circulant dans les sociétés. »

Anne Alombert, De la bêtise artificielle, p. 68, Editions Allia, Paris, 2025.

La révolution de la démocratisation de l’utilisation de l’intelligence artificielle générative (IAG) qui a démarré à l’automne 2022 a bouleversé la donne depuis notre précédente cituation du mois… Cette révolution, en plus d’accélérer la diffusion des mythes et les fantasmes autour de l’IA auprès du grand public, a fait de l’IA un problème de société et de civilisation. Un des fantasmes les plus prégnants que le déploiement des chatbots laisse croire au grand public : laisser penser que l’IAG est un oracle omniscient, fiable, détenteur de la vérité. Certes, un utilisateur averti, connaissant les principes et les limites des capacités de l’IAG, saura utiliser les chatbots à bon escient, et dans des contextes pertinents. Mais même celui-là, à un moment donné, parce qu’il ne voudra et ne pourra pas tout vérifier, fera confiance dans une certaine mesure à la boite noire et à son résultat. Or les modèles d’IAG ont été construits pour générer une réponse à partir d’informations ingérées, potentiellement contradictoires entre elles. Leur objectif est de donner une réponse dans tous les cas. Ces modèles ne sont pas conçus pour répondre "je ne sais pas". La réponse pourra faire ses preuves si elle est vérifiable, par exemple si elle fournit une solution dont on peut tester immédiatement qu’elle fonctionne. Mais dans le cas contraire, rien ne garantit la fiabilité de la réponse, n’en déplaise aux concepteurs de ces systèmes.

C’est donc le modèle de boite noire qui semble avoir gagné la bataille entre l’IA probabiliste et l’IA symbolique. A l’opposé de notre modèle de nos basé sur la transparence et sur la validation d’un expert. L’intérêt de l’IAG est sa capacité d’amalgamer des quantités phénoménales d’informations, sans intervention humaine et donc d’être en mesure d’inventer et de proposer des solutions nouvelles. Mais qui, par essence, peuvent être fausses. C’est ici qu’il y a supercherie : faire croire que la réponse sera vraie, du moins fiable. Le terme hallucination utilisé pour faire référence aux erreurs de l’IAG participe de cette supercherie et laisse entendre que les IAG ne peuvent pas se tromper. Bien sûr, qu’elles se trompent, c’est dans leur nature. Chaque nouvelle information ingérée peut faire changer les réponses données par le système, sans maitrise de la part des concepteurs (soit il n’y a plus de notion de validation, soit il n’y a plus d’expert pour valider, soit on a plus moyen de savoir qui a validé quoi) et encore moins des utilisateurs.

« Le vrai roman d’anticipation sur l’IA est Le Procès de Kafka, dans lequel personne ne comprend ce qui se passe, ni l’accusé, ni même les juges qui le mettent en examen, et pourtant les événements suivent leur cours inexorable. Dans l’autre grand roman de Kafka, lorsqu’il tente de se concentrer sur le centre du pouvoir qui contrôle son destin, sans jamais y avoir accès ni en obtenir la moindre lumière, le regard de K, le protagoniste, "glisse sur le Château, sans pouvoir s’accrocher à rien". Et quand il essaie de téléphoner, il n’entend à l’autre bout du fil qu’un chant de voix lointaines ou, à l’opposé, une voix sévère et orgueilleuse qui refuse de lui fournir la moindre explication. »

Giuliano Da Empoli, L’heure des prédateurs, p. 138, Editions Gallimard, Paris, 2025.

Il n’est pas acceptable de laisser les sociétés d’IA capter la connaissance commune accumulée sur l’internet public dans des boites noires pour la revendre à chacun via des canaux individuels et payants, le tout en provoquant un désastre cognitif, écologique et social.

Alors comment pourrait-on sortir de cette situation de boite noire, porte ouverte à toutes les manipulations ?

Les IAGs sont très bonnes pour 1. identifier les situations 2. proposer des solutions. Et rien n’empêche de chercher à partager ces connaissances si l’on n’est pas dans une logique de prédation de l’information. Les situations les plus courantes (questions, problèmes récurrents posés dans les chatbots) sont connues et les réponses ne changent pas tous les quatre matins… Il est tout à fait envisageable de référencer ces réponses sur des sites statiques, publics et transparents qui permettent une validation par des experts et une traçabilité de l’évolution des réponses et des validations sur un mode wiki et à la manière de wikipedia. Dans ce modèle, les chatbots aiguilleraient les utilisateurs sur des pages décrivant la situation et les réponses ou actions possibles. A la différence de wikipédia, ces sites ne contiendraient pas des connaissances encyclopédiques, mais des connaissances opérationnelles : ils ne référenceraient pas des noms communs ou des noms propres mais des situations, structurées sous la forme d’arbres. Les chatbots aideraient les utilisateurs à naviguer dans ce réseau de situations et aideraient les experts à l’organiser et à l’alimenter…

Ce modèle, à expérimenter, permettrait au citoyen de reprendre la main sur ces systèmes parce qu’il serait un moyen de répondre à l’exigence de traçabilité et de transparence des connaissances.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Current ye@r *