Livre blanc sur les ECOLAB
Le dérèglement climatique vient de l'activité humaine, l'IA apporte l'espoir de nous permettre de penser plus et mieux individuellement et collectivement des activités humaines locales en harmonie avec leur environnement écologique économique et social
Le cadre scolaire 'l'école' apporte le 'cas d'école' pour aborder cette limite car il présente une unité de lieu physique, une communauté comportant des érudits et des apprentis mis face à la gestion de communs, dont un exemple est celui de l'IA par cette communauté.
L'intelligence artificielle dispose de structure de calculs très consommatrices en énergie pour développer des inférences et organisent ses calculs sous la forme d'agents dont il s'agit de savoir garder collectivement le contrôle des IA tout en profitant des puissantes procédures de calcul qui ne suivent pas celles du calcul propositionne.
Depuis Aristote, le calcul propositionnel constitue un moyen traditionnel de discerner le vrai du faux donc de se déjouer de ce qui se dénomme en intelligence artificielle des hallucinations.
La physique quantique apporte un précédent car elle a du régler le problème des hallucinations apparentes dont le paradigme est le chat de schrodinger. Puis elle a montré son efficacité en traitement du signal. Elle apporte à nouveau un patron pour comprendre comment collectivement déjouer les hallucinations venant de l'interprétation humaine des calculs de l'IA.
En bref, dans les année 1960 le problème de l'hallucination a été tranché. Il a été démontré que la logique classique un cas particulier de la logique quantique. L'inverse a été réfuté, une logique quantique n'est pas une logique classique avec des variables cachées.
Il a été établi que si la nature n'hallucine pas, le discernement du vrai du faux ne résultera pas du dévoilement d'un jeu de paramètres.
La correspondance avec les LLM vient de ce que le calcul des LLM est un calcul matriciel réalisé avec des matrices de très grande tailles. L'ensemble des opérations réalisées sont des calcils sur des matrices
La situation général du contrôle d'un calcul consiste alors à le plonger dans une géométrie permettant de définir les inférences et d'identifier les formes que prennent les raisonnements correspondant aux croisements d'inférence.
De manière générale une hallucination consiste à faire dire à un ensemble de documents ce qu'il ne dit pas : ce qui dans le cas d'une LLM consiste à lui faire écrire à partir de ce qu'il a lu et pas lu un énoncé ce qu'il n'a pas lu et pas déjà écrit.
Une hallucination se révèle lors de l'examen de la mise en correspondance d'une synthèse et du corpus de textes qui la porte. Si donc une machine a la capacité de faire l'analyse et la synthèse de texte, il faut qu'il soit facile à chacun de déjouer des hallucinations les siennes, celle des autres et des machines ; tout en permettant d'aborder un problème dépassant l'entendement individuel.
Le cas d'école de 'l'école' est précisément celui permettant de mener des expériences sur le dépassement des limites des entendements individuels dans le cadre d'un contrôle collectif. Un dépassement a lieu quand une synthèse est provisoirement actée par un collectif.
Dans le contexte de l'école il s'agit de se servir des outils documentaires courants grand public tels les WIKI. Les IA à utiliser sont développées par des industries. Les situations rencontrées n'ont pas de solutions simples, vu l'inscription de l'école dans un lieu écologique, politique, économique et social.
La solution proposée ici consiste à se servir de carnets composés de notes dont les synthèses sont présentées comme des WIKI dont la rédaction est sous le contrôle de la communauté
L'analyse de tout document se fait par l'extraction des arguments de ce derniers : arguments typés par des formes canoniques de la géométrie des débats appelées hypostases
Distinguons des moratoires, articles scientifiques, normes, livre blanc, sont des exemples de documents écrits par des personnes humaines des résumés syntèses, compte-rendu pouvant être réalisées par des IA mais conduisant à des synthèses actées par des communautés. Ce document est un livre blanc. Sa synthèse dans un ECOLAB sera une ROADMAP
Le précédent de la physique quantique
La physique quantique dans les années 1930 avait révélé que la logique classique était un cas particulier de la logique quantique quand on se restreint aux situations où toutes les observations sont compatibles.
L'état paradoxal du chat de Schrödinger illustre une situation où deux observations sont incompatibles donc contradictoire en logique classique.
Pour modéliser le raisonnement quantique, des mathématiciens, Birkhoff, Von Neumann et Mackey ont dû abandonner des postulats de la logique classique : la distributivité et l'unicité de la négation classique. Dans les années 1960, des physiciens théoriciens ont établi des correspondances rigoureuses entre la logique quantique et les propriétés géométriques des sous-espaces de Hilbert en dimensions infinies. La logique se trouvait ainsi en correspondance avec un espace permettant des observations et leurs mesures.
Concernant l'usage de ce formalisme, la puissance de compression de l'information faite selon le formalisme quantique se montrait être maximale en traitement du signal (transformée de KarhunenLoeve). Enfin dans les années 1980, ses capacités en reconnaissance formes à prédire mieux que les méthodes classiques ont été empiriquement vérifiées pour la localisation des tremblements de terre par Sallantin et Soldano. et par sa capacité à prédire le repliement de séquences génétiques par Sallantin, Afshar, Soldano, Van Bockstaele, Quinqueton, Haiech, Gracy, Ripoche, Mephu Nguifo.
La puissance du raisonnement quantique s'imposera demain avec les ordinateurs quantiques qui opèrent en se servant des propriétés quantiques de la matière. Mais les formalismes mathématiques de la physique quantique sont opératoires sur les machines classiques.
D'un point de vue épistémologique, la physique quantique considère une nature régie par un hasard 'impensable'.
Autrement dit, les principes, règles, théories dont se servent les humains pour régir la matière seront réfutés un jour par d'autres principes, règles et théories…
Les calculs des IA se font par des opérations de lecture et d'écriture des matrices finies de grande taille.Le contrôle du calcul se plonger dans une structure géométrique formalisant la combinaison de ces opérations.
La géométrie des débats
Le projet de la géométrie des débats (Luzeaux) est né du besoin de contrôler les activités de calcul des IA. La situation de l'IA est en dans un rapport réciproque à celle où se trouvait la mécanique quantique de1930.
Mais la puissance de l'IA n'est plus maintenant contestée et la question est désormais celle de la maitriser en dépit de ses hallucinations.
Ainsi la question majeure est désormais qu'elle ne soit pas contrôlée seulement par ses développeurs mais aussi que chacun puisse, à l'oeil nu, dans son contexte d'usage distinguer les hallucinations engendrées par l'IA, des vérités prouvées, réfutées et de discerner dans les arguments discutables ceux qui sont des hallucinations de ceux qui des découvertes en puissance.
Alors que l'on bien compris que le calcul des IA ne peut pas se contrôler de manière micro-canonique par des logiques classiques, le projet 'géométrie des débats' cherche un cadre permettant à toute communauté humaine de discuter entre humains d'arguments parfois hallucinés afin de découvrir ceux qui présentent une capacité créative et enfin même provisoirement s'entendre sur une réglementation de l'usage des IA.
Il faut signaler que le projet de géométrie des débats profite de la capacité humaine très développée de voir en extériorité les formes des solides tri-dimensionnels et de leur attribuer 'en intériorité' des propriétés provenant de leur construction.
C'est ainsi que la géométrie des débats rapporte le contrôle de l'IA à la pratique d'une vision d'une structure tridimensionnelle se plongeant dans une mappemonde et se laissant cartographier par une multitude de cartes locales montrant via des défauts de recouvrement de possibles hallucination.
Ainsi cet outil vise à aider les personnes à participer à des raisonnements individuels ou collectifs alimentés par des IA.
Le paradigme de l'école
La question d'apprendre à se servir des IA dans un cadre éducatif se pose à l'échelle de chaque école.
Une école est un espace collectif où des érudits et des apprentis échangent et s'instruisent mutuellement. En ce sens, c'est un cas d'école pour tous les débats concernant une prise de décision collective.
Dans ce contexte, l'objectif central est de favoriser une créativité humaine capable de différencier le vrai, le réfutable et le discutable des simples hallucinations venant des autres ou des IA.
On ne pense pas seul. Une manière humaine de penser, introduit le fait de débattre dans un collectif dans lequel participent des érudits et des apprentis encore ignorants. L'érudit se sait par ailleurs fort ignorant quand il s'écarte des domaines de son érudition. Débattre se fait par l'usage d'un langage grâce auquel on peut lire, écrire mais aussi mémoriser.
Les langages et les logiques
Penser est une activité collective qui repose sur le débat dans un langage partagé capable de « propositionnaliser des énoncés », c'est-à-dire de reformuler des énoncés sous la forme « a est un b ».
Le calcul des propositions (algèbre de Boole) fait se correspondre exactement logique et algèbre mais qu'en est il pour autres langages dans lequel on sait reformuler un énoncé sous des formes propositionnelles?
Michel Liquière conjecturait que pour tout langage une propositionnalisation mettait en correspondance les paradigmes de programmation (par objet, logique, par treillis) donc de choisir librement sa stratégie de calcul.
Il affirmait qu'un bon joueur d'échec ou de go est celui qui en propositionnalisant plus finement que son adversaire le fonctionnement du jeu réussissait à mieux anticiper les actions des autres.
L'arrivée des grands modèles de langage (LLM) s'inscrit dans ce schéma car ils calculent et propositionnalisent leurs calculs de façon inédite. Leurs résultats sont validés après coup, sans cheminement logique successif ou justification géométrique suivant par simples analogies.
Les LLM sont à même de prouver et de réfuter formellement des principes, conjectures, théories ….humaines, mais ils ne se fondent pas sur un impensable hasard quand ils dévoilent des hallucinations intenables pour un raisonnement classique à la portée de l'entendement commun.
Intuition et géométrie
Henri Poincaré défend que l'intuition s'appuie sur la visualisation de formes tridimensionnelles que l'on peut observer de l'extérieur et développer ou parcourir de l'intérieur. Un dé est une de ces formes qui figurent le hasard quand il ne provient pas d'une construction pipée.
La géométrie des débats répond à ce double besoin d'observation et de fabrication de formes en associant une structure polyédrique, (semblable à un dé aux multiples facettes), au déroulement entrelacé de différents types de raisonnement logiques (abductif, inductif et déductif) ayant ou pas des preuves empiriques ou formelles. La surface de ce polyèdre vient de fils de raisonnement s'enroulant en spirale et s'entrecroisant mais dont l'on peut suivre le déroulement individuel.
Ainsi cette structure se comporte comme une mappemonde sur laquelle les cartes doivent se correspondre par recouvrement locaux.
Cette structure soutient l'intuition humaine : les hallucinations y sont immédiatement démasquées lorsqu'elles révèlent, à certains des participants au débat, des erreurs de correspondances entre des cartes à différentes échelles.
Dans la thèse de Germana da Nobrega, la technique de dévoilement des hallucinations a été prouvée empiriquement en enseignement du Droit, les apprentis mettaient leur professeur devant des contrats hallucinés produits à partir d'une théorie qu'il avait inconsidérément approuvé.
Dans sa thèse Edilson Ferneda a montré le fonctionnement de la propositionnalisation en géométrie euclidienne du plan : 'si c'est un carré alors cela a des angles droits'
Les débats d'école
Un débat d'école est pris comme paradigme de débat. Il est répliquable dans des millions d'écoles et certainement dans des débats citoyens.
Dans une école il est postulé que les élèves et les enseignants s'accordent sur la nécessité de protection des mineurs des agissements des IA s'interprétant directement ou indirectement comme indirectement comme du plagiat ou de la tromperie.
Dans ce cadre relevant des sciences humaines et sociales, il faut instaurer une éthique du débat, -collégialité, subsidiarité, transparence, respect des personnes et des idées-avec une capacité de dévoilement de vérité par le débat à la manière d'Habermas, un jeu des preuve et réfutation à la manière de Lakatos, des principes démocratiques de gestion locale de l'IA comme étant un commun à la manière d'Ostrom.
La diffusion des débats dans les écoles peuvent en quelque décennies propager de bonnes pratiques d'usage de l'IA.
Hypostasia
Les industriels et les administrations conduisent désormais un développement de l'IA le mettant à disposition de milliards de personnes. Le mouvement est inéluctable. La question est de voir comment la géométrie des débats permet à des milliards de personnes ayant été scolarisées de discerner à l'oeil nu des arguments hallucinés.
La démarche est donc locale. Les écoles deviennent des écolab, ancrées sur un territoire écolieu apportant ses particularités écologiques et climatiques dévoilées par les érudits d'un biolab.
Le numérique étant 'pour tous' indistinctement, il peut être délégué aux IA le fait d'écrire et de lire si l'on est sur de doter aux humains de la capacité de ne pas se faire duper par leurs hallucinations.
Une école est ici un écolieu, un biolab, un écolab, une communauté mêlant érudits et élèves. Pour Grothendieck, darwinien, la nature donne aux enfants la puissance de corriger les erreurs venant de la volonté de puissance de leurs ainés ; selon lui dans le cas contraire, l'humanité aurait disparu depuis longtemps.
Le cas de l'école permet donc d'aborder le cas général d'une communauté, avec ses érudits et ses enfants, ancrée dans un lieu et ayant à préparer des décisions.
La géométrie des débats est une manière canonique d'analyser les arguments de tout corpus de documents. Cette analyse oublie certains types d'argumentation, par exemple elle ignore les arguments d'autorité et les émotions exprimés.
A partir de l'analyse d'un corpus, une synthèse engendre librement un document. L'analyse de la correspondance entre l'analyse et la synthèse vient de l'étude de la correspondance entre les arguments de la synthèse et ceux venant de l'analyse des documents du corpus. Les hallucinations venant d'une synthèse sont visibles quand elles sont des arguments sans correspondance directe avec ceux du corpus.
Le 'corpus" d'une école est constitué de carnets dont les documents sont analysés et synthétisées automatiquement sous la supervision du groupe. Le rôle des érudits est de commenter les arguments de l'analyse. Le rôle des 'enfants' est de mettre le doigt sur des hallucinations sans être biaisées par une érudition.
Appelons Carnet un document sur lequel se feront librement des synthèses. Le mode de gestion de l'analyse et de la synthèse d'un carnet par introduction de nouveaux paragraphes et de nouveaux documents les corroborant peut se faire à la manière d'un Wiki : l'information vit.
Le wiki est de type incrémental, avec modification et sourcing constant. Il travaille par opérations sur des sections : ajouter à une section, remplacer une section, en insérer une nouvelle, ou ne rien changer. Avec une règle mécanique : si le moteur propose de modifier une section qui n'existe pas dans le document se dévoile une hallucination et on jette la proposition entière. Pas d'heuristique, pas de seuil à régler, du sourcing purement mécanique.
Les synthèses libres. Les analyses et synthèses se mettent à jour automatiquement, en sourçant chaque argument de la synthèse commentés par l'ajout de nouveaux documents dans le carnet.
Une contrainte sur la lecture et l'écriture inspirée de la logique quantique
Pour éviter une écriture prolifique par l'IA il lui ait demandé de ' ne pas écrire dans une synthèse ce qu'il lit ou ne lit pas et écrire dans une synthèse ce qu'il n'a pas lu et pas déjà écrit'.
Cette phrase correspond à la formulation de la négation quantique (orthocomplémentation) d'Hadamard. Détaillons son fonctionnement :
Appelons factorisation un regroupement des arguments par leurs mots clés.
Appelons argument premier un argument de la synthèse que vérifie les arguments factorisés.
Un argument premier ne fait pas partie des arguments factorisés qu'il généralise mais il peut trop généraliser il hallucine alors.
Appelons diagonalisation le fait d'écrire des arguments premiers pas déjà écrits. La diagonalisation comprime l'information au prix d'hallucinations venant de généralisations peu coûteuses quand elles sautent aux yeux
En plus, le wiki affiche : la liste des extractions du carnet que la synthèse a écartées. C'est juste une différence entre l'ensemble des extractions disponibles et celles effectivement citées. ça ne coûte pas un centime de LLM, c'est déterministe.
Notons dans le débat d'école le besoin d'identifier ce qu'une synthèse a laissé de côté ce qui la rend contestable autant que ses hallucinations.
Notons qu'une première formalisation catégorielle du débat a été faite par Antsa Nirina Avo.
Les synthèses dirigée doivent respecter une directive particulière concernant leur rédaction.
Comme par exemple : "réalise une charte respectant les principes d'Elinor Ostrom sur le thème de l'IA à l'école", ou "fabrique-moi un document pour répondre à l'appel à projet sur l'IA pour la Démocratie selon le patron suivant'
Une synthèse dirigée est un acte daté et validé par un contrôle humain : elle est figée à sa production et n'est jamais réécrite même si elle prévoit de l'être. Si le carnet évolue, on en relance une nouvelle, on ne modifie pas l'ancienne.
Les deux moteurs ne fonctionnent donc pas du tout de la même façon : le wiki est incrémental et permanent, la synthèse dirigée est en mode "full context" avec un moteur de RAG inspiré d'Atomic, et elle est figée.
Conclusion
La géométrie des débat apporte une forme de contrôle à des raisonnements menés hors du carcan de la logique classique mais demeurant sous un contrôle par des communautés humaines.
Le cas d'école 'de l'école' montre comment éthique, épistémologie et considération économique et politique s'additionnent quand il s'agit de s'assurer que l'IA actuelle peut être au service de l'éducation. Mais les écolieux, les biolab, les écolab élargissent immédiatement la réflexion qui se mène à l'école.
Il est juste de poser que la nature n'hallucine pas. Comme l'homme est de nature, l'hallucination humaine n'est que transitoire car dépendante d'unegénération. Les enfants dévoilent à oeil nu que 'le roi est nu' car la nature mathématique de leur esprit natif détecte les hallucinations.
Il serait rassurant qu'Hypostasia puisse apporter à tous, industriels de l'IA comme à chacun inscrit dans les projets d'une économie sociale et solidaire.
Il serait encore plus rassurant de savoir que l'on peut, en moins d'une décennie faire une IA au service de tous les écoliers.
Perspectives
Ce document développe une même idée sous différentes perspectives. Il devait être suffisant pour qu'une communauté de type Ecole puisse s'en servir pour faire l'étude documentée d'une situation à laquelle elle est confrontée.
Dans l'état d'avance du projet, la méthode ne dépend pas du choix des opérations qui fonctionnent toutes de la même manière..
Hypostasia est une application libre dédiée aux communauté de l'Economie Sociale et Solidaire dont le projet est de s'appuyer sur la démocratie locale pour choisir comment agir dans un monde en pleine crise écologique économique, politique et sociale.