Debats

La publication par Anthropic de la preuve en plusieurs millions de lignes de code Lean de l’hypothèse généralisée de Rieman ne fait que me convaincre un peu plus, comme je l’expliquais dans un de mes

Repartage — contenu de Jean-Marc Alliot

La publication par Anthropic de la preuve en plusieurs millions de lignes de code Lean de l'hypothèse généralisée de Rieman ne fait que me convaincre un peu plus, comme je l'expliquais dans un de mes posts https://lnkd.in/eyn7MmDi que les "preuves mathématiques" soit-disant générées par des LLMs sont en fait directement générées en Lean par des machineries complexes faisant certainement intervenir des mécanismes de recherche arborescente, soit en chainage avant, soit en chainage arrière, soit les deux, machineries dans lesquelles les LLMs ne sont presque certainement que des rouages permettant la génération syntaxique de la preuve (il faut signaler qu'immédiatement après le président de l'American Mathematical Society a annoncé qu'une preuve humaine était en cours de révision depuis plusieurs mois https://lnkd.in/e2NTMYv9 ) Cette approche de la preuve n'est pas sans rappeler la construction des bases de données à 6 ou 7 pièces aux échecs, qui avait amené Ken Thompson à qualifier tout cela de "Play Chess with God".

La publication par OpenAI ou Anthropic de ce genre de preuve est inquiétante, mais pas pour les raisons que l'on croit. Le vrai problème est que les outils utilisés sont gardés volontairement dans le flou, et qu'ils ne sont accessibles qu'aux membres des sociétés en question. Ni OpenAI ni Anthropic, malgré leurs prétentions réitérées d'oeuvrer pour le bien de l'humanité, ne se sont donnés la peine d'expliquer comment fonctionnent leurs systèmes, ce qui est l'antithèse d'une recherche ouverte. Au demeurant, même s'ils le faisaient, rien ne dit que ces outils seraient utilisables par la communauté mathématique, en raison du probable coût pharamineux de calcul que seules ces sociétés peuvent supporter.

On m'a récemment demandé ce qu'était une preuve en Lean; la réponse peut être simple à la surface: Lean est un outil informatique permettant d'exprimer formellement une preuve mathématique et d'en garantir la validité. Mais il n'est pas simple d'expliquer le fonctionnement d'un tel outil. Il vient d'une longue lignée de recherche en logique mathématique autour du lambda calcul typé, ce qui n'éclaire pas beaucoup le profane. Il se trouve que j'écris (très lentement, faute de temps) un (gros) livre qui reprend la genèse de l'IA et de l'informatique théorique à sa base, avec un chapitre sur le lambda calcul et le lambda calcul typé. Cela m'a amené à relire des dizaines de vieux articles; l'un d'entre eux date de 1980, rédigé par un des pères de la formalisation de la preuve, Nicolaas Govert de Bruijn, qui résume tellement bien les objectifs et certaines des méthodes de ces systèmes. Bien sûr, en 46 ans les choses ont évolué, avec les travaux de Thierry Coquand et Gérard Huet en particulier, mais ceux qui sont vraiment curieux peuvent y jeter un coup d'oeil avec profit: https://lnkd.in/e7cBpyw9

Sources LinkedIn