Auteur : Herbert Breger

Michel SERFATI, Leibniz and the Invention of Mathematical Transcendence, Stuttgart, Franz Steiner, 2018, 225 p.

Il ne s’agit pas simplement d’un livre traitant d’un chapitre plus ou moins connu de l’histoire des mathématiques, mais bien du premier ouvrage abordant un sujet jusqu’alors très peu pris en considération par la critique. L’auteur s’est fait connaître par de nombreuses publications sur les mathématiques de Descartes et de Leibniz, en évoquant à de multiples reprises les liens avec leurs philosophies respectives. Dans l’ouvrage présenté ici, Serfati dépasse de loin l’état de la critique sur le sujet et analyse bon nombre d’aspects de façon bien plus précise et détaillée que cela n’avait été fait jusqu’à présent. Il discute les réflexions et tentatives mathématiques de Descartes et Leibniz, et présente leur réception par les contemporains, ainsi que la continuation des problèmes et leur interprétation chez Euler, Lambert et Comte. Enfin, il expose les recherches du XXe siècle, dans la mesure où elles sont significatives pour le sujet. Alors qu’Euclide garantissait l’exactitude de la géométrie par la construction avec le compas et la règle, Descartes a introduit de nouveaux moyens de construction, par lesquels on pouvait créer bien plus de lignes, de courbes, etc. D’autres courbes comme par exemple la logarithmique, la cycloïde etc. étant impossibles à définir exactement d’après Descartes, ne font de ce fait pas partie de la géométrie, mais de la mécanique. À partir de 1673, Leibniz indique que ces objets seraient utiles en géométrie. Une courbe mécanique, la quadratrice, se présentait lors de sa dérivation de la quadrature arithmétique du cercle ; en général, des courbes mécaniques se présentaient souvent lors du calcul de l’aire sous une courbe géométrique. Par un procédé compliqué et comportant de nombreuses étapes que Serfati reproduit de façon détaillée, Leibniz a déplacé les frontières entre la géométrie et la mécanique, en incluant les courbes mécaniques dans la géométrie. Bien que Thomas Kuhn ait développé son modèle de révolutions scientifiques en excluant les mathématiques, on peut se demander néanmoins si l’instauration de la transcendance ne constitue pas une rupture comparable dans l’histoire des mathématiques. En tout cas, il s’agit là d’une décision philosophique, qui modifie la notion d’exactitude mathématique et qui introduit de nouveaux objets (des courbes et des nombres), en acceptant comme légitimes de nouvelles argumentations pour y parvenir. Ainsi certains problèmes, insolubles jusqu’alors, trouvent leur solution, comme par exemple le deuxième problème de Debeaune, que Descartes avait déclaré insoluble et que résout Leibniz (p. 36-37).

Les révolutions scientifiques de Kuhn ont pour caractéristique d’être « invisibles » pour le spectateur postérieur. Lors de l’instauration de la transcendance aussi, la rupture n’apparaît a posteriori que comme un petit progrès dans un développement mathématique continu. La conception cartésienne, plus rigoureuse, apparaît aujourd’hui exagérée, comme un rétrécissement difficilement compréhensible. Tout comme Descartes, Leibniz appelle « géométriques » les courbes admises en géométrie. Et afin de pouvoir distinguer ces nouvelles courbes géométriques des anciennes, Leibniz nomme celles admises par Descartes « algébriques », et celles qui jusqu’alors étaient comprises comme mécaniques, il les appelle « transcendantes ». Les courbes algébriques ont un degré déterminé, qui est donné par l’exposant le plus élevé d’une variable indépendante. Leibniz justifie l’appellation « transcendantes » par le fait que ces courbes dépassent tout degré d’une équation algébrique ; il a sûrement pensé à la description d’une courbe par une série infinie de puissances.

Mais pour légitimer ces objets nouveaux, et la conception nouvelle de l’exactitude et de la rigueur mathématiques, il ne suffit pas de modifier la terminologie. Il faut encore expliquer pourquoi ces objets nouveaux sont des objets légitimes de la géométrie, de quels objets il s’agit exactement et comment on procède à des calculs par leur moyen. Pendant des années, Leibniz a été préoccupé par ces problèmes, utilisant plusieurs voies en même temps. Il essayait de rendre plausible l’instauration de la transcendance, en soulignant que les objets nouveaux se présentaient comme solutions d’équations différentielles et de problèmes de quadrature. À d’autres occasions, il employait des séries infinies de puissances. Mais bientôt, il renonça aux tentatives d’introduire de nouveaux instruments de construction, et – comme l’avaient fait Euclide et Descartes – de considérer comme légitime ce qu’il serait possible de construire à l’aide de ces instruments. Car une liste d’instruments aptes à ces tâches s’avérait introuvable. Le développement effectivement suivi consistait à décrire les objets légitimes par une équation ; et l’on a introduit de nouveaux symboles de fonctions, comme sin, cos, et log, que l’on pouvait employer dans une équation. Dans le cadre de cette évolution, les expressions de calcul commençaient à se détacher de leur sens géométrique, comme Serfati le montre par l’exemple de la correspondance entre Leibniz et Jean Bernoulli (p. 122).

Pendant un certain temps, Leibniz a espéré y parvenir en se servant de l’expression d’exposants. Il prétendait avoir été le premier à avoir trouvé des équations dans lesquelles l’inconnue ou la variable se trouve dans l’exposant (p. 42). Ainsi pourraient être résolus des problèmes de quadrature de courbes ; Serfati appelle cela l’« exponential utopia » de Leibniz (p. 45). Il s’était inspiré des lettres de Newton dans lesquelles des fractions et des racines figuraient également à l’exposant. La généralisation de Leibniz consistait dans le fait d’admettre également des nombres irrationnels ou « quelconques » dans l’exposant. Mais si, dans la géométrie de l’époque, il existait bien des grandeurs irrationnelles ou « quelconques », ce n’étaient pas des nombres. Ici aussi Leibniz était confronté à la difficulté de légitimer l’acceptation d’objets nouveaux dans les mathématiques. Encore en 1682, dans sa publication sur la quadrature mathématique du cercle, Leibniz déclara, en concordance avec la conception mathématique de ses contemporains, que ni la racine carrée de 2, ni le nombre π n’étaient des nombres. Et pourtant, dans ses manuscrits personnels, depuis des années il avait déjà employé, de façon pour ainsi dire expérimentale et pragmatique, des lettres signifiant des nombres quelconques.

Dans les années 1680, Leibniz développe dans ses notes une idée, pour expliquer comment des nombres transcendants pourraient être instaurés et légitimés. Évidemment, cette idée repose sur la théorie des proportions d’Eudoxe (Euclide, livre V). Comme les nombres de cette théorie sont dérivés à partir de grandeurs et qu’on ne peut comparer que celles qui sont homogènes, ne peut être considéré comme nombre que ce qui est homogène à l’unité. Alors l’instauration des nombres transcendants opérée par Leibniz consiste dans le fait qu’il modifie le concept d’homogénéité : est pour lui homogène ce qui est semblable, ou qui peut être rendu semblable par une transformation (GM VII, p. 30). Pour la géométrie grecque, une ligne droite et une courbe de cercle, étant de qualités différentes, n’étaient donc pas homogènes l’une à l’autre. Mais, dans la deuxième moitié du XVIIe siècle (contrairement à l’hypothèse de Descartes), un certain nombre de problèmes de rectification ont été résolus. Désormais, on pouvait donc affirmer de façon sensée qu’une ligne droite et une portion de cercle pouvaient être rendues semblables par une transformation. En particulier, on pouvait indiquer une grandeur qui se comporte par rapport au segment unité comme la circonférence d’un demi-cercle à son rayon. Le nombre π pouvait alors être défini comme la proportion de cette grandeur au segment unité. On ne définit donc pas l’ensemble des nombres transcendants, mais on définit séparément chacun des nombres transcendants dont le mathématicien a alors besoin. Cette théorie, qui n’est esquissée ici que brièvement, apparaît aujourd’hui bien compliquée et difficilement compréhensible. Mais cela s’explique simplement par le fait qu’aujourd’hui, nous ne pensons plus que la géométrie et les grandeurs géométriques sont premières, et que les nombres doivent en être dérivés. La théorie des coupures de Dedekind ne repose pas sur des grandeurs géométriques, bien qu’elle montre certaines ressemblances formelles avec la théorie des proportions d’Eudoxe. En dernière analyse, l’instauration des nombres transcendants relève également de la décision philosophique d’accepter en tant que nombre quelque chose qui, d’après la conception traditionnelle, ne peut pas être indiqué de façon précise. Cette décision philosophique a très probablement été facilitée par l’utilisation pragmatique de séries infinies, ainsi que par le succès du calcul infinitésimal que Leibniz a parfois appelé le calcul de la transcendance.

La controverse entre Leibniz et Huygens (p. 153-169), qui n’était pas plus convaincu par le calcul infinitésimal que par la transcendance, est très intéressante à cet égard. Huygens faisait part à Leibniz de l’expression d’une sous-tangente et l’invitait à déterminer la courbe correspondante par son calcul infinitésimal. Pour résoudre ce problème, Leibniz trouva une courbe transcendante, dont l’équation comportait x et y dans l’exposant. Alors Huygens l’informa que la solution était une courbe algébrique, en ajoutant non sans ironie : « Pour moy j’avoue que la nature de ces lignes supertranscendantes, ou les inconnues entrent dans l’Exposant, me paroit si obscure, que je ne serois pas d’avis de les introduire dans la geometrie, à moins que vous n’y remarquiez quelque notable utilité » (A III, 4, 655). Leibniz refait alors le calcul et constate que le résultat était correct ; puis il calcule la sous-tangente de la courbe indiquée par Huygens, en trouvant que les deux ne se distinguaient que par leur signe. Comme il n’y avait pas de convention pour le signe de la sous-tangente, Leibniz a pu faire valoir que les deux solutions étaient bonnes. Mais pour Huygens, la solution de Leibniz n’était pas une « vraie » courbe ; ce qui confirmait son scepticisme.

Quand Leibniz lui pose, quelques mois après, un autre problème qu’il résout d’un côté par la voie de Huygens, en trouvant une série infinie, et de l’autre par son calcul infinitésimal, qui aboutit à une expression avec une variable dans l’exposant, Huygens déclare ne pas comprendre suffisamment ce nouveau calcul. Encore quelques mois plus tard, après une discussion sur la chaînette, Huygens parle cette fois de « vostre merveilleux calcul » (A III, 5, 635).

Serfati suit aussi en détail la réception de la transcendance chez Tschirnhaus, Craig, Sturm, L’Hôpital et Jean Bernoulli. Ce fut ensuite Euler qui imposa le concept leibnizien de transcendance (p. 172). Le chapitre sur la transcendance dans son manuel d’analyse fit date, en constituant le point de départ pour la formation de la transcendance en tant qu’objet de recherche propre. Euler, quant à lui, tente sans succès d’élucider si π peut s’écrire comme somme, différence, produit ou quotient de racines, mais sans succès. Puis Lambert réussit au moins à prouver le caractère irrationnel de π et de e. Sa classification des nombres constitue la base de toutes les théories modernes des nombres transcendants. En trois publications entre 1844 et 1851 (cent trente ans après la mort de Leibniz), Liouville prouve pour la première fois qu’il existe des nombres transcendants. En 1873, Hermite prouve la transcendance de e ; en 1882, Lindemann celle de π. Ainsi fut démontrée pour la première fois, l’impossibilité de la quadrature du cercle par la règle et le compas. En 1900, David Hilbert présente au congrès des mathématiciens à Paris une série de problèmes célèbres non encore résolus. Le septième, suggéré par une supposition d’Euler, demande si une puissance avec un exposant irrationnel donne toujours un nombre transcendant. Ce problème fut résolu en 1934 (p. 189).

Un chapitre particulier est consacré à Comte, dont la philosophie accorde à l’analyse transcendante un rôle important. Et dans le dernier chapitre, Serfati aborde quelques aspects épistémologiques modernes de la transcendance mathématique. Vue par les mathématiques actuelles, la définition de la transcendance s’avère plus problématique que ce que supposaient Leibniz et ses contemporains, et en partie aussi Euler (p. 173, et note 10, p. 211). S’y ajoute le problème que les courbes et nombres transcendants sont définis exclusivement de façon négative (comme non algébriques) ; ils n’ont pas d’autres qualités caractéristiques. Cela rend difficile, voire impossible d’indiquer « toutes » les courbes transcendantes, et entraîne des difficultés considérables à prouver que tel ou tel nombre est transcendant. Leibniz était déjà confronté à ces deux difficultés, lui que Serfati qualifie de « fondateur de discursivité » (Foucault) en ce qui concerne la transcendance mathématique, parce que ses réflexions ont ouvert la porte à un domaine de recherches qui occupe les mathématiciens encore aujourd’hui, plus de deux cents ans après sa mort.

Ce livre est indispensable pour les historiens et philosophes des mathématiques, de même que pour des mathématiciens qui désirent s’informer sur des sujets centraux de l’histoire de leur discipline. Michel Serfati a accompagné jusqu’à la fin la mise sous presse de cet ouvrage remarquable. Malheureusement, il n’a pas pu tenir en main le livre achevé, puisqu’il est décédé juste avant sa parution.

Herbert BREGER (traduit de l’allemand par Claire Rösler-Le Van)

Retrouver ce compte rendu et l’ensemble du Bulletin leibnizien V chez notre partenaire Cairn

Pour citer cet article : Herbert BREGER, « Michel SERFATI, Leibniz and the Invention of Mathematical Transcendence, Stuttgart, Franz Steiner, 2018 », in Bulletin leibnizien V, Archives de Philosophie, tome 82/3, juillet-septembre 2019, p. 587-646.

♦♦♦