2 février 2004CONFÉRENCE N°19

La pensée mathématique de l’infini

Hourya BENIS SINACEUR

Nous résumons la conférence de Hourya Benis Sinaceur et ses réponses aux questions de l’assistance.

-----

Hourya Benis Sinaceur a très tôt succombé à la fascination qu’exerce généralement sur les esprits l’infini et qu’exerce déjà le terme lui-même. Elle a consacré une partie de sa vie de travail à y penser en étudiant divers auteurs qui en ont traité, essentiellement des mathématiciens et des mathématiciens qui ont été aussi philosophes (Leibniz, Bolzano, Cantor, Hilbert). Son exposé sera le plus didactique possible, n’entrera pas dans les détails techniques, essaiera de débrouiller les fils de questions enchevêtrées et présentera une vue synthétique d’un parcours allant des Grecs à Cantor, le mathématicien auquel on doit (ainsi qu’à Dedekind) la théorie des ensembles infinis.

L’exposé comportera quatre points : la préhistoire (dans la mathématique grecque), le calcul infinitésimal, inventé concurremment par Leibniz et par Newton), l’examen par Bolzano des paradoxes de l’infini, le transfini de Cantor.

Elle donne une bibliographie courte et sélective :

- Jean-Toussaint Desanti : article “ Infini mathématique ” dans l’Encyclopedia universalis (1968-70), rééd. vol. XII, pp. 283-288, 1995.

- Frank Burbage et Nathalie Chouchan : Leibniz et l’infini, coll. Philosophies, PUF, 1993.

- Michel Blay et Robert Halleux (dirigé par) : La science classique, XVè - XVIIIè s., dictionnaire critique, Flammarion, 1998 ; les pages 563-570 traitent de l’infini.

- Bernard Bolzano : Les paradoxes de l’infini, introduction et traduction de Hourya Benis Sinaceur, Seuil, 1993 ; lire l’introduction.

- Tony Lévy : Figures de l’infini, les mathématiques au miroir des cultures (Seuil, 1987).

- Nathalie Charraud : Infini et inconscient, Anthropos, 1994 ; lire la partie historique.

Elle signale d’autres textes : l’ouvrage (volumineux) de Louis Couturat : De l’infini mathématique (1896) ; rééd. Blanchard, 1973) et l’article très important et difficile de David Hilbert : Sur l’infini (1926) ; trad. J. Largeault, Logique mathématique.Textes, coll. U, A. Colin, Paris, 1972, pp. 215-245. Hilbert est absent de l’exposé qui laisse de côté les considérations trop techniques de logique mathématique et la question de savoir si le tiers exclu peut être appliqué à des collections infinies. On peut signaler aussi l’ouvrage (difficile) de Jean Cavaillès : Remarques sur la formation de la théorie abstraite des ensembles, Paris, Hermann, 1938, réédité dans Cavaillès, Œuvres Complètes de philosophie des sciences, Hermann, 1994, et les explications apportées par Hourya Sinaceur, dans Jean Cavaillès. Philosophie mathématique, Paris, PUF, 1994.

L’exposé commence par la citation (traduite) d’un magnifique texte de Hilbert extrait de son article Sur l’infini :

“ Plus qu’aucune autre question, celle de l’infini a depuis toujours tourmenté la sensibilité des hommes, plus qu’aucune autre idée, celle de l’infini a sollicité et fécondé leur intelligence, plus qu’aucun autre concept, celui de l’infini requiert d’être élucidé ”.

Trois registres sont ici mentionnés : l’un s’adressant à la sensibilité, soit esthétique, soit d’un autre ordre, le second concernant l’intelligence (ce dont nous sommes équipés pour essayer de comprendre), et un troisième registre, plus abstrait, celui du concept (dans l’ordre de ce que l’on peut construire par des moyens logico-mathématiques).

La conférence se propose d’élucider le concept mathématique, en laissant de côté l’instrumentation logique dont s’est servi Hilbert.

L’infini dont il est question pour notre sensibilité esthétique ou métaphysique offre assez peu de prises à l’expérience immédiate. Il constitue, au contraire, comme un appel vers ce qui existerait sans que l’on puisse en avoir une appréhension directe. Une approche en est possible soit dans l’ordre de l’imaginaire, éventuellement esthétique, soit dans l’ordre d’une pensée spéculative de type théologique ou métaphysique. Parlant de l’infini, on présume que l’on ne va pas le rencontrer devant soi, car il n’est ni de l’ordre du visible ni de l’ordre du tangible; mais on peut croire qu’on en a une idée, par exemple en pensant aux myriades de brins d’herbe dans un pré, à une nuée d’insectes ; or un nombre très grand nombre (de brins d’herbe, d’insectes) n’est pas encore l’infini. Quel est le nombre de l’infini ? On ne peut le déterminer : quel que soit le nombre donné n, en ajoutant + 1, on trouvera un nombre plus grand que n, mais on sera toujours dans le fini ; chacun des nombres appartenant à la suite des nombres entiers, quel que soit le nombre des chiffres nécessaires à son écriture, est un nombre fini. L’infini est autre chose. Il y en a cependant des images suggestives : les figures en abîme (cf. les “ fractales ”) ou dans une galerie des glaces, la répétition, indéfiniment, d’une image placée entre deux miroirs qui se font face. Le “ indéfiniment ” suggère que cela ne s’arrête jamais, et qu’au bout du compte, s’il y a un compte, on doit atteindre l’infini. Mais même dans ces cas, en fait, on poursuit, en imagination ou en esprit, un processus dont on ne perçoit effectivement que les premières étapes, un segment fini d’un processus supposé infini. Et pourtant, l’infini se trouve présent dès l’élaboration des mathématiques, à leur naissance, avant les Grecs et avec les Grecs. Plus tard, au XIXè siècle, ayant constitué la théorie des ensembles infinis, on a cru pouvoir dire que la véritable mathématique est celle de l’infini.

I – La préhistoire du concept mathématique d’infini (la mathématique grecque).

Les Grecs ont buté sur l’infini. On connaît les paradoxes de Zénon d’Élée (Vè s. av. J. - C.), notamment celui de la flèche immobile ; ils sont liés à la représentation du mouvement et renvoient à la composition du continu à partir d’éléments indivisibles ou à la divisibilité à l’infini d’un segment de ligne continu. Dès le début sont présents les deux concepts liés de l’infini et du continu. Les Grecs, Platon en témoigne, ont découvert l’incommensurabilité de la diagonale du carré de côté 1 avec ce côté : on ne peut exprimer le rapport de la diagonale au côté ni par un nombre entier, ni par une fraction. La mesure de la diagonale est un nombre “ irrationnel ” (v2), ce dont on fait la démonstration par l’absurde - raisonnement devenu paradigmatique pour les mathématiciens. Un peu plus tard, une théorie des proportions est élaborée (Euclide, Livre V des Éléments) ; elle permet de traiter ces incommensurables. Plus tard encore, Archimède (IIIè s. av. J.- C.) a tenté d’approcher un segment de ligne courbe (par exemple la parabole) par une suite de segments rectilignes de plus en plus proches de la courbe : c’est la quadrature de la parabole.

Ainsi la manipulation de mesures de longueurs, d’aires ou de volumes dans le champ du continu géométrique où elle s’investit entraîne la mise en œuvre de procédés infinitistes et d’éléments infinitésimaux que les Grecs ne parviennent pas à exprimer dans un discours “ logique ”. La mise en rapport du continu géométrique et des nombres arithmétiques fait difficulté et l’infini, rencontré au niveau opératoire, ne peut recevoir un statut conceptuel positif..

Les Grecs conçoivent, en effet, l’infini d’une manière négative ou privative (peras = limite ; apeiron : illimité). Pour eux, l’infini ne se dénombre pas, il n’y a pas de nombre correspondant à l’infini. Pour Aristote (IVè s. av. J.- C., Livre III de la Physique).), l’infini est “ ce qui ne se laisse pas parcourir et n’a pas de limites ” ; n’ayant pas de limites, il n’est pas déterminé et donc il n’existe pas en soi, n’est pas un être entier et achevé, n’a pas d’existence substantielle ; il n’existe qu’en puissance (“ en puissance ” s’oppose à “ en acte ” comme inachèvement à achèvement).

Deux principes de la mathématique et de la philosophie grecques empêchaient une conception mathématique de l’infini : l’axiome euclidien “ le tout est plus grand que la partie ” et l’idée selon laquelle il ne saurait y avoir plusieurs infinis car on ne pourrait les comparer ni les distinguer. Aristote admet la nécessité de penser l’infini, qui se manifeste dans la divisibilité des grandeurs, dans l’augmentation indéfinie des “ unités ”, dans le mouvement sans commencement ni fin des sphères célestes. Mais pour éviter les apories “logiques ”, il dénie toute existence physique en acte à l’infini. Pour Aristote, l’infini n’existe que potentiellement et dans la pensée du mathématicien qui n’a besoin que de concevoir, étant donné un nombre, un nombre plus grand. C’est l’infini potentiel dont l’exemple le plus accessible est la suite des entiers dont tous les éléments sont des nombres finis ; on verra qu’elle peut être indexée tout entière par un nombre infini lorsqu’elle est conçue comme un tout, alors que pour Aristote on n’a jamais besoin de considérer l’infini comme quelque chose de clos et d’achevé. L’infini relève bien de la quantité mais seulement en tant qu’infini potentiel, la grandeur pouvant toujours devenir plus grande ou plus petite qu’elle n’est.

Aristote a déterminé la philosophie mathématique de l’infini pour des siècles et des siècles, la plupart de ses successeurs n’admettant que l’infini potentiel en mathématiques (on laisse de côté ici les notions théologiques ou métaphysiques). Pourtant, dans l’Antiquité grecque déjà, se fait jour une conception moins privative de l’infini. Le mathématicien Henri Lebesgue (1875-1941) a observé avec un certain humour qu’Archimède n’avait pas eu tort de consacrer un très long travail au dénombrement des grains de sable répandus sur toute la terre. Au début de L’Arénaire (Œuvres complètes, Tome II, p. 353) en effet, Archimède dit qu’il a l’idée d’une infinité de grains de sable, mais qu’il faudrait les dénombrer. Un peu plus tard, Pappus (300 ans ap. J. –C.), Proclus (Vè s. ap. J. –C.), puis dans la mathématique arabe (qui a recueilli et transmis l’héritage grec au Moyen-Âge européen) Al-Kindi (IXè s. ap. J. –C.), Al Nayrizi (IXè-Xè s. ap. J.- C.), Thabit ibn Qurra (IXè s. ap. J. –C.), Avicenne (Xè s. ap. J. –C.) et d’autres encore ont indéfiniment (si l’on peut dire) discuté et modifié la conception aristotélicienne. Certains pensent que l’infini ne peut être objet ni de compréhension ni de mesure ; ils l’admettent malgré tout, comme disait Proclus, non pas pour lui-même mais “ en vue du fini ”, comme un détour nécessaire dans certaines opérations (surtout celles d’Archimède). D’autres, résolument infinitistes, contreviennent au principe selon lequel il ne saurait y avoir plusieurs infinis : dans la suite des entiers il semble y avoir “ plus ” d’éléments que dans la suite des nombres pairs. Thabit ibn Qurra soutient la doctrine de divers ordres d’infini et ajoute quelque chose de très précieux que l’histoire a oublié pour ne l’exhumer que rétrospectivement : si l’on prend l’ “ ensemble ” des entiers pairs et l’ “ ensemble ” des entiers impairs, on est en présence d’un cas d’égalité de deux infinis (autant de nombres pairs que de nombres impairs). Sans expliquer comment ni pourquoi, Thabit ibn Qurra établit, à l’évidence, une corrélation un à un entre les éléments des deux ensembles.

Toutes les questions débattues en mathématiques sont dès lors les suivantes :

1 - Y a-t-il un ou plusieurs infinis ?

2 - S’il y en a plusieurs, comment les comparer et les distinguer ?

3 - Un infini peut-il être plus grand qu’un autre ? Il s’agirait d’établir une relation d’ordre entre divers ordres d’infini.

4 - Quand peut-on dire égaux deux infinis ? On connaît un cas d’égalité. Y en a-t-il d’autres ?

5 – Si on diminue un infini d’une quantité finie, reste-t-il infini ? Si on ajoute du fini à de l’infini qu’obtient-on ?

6 - Une partie d’un infini est-elle infinie ou finie ?

Certaines des questions posées et certains des paradoxes formulés dans l’Antiquité et le Moyen-Âge seront résolus par l’invention du calcul infinitésimal.

II – Le calcul infinitésimal.

L’examen des difficultés et paradoxes entraîne une double conception de l’infini :

- la conception théologique d’un infini “ qualitatif ”, mode d’être en acte d’un Dieu parfait et omnipotent, conception contrevenant à l’idée aristotélicienne de l’infini indéterminé et en puissance, solidaire de la conception d’un monde fini ;

- la conception mathématique d’un infini “ quantitatif ”, seulement potentiel. La disjonction s’installe entre qualité et quantité, théologie et mathématique. Spinoza dans une fameuse lettre à Louis Meyer (1663) oppose le vrai infini, celui de la substance indivisible, au faux infini, l’infini selon le nombre, qui est un objet d’imagination, sans réalité.

Les choses bougent, non pas par la mathématique, mais par la physique. La naissance de la physique galiléenne relance les spéculations mathématiques sur l’infini. Pour formuler les lois du mouvement, Galilée a besoin de définir les concepts de vitesse instantanée et d’accélération. C’est cela qui conduit à la généralisation du concept mathématique de courbe, à la progressive élaboration du concept mathématique de fonction, et plus tard du concept mathématique de différentielle (dans le langage leibnizien) ou de fluxion (dans le langage newtonien). Le calcul infinitésimal (partie de l’Analyse, cette “ merveilleuse symphonie de l’infini ” disait Hilbert) introduit la considération d’éléments infinitésimaux avec une notation spécifique : Newton utilise le point et Leibniz la lettre d, notation qui a été conservée. Dans ce calcul, on admet une multiplicité d’infinis distincts et l’on détermine des règles de comparaison. Ainsi, un infiniment petit (un infinitésimal) enlevé ou ajouté à une quantité finie est négligeable, car il est “ incomparablement plus petit ” ; si on ajoute une quantité finie à quelque chose d’infiniment grand, cette chose reste infiniment grande (quand x tend vers l’infini, x + 1000 est du même ordre de grandeur que x) ; si je prends deux infinis différents, x et x2 quand x tend vers + l’infini, alors un infiniment grand d’ordre inférieur x est négligeable devant l’infiniment grand d’ordre supérieur x2 ; inversement, l’infiniment petit d’un certain ordre est négligeable devant l’infiniment petit d’ordre inférieur, par exemple d2x ou d3x devant dx.

Ce qui vient d’être dit est le commentaire de règles précises de calcul. Avec le calcul différentiel et intégral (ou “ l’analyse infinitésimale ” comme on a dit aussi pendant très longtemps), on dispose d’une hiérarchie opératoire, qui est fondée sur la rapidité de croissance ou de décroissance de fonctions représentant des infinis. Cela répond à certaines des questions posées à la fin de la première partie, mais pas à toutes. Par exemple Galilée considère comme un paradoxe l’état de choses suivant : lorsque l’on considère la suite des entiers positifs et la suite des carrés de ces entiers, on constate que chaque entier a un carré, que réciproquement, chaque carré provient d’un entier positif, et cela fait difficulté car il semble qu’il y a plus de nombres entiers que de carrés. Galilée en concluait que les relations d’égalité telles qu’elles sont définies pour les nombres entiers ou fractionnaires ne sont pas valides dans l’infini. Cette formulation est assez juste. La solution élaborée ultérieurement consistera à changer la définition de l’égalité et de l’inégalité pour des ensembles infinis.

Leibniz (1646-1716) donne la conceptualisation philosophique de ce qu’il fait comme mathématicien. Dans son Analyse des infinis, il offre un “ algorithme nouveau ”, i.e. un mode opératoire nouveau dont il dit que c’est “ une nouvelle façon d’ajouter, de soustraire, de multiplier, de diviser, d’extraire, propre aux quantités incomparables, c’est-à-dire à celles qui sont infiniment grandes ou infiniment petites en comparaison des autres ”. Leibniz était sur une bonne voie, mais il n’a pas remis en question la validité de l’axiome euclidien du tout et de la partie (Euclide a longtemps été considéré comme un modèle indépassable de rigueur) et il s’efforce même de le démontrer ; il se demande si le paradoxe de Galilée ne tient pas à ce que l’on considère non pas des suites mais des ensembles achevés (dans une “ suite ”, on a 1, 2, 3, etc. ; quand on dit “ ensemble ”, depuis la notation cantorienne, on ouvre et l’on ferme une accolade {} en se donnant un objet déterminé). Leibniz, gêné à la fois par le paradoxe de Galilée et par l’axiome du tout et de la partie, va biaiser, et formuler la conception de l’infini –grand ou petit- comme infini quantitatif, qui n’a pas de consistance en soi et sert de simple auxiliaire dans des calculs aboutissant à des résultats en termes de quantités finies. Leibniz est encore dans l’optique définie par Proclus, à partir d’Aristote : l’infini est considéré en vue du fini. Il refuse d’accorder de la réalité à un concept utile mais dont le référent est, selon ses propres termes “ évanouissant ”, “ fluent ”, dans les termes de Newton, sans identité fixe. Ces quantités évanouissantes, les infiniments petits (qui tendent vers zéro), ne sont rien en comparaison d’une quantité finie ; quant aux infiniment grands, ce sont des quantités asymptotiques, qui n’atteignent jamais la limite infinie vers laquelle elles tendent. Quantités évanouissantes et asymptotiques sont au XVIIe siècle la nouvelle version, forgée grâce à l’idée moderne de fonction, de la doctrine aristotélicienne d’un infini mathématique en puissance et jamais en acte.

Leibniz écrit : “ Le calcul infinitésimal est utile quand il s’agit d’appliquer les mathématiques à la physique ; cependant ce n’est point par là que je prétends rendre compte de la nature des choses ”. Les symboles représentant l’infini sont des “ fictions ”, bien fondées en ce sens qu’elles ne nous conduisent pas à des erreurs. Leibniz est exemplaire de la disjonction entre métaphysique et mathématique. Le Leibniz mathématicien donne un statut fantomatique à l’infini alors que le Leibniz philosophe et métaphysicien n’hésite pas à réformer la notion de substance de façon à ce qu’elle admette l’infini en acte. Ce qui est entier achevé dans une substance n’est pas forcément fini ni même infini seulement en puissance ; il peut bien être, il est même toujours infini en acte. Dans une Lettre à Foucher, Leibniz écrit cette phrase que Bolzano reproduit en exergue de son livre Les paradoxes de l’infini : “ Je suis tellement pour l’infini actuel, qu’au lieu d’admettre que la nature l’abhorre, comme on le dit vulgairement, je tiens qu’elle l’affecte partout pour mieux marquer les perfections de son auteur. Ainsi je crois qu’il n’y a aucune partie de la nature qui ne soit, je ne dis pas divisible mais actuellement divisée, et par conséquent la moindre parcelle doit être considérée comme un monde plein d’une infinité de créatures différentes ”.

Une grande prudence mathématique côtoie chez Leibniz un réalisme métaphysique franchement infinitiste. Leibniz fait cependant une distinction conceptuelle qui vaut aussi bien en mathématique qu’en métaphysique. Il distingue d’une part l’infini qui est formé de parties, qui n’est ni une unité ni un tout ; il n’est conçu comme quantité que par une “ pure fiction de l’esprit ”. En ce sens “ les infinis <infiniment grands> ne sont pas des touts et les infiniment petits ne sont pas des grandeurs ”. Les quantités évanouissantes ne sont pas des grandeurs ! On calcule beaucoup dans l’infini, mais l’infini n’est pas encore vraiment mathématisé. Leibniz distingue, d’autre part, l’infini sans parties, qui est un, mais qui n’est pas un tout ; c’est l’infini absolu ou Dieu, “ Dieu, puissance active, ayant des quasi parties, éminemment, mais ni formellement ni en acte ” (Lettre à Des Bosses, 1er septembre 1706). Mais, même dans le monde physique, les parties n’existent pas forcément à l’état d’éléments séparés, tels les grains de sable de l’Arénaire. La division du continu n’implique pas sa composition à partir d’éléments atomiques. À cause de la physique galiléenne, Leibniz cherche à concilier une divisibilité infinie en acte avec l’idée que ce processus de divisibilité, se continuant sans fin, ne conduit pas à des éléments minimaux (il n’y a pas d’atomes alors qu’il y a des monades, des indivisibles métaphysiques). Ce qui est en acte, c’est le processus infini lui-même et non pas son aboutissement. Et surtout Leibniz dit très clairement : “ Il n’y a point de nombres infinis, ni des lignes ou autres quantités infinies si on les prend pour de véritables touts ” (Nouveaux Essais sur l’entendement, Livre II).

Leibniz, du point de vue de l’épistémologie des mathématiques, reste du côté d’Aristote puisque les opérations du calcul infinitésimal ne s’appliquent qu’à un infini potentiel.

III – B. Bolzano.

La grande rupture est effectuée par Bernard Bolzano (1781-1848), tchèque (praguois), et comme Leibniz, à la fois philosophe, théologien, mathématicien, logicien et physicien. Bolzano a étudié attentivement la tradition spéculative du “ Moyen-Âge ”, qu’elle soit théologique, philosophique ou mathématique. Il est grand connaisseur de Leibniz, qu’il ne suit pas sur tous les points mais dont il reste philosophiquement très proche, et de Kant, auquel il s’oppose férocement. En mathématiques, il a étudié en profondeur Euclide (surtout le Vè Livre des Éléments consacré à la théorie des proportions), les travaux des infinitistes (Euler) et des finitistes (Lagrange, un des grands mathématiciens qui ont essayé de piéger les procédures infinitistes dans des opérations algébriques tout à fait déterminées, analogues à ce que l’on a dans le fini, et qui font disparaître ou escamotent l’élément infinitésimal).

L’histoire moderne de l’infini mathématique commence avec Les paradoxes de l’infini de Bolzano (livre posthume publié en 1851). Le but principal de Bolzano dans ce livre est de situer le véritable infini au sens de Spinoza, non pas dans la qualité mais dans la quantité, dans le champ du calcul et des mathématiques. La composition du livre elle-même montre que, pour Bolzano, le socle de toute pensée est mathématique ; on va élucider le concept mathématique de l’infini pour pouvoir bâtir là-dessus la physique, la métaphysique, la philosophie ; la mathématique doit donner le la et non pas l’inverse. Dieu lui-même, selon Bolzano, n’est infini que parce que nous le concevons comme doué de capacités dont chacune a une grandeur infinie. C’est un renversement total par rapport à Leibniz : on a besoin des mathématiques pour faire de la bonne métaphysique ; et l’infini est définitivement établi dans la sphère mathématique.

Quelques précisions historiques et épistémologiques sont ici nécessaires.

1) Bolzano n’est pas le premier à donner à l’infini actuel une existence positive (Thabit ibn Qurra au Xè s. et plus tard Grégoire de Rimini au XIVè s., par exemple, étaient entrés dans cette voie).

2) Bolzano n’est pas non plus le premier à apercevoir et affirmer la possibilité de divers infinis inégaux les uns aux autres (on peut citer Thabit ibn Qurra, Avicenne, Robert Grosseteste, théologien d’Oxford du début du XIIIè s. et d’autres encore).

3) Bolzano n’est pas davantage le premier à associer l’égalité de deux infinis à la possibilité d’établir une corrélation biunivoque entre les éléments des ensembles représentés par ces divers infinis (là encore, les précurseurs sont Thabit ibn Qurra et Avicenne).

4) Bolzano cependant est le premier à tenter (avec une réussite partielle) de construire un calcul purement mathématique et un calcul systématique de l’infini actuel, ce que même Leibniz n’a pas fait. Cantor a reconnu dans Les paradoxes de l’infini “ un bel et riche ouvrage ” et il parle de Bolzano comme du “ défenseur le plus déterminé de l’infini proprement dit ” (i.e. l’infini actuel).

La construction du concept de l’infini chez Bolzano va se faire, et c’est remarquable, selon un parallélisme assez strict entre fini et infini.

L’infini actuel a le même statut logique que le fini ; il est aussi peu contradictoire, aussi peu paradoxal que les concepts familiers de nombre entier, et de fraction rationnelle. Ce que l’on a pris pour paradoxe se dissout dans l’analyse des concepts sous-jacents. Il existe des ensembles infinis en acte qu’aucune logique ne nous interdit de concevoir comme des ensembles achevés ; par exemple l’ensemble des entiers, une droite prolongée à l’infini, et même un simple segment de droite. Ce dernier exemple permet à Bolzano de faire, pour la première fois, un décrochage entre la mesure finie du segment [0 – 1] et l’ensemble (Menge) infini de points qu’il contient. Il prend l’exemple de l’ensemble des habitants de Prague : chacun comprend ce qu’est cet ensemble, personne ne va aller trouver chaque habitant pour les énumérer tous, un à un. Cet ensemble est fini, mais il en est de même pour l’infini quantitatif mathématique : on n’a pas nécessairement besoin d’énumérer tous les éléments d’un ensemble pour le définir de façon non contradictoire ; il suffit de donner une propriété discriminatoire qui partage l’univers des êtres mathématiques en deux : ceux qui satisfont la propriété et ceux qui n’y satisfont pas. Par exemple, une relation de récurrence simple définit la suite des entiers positifs, la donnée de deux points du plan détermine une ligne de ce plan. Bolzano remarque aussi que la multiplicité est inhérente au concept d’infini : dès que l’on conçoit l’infini mathématique, on conçoit forcément plusieurs infinis. L’infini mathématique n’est pas un magma informe ; le symbole 8 désigne ou recouvre tout un univers qu’il faut différencier, dans lequel il faut distinguer des ordres d’infini, et les distinguer dans l’infiniment grand comme dans l’infiniment petit.

L’infini actuel a le même statut ontologique (ou métaphysique) que le fini. Sur ce point, Bolzano reprend Leibniz : l’infini actuel est réalisé partout : en Dieu, mais aussi dans ses créatures, dans le monde des choses réelles et pas seulement dans le monde des choses non réelles comme l’espace et le temps (car, pour Bolzano, l’espace et le temps n’appartiennent pas à la Wirklichkeit, à la réalité effective-tangible)

Le calcul bolzanien repose sur les définitions suivantes :

- Un infiniment grand est ce qui est plus grand qu’un nombre quelconque d’unités (plus grand que tout n, pour n entier positif). Symboliquement :

- Un infiniment petit est ce dont le multiple par un entier n quelconque demeure inférieur à 1. Symboliquement $a "n a < 1/n

Entre infini potentiel et infini actuel, il y a juste un quantificateur qui se déplace. Selon Aristote, les mathématiciens n’ont besoin que de l’infini potentiel : pour tout nombre aussi grand soit-il n, il existe un nombre m strictement plus grand que n , soit ("n $m (m > n). L’infini actuel est symboliquement exprimé par : il existe un m qui, pour tout n, est supérieur à n ; soit : $m "n (m > n). Cette dernière expression implique la précédente mais elle n’est pas impliquée par elle : les deux phrases ne sont pas équivalentes.

Ces définitions contreviennent à plusieurs axiomes acceptés par les anciens, notamment à l’axiome d’Archimède : si l’on prend deux segments inégaux, il existera toujours un nombre entier positif, tel que le plus petit segment, multiplié par ce nombre, donnera un segment plus grand que le plus grand segment. Bolzano ne réfute pas expressément cet axiome, ni celui du tout et de la partie ; c’est ce qui l’empêche de réaliser ce que vont faire R. Dedekind et G. Cantor. Il reconnaît la possibilité d’“ égaler ” deux infinis distincts par l’établissement d’une corrélation bijective entre les éléments du premier ensemble et ceux du second, il remarque surtout que la correspondance biunivoque de l’ensemble avec une de ses parties propres est la propriété caractéristique de l’infini mais il n’en fait pas sa définition. Dedekind et Cantor diront qu’il s’agit là de la définition de l’infini et pas seulement de sa propriété caractéristique.

Du point de vue de la philosophie mathématique de la chose, Bolzano reprend judicieusement la distinction très ancienne entre nombre et grandeur. Traditionnellement, le nombre renvoyait à l’arithmétique et la grandeur à la géométrie. Bolzano donne à “ grandeur ” un sens arithmétique pour pouvoir avoir des grandeurs infinies. Il n’y a pas (encore) pour lui de nombre infini mais il y a des grandeurs infinies : un pas de plus est fait par rapport à Leibniz, mais l’on n’est pas encore dans le calcul transfini de Cantor. Ce que Bolzano appelle l’ensemble des grandeurs comprend :

- les nombres entiers positifs (avec ou sans le zéro),

- les fractions rationnelles,

- les nombres irrationnels qui sont pour Bolzano des grandeurs finies, même si leur expression en symboles comporte un nombre infini de parties (l’écriture d’une suite infinie convergente comprend virtuellement un nombre infini de symboles, mais elle a une limite finie et correspond donc à une grandeur finie),

- les grandeurs infinies, auxquelles on ne peut assigner ni un nombre entier, ni une fraction rationnelle, ni un nombre irrationnel.

En langage moderne, on dirait que, pour Bolzano, l’ensemble des grandeurs est une extension, par les infiniment petits et les infiniment grands, de notre ensemble des nombres réels, car l’ensemble des entiers, des rationnels et des irrationnels, c’est ce que l’on appelle aujourd’hui (et en fait depuis Descartes) les nombres réels.

Pour la première fois, les éléments infinitésimaux ne sont pas considérés seulement sous la forme de grandeurs variables, décroissant ou croissant à l’infini, mais réellement comme des quantités données, et donc, ce ne sont plus des fictions, des auxiliaires provisoires. Elles sont des quantités véritables, mais –ajoute Bolzano- pas forcément mesurables. Il donne l’exemple (trivial) d’une série divergente qui n’est pas mesurable. En revanche, un infiniment petit de type 1/n, avec n tendant vers l’infini est tout à fait mesurable parce qu’il a une valeur qui avoisine zéro (on sait en donner des valeurs approchées).

L’œuvre de Bolzano laisse des questions ouvertes.

Il a noté la propriété caractéristique des ensembles infinis : le fait de pouvoir être mis en bijection avec l’une de leurs parties propres (bijection entre l’ensemble des entiers et l’ensemble des entiers carrés). Bolzano prend l’exemple de l’ensemble des points du segment de droite qui va de zéro à cinq, et celui de l’ensemble des points contenus dans le segment qui va de zéro à douze ; il dit que je peux procéder à une bijection entre les deux : il suffit que j’écrive la fonction f(x) = 2/5 x. Mais comme visuellement [0-5] et [0-12] différent grandement par la mesure de leurs longeurs, il ne résiste pas à l’erreur de dire que le premier est le plus petit, malgré la bijection. Bolzano ne parvient pas à définir correctement l’égalité de deux infinis. Cantor y arrivera en élargissant la notion d’égalité en une relation d’équivalence, et l’on prendra conscience que l’égalité est la plus fine des relations d’équivalence.

IV – G. Cantor et le transfini.

Cantor (1845-1818) définit l’égalité de deux ensembles infinis. Le premier acte de l’arithmétique du transfini de Cantor (p. 176 de ses Œuvres) est d’affirmer qu’il y a, après le fini, un transfini, c’est-à-dire “ une échelle illimitée de modes déterminés qui par nature ne sont pas finis mais infinis et qui cependant peuvent être précisés tout comme le fini par des nombres déterminés, bien définis, et distinguables les uns des autres ”. Pour la première fois, il s’agit non seulement de grandeurs, mais de nombres (infinis, transfinis), et l’on sait définir de façon cohérente et mathématiquement recevable l’équipotence de deux ensembles infinis (deux ensembles infinis pouvant être mis en corrélation bijective l’un sur l’autre sont équipotents : ils ont le même nombre infini). Lorsque l’on restreint la relation d’équipotence à des ensembles finis, on retombe sur les cas familiers d’égalité. Cantor a réussi à prolonger la relation d’égalité et d’inégalité et la relation d’ordre dans un domaine qui est au-delà du fini, celui du transfini.

Le début de l’échelle des transfinis pour Cantor (et pour nous) est constitué par l’infini qui a la puissance du dénombrable et par l’infini qui a la puissance du continu. Cantor désigne par Aleph zéro (À0) le nombre tranfini de l’ensemble N des nombres entiers : c’est la puissance du dénombrable ; l’ensemble des entiers rationnels positifs a la même puissance que l’ensemble des entiers, car on peut les ranger de façon à mettre en évidence une bijection entre les deux ensembles. En 1814, Cantor prouve que l’ensemble des nombres réels algébriques, c’est-à-dire les nombres réels au sens de Descartes, et qui sont racines d’un polynôme à coefficients entiers, est lui aussi équipotent à N, et il prouve que l’ensemble des nombres réels, qui en plus des nombres réels algébriques comprend les transcendants (les nombres du type de p –rapport de la circonférence du cercle au diamètre- ou bien e, la constante d’Euler), n’est pas équipotent à N. Il la désigne par la lettre c (l’ensemble des réels, qui a la puissance du continu). Cantor utilise le raisonnement diagonal et se préoccupe aussi de démontrer que ces deux puissances ne sont pas les seules, qu’il existe une troisième puissance, strictement supérieure à celle du continu : il suffit dit-il de considérer l’ensemble des fonctions réelles définies sur l’intervalle [0,1] ; appelons cet ensemble F ; F a un sous-ensemble propre qui est équipotent au continu : c’est l’ensemble des fonctions constantes. La démonstration s’effectue par le procédé diagonal.

Selon Cantor, les puissances constituent la généralisation nécessaire des nombres cardinaux finis. Il faut préciser que, si l’on sait faire la différence dans le fini entre le nombre ordinal et le nombre cardinal, on n’y prête guère attention, car si l’on range par exemple cinq éléments, le cinquième (le nombre ordinal) et le nombre 5 (le nombre cardinal) coïncident. Or, dans l’infini, nombre ordinal et nombre cardinal ne coïncident pas. Les puissances que Cantor a inventées ne sont rien d’autre écrit-il, que des nombres cardinaux infiniment grands actuels, et elles ont la même réalité et la même détermination que les cardinaux finis (la même réalité, mais sans qu’il dise de quelle réalité il s’agit).Ces puissances diffèrent des nombres finis seulement par le fait que les règles de leur arithmétique s’écartent partiellement de celles qui ont cours dans le domaine du fini. L’extension du fini à l’infini consiste à élargir le concept d’égalité en celui, plus général, d’équivalence et à modifier les règles qui s’appliquent au fini de façon à ce que, lorsqu’on les restreint aux cardinaux finis usuels, elles coïncident avec les règles connues. Il s’agit là d’un prolongement du fini dans le sens reçu du terme prolongement : quelque chose qui élargit le domaine de validité des opérations, à condition que, lorsque l’on restreint les opérations au domaine initial, on retombe sur ses pieds.

L’œuvre de Cantor a laissé pour les générations suivantes la question suivante : Y-a-t-il un cardinal intermédiaire entre celui du dénombrable et celui du continu?

-----

Hourya Benis Sinaceur a répondu aux questions de l’assistance.

- Question - S’il y a ainsi une succession de nombres transfinis, combien y en -t-il ? Quelle est l’infinité de cette succession d’infinis ?

- Réponse - Cantor établit une suite infinie de cardinaux transfinis. On n’en a pas manipulé beaucoup. La plupart du temps, on manipule le dénombrable et le continu, mais Cantor a établi toute une échelle des cardinaux transfinis. Il faut avant tout préciser qu’il n’y a jamais une parfaite symétrie entre la conception de l’infiniment petit et celle de l’infiniment grand. Comme on était habitué depuis l’invention du calcul infinitésimal à l’infiniment petit, on le manipulait très bien, et toute l’analyse classique a consisté à éliminer le terme “ infinitésimal ”, au profit de procédures purement algébriques (moyennant des quantificateurs bien placés, des inégalités, des epsilons, etc.). Depuis Lagrange, on a assisté à une algébrisation du continu qui n’a jamais vraiment réussi, mais qui était en cours. Ainsi l’analyse classique, tout en étant infinitésimale, a fait fond sur l’éviction des infinitésimaux au profit des opérations “ plus ”, “ moins ”, “ multiplier ”, avec signe d’inégalité, valeurs absolues, etc. Cette tentative d’algébriser l’infinitésimal donnait l’impression que l’infiniment petit avait un statut particulier. Aussi, Cantor qui fait tout pour installer l’infiniment grand dans une position actuelle, si l’on peut dire, n’inverse pas : pour lui, les infiniment petits ne sont pas de vrais infinis. Cantor est arrivé aux ensembles infinis de points à partir d’un travail sur l’expression de séries en sommes de cosinus et de sinus (les séries de Fourier) : la théorie des ensembles est fille de l’analyse classique qui évinçait l’infiniment petit. Pour déterminer le nombre de points de discontinuité d’une fonction, Cantor avait besoin de considérer comme des totalités achevées les ensembles de points : d’où sa défense de l’infiniment grand actuel et sa négation de l’infiniment petit. Il a fallu attendre les années 1960 pour que l’ “ analyse standard ” fasse sur l’infiniment petit le travail que Cantor avait fait sur l’infiniment grand. Le point de vue du calcul et le point de vue de la conception des choses que l’on manipule ne coïncident pas toujours, et il n’y a pas toujours eu parallélisme entre le statut de l’infiniment petit et celui et l’infiniment grand.

- Q - N’est-il pas impossible de manipuler les ordinaux tous ensemble ?

- R - On ne totalise pas, on ne fait pas pour l’échelle des transfinis ce que l’on fait pour la suite des nombres finis, sous peine de circularité.

- Q – Pouvez-vous donner quelques éclaircissements sur les formes de raisonnement liées au calcul et à la pensée mathématiques de l’infini ?

- R – Pour Leibniz l’invention d’un formalisme est d’une très grande fécondité. Un algorithme peut être utilisé dans des situations très diverses et de manière “ aveugle ”, car c’est une règle qui permet de calculer sans réfléchir ; le “ formalisme ” de Leibniz consiste à vouloir substituer le calcul aux idées. On fait moins d’erreurs si on réduit le raisonnement à une suite d’additions, de soustractions, etc. que si on raisonne en phrases. Hilbert a retrouvé cette veine dans son traitement de l’infini et de la déduction logique : un théorème est la dernière proposition d’une suite finie de formules. Hilbert croyait avoir piégé définitivement l’infini, même dans le raisonnement concernant des ensembles infinis, en cherchant à répondre à ceux qui (comme Kronecker et Poincaré) considéraient Cantor comme un théologien plutôt que comme un mathématicien. Il a formalisé le raisonnement logique utilisé dans les déductions mathématiques avec l’argumentation suivante : puisqu’une démonstration est une suite finie de formules, si on formalise une théorie mathématique en système formel, on n’a que du fini : un petit nombre d’axiomes et des règles de déduction elles aussi en nombre fini, permettent d’obtenir des théorèmes à partir des axiomes ; la confiance au raisonnement sur l’infini est donc fournie par l’instrument logique qui opère finitairement fini. On s’est demandé à ce propos si le tiers exclu (p ou non-p) qui s’applique dans le fini, peut s’appliquer à des collections infinies. Il y eut toute une controverse entre Hilbert et Poincaré. Celui-ci reprochait au premier de raisonner sur l’infini comme si on était dans le fini. Hilbert a adapté son argumentation afin qu’elle soit acceptée par ceux qui, comme Poincaré ou Kronecker, en restaient à l’idée que le seul infini des mathématiciens est l’infini potentiel, que le seul infini manipulable par eux est l’infini dénombrable.

- Q - Sur la question de l’infini, vous avez montré que les mathématiques Grecques sont liées à une ontologie, que mathématiques et ontologie ont été ensuite dissociées . Y a-t-il dans le travail de Cantor un retour vers la question philosophique de la réalité et comment le concevez-vous ?

- R - Hourya Sinaceur a réfléchi sur cette question dans un article qu’elle a consacré à Hilbert (Du formalisme à la constructivité : le finitisme, Revue Internationale de philosophie, n° spécial sur Hilbert, 1994). Elle pense que même le concept de nombre entier est un concept abstrait. C’est vrai que quand on dit “ cinq pommes ”, on peut facilement illustrer le nombre 5 en alignant des objets, et être tenté de conclure que les nombres finis ont une réalité puisque l’on peut les assigner à des collections accessibles par les sens, aidés ou non d’instruments. Nous sommes tentés de dire qu’il y a un référent réel. Il y a bien référent mais ce n’est pas un nombre. Il est constitué chaque fois par une collection, et pour accéder au nombre, on a utilisé déjà plusieurs fois le principe d’abstraction (en comparant cinq pommes, cinq chaises, etc. pour en extraire le concept du cinq, en effectuant la comparaison biunivoque entre des collections contenant des objets différents et réunies sous un même nombre grâce à cette corrélation bijective entre leurs éléments dont on a parlé plusieurs fois). Elle pense que le nombre 5 n’est pas dans la nature ; il n’y a dans la nature que des collections non dénombrées avant l’invention abstraite du nombre, lequel a un statut formel et non pas réel au sens où l’on dit que la table est réelle. Le nombre qui dénombre les éléments n’est pas réel comme le sont les éléments dénombrés, les pommes par exemple ou les chaises. Il faut dissocier la réalité nombrée et l’assignation d’un nombre à des éléments. Il y a d’un côté ce qui est proche de la perception et de l’autre ce qui n’est accessible que par des constructions mathématiques plus ou moins sophistiquées. Les plus “ simples ” nombres entiers sont déjà des constructions mathématiques et non des réalités physiques. Il y a cependant une réalité mathématique, un autre type de réalité qu’on appellerait une réalité formelle ; c’est en ce sens quelle pense, comme Cantor et Hilbert, que le nombre 5 et Aleph zéro ont un même type de réalité. Il ne s’agit pas dans l’un et l’autre cas d’une “ réalité ” homogène, car les mathématiques sont un amoncellement de constructions de plus en plus sophistiquées et dont la complexité est indéniable : il n’est pas aussi simple de manipuler les Alephs que de compter les pommes, mais, conceptuellement, c’est la même chose. Les mathématiques, c’est justement cela : le fait de décoller de la réalité sensible. L’engluement dans la réalité sensible rendrait impossibles les mathématiques.

- Q - L’existence de l’infini (ou d’un infini) n’est elle pas indémontrable ?

- R – On ne peut démontrer l’existence de l’infini dans un système formel. Les mathématiciens grecs se donnaient des grandeurs géométriques, parlaient déjà de la divisibilité à l’infini du continu (d’un segment de droite finie) et inversement de sa composition. Bolzano, Cantor disent qu’il suffit de prendre n’importe quel segment de la droite réelle pour avoir une idée de l’infini en pensant qu’il comporte un ensemble infini de points. On peut seulement imposer l’existence de l’infini par un axiome. C’est, en quelque sorte, un saut. Mais on ne démontre pas plus qu’il existe des nombres finis.

- Q – Ne faut-il pas dire que le fini ne se définit que par rapport à l’infini ? - R – Oui. C’est un renversement total dans l’histoire mathématique du concept mathématique d’infini et cela a été souligné par Dedekind (plus encore que par Cantor) puisque. Dedekind (dont les écrits majeurs sont parus dans les années 1870-1880) commence par définir l’équipotence de deux ensembles infinis. Un ensemble est infini s’il est équipotent à une de ses parties propres, et un ensemble qui ne satisfait pas à cette propriété est fini. Le fini devient tributaire d’un conception négative-privative alors que l’on est parti (dans les mathématiques Grecques) d’une conception inverse (de l’infini comme apeïron). Pour Dedekind, la notion la plus générale est celle d’ensembles infinis (de points, éventuellement, puisque l’on part de la géometrie) et le fini est un cas particulier. C’est pour cela que Hilbert, des philosophes des mathématiques comme Jean Cavaillès, repris par Gilles-Gaston Granger, Jean-Toussaint Desanti, ont dit que la véritable mathématique est celle de l’infini. Cela n’a pu se concevoir et se formuler qu’après Dedekind.

Hourya Benis Sinaceur conclut en s’adressant aux plus jeunes de l’assistance.

La question de l’infini inquiète et il est tout à fait rassurant d’entrer dans une science exacte donnant des règles opératoires et des raisonnements impeccables qui apprennent à apprivoiser l’infini et par conséquent à calmer une partie des inquiétudes. On peut reconnaître alors que la vie est finie, qu’il n’est pas absolument nécessaire de se préoccuper métaphysiquement de l’infini, qu’il vaut mieux cibler nos inquiétudes et les appliquer à ce qui nous entoure afin que les choses aillent un petit peu moins mal

_____

Hourya Benis Sinaceur est Directeur de recherche au CNRS.

Elle a publié notamment :

- Corps et modèles. Essai sur l’histoire de l’algèbre réelle (Vrin, 1991).

- Jean Cavaillès. Philosophie mathématique (PUF, 1994).

Elle a écrit de nombreux articles et contribué à des ouvrages collectifs, notamment :

- Le labyrinthe du continu (Colloque de Cerisy, Spinger-Verlag, 1992).

- Infini des mathématiciens, infini des philosophes (Belin, 1992).

Elle a traduit notamment :

- B. Bolzano : Les paradoxes de l’infini (Seuil, 1993).

- P. Bernays : Philosophie des mathématiques (Vrin, 2003).