Deux moments de la critique du calcul infinitésimal :
Michel Rolle et George Berkeley
1) La critique de Michel Rolle.
1-1) La critique des concepts et des principes fondamentaux. 1-2) Le nouveau calcul conduit à l'erreur.
1-2-1) Le cadre général de l'argumentation.
1-2-2) Le privilège accordé à la méthode de Hudde.
1-2-3) La construction des exemples.
2) La critique de George Berkeley.
2-1) L'absence de rigueur.
2-2) L'heureuse compensation des erreurs.
2-2-1) Première détermination de la sous-tangente.
2-2-2) Deuxième détermination de la sous-tangente.
C'est en 1684, dans le tout nouveau périodique les Ada Eru- diiorum, que Leibniz publie son texte fondateur du nouveau calcul
Rev. Hist. Sel., 1986, XXXIX/3
224 Michel Blay
différentiel : « Nova Methodus pro Maximis et Minimis, itemque Tangentibus, quae nec Fractas nec Irrationales Quantitates mo- ratur, et singulare pro illis calculi genus » (1). En 1686, Leibniz, également dans les Ada Erudiiorum, reprend la question dans un deuxième article au titre évocateur : « De geometria recondita et analysi indivisibilium infînitorum » (2).
Ainsi, dès les années 1684-1686, le nouveau calcul est présenté par Leibniz ; cependant, sa diffusion n'est pas immédiate. Celle-ci est essentiellement l'œuvre des deux frères Jacques Bernoulli (1655-1705) et Jean Bernoulli (1667-1748) (3). Ce dernier, en particulier, introduit le calcul leibnizien dans les milieux français d'inspiration principalement malebranchiste (4), à l'occasion de leçons données au marquis Guillaume de L'Hospital (1661-1704) en 1691-1692 (5). Finalement, les premiers textes dans lesquels le nouveau calcul est mis en œuvre explicitement à l'Académie
ABRÉVIATIONS :
— Registres des Procès-Verbaux des séances de V Académie royale des Sciences : Registres.
— Histoire de l'Académie royale des Sciences avec les Mémoires de Mathématique et de Physique pour la même année : soit Académie partie Mémoire, soit Académie partie Histoire.
Deux moments de la critique du calcul infinitésimal 225
royale des Sciences apparaissent à partir de 1693 (6) dans les Registres des Procès-Verbaux des séances de l'Académie royale des Sciences, d'abord sous les signatures du marquis de L' Hospital et de Pierre Varignon (1654-1722) (7), puis sous celles de Joseph Sauveur (1653-1716) (8) et de Thomas Fantet de Lagny (1660-1734) (9).
A la même époque, en 1696, le marquis de L'Hospital publie à Paris le premier traité de calcul différentiel (10) sous le titre : Analyse des infiniment petits, pour l'intelligence des lignes courbes. Ce traité est d'ailleurs fortement influencé par les leçons reçues de Jean Bernoulli.
Ainsi, lorsque Michel Rolle (1652-1719) engage le 17 juillet 1700,
RHS 8
226 Michel Blay
à l'Académie royale des Sciences de Paris (11), un débat concernant le calcul différentiel, nous sommes encore dans la prime jeunesse de ce nouveau calcul, dans les premières années de sa véritable diffusion.
En 1734, George Berkeley reprend, à l'occasion de sa rédaction de L'Analyste (12), la critique du nouveau calcul, bien que ses objectifs ne soient pas d'ordre essentiellement mathématique mais plutôt philosophique et théologique (13). Cependant, trente ans
Deux moments de la critique du calcul infinitésimal 227
se sont écoulés entre cette critique de George Berkeley et celle de Michel Rolle. Or, ces trente ans sont marqués par la réussite effective du calcul leibnizien, tant dans le domaine des mathématiques que dans celui de la mécanique.
Comment les succès du nouveau calcul vont-ils transformer le style des critiques dirigées à son encontre ?
LA CRITIQUE DE MICHEL ROLLE
La critique de Michel Rolle s'appuie sur deux arguments :
— l'un soulignant l'insuffisance et le manque de rigueur logique des concepts et principes fondamentaux du nouveau calcul ;
— l'autre consistant à montrer à l'aide d'exemples que le nouveau calcul conduit à l'erreur en ce sens qu'il ne donne pas les mêmes résultats que ceux obtenus en utilisant des méthodes classiques comme celle par exemple de Jean Hudde (1633- 1704) (14).
1 - La critique des concepts et des principes fondamentaux
Ce premier aspect de la critique, se rapportant aux « suppositions fondamentales », apparaît dans le premier Mémoire de
La critique de Michel Rolle
1 - La critique des concepts et des principes fondamentaux
228 Michel Blay
Rolle en date du 17 juillet 1700. Nous lisons dans les Registres des Procès-Verbaux de V Académie royale des Sciences :
« M. Rolle a commencé à lire un écrit contre les suppositions fondamentales de la géométrie des infiniment petits. On en a remis la suite au premier jour » (15).
La deuxième partie du Mémoire est présentée à la séance du mercredi 21 juillet 1700 :
« M. Rolle a fini son discours contre la géométrie des infiniment petits » (16).
Nous apprenons également par les Registres qu'à cette même séance Varignon a pris la décision de défendre le nouveau calcul contre les attaques de Rolle :
« M. Varignon s'est fait fort de répondre à ces discours au deffaut des principaux autheurs du calcul différentiel qui n'en sont guère informez » (17).
Ce premier Mémoire de Michel Rolle n'a pas été retranscrit dans les Registres. Cependant, nous pouvons connaître l'essentiel
Deux moments de la critique du calcul infinitésimal 229
de son contenu par la réponse de Varignon en date des samedi 7 et mercredi 11 août 1700 (18). Dès le mercredi 21 juillet 1700, les Registres indiquaient d'ailleurs :
« On verra dans ce Registre par les réponses de M. Varignon quelles étoient les objections de M. Rolle » (19).
Quelles sont donc les objections de Rolle ou, pour reprendre les premières lignes du Mémoire de Varignon, « les diffîcultez proposez par M. Rolle contre le calcul différentiel » (20) ?
Rolle présente trois « difficultés » (21) :
« Difficulté I. Si en géométrie il y a des infiniment grands, infinis les uns des autres ; et des infiniment petits, infiniment les uns des autres » (22).
230 Michel Blay
Cette première « difficulté » porte sur les différentielles d'ordre supérieur (23) et peut être rapprochée du passage enthousiaste de la préface de Fontenelle (24) à Y Analyse des infiniment petits :
« L'Analyse ordinaire ne traite que des grandeurs finies : celle-ci pénètre jusques dans l'infini même. Elle compare les différences infiniment petites des grandeurs finies ; elle découvre les rapports de ces différences : et par là elle fait connoitre ceux des grandeurs finies qui comparées avec ces infiniment petits sont comme autant d'infinis. On peut même dire que cette Analyse s'étend au-delà de l'infini : car elle ne se borne pas aux différences infiniment petites ; mais elle découvre les rapports des différences de ces différences, ceux encore des différences troisièmes, quatrièmes, et ainsi de suite, sans trouver jamais de terme qui la puisse arrêter. De sorte qu'elle n'embrasse pas seulement l'infini ; mais l'infini de l'infini, ou une infinité d'infinis » (25).
Le Fevre remarque très finement à propos de ce passage, dans son édition de 1786 « revue et augmentée » de Y Analyse des infiniment petits :
« Je ne sais pas si l'auteur avoit une idée nette de tous ces infinis ; quoiqu'il en soit, cette métaphysique est totalement inutile au calcul différentiel, qu'on peut établir sur des principes plus évidents, comme on le verra dans les notes que nous avons ajoutées à cet ouvrage » (26).
Considérons maintenant la deuxième « difficulté » :
« Difficulté II. Si une grandeur plus ou moins sa différentielle, peut estre prise pour égale a cette même grandeur » (27).
Deux moments de la critique du calcul infinitésimal 231
Le problème soulevé ici par Rolle vise l'une des clés de voûte de la pratique du nouveau calcul. Elle est exprimée dans la première « Demande ou Supposition » de Y Analyse des infiniment petits, et porte sur la possibilité de négliger l'accroissement de la variable par rapport à cette même variable :
« On demande qu'on puisse prendre indifféremment l'une pour l'autre deux quantités qui ne diffèrent entre elles que d'une quantité infiniment petite : ou (ce qui est la même chose) qu'une quantité qui n'est augmentée ou diminuée que d'une autre quantité infiniment moindre qu'elle, puisse être considérée comme demeurant la même » (28).
Considérons maintenant en dernier lieu la troisième « difficulté » : « Difficulté III. Si les différentielles sont des zéros absolus » (29).
La réponse de Varignon, qui s'appuie tout à la fois sur la méthode newtonienne des premières et dernières raisons (30), ainsi que sur la pratique des « géomètres » (31), est loin d'être satisfaisante. Elle consiste pour l'essentiel à affirmer que les infinitésimaux ne sont ni rien ni quelque chose, mais des évanescents :
« Mr. Rolle a pris les différentielles pour des grandeurs fixes ou déterminées, et de plus pour des zéros absolus ; ce qui luy a fait trouver des contradictions qui se dissipent dès qu'on fait réflexion que le calcul en question ne suppose rien de tel. Au contraire dans ce calcul la nature des différentielles consiste à n'avoir rien de fixe, et à decroistre incessamment jusqu'à zéro, Influxu conlinuo ; ne les considérant même qu'au point (pour ainsy dire) de leur évanouissement ; evanescentia divisi- bilia » (32).
Ou bien encore :
« Cette troisième difficulté vient encore du même défaut d'entendre que la seconde dans la solution de laquelle on voit que les différentielles sont toujours réelles dans le cours du calcul ou de l'opération à la fin seulement de laquelle elles deviennent des points tels que Mr. Rolle les
232 Michel Blay
demande, en ce que ce calcul ne les considère que comme s'anéantissant, mais non pas comme anéanties, c'est-à-dire seulement comme à la veille d'être tout à fait anéanties... Pour s'en convaincre il n'y a qu'à revoir ce qu'on a rapporté cy-dessus de Mr. Newton » (33).
En fait, Varignon ne répond pour l'essentiel que par un jeu de mots aux trois « difficultés » de Rolle, explicitant la nature paradoxale de l'infiniment petit. Ces trois « difficultés » vont rester d'ailleurs sous des formes voisines les points forts de toute la critique du nouveau calcul tant que ce dernier n'aura pas trouvé jusqu'au xixe siècle, dans les relations formelles, sa véritable essence (34).
Berkeley, en particulier, reprend presque mot pour mot, tout en les inscrivant dans sa perspective philosophique, les mêmes arguments trente ans plus tard. Ainsi, à propos des fluxions et des différentielles d'ordre supérieur, Berkeley s'exclame dans son style souvent polémique et vigoureux :
« Et il semble encore plus difficile de concevoir les vitesses abstraites de ces entités naissantes et imparfaites. Mais les vitesses des vitesses, les seconde, troisième, quatrième et cinquième vitesses, etc., dépassent, si je ne me trompe pas, tout entendement humain. Plus l'esprit analyse et poursuit ces idées fugitives, plus il se semble perdu et désorienté ; les objets d'abord, aériens et minuscules, s'évanouissent bientôt hors de la vue. A coup sûr, en quelque sens que ce soit, une seconde ou une troisième fluxion paraît être un obscur mystère. La vitesse commençante d'une vitesse commençante, l'accroissement naissant d'un accroissement naissant, c'est-à-dire d'une chose qui n'a pas de grandeur, considérez-la sous quelque jour qu'il vous plaît, vous découvrirez, si je ne me trompe pas, qu'elle est impossible à concevoir clairement ; qu'il en soit ainsi, ou non, j'en appelle à l'expérience de tout lecteur qui pense. Et si une seconde fluxion est inconcevable, que devons-nous alors penser des troisième, quatrième, cinquième fluxions, et ainsi de suite sans fin » (35).
Et, un peu plus loin :
« Tout comme il y a des première, seconde, troisième, quatrième, cinquième, etc., fluxions, il y a aussi des différences première, seconde, troisième, quatrième, etc., dans une progression infinie vers zéro, dont on s'approche toujours sans jamais l'atteindre » (36).
Deux moments de la critique du calcul infinitesimal 233
Puis finalement :
« En vérité on doit reconnaître que les mathématiciens modernes ne considèrent pas ces points comme des mystères, mais comme conçus clairement et maîtrisés par leurs esprits étendus. Ils n'hésitent pas à dire qu'à l'aide de cette nouvelle analyse, ils peuvent pénétrer jusque dans l'infini lui-même, qu'ils peuvent même étendre leurs vues au-delà de l'infini, que leur art embrasse, non seulement l'infini, mais encore l'infini de l'infini (comme ils disent), ou une infinité d'infinis » (37).
Dans ces citations, on peut apprécier à quel point que ce qui est nouveau et troublant pour Berkeley dans le calcul différentiel, ce n'est pas tant ce que recouvre l'adjectif, que ce que recouvre le substantif. Il s'agit bien d'un calcul, c'est-à-dire d'un mode opératoire s'effectuant à l'aide d'une écriture bien définie.
Berkeley stigmatise également l'utilisation dans les calculs mathématiques de la première « Demande ou Supposition » de V Analyse des infiniment petits :
« Et, d'une façon générale, l'on suppose qu'une quantité n'est rendue ni plus grande ni plus petite par l'addition ou la soustraction de son infinitésimale : et que, par suite, aucune erreur ne peut provenir du rejet des infinitésimaux » (38).
Quant à la troisième <c difficulté » soulevée par Michel Rolle, à savoir « si les différentielles sont des zéros absolus », George Berkeley en fait l'un des moteurs de sa critique en soulignant le caractère existentiel ambigu des infinitésimaux. Nous pouvons lire par exemple dans Y Analyste :
« J'admets qu'on puisse créer des signes pour dénoter quelque chose ou rien ; et que, par conséquent, dans l'expression primitive x + 0, 0 a pu représenter, soit un incrément, soit rien. Mais alors, quoique vous lui fassiez représenter, vous devez raisonner en conformité avec votre convention et ne jamais recourir à une ambiguïté » (39).
A ce premier aspect de la critique qui s'attache, comme nous venons de le voir, à démasquer et à souligner le manque de rigueur logique qui gît à la racine même de l'organisation conceptuelle
234 Michel Blag
du calcul des infinitésimaux, Rolle en ajoute un deuxième : le nouveau calcul, non seulement repose sur des bases douteuses, mais peut également conduire à l'erreur (40).
2 - Le nouveau calcul conduit à l'erreur
2-1 - Le cadre général de V argumentation. — Dans son principe, l'argumentation de Rolle est assez simple : il s'agit, à l'aide d'exemples choisis de façon pertinente, relatifs à la détermination des extrema de courbes particulières, de montrer que le nouveau calcul leibnizien conduit à l'erreur.
Mais, pour être en mesure d'affirmer qu'une certaine méthode conduit bien à l'erreur, il faut en posséder au moins une autre susceptible de servir de référence et dont les résultats sont, quant à eux et du fait de la mise en œuvre de cette méthode, marqués du sceau de l'exactitude.
Les méthodes qui vont jouer ce rôle dans la démarche de Rolle sont celles, purement algébriques, de Jean Hudde (41) et, à un moindre degré, de Pierre Fermât (1601-1665) (42). Ainsi, Rolle,
2 - Le nouveau calcul conduit à l'erreur
Deux moments de la critique du calcul infinitésimal 235
en adoptant comme critère les résultats acquis par ce type de méthode, se faisait par conséquent, comme le dit très justement Pierre Gostabel :
« le héraut d'un espoir, à savoir que toutes les questions relevant du contact, en géométrie analytique, devraient pouvoir se traiter par des équations exprimant soit un maximum, soit une racine double, grâce à des procédés purement algébriques » (43).
Les réponses de Varignon et de Saurin (1655-1737) porteront défînivement atteinte à cet espoir.
2-2 - Le privilège accordé à la méthode de Hudde. — Rolle présente un deuxième Mémoire à l'Académie royale des Sciences au cours des séances des 27 novembre et 1er décembre 1700 (44). Il y développe l'idée que le nouveau calcul différentiel, loin de donner les moyens de déduire la méthode de Hudde, comme l'affirme le marquis de L'Hospital dans Y Analyse des infiniment petits (45), n'est, comme l'écrit Rolle, « qu'un art de déguiser les méthodes trouvées par d'autres principes, par exemple celle de Mr. Hudde de Maximis et Minimis » (46).
236 Michel Blay
Ce privilège accordé à la méthode de Hudde doit maintenant être justifié (47). C'est l'objet des Mémoires suivants construits autour d'exemples précis.
2-3 — La construction des exemples. — Un troisième Mémoire est donc soumis par Rolle à l'Académie le samedi 12 mars 1701 :
« Mr. Rolle a lu un nouvel écrit contre la géométrie des infiniment petits qu'il n'a pas fini » (48).
Effectivement, la lecture de ce Mémoire se poursuit à la séance du mercredi 16 mars 1701 :
« Mr. Rolle a fini son troisième écrit contre la géométrie des inf. petits » (49).
Dans ces « troisièmes remarques » (50), Michel Rolle s'efforce donc de montrer, à l'occasion de l'étude de trois courbes, que la méthode des infiniment petits ne donne pas dans la recherche des maxima et des minima des solutions exactes. Dans le cadre limité de cet article, nous n'étudierons en détail que le premier exemple. Celui-ci permet tout à la fois d'illustrer le style des critiques avancées par Rolle et la pertinence des réponses proposées par Varignon.
Deux moments de la critique du calcul infinitésimal
237
Dans le premier exemple, Rolle considère « la courbe géométrique DD, qui se forme par le moyen de l'égalité B sur un axe AP, comme dans la première figure » (51).
Nous avons pour l'égalité B : g — b
, _ (xx — 2ax + aa — bb)
2/3
,1/3
Pour calculer les maxima et les minima de cette courbe, Rolle se propose d'appliquer la méthode des infiniment petits :
« Pour avoir les valeurs de x qui donnent les plus grandes et les plus petites appliquées de cette courbe, la méthode veut que l'on prenne la différence de l'égalité proposée, et si l'on suit les règles de l'analyse des infinis pour prendre cette différence, on la trouvera de même qu'on la voit en G » (52).
4x dx — Aa dx
3 \/axx — 2aax + a3 — abb
Puis, Rolle précise :
« Cela posé, la méthode veut que la valeur de dy soit égale à zéro, et l'on suppose dans cette méthode que cela arriveroit toujours si l'on détruisoit le numérateur » (53).
En écrivant alors que le numérateur E de l'expression G est nul, Rolle obtient x = a. La méthode des infiniment petits semble ne donner ici qu'une seule solution, or « si l'on y applique
238 Michel Blay
(à l'égalité B) la méthode de Mr. Hudde, on trouvera ces trois résolutions x = a -\- b, x = a, x = a — 6, qui se distinguent et qui se reconnoissent fort bien dans la première figure » (54).
Puisque la méthode des infiniment petits ne semble pas donner tous les maxima et minima que donne celle de Hudde, « on peut donc s'asseurer de là que cette géométrie conduit dans l'erreur » (55).
La réponse de Varignon en date du 9 juillet 1701 (56) est tout à fait remarquable en ce sens que ce dernier montre d'une part que l'application des méthodes différentielles n'a pas été faite correctement et, d'autre part, qu'il n'y a pas de contradiction entre la nouvelle méthode et celle de Hudde.
— Pour le premier point qui porte sur la mise en œuvre du calcul différentiel, Varignon montre que Rolle, comme l'écrit Montucla, « ne prend pas la règle du calcul différentiel en entier » (57). La courbe étudiée possède bien un maximum à tangente horizontale donné en faisant dy = 0, mais aussi deux minima à tangente verticale donnés en faisant dx = 0 ou dy = oo :
« L'on aura 1° x = a, en faisant dy = 0 ; et 2° x = a — 6 ou x = a -f 6, en faisant dy infinie par rapport à dx, ou dx = 0. D'où l'on voit que si la courbe cherchée a quelque maximum ou minimum qui réponde à une tangente parallèle à l'axe AP, ce ne peut être qu'à l'extrémité de x = a; et que si elle en a qui réponde à des touchantes qui se confondent avec eux, c'est-à-dire (hyp.) à des touchantes perpendiculaires à cet axe, ce ne peut être non plus qu'à l'extrémité de x = a — b, et de x = a -\- b. De sorte qu'en prenant A pour l'origine des x, A(P) = a, et de part et d'autre (P) P = b ; ces trois valeurs de x successivement substituées dans l'égalité B proposée, donnent
(P) (D) = 6 + 6 /- pour un maximum qui se termine à une tangente V cl
parallèle à l'axe et (de part et d'autre) PD = 6 pour deux minima confondus avec les tangentes en D, D » (58).
Deux moments de la critique du calcul infinitésimal
239
Cette analyse permet alors à Varignon de corriger la forme de la courbe donnée par Rolle :
« Ce qui donne à la courbe cherchée la forme qu'on luy voit icy... jusqu'aux points d'inflexion 8, 8 ; au lieu que Mr. Rolle la croit faite comme dans la fig. 1 » (59).
Fig.
2
— Quant au deuxième point, Varignon montre qu'il n'y a pas de contradiction entre les résultats donnés par le nouveau calcul et par la méthode de Hudde : c'est Rolle qui applique une fois de plus de façon incomplète la méthode de Hudde.
Cette méthode, en termes modernes (60), permet d'obtenir soit les tangentes à l'axe des x, soit celles à l'axe des y :
Dans le cas des tangentes à l'axe des x :
F{x) = a{y — b)* = {x2 — 2ax + a2 — b2)2 F'{x) = x3 — 3ax* + 3a2 x — b2 x — a3 + ab2. Et F'(x) =0 si x = a, x = a + 6, x = a — b.
Nous obtenons bien les trois racines données par Rolle. Dans le cas des tangentes à l'axe des y :
Et G'(y) =0 si y = b (racine double).
Or, si y = 6, alors a + b et a — b sont racines de x2 — 2ax + a2 — b2 = 0. Par conséquent, pour reprendre les termes de Varignon dans sa lettre à Jean Bernoulli du 24 mars 1701 :
« Donc, des trois racines de a? — Saxx + 3aax — a3 — bbx + abb = 0, il n'y a que x — a = 0 qui donne un maximum terminé à une touchante
240 Michel Blay
parallèle à l'axe ; et les deux autres y — a — 6 = 0, x — a + 6 = 0, seulement des minima confondus avec des touchantes perpendiculaires à l'axe. »
Ainsi, non seulement le nouveau calcul donne bien tous les extrema, mais il permet également de mieux appréhender les propriétés de la courbe.
Rolle construit, toujours dans son troisième Mémoire, un deuxième exemple contraire au premier, en ce sens que la mise en œuvre de la méthode des infiniment petits donne suivant ce dernier un excédent d'extrema :
« On a vu dans l'exemple de l'article précédent que les règles particulières du calcul différentiel ne donneroient qu'une partie des résolutions que fournit la méthode de Mr. Hudde, et l'on verra icy au contraire que ce calcul en donne davantage que cette méthode. Mais l'on verra en même tems que c'est un autre inconvénient de la géométrie transcendante » (61).
Rolle construit ensuite son troisième exemple dans lequel la méthode des infiniment petits fournit d'après lui une solution imaginaire alors que la méthode de Hudde en donne une réelle :
« Voicy des remarques qui sont différentes de celles que je viens de proposer et qui paroissent considérables. Car il y auroit une infinité d'exemples sur la méthode générale de Maximis et Minimis qu'on propose dans la géométrie transcendante, où le zéro et l'infini donneroient des valeurs réelles qui ne fourniroient rien de réel pour le problème proposé, et néanmoins cette méthode feroit regarder ces valeurs comme si elles pouvoient servir à le résoudre. De manière qu'il faudroit une méthode supérieure pour reconnoitre que ces valeurs réelles ne donneroient que des résolutions imaginaires, et pour reconnoitre aussy que le problème n'est pas impossible, ny même insoluble par d'autres moyens. Ce qui marque le plus considérable de tous les inconvénients que l'on puisse concevoir dans une méthode » (62).
Dans le cas de ces deux nouveaux exemples, la réponse de Varignon (donnée dans ses 4e et 6e écrits ; le 4e est daté du samedi 6 août 1701, Registres, t. 20, f° 287u-289r; pour les 5* et 6e, voir infra, n. 65 et 66) est tout aussi pertinente que dans celle relative au premier. Ce qui est clair, c'est que la méthode des
Deux moments de la critique du calcul infinitésimal 241
infiniment petits permet de mieux appréhender la forme des
courbes et de distinguer, en particulier dans le troisième exemple,
les vrais maxima et minima d'avec les points d'intersection (63).
Rolle va encore présenter à l'Académie deux Mémoires :
— Le premier daté du vendredi 21 mai 1701 n'est pas reproduit dans les Registres. Ces derniers n'en donnent qu'un bref compte rendu où transparaissent déjà les premiers signes de l'irritation provoquée dans les milieux académiques par cette polémique dont le tour devient trop personnel :
« M. Rolle a lu une réponse à la dernière réponse de M. Varignon mais comme cette réponse contenoit une grande quantité de choses purement personnelles et qui n'alloient point à la question, M. le Président a réglé que désormais M. Rolle donneroit ses objections contre les infiniment petits simplement avec leurs démonstrations sans aucun autre discours, et que M. Varignon y répondroit de même » (64).
— Le deuxième est daté du samedi 2 juillet 1701. C'est le cinquième et dernier écrit de Rolle dans le cadre du débat avec Varignon : « Cinquième remarque sur les principes de la géométrie » (65).
Rolle, dans cette nouvelle analyse, ne fait pour l'essentiel que reprendre le type de critiques qu'il a déjà avancé dans ses autres Mémoires. La réponse de Varignon souligne bien sûr les mêmes difficultés que précédemment.
C'est alors qu'une Commission est nommée par l'Académie le
242 Michel Blay
samedi 3 septembre 1701 (66) pour en finir avec ce débat qui empoisonne la vie scientifique :
« Comme la dispute des infiniment petits traînoit trop en longueur M. l'abbé Bignon a nommé pour commissaires devant qui tout se passera le P. Gouye, Mrs Gassini et de la Hire » (67).
Après quelques mois d'accalmie, Rolle relance le débat, non plus à l'Académie, mais dans le Journal des Sçavans dirigé par l'abbé Gouye, du jeudi 13 avril 1702, à propos de la détermination des tangentes à une courbe en un point multiple (68).
Varignon abandonne alors la plume à Joseph Saurin (69). Cependant, si les exemples changent, le principe de Pargumenta-
Deux moments de la critique du calcul infinitésimal 243
tion, s'appuyant sur le bien-fondé des méthodes classiques, de « l'analyse ordinaire », reste le même. Cette deuxième phase du débat va s'étendre jusqu'en 1705-1706.
LA CRITIQUE DE GEORGE BERKELEY
Lorsque trente ans plus tard George Berkeley publie UAna- lyste, la situation du calcul différentiel a beaucoup changé. Ce calcul a eu le temps de prouver sa fécondité tant en mathématiques qu'en mécanique, et l'exactitude de ses résultats ne peut plus être, comme pour Rolle, un objet de critique. Ce ne sont donc plus les résultats que Berkeley va mettre en cause, en utilisant comme Rolle d'autres méthodes considérées comme plus sûres, mais bien plutôt la démarche par laquelle les mathématiciens et les mécaniciens y sont parvenus :
« Je ne discute en rien vos conclusions, mais seulement votre logique et votre méthode. Comment démontrez-vous ? de quels objets vous occupez-vous et les concevez-vous clairement ? avec quels principes progressez-vous ? quelle en est la validité ? et comment les mettez-vous en œuvre ? Il faut bien rappeler que je ne m'occupe pas de la vérité de vos théorèmes, mais seulement de la manière d'y parvenir ; est-elle légitime ou illégitime, claire ou obscure, scientifique ou tâtonnante ? Pour prévenir toute possibilité de méprise sur mes intentions, je me permets de le répéter et d'y insister, je considère l'analyste géomètre en tant que logicien, c'est-à-dire dans la mesure où il raisonne et argumente, et ses conclusions mathématiques, non pas en elles-mêmes, mais en rapport avec leurs prémisses, non pas comme vraies ou fausses, utiles ou de peu d'importance, mais comme dérivées de tels principes et par telles inferences » (70).
En fait, pour Berkeley, si le nouveau calcul donne des résultats exacts, ce ne peut être qu'à l'issue de manipulations douteuses ne relevant pas de la science :
« Et comme cela peut paraître un paradoxe inexplicable que les mathématiciens puissent déduire des propositions vraies de principes faux, qu'ils soient corrects dans leurs conclusions et pourtant s'égarent dans les prémisses, j'essaierai avec un soin particulier d'expliquer pourquoi cela peut se produire et de montrer comment l'erreur peut engendrer la vérité, bien qu'elle ne puisse engendrer la science » (71).
La critique de George Berkeley
244 Michel Blay
La critique de Berkeley va donc s'organiser, dans L'Analyste essentiellement, en deux temps (72) :
— montrer tout d'abord que les principes, concepts et règles fondamentales du nouveau calcul manquent de rigueur, sont erronés ou insuffisants ;
— puis ensuite, puisque l'on doit convenir néanmoins que le nouveau calcul donne des résultats exacts, montrer que cela n'est possible qu'au prix d'un jeu de compensation des erreurs dans la démarche même conduisant aux résultats.
1 — L'absence de rigueur
Nous avons déjà indiqué précédemment que Berkeley reprend pour l'essentiel les trois « difficultés » avancées par Rolle dans son Mémoire du 17 juillet 1700 concernant les principes et concepts du nouveau calcul (73).
Berkeley précise cependant sa position en analysant en détail les calculs de la fluxion et de la différence d'un produit et d'une puissance.
Le raisonnement de Newton, tiré des Philosophiae Naluralis Principia Malhemalica, et que rappelle Berkeley, est très simple
1 — L'absence de rigueur
Deux moments de la critique du calcul infinitésimal 245
dans sa forme (74) : Newton se propose de calculer le moment (75) du produit A.B par un encadrement, en retranchant l'un de l'autre les produits obtenus, d'une part en ôtant à chacun des côtés son demi-décrément et, d'autre part, en ajoutant à chacun son demi-incrément :
)A.B+aB+&A + a6
P2 — px = àB + bA.
Berkeley pour sa part considère que ce sont les incréments en totalité, a et 6, qu'il faut prendre en compte dans le calcul (76).
Pi = AB P£ = (A + a) (B + 6) = AB + àB + bA + ab P£ — Pi = aB + bA + ab.
Dans ce cas, le résultat exact ne peut être acquis qu'en négligeant la quantité ab qui est en fait le produit de deux infinitésimaux. Or, Newton ne donne aucune justification de sa procédure, si ce n'est d'une part que ~ a — I ~- 1 = a et, d'autre
part, qu'elle permet de se débarrasser des termes du deuxième ordre sans les négliger puisqu'ils disparaissent d'eux-mêmes dans
246 Michel Blay
le calcul newtonien. Berkeley a donc beau jeu de se moquer de Newton et de le mettre en contradiction avec lui-même en extrayant d'un ouvrage postérieur aux Principia, le Tradaius de Quadralura CuTvarum (77), la phrase : « in rebus malhematicis errores quant minimi non sunl coniemnendi » (78).
A l'issue de cette première analyse, Berkeley ne manque pas de conclure :
« Qu'un tel raisonnement soit pris pour une démonstration, seule l'obscurité du sujet a pu inciter ou pousser le grand auteur de la méthode des fluxions à l'imposer à ses disciples, et seul un respect tacite à l'autorité a pu les conduire à l'admettre. A vrai dire, le problème est difficile. Rien ne peut se faire tant que vous ne vous êtes pas débarrassé de la quantité ab. Pour y parvenir on module la notion de fluxion : on la considère sous différents angles si bien qu'on embrouille des idées qui, en tant que principes premiers, auraient dû être claires ; et que les termes qui auraient dû être employés constamment dans le même sens sont ambigus » (79).
Berkeley se tourne alors une nouvelle fois vers le Tradaius de Quadralura Curvarum, qui marque une évolution dans la pensée newtonienne, et note ironiquement :
« Mais, comme il y a eu, semble-t-il, quelque scrupule personnel ou une conscience intime du défaut de la démonstration précédente, et comme la découverte de la fluxion d'une puissance donnée est un point de première importance, on a donc jugé bon de démontrer la même chose d'une manière différente indépendante de la démonstration précédente. Mais cette autre méthode est-elle plus légitime et plus concluante que la première ? » (80).
Le raisonnement de Newton, tiré de l'introduction du Trac- lalus, se ramène en fait à l'étude d'un rapport de la forme :
A _ {x + 0) — x _ 0
~~ {x + 0)n — x»~~{x + 0)n — x» lorsque 0 tend vers zéro (81).
Deux moments de la critique du calcul infinitésimal 247
En suivant Newton, nous obtenons comme « dernière raison » (« ratio ultima »), lorsqu'on fait s'évanouir 0, après avoir utilisé
le binôme de Newton et divisé par ce même 0. — — r.
Pour Berkeley, il y a chez Newton une contradiction dans le fait de dire que a: a un incrément puis de faire s'évanouir cet incrément pour parvenir au résultat. C'est une illustration de la « difficulté III » de Rolle, adaptée au calcul des fluxions (82). Berkeley précise sa critique en remarquant que le résultat ne peut être obtenu qu'en adoptant un certain ordre dans les opérations. Il faut diviser par 0 avant de le faire tendre vers zéro ; en inversant
les opérations, on obtient une expression de la forme -^ (83) :
« Aussi êtes-vous entraîné à user de ce procédé sophistique qui consiste à progresser jusqu'à un certain point avec l'hypothèse d'un incrément, puis de lui substituer d'un coup votre hypothèse d'un incrément nul. Cela peut paraître très habile d'agir ainsi à un certain point ou à un certain moment, puisque, si cette seconde hypothèse avait été faite avant la division commune par 0, tout se serait évanoui d'un coup, et vous n'auriez rien obtenu par votre hypothèse. Tandis que, par cet artifice de diviser d'abord, puis de changer votre hypothèse, vous conservez 1 et nxn~1. Mais, malgré toute cette adresse pour le masquer, le sophisme reste le même. Car, qu'on le commette plus tôt ou plus tard, dès que vous formez la seconde hypothèse ou supposition, à cet instant même, la première hypothèse, et tout ce que vous avez obtenu grâce à elle, est à la fois détruite et éliminée. Et c'est universellement vrai, quel que soit le sujet dans toutes les branches du savoir humain ; il n'y en a aucune autre, je crois, où l'on accepterait sans résistance un raisonnement comme celui-ci qui, en mathématique, est admis sans démonstration » (84).
Jusqu'à présent, Berkeley n'a considéré que le cas du calcul des fluxions. Celui du calcul leibnizien des différences n'est
248 Michel Blay
qu'effleuré, à ce moment, du fait de la similitude existant pour Berkeley dans les deux démarches :
« II n'est peut-être pas mauvais d'observer que la méthode pour trouver la fluxion du rectangle de deux quantités fluentes, telle qu'elle est exposée dans le Traité des Quadratures, diffère de la méthode indiquée ci-dessus qui est tirée du second livre des Principes, et qu'elle est en réalité identique à celle qu'on utilise dans le Calculus differentialis. Car, supposer qu'une quantité diminue infiniment, et en conséquence la rejeter, c'est en réalité rejeter un infinitésimal ; et, en vérité, il faut une merveilleuse finesse de discernement pour être capable de faire la distinction entre des incréments évanouissants et des différences infinitésimales » (85).
Comment des méthodes aussi peu rigoureuses peuvent-elles conduire finalement à des résultats exacts ? C'est là un grand mystère que Berkeley va s'efforcer de tirer au clair.
2 - Uheu.reu.se compensation des erreurs
Pour rendre compte de cette étrange situation dans laquelle se trouve le nouveau calcul, Berkeley avance sa thèse de la compensation ou de la rectification des erreurs. Pour Berkeley, deux erreurs égales et contraires ont dû se compenser l'une l'autre au cours de la procédure, pour conduire à l'obtention d'un résultat exact par les méthodes infinitésimales.
Berkeley va établir sa thèse en s'appuyant principalement sur deux exemples se rapportant à la détermination de la sous-tangente à une parabole (86).
2-1 - Première détermination de la sous-tangente. — Le raisonnement de Berkeley s'organise autour du problème de la déter-
2 - L'heureuse compensation des erreurs
Deux moments de la critique du calcul infinitésimal
249
mination de la sous-tangente à une parabole par les méthodes infinitésimales. Sa démarche s'effectue en trois étapes (87).
R N
— Première étape : Expression de la sous-tangente TP en fonction des différences dx, dy.
Berkeley pose AP = x, PB = y, PM = dx et RN = dy. Si l'on ne considère que des accroissements très petits, les triangles BRN et TPB peuvent être dits semblables :
— - PB soit EL- y rt PT - y dx RB ~ PT SOlt dx " PT et F1 " dy'
Mais en confondant la courbe avec sa tangente, on a à strictement parler négligé NL. Aussi, dans la proportion précédente, ce n'est pas RN mais RL qui doit apparaître ; soit en posant NL = z :
5| = p5 Soit PT =
= j~~rz
d'où Erreur n"l = z (88).
— Deuxième étape : Recherche d'une relation entre les différences caractérisant la courbe (parabole : y2 = px).
Par la règle du calcul des différences, nous obtenons :
2ydy = pdx [1]
Mais on peut également, sans appliquer cette règle, faire un calcul direct : si y devient y + dy et x, x + dx, nous pouvons écrire (y + dy)* = p(x + dx). En développant et en tirant dy, nous obtenons :
_ p dx dy2
[2]
250 Michel Blay
Si nous comparons les expressions [1] et [2], il apparaît bien
du2 que l'expression [1] excède l'expression [2] de -£-.
du2 y
D'où Erreur n«2 = — ^-.
Ainsi, au cours de la première étape, nous avons obtenu l'expression de la sous-tangente en fonction des différences dx et dy, expression inexacte puisque z est omis au dénominateur. Au cours de la deuxième étape, nous avons obtenu une relation entre les différences, caractéristique de la parabole considérée, mais relation
du2 inexacte puisque —- n'est pas retranché. Or, la combinaison des
deux expressions inexactes permet d'obtenir une expression bien déterminée de la sous-tangente et déjà connue des Grecs :
ydx
TP - 2x
—
dy y dx ~2x
Berkeley en conclut que les deux erreurs propres aux deux expressions doivent, d'une façon ou d'une autre, se compenser pour donner le bon résultat :
« Donc, les deux erreurs étant égales et contraires, elles se détruisent l'une l'autre, la première erreur par défaut se trouvant corrigée par une seconde erreur par excès » (89).
Un calcul simple éclaire la situation : PT ydx
1 1 si r ri // r tin**
D'après Berkeley : PT = -^=- et dy = £i^_ §L.
D'où PT =
Or, il apparaît que cette expression de PT est égale à 2x à
,.,. dy2
condition que : z = -£-. 2y
C'est dans la troisième étape que Berkeley établit cette dernière égalité.
Deux moments de la critique du calcul infinitésimal
251
du2 — Troisième étape : Comparons les erreurs z et -—-.
Berkeley pose m = BR = dx, n = RN = dy (par la trente- troisième proposition d'Apollonius, TP = 2x). Les triangles TPB et BRL sont semblables :
TP PB
BR RL
2x ou — =
y
m
., , mu
. soit n + z = Tj-2- n -f- z 2n
[3]
D'après la nature de la parabole : y2 + 2yn -f- n2 = px + pm '•>
d'où m = — — — — . Soit en remplaçant m et x par leur valeur
, ,, . ro, , 2yn + n2 P , • v
dans 1 expression [3] : n + z =* — — ! y ~-^; après simph-
r f. na dy2 P Zy
ncation : z = ^r- = -jf-, 2y 2i/
Nous obtenons finalement l'hypothèse de Berkeley, à savoir que dans la procédure employée des erreurs égales et contraires se sont détruites :
a Si vous n'aviez commis qu'une seule erreur, vous ne seriez pas arrivé à la solution vraie du problème. C'est par la vertu d'une double erreur que vous parvenez, sinon à la science, du moins à la vérité » (90).
2-2 - Deuxième détermination de la sous-iangenle. — Le raisonnement de Berkeley s'organise ici autour du problème de la détermination de la sous-tangente en utilisant les propriétés de la sous-sécante (91).
252 Michel Blay
Berkeley pose AN = x, NR = y, NO = y, PS = z. La sous- sécante MN = s ; la courbe considérée est toujours une parabole y = x2 (p = 1 dans ce cas). Lorsque y devient y + dy = x + zr x devient x + dx = x + y, d'où y + z = (# + y)2 et z = 2#y + *>*•
Par ailleurs, les triangles PRS et RMN sont semblables :
PS NR ., z y ,, , yy
tTd = ^T77 S0lt ~ = d'Où S = — .
PR NM y s z
Berkeley remplace alors y et z par leurs valeurs dans l'expression de s :
vx2 „ . x2
s = s ; — -9 d'où s =
2xv + y2 »c -h y
Si NO diminue infiniment, alors S se rapproche de R, les points M et L ainsi que la sous-sécante et la sous-tangente coïn-
x cident : s = NL = ^. On obtient le bon résultat bien que l'on
n'ait fait, semble-t-il, qu'une seule erreur (on a négligé un seul infinitésimal). En fait, Berkeley montre qu'il y a dans ce cas, comme dans le précédent, une compensation d'erreurs : tout d'abord, la sous-sécante ne pouvant jamais coïncider exactement avec la sous-tangente, MN sera toujours plus petit que NL, et donc s sera toujours inférieur à la valeur de NL ; en deuxième
x2 lieu, en négligeant y dans l'expression de s = ~ — — — , on a donné
à s une valeur plus grande qu'elle n'est en réalité :
« Mais, si l'on considère ce point plus à fond, nous trouverons qu'il y a même ici une double erreur, et que l'une compense ou rectifie l'autre. Car, en premier lieu, on supposait que, lorsque NO est infiniment diminué ou devient un infinitésimal, la sous-sécante NM devient égale à la sous- tangente NL. Mais ceci est une erreur manifeste ; car, évidemment, de même qu'une sécante ne peut pas être une tangente, de même une sous- sécante ne peut pas être une sous-tangente. Si petite que soit la différence, il y a pourtant encore une différence. Et si NO est infiniment petit, il y aura encore une différence infiniment petite entre NM et NL. Donc, NM ou s était trop petit pour votre hypothèse (lorsque vous le supposiez égal à NL), et cette erreur était compensée par une seconde erreur en rejetant v, cette dernière erreur rendait s plus grand que sa valeur véritable, et lui donnait à la place la valeur de la sous-tangente. Voilà la véritable situation de ce cas, quelque masquée qu'elle soit » (92).
Deux moments de la critique du calcul infinitésimal 253
Nous retrouvons donc bien ici, comme dans le premier cas, le principe berkeleyen de compensation des erreurs.
Berkeley enrichit alors sa critique dans L'Analyste par quelques exemples qui, cependant, reprennent pour l'essentiel les mêmes conclusions (93). Il développe également de multiples réflexions sur le maniement des symboles, des signes et des notations algébriques, réflexions inspirées assez largement par ses thèses philosophiques (94).
Tout en étant une critique du nouveau calcul, que ce soit celui des fluxions ou celui des différences, le style du travail de Berkeley, si on le compare à celui de Rolle, met surtout en lumière tout à la fois la réussite formidable du nouveau calcul — l'exactitude des résultats n'est plus mise réellement en cause — et le pari intellectuel des pionniers qui, par-delà les critiques des fondements, ont cru dans la fécondité des nouveaux concepts.
Bien sûr, en 1734, ces problèmes de fondements restent entiers, et Berkeley a raison de le souligner avec force, mais l'apprentissage progressif des mathématiciens et des mécaniciens, l'extension continuelle du champ d'applications du nouveau calcul, vont rendre possible une réflexion rigoureuse qui aboutira au xixe siècle aux travaux de Gauchy et de Weierstrass (95).
CNRS Michel Blay.