Brouwer : Le Dr Jekyll et Mr Hyde des mathématiques
Jean-Christophe San Saturnino.

Bonjour à tous, merci. C’est un plaisir d’avoir été introduit par un philosophe, cela renforce les liens millénaires entre philosophie et mathématique.
Brouwer, mathématicien du XXe siècle, le Dr Jekyll et Mr Hyde des mathématiques. Je commencerai par quelques repères biographiques pour vous présenter un peu le « personnage » plein de mystères. Nous verrons par la suite le théorème du point fixe, un de ses travaux les plus exceptionnels en topologie générale et deux applications extrêmement surprenantes, comme vous le verrez. Enfin nous parlerons de sa théorie intuitionniste avec le refus du tiers-exclu avec les conséquences que cela peut avoir philosophiquement et mathématiquement parlant.
Brouwer naît aux Pays-Bas dans la banlieue de Rotterdam en 1881. Il se lance dans des études mathématiques à l’université d’Amsterdam. Vous remarquerez qu’il avait seulement 16 ans quand il est rentré à l’université (il était évidement précoce mathématiquement parlant comme beaucoup de matheux). En 1905, il publie « vie, art et mysticisme » un opuscule extrêmement provocateur dans lequel il va parler de son désamour pour le progrès scientifique et prône le retour à la nature. Cela est extrêmement surprenant pour un scientifique car il explique que le progrès ne sert à rien, il met en avant son caractère bien particulier, bien trempé. Il écrit ce texte très jeune et avant sa thèse.
En 1907, il devient docteur en mathématiques. Dans sa thèse de doctorat, il se permet de donner ses points de vues philosophiques sur la mathématique s’opposant clairement aux mathématiques classiques et notamment au platonisme dont on parlera plus tard.
En 1909, il part à Paris et rencontre Hadamard, Poincaré et Borel. Pourquoi parler de cette rencontre ? Elle est en fait extrêmement importante: déjà pour mettre en avant l’école française de géomètres très influente au début du XXe siècle. De plus cette école française est aussi appelée l’école des pré intuitionnistes ou constructivistes qui vont grandement l’inspirer pour ses travaux futurs. Remarquons aussi que Poincaré est un grand spécialiste de la topologie combinatoire que l’on appelait « annalysis situs » et qui va inspirer les futurs travaux de Brouwer. En 1911, il publie le théorème du point fixe, le théorème qui nous intéresse. Très rapidement après sa thèse, il développe toute une théorie topologique générale avec laquelle il va notamment démontrer le théorème du point fixe, l’invariance de la dimension, le théorème de la boule chevelue (je vous en parlerai plus tard).
En 1912, il est nommé professeur à l’université d’Amsterdam. Son premier cours inaugural n’a rien à voir avec ses travaux de topologie, il s’engage de suite dans l’intuitionnisme et contre le formalisme qu’il va immédiatement critiquer. Il ne fera en fait jamais cours de topologie dans sa vie.
En 1928, il est exclu du conseil éditorial des Mathematische Annalen par Hilbert. Les mathématiques avancent sous forme de publication, il faut publier pour être reconnu, Brouwer était dans un comité éditorial, ce comité était dirigé par Hilbert, Hilbert était un formaliste, Brouwer était un intuitionniste, Einstein disait que c’était la bataille des rats et des grenouilles, cela a finit par le fait que Hilbert exclu Brouwer de ce conseil. Il va créer sa propre revue Compositio Mathematica, très réputée parmi les mathématiciens. Malheureusement, il sera exclu de sa propre revue car le personnage étant particulier, il aura une indulgente neutralité envers l’occupant nazi durant la guerre et n’aura aucun souci lorsqu’un de ses élèves juifs sera déporté. Il décède le 2 décembre 1966 à Blaricum, c’était son fief, le château duquel il ne sortait jamais. Il n’était pas intéressé par le reste de la société. Remarquez cette photo de lui faisant cours, il avait pour habitude de faire cours debout, dans un silence de cathédrale et il ne fallait surtout pas l’interrompre. Il aimait réfléchir seul, dans sa chambre allongé sur son lit ou assis parterre en tailleur. Il vivait dans le monde des idées, fait qui est très important pour comprendre sa philosophie intuitionniste.
Pour parler du théorème du point fixe commençons par un théorème que tous les lycées connaissent bien surtout les élève de terminale, le théorème des valeurs intermédiaires. On dispose d’une fonction continue sur un segment, elle part d’une valeur négative, arrive vers une valeur positive, elle va donc passer plusieurs fois par l’axe des abscisses, c’est-à-dire qu’il va y avoir plusieurs zéros, il va exister au moins un réel dans le segment qui va annuler la fonction. À partir de ce théorème on peut en déduire le théorème du point fixe sur un segment. Prenons une fonction f définie sur un segment [a,b] et à valeur dans un segment, continue, considérons la fonction f(x)-x pour x dans le segment. Elle est toujours continue sur le segment. On remarque que f(a) est positif, f(b) est négatif, d’après le théorème des valeurs intermédiaires, il existe une valeur dans le segment qui annule la fonction définie par f(x)-x et donc l’image par f de cette valeur est égale à elle même, c’est un point fixe de la fonction f.
Avec un schéma, la courbe représentative de f se trouve dans un carré: que veut dire le fait que f ait un point fixe ? Cela veut dire que la courbe rencontre au moins une fois la diagonale du carré. L’utilité de ce théorème pour nos élèves de terminale est pour les suites définies par récurrence à partir de la fonction f. Si la suite converge, elle le fera vers un point fixe.
Essayons de généraliser le théorème du point fixe qui dit, en dimension 1, qu’une fonction continue sur un segment à valeur dans ce segment admet au moins un point fixe, c’est-à-dire un point qui est sa propre image, il est invariant par f. En dimension 2, l’équivalent du segment est un disque fermé et en dimension 3 ce sera une boule fermée. En toute généralités, le théorème du point fixe s’énonce comme suit: soit f une fonction continue d’une boule fermée d’un espace euclidien (notre espace géométrique habituel, un espace vectoriel réel de dimension finie muni d’un produit scalaire) dans elle-même admet un point fixe. Pourquoi avoir mis une image de café ? Parce que Brouwer a dit que c’est un matin en remuant son café qu’il a eu l’idée de son théorème, il s’est rendu compte q’un point ne bougeait jamais. en fait votre tasse de café peut être assimilée à une boule fermée d’un espace euclidien et donc tous les matins quand vous remuez votre café vous appliquez le théorème du point fixe et un point ne bouge pas ! C’est formidable ! Première application surprenante mais il y en a bien d’autres !
Le théorème de la boule chevelue s’énonce ainsi: tout champs de vecteurs continu sur une sphère de dimension paire s’annule une fois au moins. Ce qui est beau avec les mathématiques c’est que cela paraît toujours mystérieux mais cela ne l’est pas vraiment. Un champs de vecteurs continu revient à se donner en chaque point de l’espace une petite flèche, un vecteur en fait. Contrairement à ce que l’on s’imagine parfois au lycée, les vecteurs ne sont pas répartis n’importe où dans le plan, ils partent tous d’un même point fixé, mais ici c’est le cas puisque l’on considère un champs de vecteurs. Par exemple sur une boule je mets des cheveux, attention on prend bien une boule car sa surface est une sphère de dimension 2, sur un cercle ce n’est pas possible car de dimension 1. Dire que le champs de vecteur s’annule au moins une fois veut dire que je ne peux pas peigner la boule, il y a toujours un épi ! Ce théorème veut dire que le matin vous ne pourrez pas vous peigner parfaitement, vous aurez toujours un épi ! C’est surprenant, on ne s’attend pas à ce que les mathématiques puissent influer sur notre coiffure ! N’essayez pas de supprimer votre épi, c’est impossible !
Il y a bien sûr d’autres applications plus utiles du théorème de la boule chevelue notamment en météorologie. On a tous vu à la météo les vents représentés par des flèches, ce sont des champs de vecteurs continus sur la surface de la terre qui est assimilable à une sphère de dimension 2 et donc le théorème nous dit qu’il existe sur la surface de la terre un point sans vent ! C’est quelque chose que l’on a l’habitude de voir avec les cyclones et en particulier avec l’œil du cyclone qui est un point sans vents.
Le théorème du point fixe a une autre application totalement surprenante en théorie des jeux et dans les équilibres de Nash. Un jeu est constitué de deux joueurs, chaque joueur choisit une stratégie, les stratégies sont en nombre fini et permettent chacune d’obtenir un gain. Un équilibre de Nash est une combinaison de stratégies où chaque joueur maximise son gain en fonction du choix des autres et ne change plus de stratégie. Attention, un équilibre de Nash n’est pas forcément un équilibre optimal, je ne cherche pas à gagner le maximum mais plutôt à jouer le mieux possible face aux adversaires. Le théorème de Nash dit que tout jeu fini en stratégie mixte admet un équilibre de Nash. Qu’est-ce qu’une stratégie mixte ? Par exemple, j’ai l’habitude de souvent jouer à shifumi avec mes élèves de terminale, c’est un jeu sans équilibre de Nash, c’est en fait un jeu un peu idiot mais on peut le rendre plus intéressant en rajoutant des probabilités, on tire au hasard avec probabilité d’un tiers ce que l’on va jouer, cela devient un jeu de stratégie mixte et il admet alors un équilibre de Nash. Un équilibre de Nash n’est en fait qu’un point fixe pour une fonction continue.
Avant d’appliquer ceci à la crise des missiles de Cuba, je vais vous expliquer un jeu auquel je joue régulièrement avec mon vélo: c’est le jeu du poulet (ou de la poule mouillée). Si vous m’avez déjà vu arriver avec mon vélo j’ai tendance à aller toujours tout droit, ne jamais dévier. Je fais cela car je connais mon théorème du point fixe, je sais que l’autre en face va se pousser… Le jeu de la poule mouillée est le suivant: vous prenez deux personnes dans deux voitures différentes, l’une face à l’autre, elles se foncent dessus, le premier qui dévie sa trajectoire est un lâche. Il y a plusieurs options: soit les deux se rentrent dedans, il y a une grande perte des deux côtés ou alors les deux dévient mais ils se transforment en lâches tous les deux ou bien un dévie et l’autre gagne. C’est ce que je pratique avec mon vélo, j’ai tendance à ne pas dévier, c’est souvent l’autre en face qui se dévie, sauf quand j’ai une voiture de face, en général c’est moi le lâche…
La crise des missiles de Cuba peut être modélisée exactement de la même manière. Jouons avec l’URSS et les USA. Le contexte est le suivant, l’URSS a mis des missiles à Cuba et menace les USA de très près. Ceci n’a pas plût aux USA et il doivent riposter. Il y a plusieurs possibilités:
– Première possibilité: les USA mettent en place un blocus (option défensive), la réponse idéale pour l’URSS est le maintient (option offensive).
– Deuxième possibilité les USA choisissent la frappe (option offensive), la réponse idéale pour l’URSS est de rappeler les missile (option défensive).
De même, si l’URSS décide de maintenir les missiles (option offensive), la réponse idéale pour les USA est le blocus (option défensive) et si l’URSS décide de retirer les missiles (option défensive) la réponse idéale pour les USA est de frapper (réponse offensive).
Par réponse idéale on entend la moins coûteuse, celle générant le moins de pertes. L’équilibre de Nash, le point fixe pour ma fonction, est la stratégie attaque/défense, l’un doit attaquer et l’autre subir, ainsi de suite… L’équilibre est ainsi créé et encore maintenant avec la guerre en Ukraine, la stratégie attaque/défense est celle qui créée un équilibre pour les deux parties.
Il se trouve que plusieurs équilibres de Nash sont possibles mais pas toujours optima, les équilibres sont parfois surprenants, on peut modéliser la guerre froide en terme de théorie des jeux. Les différentes possibilités sont: l’attaque, l’armement nucléaire ou l’immobilisme. Un des équilibres de Nash est que les deux pays s’arment sans jamais s’attaquer (c’est ce qui historiquement s’est passé) mais un équilibre de Nash plus surprenant est que les deux pays s’auto-détruisent.
Tout ce que l’on vient de raconter est la face claire de Brouwer, topologie générale, théorème du point fixe, étude des formes, etc… Brouwer va repartir dans ses travers intuitionniste et développer une philosophie qui est à l’opposé totalement des mathématiques classiques et qui va remettre en cause tout ce qui a été créé pendant des millénaires.
Le XIXe siècle marque, en mathématique, la découverte des nouvelles géométries ne vérifiant pas l’axiome des parallèles. La seule géométrie n’est pas celle du « plat », celle que l’on rencontre tous les jours (la géométrie euclidienne) mais il y a aussi ce que j’appelle les géométries de la cuillère: quand on regarde une cuillère, elle a un côté bombé (c’est un modèle de géométrie sphérique) et un autre creusé (c’est un modèle de géométrie hyperbolique). On se rend bien compte que nos visages ne sont pas reflétés à plat, ils sont déformés, remarquons aussi que dans ces cas-là, la somme des angles d’un triangle ne vaut pas 180 degrés mais peut être supérieure ou inférieure. Les mathématiciens se rendent rapidement compte qu’il faut fonder les mathématiques sur des bases solides, notamment de construire l’ensemble des nombres réels correctement. Cantor introduit la théorie des ensembles qui vont servir à Hilbert à fonder les mathématiques. Malheureusement, de nombreux paradoxes vont apparaître comme par exemple le paradoxe du barbier.
Vont alors se développer plusieurs philosophies, une des principales est le logicisime avec Frege et Russell. Pour eux, les mathématiques sont uniquement fondées sur des implications logiques, tout est une grande tautologie, on enchaîne les symbole jusqu’à arriver à des théorèmes. C’est comme une machine à faire des saucisses, on fait tourner et les saucisses (ou théorèmes) sortent prêtes.
Une autre philosophie est le formalisme représenté par Hilbert. Il propose de poser les mathématiques de manière axiomatique, on ne s’intéresse pas à la nature des objets ce qui est important ce sont les axiomes qu’ils vérifient. On peut appeler une droite ou un cercle comme l’on veut, par exemple stylo ou choppe de bière (Hilbert lui-même parle de ce choix de nom !).
Il y a bien sûr d’autres philosophies mathématiques comme le structuralisme développé par Bourbaki, mais nous n’en parlerons pas dans cet exposé.
La philosophie dominante jusqu’au XIXe siècle est le platonisme, qui suppose la pré existence des objets mathématiques dans les « cieux ». Pour Brouwer, les mathématiques ne sont pas du tout cela, c’est un acte de la pensée, c’est une réflexion intérieure, individuelle. Cet acte de pensée est forcement pollué par le langage, la logique, etc… L’intuition fondamentale de passé et de futur est celle qui va être à la base de la construction des nombres naturels, etc… On ne peut pas attraper l’infini mathématique par quelques axiomes en nombre fini ou quelques relations logiques. Ainsi, tout objet mathématique doit être construit dans la pensée pour exister, c’est ce qui va être fondamental dans la philosophie de Brouwer. Cela pose un problème car les nombres réels sont des limites de suites de rationnels… Pour Brouwer un nombre infini dont on ne connaît pas toutes les décimales n’existe pas. L’ensemble des réels qui est, dans les mathématiques classiques, un ensemble complet va comporter pour Brouwer des trous. Le théorème du point fixe va être faux alors qu’il l’a lui-même démontré. Toutes les fonctions vont être continues… tout cela va poser beaucoup de problèmes.
Tout ceci étaient des conséquences philosophiques, voyons quelques conséquences mathématiques.
Comme je viens de le dire, tout les objets doivent être construits. Or au début du XXe siècle la mode était à la construction d’objets de manière existentielle, c’est-à-dire que je démontre l’existence d’un objet sans le construire réellement, avec par exemple une démonstration par l’absurde. Ceci est impossible pour Brouwer. Les démonstration par l’absurde ne sont donc pas autorisées. Il faut donc abandonner le principe du tiers-exclu car les démonstrations par l’absurde reposent sur ce principe.
Expliquons le principe du tiers-exclu: « to be or not to be », il y a deux possibilités: « être » ou « ne pas être ». Appelons A l’assertion « être » et non A l’assertion « ne pas être », sa négation. Notons V la conjonction « ou », alors je peux résumer la fameuse phrase de Shakespeare par A V non A. Ceci a tout de même de l’importance car les Néerlandais ont fait un timbre à l’effigie de Brouwer avec A V non A. Le principe du tiers exclu stipule que A V non A est toujours vraie, soit une assertion est vraie, soit son contraire est vraie.
Pour mettre en place les mathématiques intuitionnistes, il a malheureusement fallut faire appel à la logique, chose que Brouwer n’acceptera jamais vraiment puisque pour lui les mathématiques restent dans l’esprit et ne peuvent pas être fixées par la logique. Un de ses élèves, Heyting, va développer la logique intuitionniste en abandonnant un des principes de Brouwer, celui de ne pas utiliser la logique… La logique intuitionniste ne se pose pas la question de savoir si un énoncé est vrai ou faux mais plutôt s’il est démontrable ou pas. Tant qu’un énoncé n’est pas démontré, on ne sait pas s’il est vrai ou faux et donc on ne peut pas l’utiliser. Il faut également fournir une construction de tout objet.
Hilbert était terrorisé par l’intuitionnisme et proposa de montrer que sa philosophie formaliste était le meilleur des possibles et proposa un programme pour démontrer, qu’à partir d’un nombre fini d’axiomes, qu’une théorie est cohérente (on ne peut pas montrer quelque chose et son contraire) et complète (c’est à dire que tout peut être démontré). Malheureusement Gödel mit fin à son programme en démontrant qu’il existe des propositions qui sont vraies mais indémontrables et pire, qu’au sein d’une théorie contenant l’arithmétique, on ne peut pas démontrer qu’elle est cohérente. En mathématique, on ne sait pas si un jour on ne tombera pas sur une contradiction, mais ce n’est pas grave, on rajoutera un axiome qui réglera notre problème, cela fait des millénaires que l’on pratique les mathématiques sans trop de contradictions…
Les mathématiques intuitionnistes sont trop contraignantes, il faut abandonner trop d’objets confortables. Par exemple, le théorème des valeurs intermédiaires vu au début nous dit que toute courbe représentative d’une fonction continue correctement choisie traverse l’axe des abscisses mais pour les intuitionnistes, la question qui se pose est: où traverse-t-on ? Un nombre réel étant une limite de nombres rationnels, je ne peux pas construire ce nombre réel, en un nombre fini d’étapes je ne pourrai pas connaître sa valeur, le théorème des valeurs intermédiaires est donc faux en théorie intuitionniste.
Malgré tout certains objets mathématiques du lycée ont une logique sous jacente intuitionnistes comme les intervalles ouverts de IR avec réunions et intersections. On travaille en fait régulièrement avec ces objets qui sont intuitionnistes, ce sont des objets pour lesquels le principe du tiers exclu n’est pas vérifié
Les mathématiques aujourd’hui peuvent se fonder sur la théorie des catégories et des topos et la logique sous-jacente de la théorie des topos est intuitionniste. Cette logique est comme nôtre logique classique habituelle mais il suffit d’assouplir les règles (comme on a vu dans l’exposé mathématique précédent) et de juste renoncer au principe du tiers-exclu. On obtient une logique différente mais qui fonctionne et qui permet de fonder toutes les mathématiques.
La logique intuitionniste a été utile car elle a donné naissance au lambda-calcul qui est important dans des problèmes de calculabilité en informatique et dans des démonstrations assistées par ordinateur comme pour le théorème des quatre couleurs (qui dit qu’il suffit d’utiliser quatre couleurs pour colorier un planisphère).