L'article qui suit est ma traduction de l'article Math's Beautiful Monsters d'Adam Kucharski publié sur Nautilus Magazine.
Tout comme son créateur, le monstre de Karl Weierstrass apparut de nulle part. Après quatre années d’université passées à boire et à s’adonner à l’escrime, Weierstrass en ressortit les mains vides. Il finit par accepter de suivre une formation de professeur et passa la plus grande partie des années 1850 commeprofesseur du secondaire à Braunsberg. Il détestait la vie solitaire de cette petite ville prussienne, ne trouvant de répit que dans la résolution de problèmes mathématiques entre les classes. Cependant, il n’avait personneavec qui discuter de mathématiques, ni bibliothèque scientifique où étudier. Même ses résultats n'échappaient pas aux confins de Braunsberg. Plutôt que de les publier dans des journaux académiques, comme un chercheur universitaire, Weierstrass les ajoutait à des articles du prospectus scolaire, déconcertant les étudiants potentiels avec ces questions ésotériques.
Weierstrass finit par soumettre un de ses articles au respecté Journal de Crelle. Alors que ses articles précédents n’avaient provoqué que des remous, celui-ci rompit une digue. Weierstrass venait de trouver une nouvelle méthode pour traiter une classe diabolique d’équations connues sous le nom de fonctions abéliennes. L’article ne contenait qu’une ébauche de ses méthodes, mais il suffit à convaincre les mathématiciens de l’époque qu’ils avaient affaire à un talent unique. Durant l'année suivante, l’Université de Königsberg décerna à Weierstrass un doctorat honorifique, et peu après l’Université de Berlin lui offrit une chaire. Malgré son ascension intellectuelle fulgurante, il conservait ses vieilles habitudes. Il publiait rarement, préférant montrer son travail à ses étudiants, tenant en piètre estime le processus de publication. Mais pas seulement ce dernier : il ne craignait pas non plus de s’en prendre aux vaches sacrées mathématiques.
Weierstrass mit dans sa mire peu de temps après la recherche de Augustin-Louis Cauchy, l’un des mathématiciens les plus éminents de son siècle. Une bonne partie de l’oeuvre de Cauchy se penchait sur le calcul différentiel et les taux de variation, ou dérivées. Il avait essentiellement créé un dictionnaire du calcul différentiel où il définissait les concepts les plus importants du domaine. Mais quand Weierstrass lut ces définitions, il les trouva verbeuses et imprécises. Trop d'omissions, et trop peu de détails.
Il décida de réviser le dictionnaire de Cauchy en y remplaçant la prose par des conditions logiques. En tête de ses premiers travaux se trouvait la redéfinition de la dérivée. Pour calculer le gradient d’une courbe à un point donné, et par le fait même son taux de variation, Isaac Newton avait à l’origine considéré une droite passant par le point d’intérêt et un point avoisinant sur la courbe. Il avait ensuite rapproché graduellement le point avoisinant jusqu’à ce que la pente de la droite soit égale au gradient de la courbe. Mais définir le concept mathématiquement s’avérait difficile. Par quel critère décidait-on que deux points se trouvaient suffisamment près l’un de l’autre?
Selon la définition verbeuse de Cauchy, le gradient s’approchait « indéfiniment d’une valeur fixe, de manière à en différer aussi peu que souhaité. » Pour Weierstrass , ce n'était pas assez clair. Il voulait une définition plus concrète. Il convertit alors le concept en formule. Au lieu de manipuler des idées abstraites, les mathématiciens pourraient désormais remanier des équations. Ce faisant, il établit les fondements de son futur monstre.
A cette époque, les mathématiciens puisaient généralement leur inspiration de la nature. Lorsque Newton commença à développer le calcul différentiel, il fut inspiré par le monde physique : les trajectoires planétaires, les oscillations d'un pendule, le mouvement d'un fruit en chute libre. Cette ligne de pensée mena à une intuition géométrique des structures mathématiques. Elles devaient avoir du sens, tout comme en aurait un objet physique. Par conséquent, beaucoup de mathématiciens se concentrèrent sur les fonctions « continues ». Conceptuellement, les fonctions continues sont celles qu'on peut dessiner sans lever notre crayon du papier. Si l'on trace la vitesse dans le temps d'une pomme en chute libre, on obtient une ligne continue, sans trous ni sauts. On croyait qu'une fonction continue était une fonction physique.
La sagesse traditionnelle voulait que pour une courbe continue, on pouvait évaluer le gradient en tout point, sauf pour un nombre fini de points. Cette croyance paraissait intuitive : une ligne pouvait contenir des pics, mais comporterait toujours des segments lisses. Le physicien et mathématicien français André-Marie Ampère avait même publié une preuve de cette affirmation. Son argument reposait sur le fait « intuitivement évident » qu'une courbe continue devait contenir des segments croissants, décroissants ou horizontaux. Cela signifiait qu'on devait pouvoir calculer le gradient dans ces régions. Ampère omit de réfléchir à ce qui se produisait lorsque les segments devenaient infiniment petits, mais il déclara que c'était inutile. Son approche était assez générale pour éviter de devoir considérer l'infiniment petit. La plupart des mathématiciens se satisfaisaient de ce raisonnement, assez pour qu'au milieu du 19e siècle presque tous les manuels de calcul différentiel citassent la preuve d'Ampère.
Cependant, durant les années 1860, des rumeurs commencèrent à circuler au sujet d'une créature étrange, une fonction mathématique en contradiction avec le théorème d'Ampère. En Allemagne, le grand mathématicien Bernhard Riemann, s’adressant à ses étudiants, dit connaître l'existence d'une fonction continue dépourvue de section lisse et pour laquelle on ne pouvait calculer la dérivée en aucun point. Riemann ne publia aucune preuve. Charles Cellérier, de l'Université de Genève, écrivit pour sa part qu'il venait de découvrir quelque chose de « très important, et, je crois, nouveau ». Néanmoins, il fourra son travail dans un dossier qui n'allait devenir public qu'après sa mort, des décennies plus tard, sans lui non plus publier de preuve. Pourtant, si l'on en croyait les affirmations, son existence constituait la naissance d'une menace aux fondements même du calcul différentiel. Cette créature menaçait d'anéantir la relation harmonieuse entre la théorie mathématique et l'observation physique sur laquelle elle reposait. Le calcul différentiel s’était toujours voulu le langage des planètes et des étoiles. Comment la nature pouvait-elle demeurer une inspiration fiable s'il existait des fonctions mathématiques contredisant les idées centrales en la matière?
Le monstre naquit enfin en 1872 lorsque Karl Weierstrass annonça avoir trouvé une fonction continue partout, mais lisse en aucun point. Il l'avait construite en additionnant une série infiniment longue de cosinus :
Il s'agissait d'une fonction hideuse et encombrante. On ignorait encore de quoi elle aurait l'air portée en graphique. Mais cela n'importait pas pour Weierstrass. Sa preuve se composait d’équations plutôt que de formes et c'est ce qui donnait toute sa force à sa publication. Non seulement avait-il créé un monstre, mais il l'avait construit à partir de logique concrète. Il avait utilisé sa nouvelle définition rigoureuse de la dérivée et démontré que la calculer pour cette nouvelle fonction s’avérait impossible.
Ce résultat créa une onde de choc parmi la communauté mathématique. Le mathématicien français Émile Picard souligna que si Newton avait connu l'existence de telles fonctions, il n'aurait jamais créé le calcul différentiel. Au lieu de maîtriser des idées sur la physique de la nature, il serait resté coincé à tenter de surmonter des obstacles mathématiques rigides. Le monstre se mit également à piétiner la recherche antérieure. Des résultats déjà « prouvés » commencèrent à fléchir. Ampère avait utilisé les définitions vagues privilégiées par Cauchy pour prouver son théorème de la régularité. Ses arguments commençaient maintenant à s'effondrer. Les notions vagues du passé n'étaient pas de taille devant ce monstre. Pire encore, la question de ce qui constituait une preuve mathématique devenait trouble. Les arguments intuitifs basés sur la géométrie des deux siècles précédents devenaient pratiquement inutiles. Si les mathématiques tentaient de faire disparaître le monstre, il résisterait. Avec une seule étrange équation, Weierstrass avait démontré que l'intuition physique ne constituait pas un fondement fiable sur lequel construire des théories mathématiques.
Des mathématiciens réputés tentèrent d’écarter ce résultat, arguant qu'il était gênant et superflu. Ils craignaient que des pédants et des fauteurs de trouble fussent en train de détourner leur sujet bien-aimé. À la Sorbonne, Charles Hermite écrivit : « Je me détourne avec effroi et horreur de cette plaie lamentable des fonctions continues qui sont sans dérivée. » Henri Poincaré, le premier à qualifier ces fonctions de monstres, dénonça le travail de Weierstrass comme « un outrage au sens commun ». Il qualifia ces fonctions d'arrogante distraction de peu d'utilité pour le domaine. Il déclara qu’on «les invente tout exprès pour mettre en défaut le raisonnement de nos pères, et on n’en tirera jamais que cela. »
La vieille garde, pour la plupart, voulait délaisser le monstre de Weierstrass dans les contrées sauvages mathématiques. De surcroît, personne n'arrivait à visualiser la forme des créatures en question : il fallut l'avènement de l'ordinateur pour le voir en graphique. Sa forme cachée entravait la compréhension de la communauté mathématique à savoir comment une telle fonction pouvait exister. Le style de preuve de Weierstrass était de plus inconnu de bien des mathématiciens. Son argument impliquait des douzaines d'étapes logiques étalées sur plusieurs pages. La piste d'idées était subtile, exigeante au plan technique et sans analogues tirés de la réalité pour guider le chemin. On l'évitait d'instinct.
Toutefois, les monstres ont tendance à resurgir de l'ombre. En effet, bien des concepts qui semblent de nos jours évidents, voire essentiels, furent jadis des monstres. Les nombres négatifs furent ignorés des mathématiciens durant des siècles. Les Grecs anciens, traitant principalement de géométrie, ne leur voyaient aucune utilité. De même pour les académiciens médiévaux qui adoptèrent les idées des Grecs. L'ombre de ce monstre apparaît à l'occasion de nos jours lorsqu'un enfant demande pourquoi la multiplication de deux nombres négatifs donne un nombre positif. Mais en règle générale, la bête fut apprivoisée. Personne ne rêverait de l'envoyer de nouveau en exil.
De façon similaire, le monstre de Weierstrass commença à se faire accepter. En 1904, Albert Einstein présenta aux physiciens l'idée de « mouvement brownien » : selon lui, les particules dans un liquide suivaient un chemin aléatoire parce que les molécules de fluide entraient constamment en collision avec elles. Les collisions étaient si fréquentes (plus de 1021 par seconde) que peu importe la force du microscope ou le niveau de détail observé, les trajectoires n'étaient jamais lisses. Au niveau concret, il s'avérait impossible de trouver une dérivée. Pour que les chercheurs pussent travailler avec de tels problèmes, ils devaient confronter le monstre de Weierstrass. C'est précisément ce que fit Einstein. Sa théorie du mouvement brownien recourait à des fonctions infiniment dentelées. Il créa un précédent historique: les physiciens utilisèrent dès lors des fonctions non-lisses comme représentation du mouvement brownien, fonctions utilisées encore aujourd'hui.
Une fois devenu clair que la soi-disant « fonction de Weierstrass » était bel et bien utile, les chercheurs commencèrent à développer des façons élégantes de traiter les fonctions non-lisses. Au lieu de tenter d'analyser le chemin d'une seule particule dans un liquide, ils observèrent le comportement moyen d'un grand nombre de particules. Quelle distance allaient-elles vraisemblablement parcourir? Quand s’attendait-on à ce qu’elles atteignent un point donné? Hors du mouvement brownien, les mathématiciens commencèrent également à repenser les outils de base du calcul différentiel. Les taux de variation avaient toujours été définis en termes de distance et les aires sous la courbe mesurées géométriquement. Cependant, pour les fonctions non-lisses, ces idées n'avaient pas de sens.
À l'Université de Tokyo, Kiyoshi Itō trouva une façon de contourner le problème en réfléchissant en termes de probabilités. C'était une tactique non-orthodoxe, voire risquée : durant les années 1940, presque personne ne considérait la théorie des probabilités comme un sujet rigoureux. Et pourtant, Itō persévéra. Il traita les fonctions comme des processus aléatoires et traduisit les définitions de Weierstrass en un nouveau langage basé sur la probabilité. Selon lui, deux processus aléatoires étaient « rapprochés » si les résultats attendus étaient les mêmes. Il introduisit une méthode pour traiter une fonction mathématique dépendant d'une quantité non-lisse, comme le mouvement brownien, plutôt qu'une variable plus traditionnelle, comme la distance. Avec ses nouvelles méthodes, il dériva le « lemme d'Itō » dans le but de calculer comment une telle fonction variait dans le temps.
Dans les années 1970, les travaux d'Itō avaient bourgeonné en une branche des mathématiques entièrement nouvelle nommée calcul stochastique (les mathématiciens aiment qualifier de « stochastique » ce qui est aléatoire). Elle arrivait munie d'un ensemble complet de nouveaux outils et théorèmes, tout comme le calcul différentiel l'avait fait jadis. De nos jours, on utilise le calcul stochastique pour étudier toutes sortes de phénomènes, de l'activation des neurones du cerveau jusqu'à la propagation des maladies dans la population. Il est également au cœur des mathématique financières où il aide les banques à estimer le coût des options. Il peut expliquer le comportement cahotique du cours d'une action et ainsi révéler comment la valeur d'une option varie dans le temps. L'équation résultante, connue comme la formule de Black-Scholes, est utilisée de nos jours sur les parquets de par le monde. Pourtant, Itō fut toujours étonné de se valoir les aplaudissements des banquiers. Un mathématicien pur, il ne s'était jamais attendu à ce que ses travaux deviennent célèbres pour leurs applications.
Le monstre de Weierstrass secoua également la géométrie. À la fin du 19e siècle, le mathématicien suisse Helge von Koch avait développé un intérêt pour la notion de fonction non-lisse, et il voulait voir leur forme. Il résolut de construire une forme, au lieu d'une fonction, qui n'était lisse nulle part, pour ainsi démontrer que les monstres de l’algèbre se terraient aussi dans la géométrie. Peut-être ne pouvait-il pas tracer la fonction de Weierstrass, mais il pourrait voir son cousin. Travaillant sur le problème en allant d’un boulot temporaire à l’autre de professeur assistant, von Koch trouva sa créature en 1904. Construite en prenant un triangle équilatéral, puis en y ajoutant trois petits triangles sur chaque côté, et en continuant indéfiniment ainsi, elle constituait une forme géométrique continue, mais sans dérivée. L'apparence distinctive de la forme lui valut le nom de « flocon de neige de Koch ».
Koch avait réussi à étendre le monstre de Weierstrass au-delà du monde des équations et des fonctions. Mais son résultat avait un autre aspect remarquable. Inspecté de plus près, son flocon de neige possédait une curieuse auto-similarité : en agrandir une section révélait la même forme qu’au départ. Bien des années plus tard, on allait découvrir que la fonction de Weierstrass possédait la même propriété.
À mesure que le temps avançait, cette auto-similarité se mit à surgir en toutes sortes d'endroits. Il fallut le travail séminal de Benoît Mandelbrot dans les années 1980 pour populariser la notion de « fractale », ces objets aux formes répétées à des échelles de plus en plus petites. Des littoraux et des nuages aux plantes et aux vaisseaux sanguins, les mathématiciens découvrirent que les fractales étaient omniprésentes dans la nature. Tout comme le flocon de neige de Koch, aucune n'était lisse. Comment pourraient-elles l'être? Si la forme contenait des sections lisses, le motif disparaîtrait en l'agrandissant suffisamment. Comme Koch l'avait découvert, la façon la plus simple d'obtenir une forme non-lisse était de construire un objet fractal. Peut-être était-il inévitable que les travaux de Weierstrass guidèrent les mathématiciens vers les motifs auto-similaires, introduisant les chercheurs à un monde de structures complexes et délicates.
Le monstre de Weierstrass continue son travail de nos jours. Les équations de Navier-Stokes décrivent le mouvement d'un fluide et sous-tendent la dynamique des fluides et l'aérodynamique modernes, propulsant tout, du design d'avions aux prévisions météo. Cependant, bien qu'elles furent développées pour la première fois dans les années 1840, les mathématiciens ne savent toujours pas si l'on peut les résoudre à tout coup. En 2000, le Clay Mathematics Institute offrit une récompense d'un million de dollars à quiconque prouverait que les équations ont toujours des solutions lisses, ou à l’opposé, trouverait un contre-exemple. Le problème est considéré comme étant parmi les six plus importants problèmes mathématiques irrésolus, car malgré l'utilisation répandue des équations de Navier-Stokes, les mathématiciens ignorent si ces équations produisent toujours des résultats physiquement plausibles. La récompense d'un million de dollars demeure non réclamée. À bien des égards, il s'agit d'une rançon, encourageant les mathématiciens à chasser les monstres redoutables.
Crédit images
En-tête: Unsplash
Équation: l'article original
Graphique: Wikimedia Commons
