Le mot expérience a deux sens différents en français, d'une part vérification expérimentale, d'autre part expertise : après avoir fait des expériences, on a de l'expérience. C'est la même différence que l'on a entre avoir expérimenté et être expérimenté. Notons que cette ambiguïté n'existe pas dans d'autres langues : par exemple on utilise en anglais experiment et experience, et en allemand Experiment et Erfahrung.
S'il semble clair qu'il y a des mathématiciens plus ou moins expérimentés, on peut à rebours se demander s'il existe une démarche expérimentale en mathématiques. Nous nous proposons ici de montrer que l'on peut effectuer des expériences dans la recherche en mathématiques, et que ces expériences ont pour rôle essentiel d'être pourvoyeuses de questions (rappelons au passage que le rôle fondamental de la recherche est de poser des questions). Nous aborderons la question du ``statut officiel'' de l'expérimentation en mathématiques, puis ses succès et ses dangers.
On peut distinguer plusieurs types d'expériences en mathématiques. Nous donnons quelques exemples ci-dessous.
Calculer numériquement les valeurs approchées de constantes. Par exemple calculer des milliers (millions) de décimales du nombre pi ou de la racine carrée de 2. Chercher ensuite si des motifs apparaissent ou si, au contraire, le développement semble ``au hasard''. Pour les deux nombres cités on conjecture que chacun des chiffres 0, 1, 2, ... 9, apparaît une infinité de fois avec la fréquence 1/10, que chaque couple de chiffres 00, 01, 02, ..., 99 apparaît une infinité de fois avec la fréquence 1/100, que chaque groupe de 3 chiffres apparaît une infinité de fois avec la fréquence 1/1000, etc. Cette conjecture est totalement hors d'atteinte pour le moment : on ne sait même pas si le nombre pi ou la racine carrée de 2 ont une infinité de 4 (disons) dans leur développement décimal.
Dessiner des figures. Par exemple dessiner un triangle quelconque. Tracer soigneusement les hauteurs issues de chacun des sommets. Constater qu'elles se coupent en un même point. Puis le démontrer (c'est un théorème ancien).
Faire des calculs exacts ou formels. Par exemple étudier la fonction
f définie sur les nombres entiers par f(n) = n/2 si
Cette conjecture est encore ouverte. Autrement dit on peut la
vérifier par ordinateur jusqu'à des valeurs de n
gigantesques, mais on ne sait pas démontrer que la
propriété est vraie pour tout entier n.
Énumérer des structures. Par exemple, pour essayer de répondre à la question ``Combien y a-t-il de groupes finis non isomorphes de cardinal n ?'', on essaie ``à la main'' de trouver tous les groupes d'ordre 1, d'ordre 2, d'ordre 3, d'ordre 4 ...
Faire des calculs numériques (qui peuvent être compliqués) en chaîne. Par exemple rechercher numériquement des solutions approchées d'équations différentielles.
On peut aussi combiner par exemple des calculs numériques et des figures (que l'on pense aux objets fractals).
L'apparition d'ordinateurs de plus en plus puissants a permis de faire des expériences en mathématiques, que l'on n'aurait ni faites ni pour certaines même imaginées il y a quelques décennies. Il est intéressant de voir la dialectique qui s'est ainsi installée entre informatique et mathématiques, et l'émergence d'une discipline à la croisée de leurs chemins, appelée informatique théorique par les uns et mathématiques discrètes par les autres. (Rappelons au passage que le discret -- que l'on peut se représenter comme le tracé en pointillés -- s'oppose en mathématiques au continu -- que l'on peut se représenter comme le tracé à main levée ... sans lever la main.)
Dans leurs articles les mathématiciens cachent le plus souvent leurs démarches expérimentales, comme s'il s'agissait de quelque chose d'inavouable. La tendance ``bourbakisante'' (du nom de cet auteur collectif de traités mathématiques quasi-définitifs) consiste, lors de la rédaction d'un article de recherche pour une revue spécialisée, à taire les pistes qui n'ont pas abouti, les hésitations ou les expérimentations fécondes ou cruciales. La ``bonne'' manière de rédiger consiste à enchaîner linéairement les lemmes, propositions, théorèmes et corollaires. Même les intuitions sont le plus souvent tues, voire soigneusement dissimulées. Au mieux donnera-t-on un exemple pour ses qualités pédagogiques supposées, avec la peur d'écrire ainsi des choses trop ``faciles''.
Pour être honnête il convient d'ajouter que cet état
d'esprit n'est pas celui de tous les mathématiciens, et que les
choses changent. Ainsi dans un récent article (A case study in
mathematical research: the Golay-Rudin-Shapiro sequence, American Mathematical
Monthly 103 (1996) 854-869) J. Brillhart et P. Morton expliquent-ils
leurs motivations, pistes en cul-de-sac, espoirs et déceptions lors
de leur travail sur une suite ``classique'' une vingtaine d'années
plus tôt. Dans le même ordre d'idées on peut signaler
qu'il existe depuis 1992 une nouvelle revue spécialisée qui
s'appelle ``Experimental Mathematics'' (la version électronique de
cette revue se trouve à l'adresse
http://www.expmath.org/).
Rappelons néanmoins le rôle important qu'ont toujours joué les conjectures en mathématiques : il s'agit d'affirmations que les experts jugent très vraisemblables, mais qui ne sont pas (pas encore ?) démontrées. Les conjectures n'ont donc pas le statut de ``vérités mathématiques'', mais les plus célèbres d'entre elles ont été ou sont encore extrêmement fécondes, en particulier parce qu'elles ont souvent amené les mathématiciens à créer des théories entières avec l'espoir (éventuellement déçu) d'aboutir à des démonstrations. Les théories ainsi fabriquées ont eu ensuite des applications ou retombées inattendues dans d'autres domaines. Un exemple célèbre est le ``théorème'' de Fermat qui n'a été, en fait, qu'une conjecture jusqu'à la démonstration (compliquée et nécessitant la maîtrise de nombreux concepts mathématiques fort éloignés de la simplicité de la formulation de l'énoncé de la conjecture) récente due à A. Wiles. Naturellement une ``conjecture'' n'acquiert ce statut que si ... elle n'est pas démontrée, et que de nombreux cas particuliers sont vérifiés ou démontrés, et l'on voit bien sûr le rôle - pas si clandestin - de l'expérimentation dans ce contexte.
Comme nous l'avons laissé entendre, le premier effet fécond de l'expérimentation dans la recherche en mathématiques est de fournir un vivier de conjectures. Celles-ci soit ont un intérêt immédiat, soit sont à l'origine de nouvelles théories. De toute manière, comme elles sont souvent à la fois d'énoncé relativement simple et de démonstration inaccessible, elles sont un puissant stimulant pour l'imagination des mathématiciens.
L'expérimentation renvoie aussi à des questions d'ordre épistémologique, par exemple l'effectivité : certains résultats mathématiques affirment (démontrent) l'existence d'une infinité d'objets ayant une propriété donnée ... sans pouvoir exhiber un seul exemple explicite ! De telles questions (liées à celles soulevées par les constructivistes) sont à nouveau posées avec la complicité des ordinateurs. Dans cette direction, citons une conjecture qui affirmait que tout nombre entier est somme d'au plus 19 bicarrés (c'est-à-dire de puissances quatrièmes comme 1, 16, 81, 256, ...). Le résultat était acquis pour les nombres entiers ``très grands''. Ceci peut signifier les entiers plus grands qu'un certain nombre entier non explicite (résultat existentiel). Ceci peut aussi signifier les nombres entiers plus grands qu'un certain nombre entier explicite mais gigantesque, de sorte que les vérifications numériques pour les nombres entiers plus petits que cette borne monstrueuse ne sont pas possibles sur les ordinateurs actuels. La conjecture a été finalement démontrée (par R. Balasubramanian, J.-M. Deshouillers et F. Dress) en baissant un peu cette borne gigantesque, puis en trouvant un autre seuil en dessous duquel les vérifications soient possibles, enfin en inventant des méthodes astucieuses, mélanges de résultats théoriques ad hoc et de vérifications numériques entre ce seuil et la borne monstrueuse.
Un autre exemple de succès de l'expérimentation est la mise au
point de la version électronique de ``l'Encyclopédie des
suites de nombres entiers'' de N. J. A. Sloane. Sloane avait écrit un
livre (A handbook of integer sequences, Academic Press, New York, 1973) qui
est un catalogue de suites de nombres entiers. Ce catalogue répertorie
les suites de nombres entiers ``intéressantes'' (celles ayant des
propriétés remarquables ayant fait l'objet d'articles dans
des revues de mathématiques ou d'informatique). Un mathématicien
ou un informaticien théoricien rencontrant une suite de nombres entiers
dans ses travaux peut aller consulter ce catalogue. Si les vingt (disons)
premiers termes de sa suite sont les mêmes que les vingt premiers
termes d'une suite du catalogue, il va calculer (disons) les cinquante
premiers termes de sa suite. S'il y a à nouveau coïncidence
les présomptions que les deux suites sont égales sont grandes.
Il reste bien sûr à le démontrer rigoureusement.
Une nouvelle version de cette encyclopédie a été mise
``en ligne'' par N. J. A. Sloane et S. Plouffe. On peut la consulter à
l'adresse
http://www.research.att.com/~njas/sequences/Seis.html
ou en français
http://www.research.att.com/~njas/sequences/indexfr.html
Une anecdote à la fois amusante et profonde est que, lors de la
mise au point de cette nouvelle version, S. Plouffe a passé à
la ``moulinette'' électronique de programmes de reconnaissance de
suites les suites de nombres entiers de la version papier de cette
encyclopédie. Pour certaines d'entre elles, le programme
``a répondu'' quelque chose comme ``je ne peux déterminer
quelle est cette suite, mais si on remplace le dix-huitième terme
par tel nombre, alors la suite est telle suite classique''. Après
vérification il y a avait en effet une faute de frappe dans
la suite présentée ...
On pourrait penser que tout est conte de fée dans l'utilisation de l'expérimentation. Il n'en est rien comme le sous-entend le titre de ce paragraphe. Plusieurs conjectures en théorie des nombres ont été réfutées alors qu'on peut vérifier qu'elles sont correctes expérimentalement jusqu'à des valeurs gigantesques des nombres entiers impliqués. Ainsi la différence entre le nombre de nombres premiers inférieurs à x et le logarithmique intégral de x est de signe constant jusqu'à de très grandes valeurs de x, mais change de signe une infinité de fois lorsque x tend vers l'infini (voir l'article de J. E. Littlewood aux Comptes-Rendus de l'Académie des Sciences, Paris, 158 (1914) 1869--1872).
La fin du paragraphe précédent suggère les dangers de l'expérimentation, et la nécessité absolue de la preuve mathématique. On ne saurait trop insister sur le fait que les ``expériences mathématiques'', pour fécondes qu'elles puissent être, ne peuvent donner qu'une idée non seulement incomplète et partielle, mais encore souvent fausse des objets mathématiques étudiés. Alors que le concept même de démonstration mathématique est en train de disparaître des programmes scolaires, nous pensons fermement que, plutôt que de faire des ``expériences mathématiques'', sans même évoquer ou esquisser des démonstrations, il est à la fois infiniment plus intéressant, plus formateur et plus utile de faire de la botanique ou de la géologie par exemple.