« Des mots et des maths » : F comme frontière, ou l’appartenance au bord

Marcel Broodthaers, CC BY-NC-SA

Nous publions ici un chapitre du livre de Gérald Tenenbaum, « Des mots et des maths », qui vient de paraître chez Odile Jacob.


Historiquement, il y a dans l’idée de frontière celle de front, au sens militaire du terme. Une frontière, c’est un territoire, place ou ville, gardé par l’armée parce qu’il fait front à l’ennemi. Par la suite, la frontière est devenue une ligne de démarcation entre deux États, voire une zone avoisinant cette ligne proprement dite. On qualifie les Alpes de frontière naturelle entre l’Italie et la France, de même que cet office est rempli par le Rhin entre la France et l’Allemagne.

Naturelle ou non, il n’est pas de frontière paisible. Une frontière est d’abord un obstacle, ainsi que le souligne Ramuz dès l’incipit de La Séparation des races :

On va, on va longtemps avec les yeux contre cette côte ; elle est si élevée que, pour arriver jusqu’en haut, il faut renverser fortement la tête en arrière.

Charles Fredinand Ramuz. Fondation Ramuz

Pour le romancier poète, arriver jusqu’en haut, ne serait-ce qu’avec les yeux, signifie atteindre le sommet de la montagne, c’est-à-dire la frontière entre les deux régions, celle qui sépare les peuples. Même symbolique, cette position d’équilibre forcé oblige à « renverser fortement la tête », autrement dit à penser ce que pense l’autre, celui qui habite de l’autre côté de la ligne de séparation, l’étranger. On retrouve l’idée de front et d’affrontement, mais pour la désamorcer : aborder une frontière, ce peut être aussi penser à front renversé.

La différence et l’altérité engendrent classiquement peur et agressivité. Or, toute frontière marque une différence. Le concept porte, inhérente, l’éventualité d’un conflit. Mais la civilisation, l’humanisme et la littérature tempèrent cette charge de violence potentielle. Ce que Ramuz suggère à mots couverts, Lamartine le clame avec la poignante véhémence des romantiques :

Et pourquoi nous haïr et mettre entre les races
Ces bornes ou ces eaux qu’abhorre l’œil de Dieu ?
De frontières au ciel voyons-nous quelques traces ?
Sa voûte est-elle un mur, une borne, un milieu ?

Topologie

En mathématiques, le terme de frontière appartient au domaine de la topologie, qui étudie les lieux, et généralise la notion de distance entre des points ou des ensembles. L’un des concepts-clefs de cette branche des mathématiques, est celui de voisinage, qui conduit lui-même à celui d’intérieur, et donc de frontière.

Une analogie permettra de décrire l’idée directrice. Supposez que vous disposiez d’une tablette de haute technologie dont l’écran est exclusivement constitué de pixels jaunes et bleus. Les pixels de couleur sont en réalité de petits êtres numériques dotés de sentiments comme l’amour, la peur, la xénophobie et la témérité. La technologie avancée permet le prodige suivant : en augmentant la résolution de l’écran, on fait apparaître de plus en plus de pixels et cela indéfiniment.

La couleur définit deux nations au sein desquels tous les sentiments sont représentés : le Galbistan pour les jaunes, l’Azuristan pour les bleus. Considérons un pixel jaune particulier. Appelons-le Jacques, parce que tous les ressortissants du Galbistan (du latin galbinus, jaune) ont un prénom commençant par J. Si l’un de ses voisins est le bleu Bernard, Jacques n’est pas serein, car il se trouve à la frontière de son domaine, et nous avons vu plus haut que la frontière est un lieu dangereux.

Si, au contraire, Jacques n’a que des pixels jaunes, comme Julien ou Jade, comme voisins, il est bien en sécurité au sein du Galbistan. Aucun pixel bleu ne le jouxte, rien le menace. Peut-il pour autant dormir sur ses deux jaunes oreilles ?

Rien n’est moins sûr, car lorsque vous allez augmenter la résolution, de nouveaux pixels vont apparaître, et certains seront peut-être bleus. Si cela ne peut jamais se produire, on dit que le Galbistan est un voisinage pour Jacques. La conséquence est que, dans ce cas, Jacques n’est pas un élément de la frontière.

En substance, pour la topologie, un voisinage est donc une bulle de sécurité autour d’un élément. Cette bulle peut elle-même être en contact avec des éléments extérieurs, mais aucun des proches voisins de l’élément considéré ne peut l’être. Ainsi, la notion de voisinage n’est pas absolue : elle est relative simultanément à un ensemble – ici le Galbistan – et à un élément particulier – Jacques dans l’exemple considéré. Un élément dont l’ensemble de référence est un voisinage n’émarge pas à la frontière.

Poursuivons avec l’image des pixels sur l’écran de notre tablette prodigieuse. À quelle condition un pixel jaune sera-t-il à la frontière de son pays ? Le critère est que, pour toutes les résolutions assez fines, il y ait toujours un voisin bleu. Il en va bien entendu de même, en inversant les rôles des couleurs, pour la frontière de l’Azuristan.

Bien que rudimentaire au regard de la théorie, cette « définition » de la frontière est complexe et subtile car elle implique un passage à la limite, symbolisé ici par la possibilité d’une augmentation indéfinie de la résolution.

On se convaincra qu’il peut ainsi se produire que tous les éléments d’une frontière soient jaunes, ou bien qu’ils soient tous bleus, ou encore que cette frontière soit bicolore.

Imaginez à présent que, au fur et à mesure des résolutions successives la tablette présente un tel mélange de jaune et de bleu que, quitte peut-être à cligner des yeux, elle nous apparaisse de plus en plus… verte. Dans ce cas, tous les pixels, qu’ils soient jaunes ou bleus, seraient des éléments de la frontière de chacun des deux pays. C’est ce qui se passe parfois en mathématiques, comme pour les nombres rationnels et irrationnels : on peut s’approcher d’aussi près que l’on veut d’un élément quelconque de l’un des deux ensembles tout en restant dans l’autre.

Frontière et proximité

La notion mathématique de frontière repose donc sur celle de proximité, concept fondateur de la topologie. Rigoureusement définie, une frontière permet toujours de délimiter un intérieur et un extérieur, mais ces deux sous-ensembles peuvent être vides (c’est le cas pour l’ensemble des nombres rationnels au sein des nombres réels, et également pour son complémentaire, formé de tous les nombres irrationnels). La frontière n’est plus nécessairement une ligne de démarcation, un obstacle ou un sujet potentiel de litige, elle rassemble les éléments qui sont (topologiquement) à la fois indissociables d’un ensemble et de son complémentaire.

Des mots et des maths. Odile Jacob, 2019

La tentation est grande d’opérer un parallèle avec l’espace européen, initialement imaginé comme une zone sans frontières, et qui prend aujourd’hui le risque de se refermer sur lui-même en érigeant des barrières, et autres palissades métalliques couronnées de barbelés, sans même évoquer les miradors équipés de puissants projecteurs et de caméras thermiques. Le Rideau de fer né de la guerre froide symbolisait une frontière fissurant l’Europe. En une nuit de novembre 1989, la chute du mur de Berlin l’a relégué dans une obsolescence que l’on a un temps cru définitive. Les pressions politiques, démographiques, économiques, et surtout l’affaissement des valeurs humanistes, ont présidé à la réapparition de frontières de toutes sortes (physiques, sociales, culturelles) dans une Europe qui peine à accorder ses usages à ses idéaux.

On peut rêver à une Europe, voire à un monde, où tous les citoyens seraient ressortissants du bord, chacun étant suffisamment proche de l’autre pour appartenir à une frontière au sens mathématique et métaphorique du terme, c’est-à-dire être indissociable de l’étranger sans nécessairement lui être intégré. Il serait alors temps de remettre au goût du jour la version française d’une célèbre chanson des Beatles : avec en tête la voix de Fred Mella et de ses Compagnons de la chanson, nous nous sentirions tous membres de l’équipage d’un grand sous-marin… vert.