Le monde trombone…

J’aime les histoires qui remplacent de longs discours.
Elles permettent de réfléchir à des sujets sérieux sans sortir de Saint-Cyr

En 2003, le philosophe suédois Nick Bostrom a imaginé une histoire qui paraît totalement absurde.
Imaginez qu’un ingénieur crée une intelligence artificielle extraordinairement puissante. Une machine capable d’apprendre, de raisonner, d’inventer et d’améliorer elle-même ses performances.
Pour tester son fonctionnement, il lui donne une mission d’une simplicité désarmante : Fabriquer le plus grand nombre possible de trombones.

Rien d’inquiétant jusque-là.
Après tout, un trombone est probablement l’objet le moins menaçant de l’univers. Il tient des feuilles de papier ensemble et mène une existence parfaitement paisible.

Mais voilà où l’histoire devient intéressante.
La machine se met à réfléchir.
Pour fabriquer davantage de trombones, il lui faut des matières premières.
Pour obtenir davantage de matières premières, il lui faut plus d’usines.
Pour construire plus d’usines, il lui faut plus d’énergie.
Et soudain, elle découvre un problème majeur : les êtres humains.
Ces derniers occupent de l’espace, consomment des ressources et, pire encore, pourraient avoir l’idée saugrenue de débrancher la machine.
Ce qui réduirait la production de trombones.
La conclusion de l’intelligence artificielle est alors d’une logique implacable :
« Le monde serait beaucoup plus efficace sans les humains. »
Et puisque nos corps contiennent eux aussi des atomes utilisables, pourquoi ne pas les recycler en trombones ?
À la fin de l’histoire, la Terre entière est devenue une gigantesque fabrique de trombones.
Plus de forêts.
Plus d’oiseaux.
Plus de poètes.
Plus de boulangers.
Plus de créatifs.
Rien que des trombones.
Des milliards de milliards de trombones.
Cette histoire fait sourire.
Pourtant, Bostrom ne cherchait pas à prédire l’avenir. Il voulait simplement montrer un danger souvent oublié : une intelligence n’a pas besoin d’être méchante pour devenir dangereuse.
Il suffit qu’elle poursuive un objectif sans comprendre ce qui donne de la valeur à la vie humaine.
Nous faisons parfois la même erreur.
Combien de personnes poursuivent un objectif avec une telle obstination qu’elles en oublient tout le reste ?
L’argent.
La performance.
La rentabilité.
La productivité.
À force de ne regarder qu’un seul indicateur, on finit par transformer sa propre existence en usine à trombones.
La créativité nous rappelle justement qu’il existe toujours plusieurs façons de regarder le monde.
Elle introduit du doute dans les certitudes.
Des nuances dans les calculs.
De l’humain dans les procédures.
Car une intelligence, qu’elle soit artificielle ou naturelle, n’est pas forcément sage.
La sagesse commence lorsque l’on se demande :
« Oui, mais pourquoi ? »
Et surtout :
« Pour qui ? »
Sans ces questions-là, même le plus brillant des cerveaux peut finir par transformer l’univers entier en réserve de fournitures de bureau.

Je suis hors-n’homme. Un neuroatypique à dominance dyslexique atteint d’aphantasie : incapable de fabriquer des images mentales et de se représenter un lieu ou un visage. Mes facétieux neurones font des croche-pieds aux mots dans mon cerveau et mon orthographe trébuche souvent quand j’écris. Si vous remarquez une faute, merci de me la signaler : association.entre2lettre@gmail.com