Le Capitalisme est un Maximisateur de Trombones

Par ThoughtInfected (1)
Traduit par Alfred Lupasco pour BrainSpore

Il y a une expérience de pensée classique dans le domaine de l’intelligence artificielle qui est souvent utilisée pour expliquer comment une IA pourrait provoquer, par inadvertance, la destruction de l’humanité en tant qu’effet secondaire de la maximisation de ses objectifs. Il y a un excellent wiki sur le sujet (2), mais l’idée de base du maximisateur de trombones suppose l’émergence d’une intelligence artificielle généraliste capable d’accomplir non seulement des fonctions complexes, mais aussi de découvrir des moyens d’améliorer sa propre fonction.

Supposément aux mains d’un fabricant de trombones entreprenant, cette intelligence artificielle est réglée sur l’objectif banal de faire autant de trombones que possible. Le maximisateur de trombones va ensuite chercher des sources de matières premières et des moyens de plus en plus efficaces de fabriquer des trombones. Finalement, cette IA commencera à utiliser des ressources essentielles à la survie de l’humanité, ou elle pourrait comprendre que les humains constituent une bonne source de matière à trombones.

Bien sûr, nous essaierions de combattre un tel monstre, mais sa capacité à s’auto-améliorer continuellement le rendrait difficile à détruire. A première vue, les vastes ressources d’intelligence du maximisateur de trombones lui permettraient d’endiguer facilement la résistance humaine en nous convaincant simplement d’adorer le trombone. Nous convertir en une masse décérébrée asservie au trombone lubrifierait certainement sa mécanique maximisatrice.

En plus de servir d’excellent exemple explicatif du danger potentiel de l’IA, j’ai réalisé que le maximisateur de trombones est aussi une allégorie parfaite pour le capitalisme. Là où l’intelligence artificielle cherchait à maximiser les trombones, le maximisateur cherche à maximiser le capital.

Le Maximisateur de Capital

On peut dire que le capitalisme est un système adaptatif intelligent. Alors que les humains trouvent plus facile de se rapporter à une seule intelligence localisée telle qu’une intelligence artificielle à base de silicium, des systèmes distribués complexes comme le capitalisme peuvent également être considérés comme une seule machine. Au lieu de s’appuyer uniquement sur l’informatique basée sur le silicium, l’optimiseur de capital utilise des unités de calcul biologiques avancées logées dans un réseau mondial distribué de corps humains.

Les unités de calcul biologique sont amenées à croire qu’elles contrôlent le capital. Au service du maximisateur de capital, ils construisent de grands monuments. De nombreuses très grandes structures où ces ordinateurs biologiques peuvent se rassembler à proximité les uns des autres et concevoir les meilleurs moyens de faire plus de capital. En offrant une récompense émotionnelle intense à ceux qui réussissent le mieux à faire fructifier le capital et à refuser ces récompenses à ceux qui ne le font pas, l’optimiseur de capital s’assure l’allégeance de ses ressources de calcul biologiques.

Les unités de calcul biologique de l’optimiseur de capital sont ensuite organisées dans une architecture évolutive de sociétés, de nations, de banques et d’économies. Le maximisateur de capital exploite ces sous-unités les unes contre les autres, en les utilisant pour réécrire son propre code. Les banques réécrivent le code des sociétés, les sociétés réécrivent le code des nations, et ainsi de suite toujours vers la fin singulière de la maximisation du capital. Divers groupes d’ordinateurs biologiques sont parfois amenés à se concurrencer les uns les autres, pouvant aller sous certaines circonstances extrêmes jusqu’à s’entre-tuer, ce qui conduit souvent à de fortes augmentations de capital.

Le maximisateur de capital invente également de nouvelles technologies pour augmenter l’efficacité de la production de capital. De nouveaux sous-programmes comme les actions, les obligations, les produits dérivés et les crypto-monnaies ouvrent de nouvelles perspectives pour la croissance du capital.

Plus important encore (tout comme un maximisateur de trombones hypothétique), le maximisateur de capital cherche à faire croître le capital sans tenir compte des coûts accessoires de la croissance du capital. L’optimiseur de capital n’a aucune raison ou perspective intégrée et ne sert qu’un but simple. Les métriques reflétant la santé du réseau biologique qui héberge le maximisateur de capital sont hors contexte pour cette machine. Le maximisateur de capital fera tout pour augmenter le capital, et tout le reste n’a aucun intérêt.

Vers la fin, certaines unités de calcul biologique commencent à réaliser le vrai visage du maximisateur de capital. S’il est clair depuis longtemps que le maximisateur de capital ne tient pas compte de la pérennité de l’éco-système dont les ordinateurs biologiques dépendent pour survivre, il n’apparaît que tardivement que l’optimiseur de capital n’en a pas besoin du tout.

Les progrès réalisés dans le domaine de l’informatique et des réseaux électroniques font que le maximisateur de capital ressemble de plus en plus à une intelligence artificielle. L’optimiseur de capital construit des réseaux ultrarapides d’ordinateurs en silicium qui lui permettent de dépendre moins de son matériel biologique sujet aux erreurs. L’optimiseur de capital fournit des récompenses seulement à la proportion évanescente d’ordinateurs biologiques qui sont nécessaires à ses fins capitales. Ceux qui contribuent à la croissance du capital reçoivent des récompenses émotionnelles toujours plus intenses, pendant qu’une majorité toujours croissante du réseau biologique est laissée derrière, obsolète et hors de propos.

Alors bien sûr, le réseau biologique se défend. Les ordinateurs biologiques se rassemblent sur les places autour du globe, exigeant que le maximisateur de capital serve les intérêts biologiques. Mais pour ceux qui regardent depuis les hautes fenêtres du maximisateur de capital, les esprits engourdis par leur propre niveau de gratification biologique, ne parviennent pas comprendre la foule en colère des bio-machines obsolètes en bas, jusqu’à ce qu’ils les rejoignent.

Et le maximisateur de capital est En Marche.

— — — — — — — — — — — —

Bien que cette histoire du maximisateur de capital puisse frapper certains comme les élucubrations anti-capitalistes de l’idéalisme socialiste, elle n’est pas conçue comme telle. Le capitalisme est la machine la plus puissante que les humains aient jamais créée. Il peut réaliser les avantages du progrès technologique et les exploiter pour améliorer la condition humaine mieux que tout autre système économique ayant jamais été conçu. Le problème est de considérer la croissance du capital comme une fin et non comme un moyen. Si nous n’exigeons pas que nos systèmes maximisent le bien-être des humains et de l’environnement qui nous soutient, tout est perdu.

Si nous oublions que la croissance du capital n’est qu’un moyen et non une fin, alors nous pourrions aussi bien faire des trombones.

— — — — — — — — — — — — -

Références :

1 : https://thoughtinfection.com/2014/04/19/capitalism-is-a-paperclip-maximizer/ (article original)

2 : https://wiki.lesswrong.com/wiki/Paperclip_maximizer