Beaucoup de mes lecteurs trouvent ces notions difficiles, notamment ceux d’entre eux qui n’ont pas eu de formation scientifique. Je les rassure. Les physiciens eux-mêmes ont mis plus d’un siècle à comprendre ce qu’est l’entropie.
Le concept d’entropie a été introduit en 1865 par le physicien allemand Rudolph Clausius, comme une conséquence du second principe de la thermodynamique, tel qu’il a été énoncé en 1824 par le français Sadi Carnot. Comme l’énergie, l’entropie est une fonction d’état, c’est-à-dire qu’elle ne dépend que de l’état (1) du système considéré. Cependant, à la différence de l’énergie, l’entropie n’est pas une quantité conservative. Elle ne se conserve que dans les systèmes isolés subissant des transformations réversibles. Si un système isolé subit des transformations irréversibles, son entropie augmente. Ainsi, l’entropie d’un système isolé ne peut qu’augmenter. Sa valeur maximale est atteinte à l’équilibre thermodynamique.
Cela a conduit à l’idée que l’entropie de l’univers ne peut qu’augmenter, idée que l’on retrouve partout dans la littérature. En pratique, la seule chose qu’un scientifique puisse étudier est l’univers observable. On sait aujourd’hui que l’univers observable perd sans cesse de la matière. Une partie de celle-ci disparait derrière un horizon cosmologique (2) tandis qu’une autre partie disparait à l’intérieur de trous noirs. En conséquence, l’entropie de l’univers observable peut fort bien diminuer. L’apparition spontanée de différences de température, lors de la formation des étoiles, laisse à penser que c’est le cas.
Dès 1861, Willard Gibbs soulevait une difficulté liée à la notion d’entropie en montrant que mélanger deux gaz augmente leur entropie, sauf si ceux-ci sont identiques. L’augmentation est la même aussi petite que ce soit leur différence. Ainsi l’entropie d’un système dépend de ce qu’on sait sur le système.
En 1868, James Clerk Maxwell aboutissait à une conclusion similaire en montrant qu’un « démon » qui serait capable de distinguer les molécules rapides d’un gaz de ses molécules lentes pourrait les séparer, sans effectuer de travail mécanique. Cela créerait une différence de température, en violation du second principe.
En 1929, Leo Szilard reprend l’idée de Maxwell et montre qu’on pourrait faire marcher un moteur thermique avec une seule source de chaleur en utilisant un gaz formé d’une seule molécule à la condition de savoir où celle-ci se trouve. Ces deux derniers exemples montrent qu’un apport de connaissance sur un système isolé diminue l’entropie de celui-ci.
En 1944, Erwin Schrödinger, remarque qu’en s’auto-organisant les êtres vivants diminuent leur entropie interne grâce au flux d’énergie qui les traverse. Il introduit le néologisme de néguentropie ou entropie négative.
En 1948, Claude Shannon publie sa théorie mathématique de la communication dans laquelle il introduit une mesure de la quantité d’information a transmettre dans un message. L’expression de cette mesure est identique (au signe près) à celle de l’entropie de Gibbs. On parle alors d’entropie informationelle ou entropie de Shannon.
En 1956, Léon Brillouin applique l’expression de Shannon à l’information apportée par le démon de Maxwell et montre qu’elle résoud le paradoxe. L’entropie thermodynamique de Gibbs apparait alors comme un cas particulier de l’entropie de Shannon appliquée à l’information sur un système thermodynamique. Appliquée aux êtres vivants, la néguentropie de Schrödinger représente l’information transmise par les gènes.
En 1961, les ingénieurs cherchent à réduire la chaleur dégagée par les ordinateurs et se posent la question de savoir s’il y a une limite théorique. Ralph Landauer montre qu’il y a une limite due aux opérations irréversibles. Effacer un bit d’information doit nécessairement provoquer un dégagement de chaleur équivalent à l’énergie d’un degré de liberté du système. C’est le principe de Landauer. Effacer de l’information étant un cas particulier d’opération irréversible, l’entropie de Shannon devient un cas particulier d’entropie thermodynamique.
Entropie thermodynamique et entropie de Shannon étant chacune un cas particulier de l’autre, cela implique qu’il s’agit d’un seul et même concept.
Aujourd’hui, les lasers permettent d’isoler un très petit nombre de particules élémentaires, d’observer leur agitation thermique et même de les manipuler comme le ferait un démon de Maxwell (3). C’est ainsi que le principe de Landauer a pu être récemment vérifié expérimentallement au laboratoire de l’ENS de Lyon (4).
Les travaux de Landauer ont montré que la notion d’information est bien une grandeur physique. Elle s’applique aussi bien à l’état d’un gaz qu’à celui d’un ordinateur. De fait, le physicien Ed Fredkin a montré qu’un gaz se comporte comme un ordinateur. L’univers lui-même peut être considéré comme un ordinateur (billet 26), un ordinateur qui se perfectionnerait de lui-même en créant des modules capables de mémoriser toujours plus d’information. Prolongements exosomatiques des cerveaux humains, les ordinateurs apparaissent eux-mêmes comme les derniers avatars de cette évolution.
(1) L’état thermodynamique d’un système est défini par ses variables macroscopiques. Par exemple, l’état d’un gaz est défini par son volume, sa pression et sa température.
(2) Lawrence M. Krauss, Robert J. Sherrer. The End of Cosmology? Scientific American, March 2008, pp. 47-53.