{"id":360,"date":"2015-12-04T11:45:29","date_gmt":"2015-12-04T10:45:29","guid":{"rendered":"http:\/\/www.francois-roddier.fr\/?p=360"},"modified":"2015-12-07T22:53:59","modified_gmt":"2015-12-07T21:53:59","slug":"85-entropie-et-information","status":"publish","type":"post","link":"https:\/\/www.francois-roddier.fr\/?p=360","title":{"rendered":"85 &#8211; Entropie et information."},"content":{"rendered":"<p>Beaucoup de mes lecteurs trouvent ces notions difficiles, notamment ceux d\u2019entre eux qui n\u2019ont pas eu de formation scientifique. Je les rassure. Les physiciens eux-m\u00eames ont mis plus d\u2019un si\u00e8cle \u00e0 comprendre ce qu\u2019est l\u2019entropie.<\/p>\n<p>Le concept d\u2019entropie a \u00e9t\u00e9 introduit en 1865 par le physicien allemand Rudolph Clausius, comme une cons\u00e9quence du second principe de la thermodynamique, tel qu\u2019il a \u00e9t\u00e9 \u00e9nonc\u00e9 en 1824 par le fran\u00e7ais Sadi Carnot. Comme l\u2019\u00e9nergie, l\u2019entropie est une fonction d\u2019\u00e9tat, c\u2019est-\u00e0-dire qu\u2019elle ne d\u00e9pend que de l\u2019\u00e9tat (1) du syst\u00e8me consid\u00e9r\u00e9. Cependant, \u00e0 la diff\u00e9rence de l\u2019\u00e9nergie, l\u2019entropie n\u2019est pas une quantit\u00e9 conservative. Elle ne se conserve que dans les syst\u00e8mes isol\u00e9s subissant des transformations r\u00e9versibles. Si un syst\u00e8me isol\u00e9 subit des transformations irr\u00e9versibles, son entropie augmente. Ainsi, l\u2019entropie d\u2019un syst\u00e8me isol\u00e9 ne peut qu\u2019augmenter. Sa valeur maximale est atteinte \u00e0 l\u2019\u00e9quilibre thermodynamique.<\/p>\n<p>Cela a conduit \u00e0 l\u2019id\u00e9e que l\u2019entropie de l\u2019univers ne peut qu\u2019augmenter, id\u00e9e que l\u2019on retrouve partout dans la litt\u00e9rature. En pratique, la seule chose qu\u2019un scientifique puisse \u00e9tudier est l\u2019univers observable. On sait aujourd\u2019hui que l\u2019univers observable perd sans cesse de la mati\u00e8re. Une partie de celle-ci disparait derri\u00e8re un horizon cosmologique (2) tandis qu\u2019une autre partie disparait \u00e0 l\u2019int\u00e9rieur de trous noirs. En cons\u00e9quence, l\u2019entropie de l\u2019univers observable peut fort bien diminuer. L\u2019apparition spontan\u00e9e de diff\u00e9rences de temp\u00e9rature, lors de la formation des \u00e9toiles, laisse \u00e0 penser que c\u2019est le cas.<\/p>\n<p>D\u00e8s 1861, Willard Gibbs soulevait une difficult\u00e9 li\u00e9e \u00e0 la notion d\u2019entropie en montrant que m\u00e9langer deux gaz augmente leur entropie, sauf si ceux-ci sont identiques. L\u2019augmentation est la m\u00eame aussi petite que ce soit leur diff\u00e9rence. Ainsi l\u2019entropie d\u2019un syst\u00e8me d\u00e9pend de ce qu\u2019on sait sur le syst\u00e8me.<\/p>\n<p>En 1868, James Clerk Maxwell aboutissait \u00e0 une conclusion similaire en montrant qu\u2019un \u00ab\u00a0d\u00e9mon\u00a0\u00bb qui serait capable de distinguer les mol\u00e9cules rapides d\u2019un gaz de ses mol\u00e9cules lentes pourrait les s\u00e9parer, sans effectuer de travail m\u00e9canique. Cela cr\u00e9erait une diff\u00e9rence de temp\u00e9rature, en violation du second principe.<\/p>\n<p>En 1929, Leo Szilard reprend l\u2019id\u00e9e de Maxwell et montre qu\u2019on pourrait faire marcher un moteur thermique avec une seule source de chaleur en utilisant un gaz form\u00e9 d\u2019une seule mol\u00e9cule \u00e0 la condition de savoir o\u00f9 celle-ci se trouve. Ces deux derniers exemples montrent qu\u2019un apport de connaissance sur un syst\u00e8me isol\u00e9 diminue l\u2019entropie de celui-ci.<\/p>\n<p>En 1944, Erwin Schr\u00f6dinger, remarque qu\u2019en s\u2019auto-organisant les \u00eatres vivants diminuent leur entropie interne gr\u00e2ce au flux d\u2019\u00e9nergie qui les traverse. Il introduit le n\u00e9ologisme de n\u00e9guentropie ou entropie n\u00e9gative.<\/p>\n<p>En 1948, Claude Shannon publie sa th\u00e9orie math\u00e9matique de la communication dans laquelle il introduit une mesure de la quantit\u00e9 d\u2019information a transmettre dans un message. L\u2019expression de cette mesure est identique (au signe pr\u00e8s) \u00e0 celle de l\u2019entropie de Gibbs. On parle alors d\u2019entropie informationelle ou entropie de Shannon.<\/p>\n<p>En 1956, L\u00e9on Brillouin applique l\u2019expression de Shannon \u00e0 l\u2019information apport\u00e9e par le d\u00e9mon de Maxwell et montre qu\u2019elle r\u00e9soud le paradoxe. L\u2019entropie thermodynamique de Gibbs apparait alors comme un cas particulier de l\u2019entropie de Shannon appliqu\u00e9e \u00e0 l\u2019information sur un syst\u00e8me thermodynamique. Appliqu\u00e9e aux \u00eatres vivants, la n\u00e9guentropie de Schr\u00f6dinger repr\u00e9sente l\u2019information transmise par les g\u00e8nes.<\/p>\n<p>En 1961, les ing\u00e9nieurs cherchent \u00e0 r\u00e9duire la chaleur d\u00e9gag\u00e9e par les ordinateurs et se posent la question de savoir s\u2019il y a une limite th\u00e9orique. Ralph Landauer montre qu\u2019il y a une limite due aux op\u00e9rations irr\u00e9versibles. Effacer un bit d\u2019information doit n\u00e9cessairement provoquer un d\u00e9gagement de chaleur \u00e9quivalent \u00e0 l\u2019\u00e9nergie d\u2019un degr\u00e9 de libert\u00e9 du syst\u00e8me. C\u2019est le principe de Landauer. Effacer de l\u2019information \u00e9tant un cas particulier d\u2019op\u00e9ration irr\u00e9versible, l\u2019entropie de Shannon devient un cas particulier d\u2019entropie thermodynamique.<\/p>\n<p>Entropie thermodynamique et entropie de Shannon \u00e9tant chacune un cas particulier de l\u2019autre, cela implique qu\u2019il s\u2019agit d\u2019un seul et m\u00eame concept.<\/p>\n<p>Aujourd\u2019hui, les lasers permettent d\u2019isoler un tr\u00e8s petit nombre de particules \u00e9l\u00e9mentaires, d\u2019observer leur agitation thermique et m\u00eame de les manipuler comme le ferait un d\u00e9mon de Maxwell (3). C\u2019est ainsi que le principe de Landauer a pu \u00eatre r\u00e9cemment v\u00e9rifi\u00e9 exp\u00e9rimentallement au laboratoire de l\u2019ENS de Lyon (4).<\/p>\n<p>Les travaux de Landauer ont montr\u00e9 que la notion d\u2019information est bien une grandeur physique. Elle s\u2019applique aussi bien \u00e0 l\u2019\u00e9tat d\u2019un gaz qu\u2019\u00e0 celui d\u2019un ordinateur. De fait, le physicien Ed Fredkin a montr\u00e9 qu\u2019un gaz se comporte comme un ordinateur. L\u2019univers lui-m\u00eame peut \u00eatre consid\u00e9r\u00e9 comme un ordinateur (<a href=\"http:\/\/www.francois-roddier.fr\/?p=199\">billet 26<\/a>), un ordinateur qui se perfectionnerait de lui-m\u00eame en cr\u00e9ant des modules capables de m\u00e9moriser toujours plus d\u2019information. Prolongements exosomatiques des cerveaux humains, les ordinateurs apparaissent eux-m\u00eames comme les derniers avatars de cette \u00e9volution.<\/p>\n<p>(1) L\u2019\u00e9tat thermodynamique d\u2019un syst\u00e8me est d\u00e9fini par ses variables macroscopiques. Par exemple, l\u2019\u00e9tat d\u2019un gaz est d\u00e9fini par son volume, sa pression et sa temp\u00e9rature.<\/p>\n<p>(2) Lawrence M. Krauss, Robert J. Sherrer. The End of Cosmology? Scientific American, March 2008, pp. 47-53.<\/p>\n<p>(3) <a href=\"http:\/\/scitation.aip.org\/content\/aip\/magazine\/physicstoday\/article\/68\/9\/10.1063\/PT.3.2912\">Eric Lutz, Sergio Ciliberto, Information: From Maxwell\u2019s demon to Landauer\u2019s eraser. Physics Today, Vol. 68, Issue 9, September 2015.<\/a><\/p>\n<p>(4) <a href=\"http:\/\/www.physik.uni-kl.de\/eggert\/papers\/raoul.pdf\">Antoine B\u00e9rut et al., 2012.<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Beaucoup de mes lecteurs trouvent ces notions difficiles, notamment ceux d\u2019entre eux qui n\u2019ont pas eu de formation scientifique. Je les rassure. Les physiciens eux-m\u00eames ont mis plus d\u2019un si\u00e8cle \u00e0 comprendre ce qu\u2019est l\u2019entropie. Le concept d\u2019entropie a \u00e9t\u00e9 introduit en 1865 par le physicien allemand Rudolph Clausius, comme une cons\u00e9quence du second principe &hellip; <a href=\"https:\/\/www.francois-roddier.fr\/?p=360\" class=\"more-link\">Continuer la lecture de <span class=\"screen-reader-text\">85 &#8211; Entropie et information.<\/span> <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-360","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/posts\/360","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=360"}],"version-history":[{"count":4,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/posts\/360\/revisions"}],"predecessor-version":[{"id":364,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=\/wp\/v2\/posts\/360\/revisions\/364"}],"wp:attachment":[{"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=360"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=360"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.francois-roddier.fr\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=360"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}