熵的介绍

1 熵概念的产生

约150年前，科学家在发现热力学第一定律(能量守恒定律)之后不久，又在研究热机效率的理论时发现，在卡诺热机完成一个循环时，它不仅遵守能量守恒定律，而且工作物质吸收的热量Q与当时的绝对温度T (T= t+273.16℃, t为摄氏温标)的比值之和∑(Q/T)为零（Q, T均不为零）。鉴于以上物理量有这一特性，1865年德国科学家克劳修斯就把可逆过程中工质吸收的热量Q与绝对温度T之比值称为Entropy (即熵)。从此，一个新概念伴随着热力学第二定律就在欧洲诞生了，Entropy很快在热力学和统计力学领域内占据了重要地位。1923年德国科学家普朗克来我国讲学用时，在我国字典里还找不到与之对应的汉字，胡刚复教授翻译时就在商字的上加了个火字(表示与热有关)来代表Entropy，从而在我国的汉字库里出现了“熵”字。1

1978年改革开放以后，钱三强率领我国科学家访问欧洲，带回了红极一时的耗散结构理论(比利时科学家普里高津((LPrigogine)创立，并因此获得物理诺贝尔奖)，此理论对热力学问题、熵概念和热寂论多有涉及。从此以后，“熵”成为我国学术界的热门议题，各领域的学者也就“熵”概念与熵原理发表了意见。1987年上海译文出版社出版了美国学者里夫金(J.Rifkin)和霍华德2(THoward)著的书《Entropy, A New World View))(《熵，一种新的世界观》)，于是熵这个概念在中国大地上流行起来，大学教授、改革家、哲学家以及许多学者就“熵”概念和理论发表的见解也多了起来，从此熵在我国开始了广泛的研究。

1986年新疆气象研究所的张学文建议各行业都设法把熵概念和熵原理引入到自己的领域，提出了组织跨学科研究熵的想法，并在1987年组织召开了第一届“熵与交叉科学研讨会”，该研讨会每2年开一次，一直延续至今。

国内对熵概念和熵理论的深入研究，极大的推动了熵在气象学、信息科学、股票投资、管理决策以及基础理论等各个领域的拓展，活跃了我国的科学与社会思想。

2 熵的基本定义3

熵概念来源于热力学，后经进一步的发展，涉及到统计力学与信息论等学科。熵是一种不确定性的定量化度量。考虑一个具有n个结果的概率试验，并设这些结果各自具有离散概率八，则熵为：1nipi㏑pi pi≥0,(i=1,2,„,n);

1nipi=1 (4-1)

3 熵的基本性质3

1)非负性：Sn（P1，P2，…,Pn) ≥ 0

2)可加性：对于相互独立的状态，其熵的和等于和的熵；

3)极值性：当状态为等概率的时候，即pi=1/n ，（i==1,2，…，n)其熵最大，有Sn（P1，P2，…,Pn) ≤Sn（1/n,1/n,…,1/n）=㏑n;

4)凹凸性：Sn（P1，P2，…,Pn)是一个关于Pi的凸函数.

4 熵的发展4

普里高津讲过：“什么是熵?没有什么问题在科学史的进程中曾被更为频繁地讨论过”。熵理论的提出已有近150年的历史，在这段时间里，各个学派的代表人物纷纷提出自己的观点，在熵理论的丰碑上铭刻着数十位著名科学家的名字，其中贡献最大的几位是克劳修斯、玻耳兹曼、普利高津、申农。

4. 1热力学熵

十九世纪初，卡诺在对提高热机效率的研究中，得出了理想热机循环过程的方程：

Q1/T1+Q2/T2=0

即：可逆的卡诺循环过程完成后，工质吞吐的热量与当时绝对温度比值的和是不变的。

克劳修斯基于Q/T的这一特性，于1856年在《热之唯动说》一书中，首次把Q/T (在可逆的卡诺循环过程中)定义成一个新的物理量一一熵（Entropy )，用符号S表示，这标志着熵概念的正式诞生，并在此基础上利用宏观热力学方法提出热力学状态函数熵。

熵的宏观表达式为：

dS=dQ/T

SA一SB=∫AB dQ/T

其中

△S≥0 “=”表示用于孤立系统可逆过程;

“>”则代表用于孤立系统不可逆过程

具体解释为，如果一定工质在进行着可逆卡诺循环，在绝对温度T下吸收了微元热量dQ，则我们就把熵的变化dS记为Q

dS=1/TdQ

因而，完成一个完整的可逆卡诺过程的熵值不变表示为

∮dS=∮1/TdQ =0

上式也说明熵仅与工质的状态有关，而与其经过的路径无关，是一个状态量。

如果不是完成一个热循环，而是分析一个热过程，那么工质的熵值的变化量为(A, B为始末热力学状态)：

∫AB dS=∫AB 1/TdQ=1/T∫ABdQ=1/T（QB—QA）= SB- SA

由热力学熵可以看出其单位由热量单位焦耳(J)和绝对温标开尔文(K)决定，即为(J/K)，实用单位是单位质量工质的熵值，故一般热力学上为(KJ/Kg.K )，称为比熵。

4. 2波尔兹曼熵

在探讨熵的微观本质过程中，奥地利物理学家玻耳兹曼作出了重要贡献。波尔兹曼(Boltzmann)在研究气体分子运动过程中，基于把热理解为微观世界分子运动的观点，对熵作出微观解释，后经普朗克·吉布斯进一步研究解释更为明确。

波尔兹曼认为，在有大量粒子(原子、分子)构成的系统中，熵就是表示粒子之间的混乱程度的物理量。当一个系统处于平衡时，系统的微观能量状态个数越多，熵也越大。从他提出的熵概念我们可以看出，熵是研究群体行为规律的，而不是研究个体行为的。如果以W表示微观能量状态个数，则它与系统的熵值S有如下关系：

S=K·InW (从微观上定义状态函数熵)

式中K是波尔兹曼常数，是一个与研究对象有关的常数；W是热力学概率，同一宏观态对应的微观态数，这一公式称为玻耳兹曼熵公式。

玻耳兹曼熵公式把宏观状态函数熵同微观状态函数W联系起来，在宏观与微观之间架设了一座桥梁，揭示了熵的统计意义。它给我们显示了如下信息：

①对于系统的某一宏观态，总有一个热力学概率值与之对应，因而就有一个熵值与之对应。因此，熵是系统状态的函数。

②熵的微观本质是系统内分子热运动无序程度的定量量度。在绝对零度条件下，分子无序运动停止，系统熵值为零。

③熵和内能一样，熵的变化有重要的实际意义。

4. 3信息熵

波尔兹曼熵是表示大量粒子混乱程度的一个物理量，系统越“乱”，熵就越大；统越有序，熵就越小。在1872年波尔兹曼提到了“熵是一个系统失去了的‘信息’ 的度量”。

熵的获得意味着信息的丢失。一个系统有序程度越高，则熵就越小，所含的信息量就越大，信息的“质”也越高；反之，系统的无序混乱程度越高，则熵就越大，信息的“质”和

“量”就越小。信息和熵是互补的，信息就是负熵。所以用来表示信息熵的公式与热力学熵的公式有一区别，在信息熵公式中有一负号，而在热力学熵中没有。这一点恰恰说明，它与热力学公式所代表的方向相反，不是描述系统的无序状态，而是表示系统的有序程度，表示系统获得信息后，无序状态的减少或消除，即消除不确定性的大小。

1948年，申农把波尔兹曼熵的概念引入信息论中，把熵作为一个随机事件的不确定性或信息量的量度，从而奠定了现代信息论的科学理论基础，大大地促进了信息论的发展。

信息量是信息论的中心概念。信息论量度信息的基本出发点，是把获得的信息看作用以消除不确定的东西。因此信息数量的大小，可以用被消除的不确定性的多少来表示，而随机事件的不确定性的大小可以用几率分布函数来描述。

申农定义的信息熵是一个独立于热力学熵的概念，但具有热力学熵的基本性质(单值性、可加性和极值性)，并且具有更为广泛和普遍的意义，所以称为广义熵。它是熵概念和熵理论在非热力学领域泛化应用的一个基本概念。

4. 4物理场熵

1986年，中国学者张学文(新疆气象研究所)在《物理场的熵及其自发减少现象》一文中首先提出了物理场熵一词。

张学文在研究气象中的分布问题时，沿着熵与分布对应的思路，把熵与物理场联系起来指出：一切的物理场都对应着一个熵值。如果某一特定的空间中的每一个点就某物理量(如气压、温度、电位„)而定在某一瞬间，仅有唯一值，而且不同的几何点上这个值不尽相同，就把这个空间称为一个物理场。而物理场的熵可以理解为空间状态的复杂程度。状态是一个非常重要的概念，它与质量、能量有着相同的重要性，所以没有状态的物质是不存在的。一个物质系统内部的状态越多、越复杂、越无序，其物理场熵就越大；反之，状态越少、越简单、越单调，其物理场熵就越小。

4. 5管理熵

管理熵这个概念是由河北工业大学的宋华岭在1999年首次提出的。

现代化企业是一个复杂的大系统。在整个系统的运行中贯穿着两种“流动”：一种是物流——人力、物力、财力的流动；另一种是随之产生的大量数据、资料、指标、图纸、报表等信息流动。

物流是生产经营的主体流程，这种流动是否畅通，很大程度上决定着企业经营活动的好坏。而信息流的任何堵塞、紊流、混乱、沉淀都会使人流、物流、财流造成无序与混乱，企业的经济效果受到损害。信息与管理科学是密不可分的，企业中存在的信息是大量的、庞杂的，如果不准确地、有效地、确定地传递信息，企业的管理职能就无法进行，容易形成“肢体庞大而神经系统低级的恐龙结构”。管理水平的提高，很大程度上取决于信息流的质量。从信息论的角度看，管理过程的实质是信息的过程，信息是企业管理的基础。度量管理质量的重要指标是管理效率，也就是管理信息的转化与传递率一一当量熵。管理的效率取决于信息通道的通畅程度与信息流量的损失程度，这些都可以用熵的转化当量的意义来评价，即管理的损失率。

我们知道，熵可以作为群体(信息)不确定性的度量。在信息时代的管理系统中，企业的内、外部环境多变无常，比以往更多地出现大量信息某种状态的几率研究的问题，即不确定性的问题。如信息不完备性、人文“软因素”条件的不充分性，因果律破损而造成的不确定性一一随机性，由于排中律破损产生的不确定性——模糊性；或者两者共有的随机模糊不确定性。所有这些不确定性都可以用熵来度量，下面我们给出狭义管理熵的概念：

狭义的管理是指以企业系统或实体作为管理对象而进行的一系列管理活动，结合熵概念

及其泛化后的内涵，定义狭义管理熵：管理的信息与概念在管理信息传递过程中的传递效率与阻力损失的度量，就是对管理系统输入的物质、能量与信息的转化成管理功效的转化率的度量，即管理计划目标与实际效果的差别评价。管理熵概念从反面对管理效果进行度量与评价。

4. 6熵增原理

普朗克把熵增加原理描述为：“在任何自然的(不可逆的)过程中，凡参与这个过程的物体的熵的总和永远是增加的。”

熵增加原理是热力学第二定律的数学表述，从熵增加原理可以推导出克劳修斯表述，也可以推导出开尔文表述。

根据克劳修斯熵公式，对于孤立系统(与外界无物质、能量交换的系统)，其熵不会减少，只能增加或保持不变，这是因为，在系统内进行的自然过程，由于dQ > 0，过程必朝着使熵增加的方向进行，到达平衡状态时，熵达到极大值，并保持在极大熵状态下不便，这就是过程进行的极限。具体描述为：

因为熵是工质的热力学状态函数，其变化量△S与热力学过程中该系统吸收的微元热量△Q以及该系统的开氏温标T具有以下关系：

△S ≥△Q/T