熵是如何衡量一个系统有序还是无序的?

1,836 阅读3分钟

小知识,大挑战!本文正在参与“程序员必备小知识”创作活动。

今天来开始讨论的概念是熵。 熵是一个很难理解的概念,所以在这个视频中,将帮助你去理解什么是熵。我们不会研究熵在未来所带来的深远影响,如宇宙的热死亡或类似的东西,而是将专注于一些基础的知识,如熵究竟是什么,随后视图给出一个直观的解释帮助大家更好理解什么是熵。

或许你已经听说过熵是用于度量无序的程度,也可用于衡量一个系统中混乱程度,但这到底又是什么意思?

我们将通过理解这个方程究竟代表了什么含义来理解如何计算熵,看到这个公式别担心,你只需要具有高中水平的数学,就能听懂随后的内容。

001.png

让我们从一个比较抽象的想法开始,在这里,假设有一个盒子,在这个盒子里,我们有一定数量的粒子,这里暂且假设现在盒子里有 3 个粒子。

002.png

这些粒子具体是什么在这里并不重要,重要的是这些粒子各自都携带一定量的能量,我们将在此假设他们只能携带指定数量的能量。

003.png

这里我们绘制 5 条线,每条线表示一个能级,也就是处于这个位置粒子所能够携带能量大小,从下向上依次增加能级,分别是 e、2e、这里 e 表示能量单位并不没有什么实际意义只是为了把问题说清楚。

006.png

如果我们假设合作的能够承载能力为 Etotal=5eE_{total} = 5e 的话,那么就要求盒子中 3 个粒子的能量之和为 5e, 这样一来这 3 个粒子一共会有多少种组合,也就是有多少微状态,一共有 6 种状态分别是

  • A,B(E) + C 3E
  • A,C(E) + B 3E
  • B,C(E) + A 3E
  • A,B(2E) + C E
  • A,C(2E) + B E
  • B,C(2E) + A E

简单总结一些一个具有 5e 能量盒子中放置 3 粒子的排列组合有 6 种,也就是这个系统具有 6 种微观态的系统,那么一个系统具有多少微观态对于理解其熵值也很重要。

S=kBln(Ω)S = k_B\ln(\Omega)
  • S 表示熵
  • Omega|Omega 表示微状态的数量
  • kBk_B 是玻尔兹曼常数

图 熵是对这个特定系统的无序性的衡量,我们已经在上面看到了,这里有 6 种不同的方式来组合粒子,这个系统的熵就等于玻尔兹曼常数乘以 6 的自然对数。

假设系统只能包含 3e 能量,那么对于 3 个粒子组合方式只有一种就是 3E,这样系统的微状态就是 1

007.png

那么到现在为止大家对熵是如何衡量系统是不是有比较直观认知,在第一个系统中,粒子组合方式比较多,也就是说这个系统存在多个微状态,熵值比较高,也就是说我们难以推测系统到底处于哪一个微观状态。所以这个系统是无序的。

而第二个系统只有一种微状态,所以我们可以确定当前系统所处状态,也就是系统是问题的,熵的值比较低。

上面已经简单解释熵是如何衡量系统有序性,如果回到之前看的那个系统,就是总能量为 5e 的一同,盒子里有 3 个粒子,系统有 6 个不同的微观状态,那么当我们计算这个系统的熵时,我们做了一个隐含的假设就是在这个系统处于 6 个微观状态的概率是均等。