如何通俗地理解熵?

熵,是一个热力学的概念。但在历史的发展中,造就了它非常丰富的内涵,进入了很多学科的视野。本文会在数理层面对它进行一个解读,厘清它在逻辑上到底是什么。


1 混乱的熵

很多科普文章中,都提到熵是用来度量混乱的。比如下面这幅动图,单词“Entropy”(熵的英文)可见的时候,熵最小,这个时候最有秩序;而被打乱的时候,熵开始增大,直到最后一片混乱,熵变成最大:

熵之所以很重要,是因为它总结了宇宙的基本发展规律:宇宙中的事物都有自发变得更混乱的倾向,也就是说熵会不断增加,这就是。

比如说自己的卧室,要是不去收拾它,就会变得越来越混论,或者说熵不断增大(下图中上面的房间比下面的房间熵要小):

要是年久失修,建筑物会日益破败(下图中左边的建筑物就比右边的废墟的熵小):

不过对混乱的判断是带有主观色彩的,甚至有一些审美的意味。比如,如何判断雾更混乱还是露珠更混乱(雾的熵更大):

有同学喜欢“雾失楼台,月迷津渡”这样的感觉,那么可能觉得雾更有秩序;而有的同学可能更喜欢“蒹葭苍苍,白露为霜”,就很可能觉得露水更有秩序。总之通过混乱去理解熵的话,容易误解,不够精确。


2 可能的熵

所谓的整洁,指的是合适的物品放在合适的位置。比如将下图定义为“整洁”,也就是说图中大概有20件可以移动的物品,都放在了合适的位置:

而实际上,图中至少有100个可以放置物品的位置(墙上的壁画歪着挂,也可以看作换了一个位置)。通过组合,可算出20件物品放置在100个位置上,其总的放置方法为非常巨大的数字:

如果“整洁”被定义为上图中的放置方法,其余都统统称为“混乱”。那么“整洁”在所有放置方法中的占比,即“整洁”出现的概率是非常小的,几乎为不可能事件;而“混乱”几乎为必然事件,所以“整洁”很容易变为“混乱”:

熵越大,意味着发生的可能性越大。而整个宇宙,自发地朝着可能性更大的方向,也就是熵更大的方向在发展,这就是的更准确的描述(要强调下,如果有人去收拾房间,那就不叫作“自发”)。


3 玻尔兹曼的熵的定义

3.1 玻尔兹曼

上面是对熵通俗的讲解(emm,应该算通俗吧),下面开始进行一些严格的讨论。写到这里有点惶恐,熵是热力学的核心概念,而本人对热力学的了解止于皮毛,所以之后的内容只能保证在个人理解范围内尽量严谨,抛砖引玉,望同学们斧正。

在不同的历史阶段,克劳修斯、玻尔兹曼、吉布斯、香农等大咖都给出过不同的熵的定义。这些熵的定义本质是统一的,它们之间的差异反映了人们对熵的认知的发展。下面主要介绍玻尔兹曼对熵的定义:

他对熵的定义如下:

这个公式将传统的热力学重建在了统计上,奠定了统计力学的基础。但它太过于跨时代,招来了很多的非议。玻尔兹曼本身精神状况欠佳,而学术上的攻击可能是最后一根稻草,最后他在情绪失控中自缢身亡。死后人们才慢慢接受了他的结论,并将这个公式镌刻在位于维也纳中央公墓的玻尔兹曼的墓碑上(下图中墓碑的顶端,刻着的就是这个公式):

3.2 宏观态与微观态

玻尔兹曼提出了一个有趣的问题:屋子里空气分子,会不会突然全跑到左半边去,从而让右边的人憋死?用脚趾头想都知道,答案肯定是不会的。下面来看看玻尔兹曼是怎么解释的,并且借用这个例子来说明熵的定义是什么意思。

下面把问题进行简化,假设房间中只有四个空气分子,用不同颜色来标记这四个空气分子。这四个空气分子在房间中可能的情况全部列举如下:

上面这幅图分为左右两侧,左边的文字称为“宏观态”;右边的分子分布状态,称为“微观态”。比如宏观态“左二右二”,指的是房间左边有两个分子,右边也有两个分子,这个时候人们会从宏观上感受到空气是均匀的,不论你站在房间的哪一边都不会被憋死;但是,在微观上对应的是六种分子的分布,而总共有16种分子分布,所以宏观态“左二右二”发生的概率为:

相对于别的“宏观态”,“左二右二”是概率最大的,也就是说最可能发生的。而我们担心的“全在左边”概率很低,所以不用担心憋死:

似乎“全在左边”和“全在右边”加起来还是有 1/8 的概率,也就是说平均下来8个房间就有一个可能会憋死人。不过这里只讨论了4个分子的情况,实际房间中有非常多的分子,“全在左边”、“全在右边”这两个宏观态的概率几乎为0,完全不用担心它发生。事实上,也没有听到过类似事件的报道。

3.3 熵的定义

回到熵的定义熵来,宏观态“左二右二”,对应的微观态的个数为6。微观态的个数就是熵的定义中的 W ,所以“左二右二”对应的熵为(其中为玻尔兹曼常数,该常数存在的意义,某种程度上是为了统一各种熵的定义的):

所以,简单来看,熵就是正比于微观态的个数的:

那么微观态个数最大的“左二右二”,也就是熵最大的宏观态。根据熵增原理,其它的宏观态都是不稳定的(熵较小),会自发的变换为“左二右二”。谢天谢地,熵增原理保证了我们不用憋死:


4 热传导

两个温度不一致的房间,如果彼此可以进行热交换的话,温度最终会趋于一致:

为什么不是反过来,0 度的房间温度变得更低,而 100 度的房间温度变得更高?这是因为温度均匀地分布在两个房间中的概率非常高(也就是熵最大),集中在其中一个房间的概率几乎为零,根据熵增定理,事物会自发地向熵更大的方向发展,所以房间的温度最终会一致。

最新版本在:如何通俗地理解熵?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/54675.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

透彻理解熵(包括信息熵和交叉熵)

信息论(熵的基础) 熵 相对熵(KL散度) 交叉熵 机器学习中交叉熵的应用 为什么要用交叉熵做loss函数? 交叉熵在单分类问题中的使用 交叉熵在多分类问题中的使用 sigmoid激活函数(承接上面多分类用Sig…

信息与熵,你想知道的都在这里了

ℹ️ 本文参考自 [d2l] Information Theory 此外,本文所提到的 log ⁡ ( ⋅ ) \log(\cdot) log(⋅) 如无特殊说明均指 log ⁡ 2 ( ⋅ ) \log_2(\cdot) log2​(⋅)。 目录 一、自信息(Self-information)二、熵(Entropy&#xff0…

一些信息熵的含义

一些信息熵的含义 (1) 信息熵的定义:假设X是一个离散随即变量,即它的取值范围R{x1,x2...}是有限可数的。设piP{Xxi},X的熵定义为: (a) 若(a)式中,对数的底为2,则熵表示为H2(x),此…

“熵”详细学习笔记——什么是熵?有什么性质?联合熵等其他熵的作用

熵大概是统计学、信息学中最让人纠结的基本概念之一。很多的人对于熵是什么多多少少能说出一二,但是不能准确的表达出来。我们都知道熵可以用来描述含有的信息丰富程度的多少,但具体指什么呢? 在讲到熵之前,在这里我先讲一个“自…

信息熵通俗易懂的例子

转自知乎 https://www.zhihu.com/question/22178202/answer/223017546 本科学的时候是院长教的,当时他说这个东西很有用,也仔细听了没懂什么意思,现在回过头来看,还真有用。 信息熵的定义与上述这个热力学的熵,虽然不…

一文看懂信息熵的本质——谈谈自己对信息熵的理解

一、序言 初次看到信息熵的公式有很多不理解的地方,只知道信息熵如何进行计算,却不懂得公式背后的原理,我通过查阅了一些资料,加深了对信息熵的理解,现在将这些理解分享给大家。如有疑问欢迎评论,若对你有帮…

传闻中能取代90%人工作的chatGPT,不值得让软测人恐慌

ChatGPT的横空出世,在业界掀起了惊涛骇浪。很多人开始担心,自己的工作岗位是否会在不久的将来被ChatGPT等人工智能技术所取代。 软件测试与先进技术发展密切相关,基于人工智能的AI助手已经得到很多的应用机会,那么未来是否更加可期…

该来的总会来,EDG厂长宣布退役!

眼看LPL的转会期就要结束了,但是现在EDG这个传统战队还是没有太多的消息,只听说花费了50万买了一个青训的选手,而IBOY也被传出,有很大概率离开战队,最主要是厂长也退役了。 其实我们都知道厂长是LPL中年纪最大的选手了…

C语言入门这一篇就够了,厂长推荐学习

C语言入门这一篇就够了,⭐厂长推荐学习 关于作者 作者介绍 🍓 博客主页:作者主页 🍓 简介:JAVA领域优质创作者🥇、一名在校大三学生🎓、在校期间参加各种省赛、国赛,斩获一系列荣誉…

2021年危险化学品生产单位安全生产管理人员最新解析及危险化学品生产单位安全生产管理人员证考试

题库来源:安全生产模拟考试一点通公众号小程序 安全生产模拟考试一点通:危险化学品生产单位安全生产管理人员最新解析参考答案及危险化学品生产单位安全生产管理人员考试试题解析是安全生产模拟考试一点通题库老师及危险化学品生产单位安全生产管理人员…

添加小度在家显示无法连接服务器,小度在家突然连不上网了

有个小伙伴说:‘家里有一台小度在家智能音箱,用了大概一年多了,型号是小度最开始那一款智能音箱,价格不到百十块,使用期间也没啥问题,但是最近想再用的时候,发现一直连不上网了,这要…

在与 SQL Server 建立连接时出现与网络相关的或特定于实例的错误。未找到或无法访问服务器

今早开机发现,打开SQL Server 2008 的 SQL Server Management Studio,输入sa的密码发现,无法登陆数据库?提示以下错误: “在与 SQL Server 建立连接时出现与网络相关的或特定于实例的错误。未找到或无法访问服务器。请验证实例名…

pycharm连接远程mysql_【已解决】用PyCharm的MongoDB插件连接远程MongoDB数据库

折腾: 后,继续去试试,用之前可以正常连接本地的mongo的PyCharm的mongodb插件,去连接远程的mongo数据库 PyCharm中mongo插件中测试连接,失败: 再去测试: 然后在Mongo shell options中的arguments…

37 | 个人成长:学习安全,哪些资源我必须要知道?

安全涉及的知识面非常广,更新速度也很快,前辈们很难有足够的时间和精力来言传身教。这个时候就需要我们具备良好的自学能力,通过持续的学习来掌握新的知识,应对新的变化和挑战。 优质的学习资源是自学的重要基础。今天&#xff0…

Java连接MySQL数据库——含步骤和代码

原文地址为: Java连接MySQL数据库——含步骤和代码 工具:eclipse MySQL5.6 MySQL连接驱动:mysql-connector-java-5.1.27.jar 加载驱动: 1. 在工程目录中创建lib文件夹,将下载好的JDBC放到该文件夹下,如下…

2022广西最新八大员之(安全员)模拟试题题库及答案

百分百题库提供建筑施工八大员之安全员考试试题、建筑施工八大员考试预测题、八大员考试真题、安全员证考试题库等,提供在线做题刷题,在线模拟考试,助你考试轻松过关。 1.安全生产领导小组由总承包企业,专业承包企业和劳务分包企业项目经理、技术负责人和…

2023最新Python国内镜像源,亲测可用

1、镜像源 pip包管理工具可以下载第三方库到本地使用,第三方库的来源地址称之为镜像源,镜像源中存放了大量的开源库供我们下载使用。pip的默认镜像源地址在国外,下载很慢,本文收集了当前国内常用的镜像源,速率由快到慢…

Red Hat下载ISO镜像的方法

目录 一、Red Hat介绍 二、进入Red Hat官方网站 三、步骤 一、Red Hat介绍 Red Hat 是一家全球领先的开源技术解决方案提供商,总部位于美国北卡罗来纳州罗利。该公司成立于1993年,其主要产品是 Red Hat Enterprise Linux (RHEL) 操作系统。Red Hat 还…

seata搭建 1.4.2

1.下载源码 下载服务器端 https://github.com/seata/seata/releases 找到1.4.2的zip下载 2.修改配置文件 解压后需要修改config文件 路径\seata\seata-server-1.4.2\conf 针对自己项目所使用的服务注册和配置文件的中间件决定使用哪一个(当前举例nacos&#x…

已解决——“搜狗输入法如何进行候选页翻页”

搜狗输入法候选翻页 打开搜狗输入法后(不同版本可能页面会有差异): 点击鼠标右键选择更多设置。 选择属性设置,点击按键栏,找到候选键翻页。 效果简述(以逗号句号为例): 打字一…