学习交流

当前位置 /首页/母婴教育/学习交流/列表

信息论与编码之求自信息量

题目设一离散无记忆信源,然后告诉我们它发出的消息为多少,让我们求这个消息的自信息量和每个符号携带的自信息量,今天小编就来跟大家介绍一下它的求法。

信息论与编码之求自信息量

操作方法

(01)首先分析题意,信源是无记忆的,因此发出的各消息之间是互相独立的,此时发出的消息的自信息量即为各消息的自信息量。

信息论与编码之求自信息量 第2张

(02)当a0=0时,求出它包含的信息量为1.415。

信息论与编码之求自信息量 第3张

(03)当a1=1时,求出它包含的信息量为2。

信息论与编码之求自信息量 第4张

(04)a2=2时,求出它包含的信息量为2。

信息论与编码之求自信息量 第5张

(05)a3=3时,它包含的信息量为3,如下图所示。

信息论与编码之求自信息量 第6张

(06)在发出的消息中,总结出0,1,2,3各有14,13,12,6个,可以得出总得信息量。

信息论与编码之求自信息量 第7张

(07)共有45个符号,所以平均每个符号所带的自信息量为上式的答案除以45。

信息论与编码之求自信息量 第8张
TAG标签:之求 信息论 编码 #