
习题1-1
2.3 居住某地区的女孩子有25%是大学生,在女大学生中有75%是身高160cm以上的,而女孩子中身高160cm以上的占总数的一半。假如我们得知“身高160cm以上的某女孩是大学生”的消息,问获得多少信息量?
2.12 某一无记忆信源的符号集为{0,1},已知P(0)=1/4, P(1)=3/4。 (1)求平均符号: (2)有100个符号构成的序列,求某一特定序列(例如有m个“0”和(100-m)个“1”)的自信息量的表达式: (3)计算(2)中序列的熵。
2.14 黑白气象传真图的消息只有黑色和白色两种,即信源X={黑,白}。设黑色出现的概率为p(黑)=0.3,白色的出现概率p(白)=0.7。 (1)假设图上黑白消息出现前后没有关联,求H(X); (2)假设消息前后有关联,其依赖关系为p(白/白)=0.9,P(黑/白)=0.1,P(白/黑)=0.2,P(黑/黑)=0.8,求此一阶马尔可夫信源的熵:

第二部分