香农的熵计算

时间:2014-02-27 16:48:21

标签: matlab statistics probability information-theory

我有一个概率分布,用于定义n可能状态的发生概率。

我想计算给定概率分布的香农熵值(以位为单位)。

我可以使用wentropy(x,'shannon')来获取值吗?如果可以,我可以在哪里定义系统可能的状态数?

1 个答案:

答案 0 :(得分:8)

由于您已经拥有概率分布,因此请将其命名为p,您可以执行以下formula for Shannon Entropy而非使用wentropy

H = sum(-(p(p>0).*(log2(p(p>0)))));

这给出了熵H

p必须加1。