如何在Python中找到连续变量的熵？

Question

我有一个变量，其值如[23.13,56.1,12.6,1.23,5.56]。我想找到这个变量的熵。我在这里得到一个代码How to compute the shannon entropy and mutual information of N variables但是对于连续变量，应该首选哪个bin大小？

Answer 1

我们可以创建变量的直方图并使用 bin 来创建有限的类别集。这将作为连续变量的离散版本。或者计算第 n 个百分位数并将它们用作类别。