物流配送的熵

Question

根据维基百科https://en.wikipedia.org/wiki/Logistic_distribution，逻辑分布的熵是ln（s）+ 2，其中s> 1。 0是比例参数。

然而，ln（s）+ 2，s> 0可以产生负熵值，例如，

>>> s = 0.1
>>> print (math.log(s) + 2)
-0.30258509299404546

我在这里很困惑。熵怎么可能是负面的？

由于

Answer 1

检查＆＃34; A Mathematical Theory of Communication＆＃34; ，我发现＆＃34;连续分布的熵可能是负的。＆＃34;。由于逻辑分布是连续分布，熵可能是负的。

通信系统分为三大类：离散，连续和混合。

1. 离散：来自有限集的一系列选择。我们可以这么想 是统计中的离散变量。
2. 连续：＆＃34;连续     system是消息和信号都被视为的系统     连续功能，例如无线电或电视＆＃34;。我们可以这么想     是连续变量，其中包含无限数量的值     统计。
3. 混合：离散+连续

＆＃34;熵＆＃34;的定义/等式对于离散的概率集和连续分布是不同的（＆＃34; 20。连续分布的熵＆＃34;在论文中）。我之前只知道离散变量的熵。现在，我很清楚。