我对熵和信息流有疑问。假设X = {-1,1};意思是它可以是-1或1，以及Y的以下赋值：
Y := X * X
我的问题是，在赋值之后，Y的值将始终为1.如果X = -1，则Y = 1，如果X = 1，则Y = 1.知道这一点，我仍然可以认为条件熵H（X / Y）= 0，因为知道X将总是告诉你Y的值。另一方面，条件熵H（Y / X）= 1.0，因为知道Y不会给我的值X。 我在想正确的方向吗？请帮忙
答案 0 :(得分：1)
你是部分正确的，虽然看起来你的符号和你的定义中有“交换”。
H(X|Y) is entropy of X given Y rather than entropy of Y given X.
此外，您应该尝试更仔细地查看这里的情况。由于X和Y之间的关系非常明确，这意味着Y = f（X）。在这种情况下，就像你说的那样，条件熵总是 0（但你用符号表示交换）。因此它应该是
H(Y|X) = 0
另一方面，如果你有Y，你完全不知道什么是X，-1和1都有相等的概率。所以在这种情况下
H(X|Y) = 1