非二进制字母表上的霍夫曼编码答案

【问题标题】：Huffman codes over non binary alphabets非二进制字母表上的霍夫曼编码
【发布时间】：2014-07-24 17:29:44
【问题描述】：

我正在研究在非二进制字母上构建最佳霍夫曼代码。

这个问题是在Huffman trees for non-binary alphabets? 中提出的。该解决方案建议使用一次组合 n 个最低频率符号的霍夫曼编码过程（维基百科也建议）。然而，这似乎不是最优的。假设我有 4 个带有频率的字母，

 A --> 0.4

 B --> 0.25

 C --> 0.2

 D --> 0.15

使用 this 导出的三元霍夫曼代码将是

A --> 0

B --> 10

C --> 11

D --> 12

但是，以下代码的预期长度会更短：

A --> 0

B --> 1

C --> 20

D --> 21

我错过了什么吗？

PS 我将这个问题作为一个问题发布，因为我无法对之前的帖子发表评论。

【问题讨论】：

您能否解释一下如何获得示例解决方案（A->0、B->10 等）的步骤，因为当我执行 n=3 的 Huffman 算法时，我得到的结果类似达到你的期望，而不是你得到的。
我将三个最不可能的字符 B、C、D 组合起来得到一个概率为 0.6 的超字符 BCD。接下来，我必须找到 A 的 Huffman 码和概率为 0.4 和 0.6 的 BCD。我将 0 分配给 A，将 1 分配给 BCD。然后我解开 BCD，得到 B 为 10，C 为 11，D 为 12。
哦，我知道你哪里错了，我会在答案中解释，等等。
抱歉信息不正确，我已经用更正确的版本和正确的参考更新了我的答案。

标签： algorithm compression huffman-code

【解决方案1】：

维基百科文章指出“请注意，对于大于 2 的 n，并非所有源词集都能正确形成用于霍夫曼编码的 n-ary 树。在这种情况下，必须添加额外的 0 概率占位符。 "我认为对于 3 元树，在 3 片叶子之后的下一个完整树有 5 片叶子，所以我认为你应该在运行 3 元霍夫曼代码算法之前添加一个 0 概率字符，这会给你 {0, C, D}作为第一阶段，它会产生您喜欢的编码。

【讨论】：

所以正确的做法是添加 0 概率字母表以使字母表大小等于完整的 3 叉树可以拥有的叶子数？
虽然这会使树看起来更漂亮，但 Huffman 编码方案的原始规范是否允许创建虚拟字符？
维基百科文章可以很容易地计算出要针对的字符总数 - “如果源词的数量与 1 模 n-1 一致，那么源词集将形成一棵合适的霍夫曼树”。由于额外的字符被分配为 0 概率并且永远不会发生，我不明白它们为什么会导致问题。如果你真的不喜欢虚构的字符，你可以认为它们永远不会被用于现有字符之一的更糟糕的替代编码。