堆分配与 std::vector

Question

我需要在我的代码的关键部分创建一个多树。标准方法是使用类似的东西：

struct node{ // or class
   ... data ...
  std::unordered_set<node*> children
};

node* root;

重要的一点是，一旦创建了一个节点，在整个树被删除之前，on 不会被删除。

显而易见的方法是使用 new 和 delete 语句来管理堆上的这些数据。完成。

我想知道是否值得探索直接使用 std::vector 而不是 new/delete 的性能：

struct node{ // or class
   ... data ...
  std::unordered_set<uint_32> children
};

std::vector<node> tree;
uint_32 root; // probably always 0, fist element of vector

删除树只需使用tree.clear();

对于大（或巨大的）树有没有可能更快？

Answer 1

我猜你有一棵大小超过 1000 万个元素（或至少在 100k+ 个元素的范围内）的树来处理这个问题。

这一切都取决于您的数据和树的使用方式。数据的空间性通常是值得关注的，但如果这也是你的情况，它并不明显。如果树在构建后被遍历很多次（与被修改很多次相反）并且只被修改了一点，那么尝试组织数据以使其迭代连续是有意义的（就像std::vector 通常是） .在这种情况下，您确实不想要这样的指针，或者您确实不想要使用单个元素new/delete，因为这几乎是保证会让你失望（因为你不能指望元素在内存中是连续放置的）——但这完全取决于你的用例。

一个简单的方法和根本不同的方法是：

std::vector< std::pair<PathInTree, Node> > tree;

然后对其进行排序，使Nodes 按照您迭代树的顺序出现。这是一个有点极端的解决方案，并且有一些缺点，包括如果进行大量随机插入，现在插入会变得很昂贵。我也省略了如何在树中实现路径，但它通常应该是某种序列（如在文件系统结构中）。

Answer 2

考虑到std::unordered_set<uint_32> 的每个实例仍将导致在堆上（内部）至少再分配一次，实际可实现的节省有一个硬性限制。您将节省不到 50% 的必要堆分配。

一个重要的事情是，一旦一个节点被创建，它不会被删除，直到整个树被删除。

随着 std::vector 的增长，重新分配仍在发生。与堆上的不可移动分配相比，这还涉及移动已分配的节点。根据您的 node 元素具有的其他属性，这可能会更加昂贵。您还需要确保您的 node 类与移动语义兼容。

std::unordered_set 也在堆上分配，您也无法避免由此产生的内存碎片。

总而言之，除非您希望受到堆分配性能的限制，或者您有一个与顺序无关的树遍历的用例，否则压缩node 实例可能不值得。

---

一个可能合理的优化是将std::unordered_set<node*> 替换为std::unordered_set<node>。除非您在那个地方需要这种间接性（外部指针？），否则这会像您自己的尝试一样为您节省很多，而不会牺牲调试功能。

为node 实现必要的哈希函数和相等运算符通常很容易。

---

如果性能是一个真正的问题，并且您对每个节点的子节点数量也有一个（合理的）上限，您可以考虑将std::unordered_set<uint_32> children 替换为std::array<uint_32, n> children，而不是使用std::find() 来检测冲突。

这样做的原因很简单，确保node 变为TriviallyCopyable，这减少了内部对普通memcpy 的重新分配。对于多达 16 个左右的孩子，这在内存消耗方面可能是中性的，但仍然更快。