C++ 排序向量时间复杂度

Question

假设我有一个带有 N 个向量的 vector<vector<int>> L，并且所有向量中的 ints 总数最多为 M。标准 C++ 排序 sort(L.begin(), L.end()) 的最紧凑时间复杂度是多少？

vector<int> 比较函数的运行时间最多为 O(M)，因此一个明显的界限是 O(NM log N)。但是如果我们实现标准的归并排序，我们可以看到在每个 O(log N) 级别中最多完成 O(M) 个整数比较，因此运行时间是 O((N+M) log N)。这是因为比较两个长度为 A 和 B 的向量需要 O(min(A,B)) 时间。

C++ 标准是否保证运行时为 O((N+M) log N)？

Answer 1

没有足够的信息。您还需要了解M 值在N 向量中的分布。有了它，就可以直接找到整体复杂性：

1. std::sort 具有 O(N·log(N)) 比较的复杂性。

2. std::vector 使用std::lexicographical_compare(v1, v2) 进行比较，其复杂度为O(min(v1.size(), v2.size())) 比较。

3. int 比较的复杂度为O(1)。

4. 我们将让E(M, N) 成为M、N 上的一个函数，它返回最小元素数的均值在每对内部向量之间。

   • 例如，如果您有一个均匀分布，这是 微不足道地等于M/N。
5. 取产品： Big Oh = N·log(N)·E(M, N)·1。
   • 对于均匀分布，这将是M·log(N)。

您可以使用Discrete Probability Distribution theory 找出E(M, N) 函数对于M 跨N 的任何分布是什么。

---

编辑 1：为了说明这点如何/为什么重要：考虑一个总是使我的向量看起来像这样的分布：

outer[0].size() == 1,
outer[1].size() == 1,
outer[2].size() == 1,
...,
outer[M-1].size() == (M - N + 1)

在这种情况下，E(M, N) = 1，因为对于任何一对元素，std::lexicographical_compare 将只有 一个 其他元素可供比较。因此，对于这个特定的发行版，我将总是具有O(N·log(N)) 的复杂度。但如果分布均匀，我将拥有O(M·log(N))。

---

编辑 2：在您定义分布的注释之后，让我们尝试找到 E(M, N)。

首先，请注意总共有T = (N choose 2) = N(N - 1)(1/2) 个不同的向量比较组合。

一个（并且只有一个）组合将进行 X = O((M - N + 2)(1/2)) 比较，并且有概率 P(X) = 1/T 发生。

所有其他组合都只需要比较1 (O(1))，因此这些情况的发生概率为P(1) = (T - 1)/T。

求均值很简单：X·P(X) + 1·P(1)。

鉴于此，WolframAlpha 说：E(M, N) = (M + (N - 2) N)/((N - 1) N)。

将该函数乘以N log(N) 得到(M + (N - 2) N) log(N) / (N - 1)，可以进一步简化为您正在寻找的Big Oh：O((M/N + N) log(N))。

Answer 2

如果您的整数或多或少随机 ¹⁾，大多数比较只需要比较每个向量的前几个整数（直到第一个不匹配），所以在实践中/平均而言

M（违反直觉）对算法复杂度没有任何影响

给你一些想法：即使你的向量有无限长度，并且最常出现的整数有 50% 的概率 p，你需要进行少于 2 次比较平均：

k < ∑ i*p^i = p/(1-p)^2 | p=0.5 
k < ∑ i*0.5^i = 2;

对于其他概率，结果是：

60% -> k <  2.5
70% -> k <  3.4
80% -> k <  5.0
90% -> k < 10.0

请记住，所有这些数字都是整数比较的平均次数的上限，并且与向量

¹⁾ 我所说的随机并不是指加密意义上的随机。这些数字甚至不必通过大多数随机数的质量测试。唯一的要求是它们不能以系统的方式形成相同的前缀（随着向量的长度而增长）。
除了恶意输入，我目前想不出一个不符合“或多或少随机”的现实示例，但可能还有其他原因。