稀疏向量中的欧几里得距离与余弦距离 - 为什么欧几里得表现更好？

Question

我有一个非常稀疏向量 df（超过 95% 的零）的数据集，我正在测量另一个稀疏向量 sample 之间的距离。

现在由于我处理的是非常稀疏的向量，我假设余弦距离的计算速度比欧几里得快得多，但事实似乎并非如此。

这是正常行为吗？还是我做错了什么？或者说余弦距离在稀疏向量中更有效，这甚至不是真的？

（all_distances 包含多种距离，但我们这里只讨论scipy.spatial.distance.euclidean 和scipy.spatial.distance.cosine）

我的代码

for d_name, d_func in all_distances.items():

    tot_time = []
    for i in range(100):
        start_time = time()
        df['distance'] = df.apply(d_func, axis=1, args=(sample,))
        df.sort_values(by='distance', ascending=True, inplace=True)
        df.drop('distance', axis=1, inplace=True)
        df = df.reset_index(drop=True)
        tot_time.append(time() - start_time)
    
     print("Mean time for {}: {}s".format(d_name, round(mean(tot_time), 4)))

结果：

余弦平均时间：0.8034s

欧几里得平均时间：0.708s

Answer 1

余弦相似度需要两个输入向量的范数，以及它们之间的点积：

cos(theta) = dot(a,b) / (norm(a) * norm(b))

因此，即使点积仅在 a[i] 和 b[i] 均非零时累加，您仍然需要累加 a 和 b 的范数，这本身与累加的工作量差不多欧几里得距离。

无论如何，大部分工作都将通过稀疏向量进行迭代——请注意，它们之间的性能实际上并没有太大差异。但是，对差异的合理解释是余弦计算需要做更多的算术。