什么是负采样方法使用 - sigmoid 或 softmax？答案

【问题标题】：What is negative sampling method use- sigmoid or softmax?什么是负采样方法使用 - sigmoid 或 softmax？
【发布时间】：2020-10-21 11:47:01
【问题描述】：

我最近在看这篇论文：Word2Vec解释(https://arxiv.org/pdf/1402.3722.pdf)

还有一些我无法理解..

在第 3 页中，他们说 p 是使用 softmax 定义的

$p(D=1|w, c, \theta) = \frac{1}{1+e^{-v_c\dotv_w}}$

但我很困惑，因为我在 sigmoid 函数中看到了该公式，而不是 softmax 函数。

你是如何从 softmax 推导出这个定义的？

【问题讨论】：

【解决方案1】：

这可以称为作者对符号的小滥用，但它完全没问题。有时人们会交替使用 softmax 和 sigmoid。但是，在这种情况下，由于二元类问题，它确实是一个 sigmoid 函数。

【讨论】：