【发布时间】：2019-06-18 07:39:36
【问题描述】：
在SVM优化问题中，我们要么想最大化2/||w||的边距，
或最小化权重向量 w 的欧几里得范数：
(1/2)*w^t*w
有人可以向我解释为什么欧几里得范数是上面的公式吗？而不是1/sqrt(w^t*w)？
我假设欧几里得范数是欧几里得距离，我们如何得到这个公式？
【问题讨论】：
【发布时间】：2019-06-18 07:39:36
【问题描述】：
原因是以下三个是等价的（在通常满足的适当数学条件下）：
- 最大化数量
z。 - 最大化
f(z)，其中f是严格增长的函数。 - 最小化
g(z)，其中g是严格递减函数。
在您的情况下，设置z=||w||，并反过来应用上述内容。那么最小化||w||就等于最小化f(z) = 1/2 ||w||^2，最大化g(z) = 2/||w||。
【讨论】：
-
好的，但是我怎样才能转换这两个数学方程，使它们相等呢？
-
我的意思是 2/||w|| == ||w||/2 如果我取倒数...但是 ||w||与分子中的||w||^2不一样，我们如何在数学上到达那里？
-
@user2883596：你不仅取倒数，还取平方。所以我说的函数是
f(z) = 1/z^2。示例：假设您最小化2/||w||并且您得到值1（即||w|| = 2）。所以无论你如何选择参数，||w||永远不会大于2（如果会，2/||w||不会是最小值）。因此，||w||^2永远不会大于4。现在，您也可以最大化||w||^2，而不是最小化2/||w||。是等价的。 -
是的，我明白，但我也可以最大化 ||w||而不是||w||^2，为什么我们取平方||w||一个公式，但不是平方 ||w||另一个公式？而是除以 2？
-
@user2883596：因为
||w||^2是可微分的，而且更容易最大化/最小化。
我们有两个边界 ?⋅?+?=1 和 ?⋅?+?=−1 和一个中间的边界，即?⋅?+?=0。现在我们要计算这两条线中的每一条线与中间一条线之间的距离。如果我们称距离为?。
我们考虑?⋅?+?=1上的一个点z，然后以这个点z为原点，?⋅?+?=0上的点就是?−?⋅?||?||，这里，中线与?⋅?+?=1的距离就是z到?−?⋅?||?||
的距离现在因为这一点在 ?⋅?+?=0，我们将有：
?⋅(?−?⋅? / ||?||)+? = 0
?⋅?+? −?⋅?⋅? / ||?|| = 0
我们知道由于 z 位于 ?⋅?+?=1，所以 ?⋅?+? 等于 1，因此：
1 −?⋅?⋅? / ||?|| = 0
?⋅?⋅? / ||?|| = 1
? ⋅ ||?||^2 / ||?|| = 1
? ⋅ ||?|| = 1
? = 1/||?||
【讨论】：