【问题标题】:Optimizer for an SVM-like Model类 SVM 模型的优化器
【发布时间】:2020-05-14 07:31:46
【问题描述】:

我一直在研究论文“支持向量数据描述”。作者描述了一个类似于 One-Class SVM 的模型。但是,该解决方案会找到一个封装样品的球体。目标函数表述为:

K表示核函数,alpha是可调参数。我正在考虑使用 PyTorch autograd 解决这个问题,但该包没有强制执行约束的方法。我还检查了SciPy optimization package,但我对这些方法都不是很熟悉。

【问题讨论】:

    标签: python optimization svm


    【解决方案1】:

    听起来这只是权重正则化。您可以在优化器中使用权重衰减参数来实现 L2 正则化。

    如果你想要自定义权重正则化,你可以在你的损失函数中实现它。

    【讨论】:

    • 我不明白这个损失函数与体重标准化有何关系。 \alpha_i 是可学习的参数,而不是归一化系数。
    • 权重正则化是在损失中添加权重大小的函数
    猜你喜欢
    • 2021-08-14
    • 2017-06-10
    • 2014-03-22
    • 2018-04-03
    • 2019-05-29
    • 2011-03-19
    • 2021-04-12
    • 2020-02-23
    • 1970-01-01
    相关资源
    最近更新 更多