【问题标题】:predict.lars command for lasso regression: what are the "s" and "p" parameters? [closed]用于套索回归的 predict.lars 命令:“s”和“p”参数是什么? [关闭]
【发布时间】:2013-06-18 19:04:53
【问题描述】:

help(predict.lars) 中,我们可以读到参数s 是“一个值或值向量,用于索引路径。它的值取决于mode= 参数。默认情况下(mode="step"),s应取 0 到 p 之间的值(例如,步长 1.3 意味着步长 1 和 2 之间的距离为 0.3。)"

“索引路径”是什么意思?另外,s 的值必须介于 1 和 p 之间,但 p 是什么?参数p在帮助文件的其他地方没有提到。

我知道这是基本的,但是关于predict.lars 的 SO 上没有一个问题。

【问题讨论】:

  • 诸如“这个统计参数是什么意思”之类的问题可能最适合 CrossValidated;这不是 SO 的编程问题。
  • 这个问题似乎离题了,因为它是关于解释统计结果的。
  • @HongOoi 问题是关于 R 编程,而不是统计数据。我想知道如何使用命令,帮助文件不清楚。该命令需要p 输入,但没有告诉读者那是什么。这是一个R问题。 @Thomas 问题不在于解释结果。

标签: r machine-learning prediction lasso-regression


【解决方案1】:

使用mode="norm" 选项最简单。在这种情况下,s 应该只是您的 L1 正则化系数 (\lambda)。

要了解mode=step,你需要多了解一点LARS算法。

LARS 可以解决的一个问题是 L1 正则化回归问题:min ||y-Xw||^2+\lambda|w|,其中y 是输出,X 是输入向量矩阵,w 是回归权重。

对 LARS 工作原理的简单解释是,它通过在回归权重向量中添加或删除维度来贪婪地构建解决此问题的方法。

这些贪心步骤中的每一个都可以解释为 L1 正则化问题的解决方案,其中 \lambda 的值递减。这些步骤的顺序称为路径。

因此,给定 LARS 路径,要获得用户提供的 \lambda 的解决方案,您沿着路径迭代直到下一个元素小于输入 \lambda,然后您采取部分步骤 (@987654332 @ 在每一步之间线性减小)。

【讨论】:

    猜你喜欢
    • 2018-08-01
    • 2019-11-14
    • 2019-10-11
    • 2014-01-07
    • 1970-01-01
    • 2020-11-28
    • 2023-03-09
    • 2014-09-21
    • 1970-01-01
    相关资源
    最近更新 更多