【问题标题】:Algorithm for finding the optimal weights for prediction寻找预测的最佳权重的算法
【发布时间】:2023-11-07 17:39:01
【问题描述】:

考虑我有以下权重和定量参数:w_1..w_n, p_1..p_n. 0 <= w <= 1。我还有一系列参数和相关值的案例。

存在哪些算法可以找到最佳权重,以最大限度地减少给定参数的值预测误差?什么算法通常能取得最好的结果?

我尝试根据参数p_1=transport _timep_2=days_since_picking 来预测苹果的质量。使用主观李克特量表衡量质量。

50 个人对苹果的评分从 1 到 5 不等,我知道所有这些苹果都是 p_1p_2。如何预测和找到 p_1p_2 的权重,以最大限度地减少案例中的总错误?

【问题讨论】:

  • 我认为您需要指定损失函数才能准确回答这个问题。但是,对于小的 n 而不是很多数据,您可以只使用非线性优化,并具有您想要的任何损失函数。较大的 n,您可以轻松地将这种格式的问题推入 SVM(请参阅 libsvm),但我很确定这意味着特定的损失函数。
  • 这不是简单的线性回归吗?
  • Jay:我不喜欢这个术语,但特定情况下的损失函数可以是:abs(由算法计算的值 - 为苹果提供的评级)?
  • MortenGR,我相信这会导致最小绝对偏差的方法。 @JohnPirie 这与数学无关。 stats.SE,也许吧。

标签: algorithm prediction weighted-average


【解决方案1】:

我同意您应该对“线性回归”进行网络搜索的评论。我想到了至少三个其他算法列表来源:

  1. NLopt:http://ab-initio.mit.edu/wiki/index.php/NLopt_Algorithms(以及我的 C# 包装器:https://github.com/BrannonKing/NLoptNet

  2. S。博伊德的书:http://stanford.edu/~boyd/cvxbook/

  3. 您可能会使用有监督的 AI 算法。神经网络通常由“权重”组成:https://en.wikipedia.org/wiki/Supervised_learning

您还可以将遗传算法与格雷码权重编码结合使用。

【讨论】:

  • 我了解线性算法,并已广泛使用它们,但也对其他方法感到好奇。非常感谢您的意见:-)
  • @MortenGR 神经网络和 SVM 是(或可以是)非线性的,因此采用不同的方法。