FTRL可以应用于线性最小二乘法吗?还是仅仅用于逻辑回归模型?

时间:2016-02-06 13:42:48

标签: linear-regression logistic-regression gradient-descent

我正在探索遵循正则化的领导者FTRL近端梯度下降: paperreference implementation

提到FTRL,渐变体面的损失表面是LogLoss,预测模型是Logistic regression

我可以对线性最小二乘模型使用相同的算法吗?我有一个问题,我想用linear model进行建模并按least squares定义损失,然后执行FTRL以找到最佳解决方案 - 您是否看到任何问题?

感谢。

1 个答案:

答案 0 :(得分:1)

我不相信我已经研究了足够的FTRL但是我正在尝试。我一直在研究这个算法,我相信这个python代码会帮助你,因为它使用最小二乘法来表示丢失。由于代码是为回归而编写的,因此'预测'方法被改变,因为使用sigmoid函数进行回归是没用的。 https://www.kaggle.com/scirpus/grupo-bimbo-inventory-demand/ftlr-use-pypy/code

我希望你熟悉python,但如果没有,那么我相信答案是肯定的,因为我已经在kaggle bimbo竞赛中测试了这个相同的代码,它在测试数据上产生了与公共领导者相似的分数板。