我正在探索遵循正则化的领导者FTRL近端梯度下降: paper,reference implementation。
提到FTRL,渐变体面的损失表面是LogLoss
,预测模型是Logistic regression
。
我可以对线性最小二乘模型使用相同的算法吗?我有一个问题,我想用linear model
进行建模并按least squares
定义损失,然后执行FTRL以找到最佳解决方案 - 您是否看到任何问题?
感谢。
答案 0 :(得分:1)
我不相信我已经研究了足够的FTRL但是我正在尝试。我一直在研究这个算法,我相信这个python代码会帮助你,因为它使用最小二乘法来表示丢失。由于代码是为回归而编写的,因此'预测'方法被改变,因为使用sigmoid函数进行回归是没用的。 https://www.kaggle.com/scirpus/grupo-bimbo-inventory-demand/ftlr-use-pypy/code
我希望你熟悉python,但如果没有,那么我相信答案是肯定的,因为我已经在kaggle bimbo竞赛中测试了这个相同的代码,它在测试数据上产生了与公共领导者相似的分数板。