Question

我运行了这个程序：https://github.com/backstopmedia/tensorflowbook/blob/master/chapters/04_machine_learning_basics/linear_regression.py

我在上面的程序第55行之后添加了“print（”w =“，W.eval（），”b =“，b.eval（））”。我得到的结果是：

w = [[3.5245235] [1.50171268]] b = 1.14499

所以y = 3.5245235x1 + 1.50171268x2 +1.14499。

我使用了与上述程序相同的数据（稍后附加了文件格式），并运行了程序https://github.com/apache/spark/blob/master/examples/src/main/java/org/apache/spark/examples/ml/JavaLinearRegressionWithElasticNetExample.java 结果是：

系数：[0.3827266230806965,5.1690760222564425]拦截：82.22008153614573 数量：6 客观历史：[0.5,0.41583549697777683,0.15548328325638935,0.15439025905767773,0.15432368309706285,0.15432368309449543]

所以y = 0.3827266230806965x1 + 5.1690760222564425x2 + 82.22008153614573。

我很困惑，对于同样的问题，结果是如此不同？我使用Spark程序的数据格式是：



354 1:84 2:46
190 1:73 2:20
405 1:65 2:52
263 1:70 2:30
451 1:76 2:57
302 1:69 2:25
288 1:63 2:28
385 1:72 2:36
402 1:79 2:57
365 1:75 2:44
209 1:27 2:24
290 1:89 2:31
346 1:65 2:52
254 1:57 2:23
395 1:59 2:60
434 1:69 2:48
220 1:60 2:34
374 1:79 2:51
308 1:75 2:50
220 1:82 2:34
311 1:59 2:46
181 1:67 2:23
274 1:85 2:37
303 1:55 2:40
244 1:63 2:30

Answer 1

答案很简单，火花模型不是线性回归。

线性回归最小化|| y - Wx || _2 ^ 2

Spark模型是弹性网，它最小化了|| y - Wx || _2 ^ 2 + a1 || W || _2 ^ 2 + a2 || W || _1

如果您希望此火花代码为线性回归删除正则化术语：

  .setRegParam(0.3)
  .setElasticNetParam(0.8);

并增加迭代次数以确保它收敛。

Answer 2

见Tensorflow on simple linear regression。代码有同样的问题。修复将与那里的答案相同。此外，learning_rate太小（设置为.001），步骤需要为100000.选择这些初始值非常技术性（一位专家与我讨论过这个问题）。

Spark ML和Tensorflow的线性回归结果让我感到困惑

2 个答案: