我正在尝试在python中从头开始实现简单的线性回归。我想制作一个程序,以帮助可视化培训过程和成本函数,以及随着培训的进行如何优化成本函数的价值。
我正在使用matplotlib的动画API来对“回归线的拟合”进行动画处理,并使用其3D绘图API来绘制成本函数。
但是我遇到了一个问题:
当我绘制成本函数时,我发现它不是凸函数,而是一个凸函数: Screeshot of Cost Function plot
我还发现,在整个训练过程中,与最佳拟合线的斜率变化相比,y截距的变化非常小。我正在使用学习率= 0.0001
我的费用函数:
UICollectionView
m和c是y = mx + c中的斜率和y截距