一.什么是线性回归模型?
- 根据数据建立回归模型,w1x1+w2x2+…+b=y,通过真实值和预测值之间的差值建立残差,使用梯度下降法来优化得到损失最小时对应的权重和偏置。
- 一般使用MSE均方误差损失函数,因为有个平方,则处处可导,求导方便。
- MSE最小值为预测值是目标值的位置,随着误差的增大,损失函数的值增加更迅速,也因此,当函数的预测值离真实值较远时,使用梯度下降法求解梯度很大,会导致梯度爆炸.
二.如何训练线性回归模型?
1.举例实验:
假设在二维坐标系里随机生成100个点,且只有一个特征x,自然也只有一个权重w和一个偏置b,假设权重w为0.7,偏置b为0.8,则线性回归模型为:
0.7*x+0.8=y
2.需要的工具:
tensorflow框架(一个开源深度学习框架,可用来计算多维数组/矩阵数据)
pycharm(python的一个IDE)
3.实验流程:
1.随机生成100个样本
2.建立线性模型-初始化权重w和偏置b
3.确定损失函数-均方误差(L2损失函数/n)
4.优化损失-梯度下降法(指定超参数)
4.实验代码:
1 |