- 1
- 2
- 3
- 4
- 5
最小二乘法与梯度下降法
资料介绍
一、基本概念与问题背景
最小二乘法和梯度下降法是机器学习、数值计算中最基础也最常用的两种优化算法,核心目标都是解决线性回归问题:通过给定的数据集拟合出最优的参数模型,从而实现对未知数据的预测。
简单来说,我们要解决的问题可以抽象为:给定$m$个样本$
,
,...,
,其中每个样本
是$n$维特征向量,
是对应的真实标签,我们假设$y$和$x$之间满足线性关系:
其中
是待求解的参数向量,$X$是增广后的特征矩阵。我们需要找到一组最优的
,让预测值
和真实值
之间的误差尽可能小,误差的衡量通常用均方损失函数:
这个损失函数的物理意义非常直观:误差的平方和平均,系数
是为了后续求导计算方便,不影响最优解的位置。最小二乘法和梯度下降法,就是从这个损失函数出发,用两种完全不同的思路求解最优
。
部分文件列表
| 文件名 | 大小 |
| 最小二乘法与梯度下降法.docx | 19K |
最新上传
-
21ic小能手 打赏10.00元 14小时前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:江岚
-
21ic下载 打赏310.00元 3天前
用户:mulanhk
-
21ic下载 打赏320.00元 3天前
用户:jh03551
-
21ic下载 打赏220.00元 3天前
用户:jh0355
-
21ic下载 打赏210.00元 3天前
用户:潇潇江南
-
21ic下载 打赏210.00元 3天前
用户:小猫做电路
-
21ic下载 打赏60.00元 3天前
用户:gsy幸运
-
21ic下载 打赏60.00元 3天前
用户:zhengdai
-
21ic下载 打赏60.00元 3天前
用户:lanmukk
-
21ic下载 打赏60.00元 3天前
用户:烟雨
-
21ic下载 打赏20.00元 3天前
用户:w993263495
-
21ic下载 打赏30.00元 3天前
用户:sun2152
-
21ic下载 打赏20.00元 3天前
用户:w178191520
-
21ic下载 打赏20.00元 3天前
用户:liqiang9090
-
21ic下载 打赏20.00元 3天前
用户:xuzhen1
-
21ic下载 打赏35.00元 3天前
用户:有理想666
-
21ic下载 打赏15.00元 3天前
用户:w1966891335
-
21ic下载 打赏15.00元 3天前
用户:x15580286248
-
21ic下载 打赏25.00元 3天前
用户:qiufeng0299
-
21ic下载 打赏15.00元 3天前
用户:kk1957135547
-
21ic下载 打赏10.00元 3天前
用户:qingsong08
-
21ic下载 打赏10.00元 3天前
用户:电工老刘
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
ZENGYIBIN 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:STM32的数字万用表
-
21ic小能手 打赏5.00元 3天前
-
kuangwy 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:51单片机的汽车雨刷器




全部评论(0)