1.机器学习基本概念简介

一、机器学习的类型

机器学习任务的类型可分为回归regression分类classification结构化学习structured learning

二、机器如何学习(训练)

步骤

step1: 设定一个初步可能的函数(猜测)——具有未知参数
step2:定义一个损失函数——未知参数的函数
step3:优化——能够让损失函数最小的参数

如何优化

梯度下降gradient descent

1-随机选取一个确定的参数

2-计算微分(斜率)、

Pasted image 20250509012005.png
(该图中,如果斜率小于0,说明右侧小于左侧,将w变大,可以使得损失降低,如果斜率大于0,则w减小,可使得损失降低)
至于步伐多大,取决于两个因素,斜率与学习率learning rate(斜率小,学习率小,步伐小)
Pasted image 20250509012251.png

机器学习过程中需要自己设定的内容就是超参数hyperparameters
Pasted image 20250509012830.png

3-基于学习率与斜率更新参数

直到停止(超参数设置到达最大值/到达最低值(斜率为0))
然而存在一个问题即局部最低点和全局最低点。(但是这个问题并不是大问题,估计是因为只要换一个起点就可以解决这个问题

多参数优化

Pasted image 20250509013502.png