李哥项目班--学习part01
深度学习相关概念以及拟合函数判别
·
李哥项目班–学习part01
深度学习是什么,深度学习和机器学习、AI三者之间的关系??首先我先回答这三者这件的关系,从范围上来看是AI > 机器学习 > 深度学习,如下面的图片:

第一点:机器学习是什么?
机器学习:基于数学或者统计学的方法,具有很强的可解释性。
如下有三个例子:
- KNN:一种监督学习算法,用于分类和回归问题。它的工作原理如下
- 距离度量(一般是欧氏距离)
- 确定邻居数量K
- 投票机制

- 决策树

- 朴素贝叶斯

深度学习是什么?

设计一个很深的网络架构让机器自己学习,换句话来说就是找函数f
- 常见的神经网络的输入一般有三种数据形式
- 向量:身高 体重 财富 -> (100,50,-120)
- 矩阵/张量:例如色素块的ROG三个值,对应三个所谓的矩阵
- 序列:文字 视频 …
- 我们想要的输出一般也有下面几种:
- 回归任务: such as:根据以前的温度推测明天的温度大概有多少度
- 分类任务:图片里的宠物是猫 or 狗 / 句子是积极的 or 消极的
- 生成任务(结构化):代码填充 / 识别视频内容

深度学习任务:分类和回归是结构化的基础, 分类时是用数字来表示类别的,有时候需要多个模态的数据。
回归和神经元
深度学习需要数据的原因就是需要从数据中找到函数
如何从数据中找到函数呢?
一共下面三个步骤:先定义函数,再定义合适的损失函数,最后根据损失对原函数进行优化。

| x(数据) | y(标签) |
|---|---|
| 1 | 3.1 |
| 2 | 5.1 |
| 3 | 6.9 |
| 4 | 8.7 |
| 5 | 10.8 |
| 6 | 13.5 |
| 7 | ? |
- first step:定义函数,经观察可知是线性模型。
y = w x + b y = wx + b y=wx+b
线性模型:y表示预测值,w表示权重,b表示偏差。
- second step: 举例,损失函数,LOSS函数有很多,作用是判断我们选择这组参数怎么样

假如w=3,b=2:
- third step: 优化,下图:梯度下降
w ∗ , b ∗ = a r g m i n w , m i n b L w^*,b^* = arg\ min_w,\ min_b\ L w∗,b∗=arg minw, minb L

优秀笔记
更多推荐


所有评论(0)