毕业设计 -(2) 知识学习

一、深度学习基础

1. 前言

(1) 领域专家，数据科学家，AI 专家
Q：数据科学家和 AI 专家的区别？
数据科学家可以有两条职业规划
广：不断开拓模型在不同领域的应用
深：专攻一个领域，成为该领域的专家
(2) 2012 年令深度學習和 NVIDIA 股價火爆起來的真正關鍵──GPU
(3) 模型的可解释性
(4) 符号学可以和深度学习结合吗？可以，例如图神经网络
(5) 学习的阶段：看 -> 听 -> 看 + 听 -> 动手做 -> 讲解一遍给自己或别人听

2. 深度学习基础 - 线性神经网络，多层感知器

3. 卷积神经网络 - LeNet, Alexnet, VGG, Inception, Resnet

4. 循环神经网络 - RNN, GRU, LSTM, seq2seq

5. 注意力机制 - Attention, Transformer

6. 优化算法 - SGD, Momentum, Adam

7. 高性能算法 - 并行，多 GPU, 分布式

8. 计算机视觉 - 目标检测，语义分析

9. 自然语言处理 - 词嵌入，BERT

二、pytorch

1. 创建张量

Q: 张量和多维数组有什么不同？

2. 广播机制

3. 减少内存

before = id (Y)  # id () 函数提供了内存中引用对象的确切地址
Y = Y + X
print (id (Y) == before)

before = id (X)
X += Y
# X [:] = X + Y
print (id (X) == before)  # 使用 X [:] = X + Y 或 X += Y 来减少操作的内存开销。

4.Numpy 是 python 中最基础的多元数组运算框架

5. 转换为其他 Python 对象

Y = torch.tensor ([[2.0, 1, 4, 3], [1, 2, 3, 4], [4, 3, 2, 1]])
A = Y.numpy ()
print (type (A))  # 打印 A 的类型
print (A)
B = torch.tensor (A)
print (type (B))  # 打印 B 的类型
print (B)

a = torch.tensor ([3.5])
print (a, a.item (), float (a), int (a))

6.pytorch 和 reshape 和 view 有什么不同

a = torch.arange (12)
b = a.reshape ((3,4))
b [:] = 2
print (a)

7.torch 的 tensor 和 numpy 的 array 类似吗？

8.tensor 有数学定义，array 只是计算机产物，但是其实是一样的东西

9. 可以使用 jax 取代 jupyter 吗？

三、数据预处理

读写文件背景
读写文件是最常见的 IO 操作。Python 内置了读写文件的函数，用法和 C 是兼容的。

在磁盘上读写文件的功能都是由操作系统提供的，现代操作系统不允许普通的程序直接操作磁盘。

读写文件就是请求操作系统打开一个文件对象（通常称为文件描述符），然后，通过操作系统提供的接口从这个文件对象中读取数据（读文件），或者把数据写入这个文件对象（写文件）。

四、数学

1. 线性代数

axis=0 代表往跨 raw（down)，而 axis=1 代表 column（across)

u = torch.tensor ([3.0, -4.0])
print (' 向量的𝐿2 范数:', torch.norm (u))  # 向量的𝐿2 范数
print (' 向量的𝐿1 范数:', torch.abs (u).sum ())  # 向量的𝐿1 范数
v = torch.ones ((4, 9))
print ('v:', v)
print (' 矩阵的𝐿2 范数:', torch.norm (v))  # 矩阵的𝐿2 范数

一维向量是一个 row vector（从计算机的角度来说就是一个数组）
在 pytorch 中 column vector 是一个矩阵，要区分 row vector 和 column vector 可以用二维数组

2. 微积分

五、深度学习

六、图像分类

七、目标检测

Ross Girshick (rbg 大神）2014 年提出 R-CNN 架构，可谓给 object detection 领域一个里程碑的前进，在此之前 object detection 性能已经好些年没有大的提高了。

八、图像分割

九、花书精读

十、李飞飞 CS231

参考：
太阳花的小绿豆
李沐 动手学深度学习