动手学深度学习 | 笔记01 学习目标与深度学习介绍
《动手学深度学习》是面向初学者的深度学习基础教程,有实体书和电子书,配套资料在Github上开源,可供进行学习。同时,李沐老师也在视频网站上录制了网课,可以跟着视频进行学习。《动手学深度学习》电子版与配套资料:https://zh.d2l.ai《动手学深度学习》李沐老师视频课程:(B站账号:跟李沐学AI)https://www.bilibili.com/video/BV1if4y147hS这个笔记系列是我跟着李沐老师学习《动手学深度学习v2》 PyTorch版本的学习笔记记录。
1.介绍深度学习经典和较新的模型:LeNet、ResNet、LSTM、BERT等等
2.机器学习基础:损失函数、目标函数、过拟合、优化等等
3.实践:使用PyTorch实现介绍的知识点、在真实数据上体验算法效果
二、具体内容
1.深度学习基础:线性神经网络,多层感知机
2.卷积神经网络:LeNet、AlexNet、VGG、Inception、ResNet
3.循环神经网络:RNN、GRU、LSTM、seq2seq
4.注意力机制:Attention、Transformer
5.优化算法:SGD、Momentum,Adam
6.高性能计算:并行、多GPU、分布式
7.计算机视觉:目标检测、语义分割
8.自然语言处理:词嵌入、BERT
三、深度学习介绍
深度学习的一些应用:
1.图片分类
2.物体检测和分割
3.样式迁移
4.人脸合成
5.文字生成
6.文生图
7.无人驾驶
以广告点击为案例:
广告点击率预测,是由历史数据训练出模型,再将新数据输入到模型,进行点击率预测。