【深度学习笔记08】经典神经网络
目标检测的基本实现方法,从目标定位开始,总结了特征点检测、目标检测、滑动窗口法、NMS非极大抑制等目标检测的算法。
9 篇
目标检测的基本实现方法,从目标定位开始,总结了特征点检测、目标检测、滑动窗口法、NMS非极大抑制等目标检测的算法。
本文介绍了一些经典的神经网络模型,包括实现LeNet-5,AlexNet,VGG-16,ResNet,Inception网络等的网络结构。
为什么神经网络对图片进行分析时经常使用卷积,为什么会有padding和stride,池化层和全连接层的作用是什么?
介绍了神经网络中一些常用参数的选择原则和大概范围,以及BN和softmax的基本原理。
本文介绍了最常用的几种优化算法,从划分子集mini-batch开始,介绍了动量梯度下降法Momentum,RMSprop,以及两者的结合体Adam,几种方法的实现方法和基本原理。
改善神经网络的训练效果有很多方面,比如避免欠拟合和过拟合,利用正则化等等。不同的方法其作用效果也不同。
深度学习的线性回归,基本的优化算法,以及Softmax回归和损失函数的实现。
介绍了使用pytorch和pandas实现基本数据的操作方法,以及使用torch进行基本线性代数运算、求导计算的方法。
笔者从零开始学习深度学习的笔记,本章介绍深度学习最最底层的数学思路,以及基于回归的简单的深度学习的算法思路和相关代码。