学习是一种信仰
-
动态时间规整
Dynamic Time Warping(DTW) 是一种衡量两个时间序列之间的相似度的方法。主要用来解决两个时间序列不“同步”的问题。DTW 使序列在时间维度上非线性地“扭曲”以确定他们的相似度，并且独立于非线性的时间维度变化。
-
卷积神经网络概述
卷积神经网络 (Convolutional Neural Network)，由若干卷积层，池化层和全连接层组成，与其他深度学习结构相比，卷积神经网络在图像和语音识别方面能够给出更好的结果
- 卷积层 Convolution(CONV)
- 池化层 Pooling(POOL)
- 全连接层 Fully connected(FC)
-
玄学的学习率
学习率是深度神经网络里最重要的超参数之一，学习率的选取直接影响了我们模型的质量，但有时学习率的选取是很玄学的
-
梯度下降的优化算法
随着训练样本数量的提升，我们训练后的模型的表现也越来越好，但每次迭代的时间也不断增加。我们主要通过，减少完成一次参数更新的样本数量，以及利用算法尽量从最短路径更新参数，来优化梯度下降算法
-
深层神经网络中的正则化
随着神经网络的深度化，容易出现训练集的精度高，测试集的精度相对不高，这可能是出现了过拟合的情况。这时可以通过增加训练集来解决。如果增加训练集的代价太高，正则化是一个很好的选择
-
深层神经网络中的矩阵计算
深层神经网络其实与 浅层神经网络 类似，只是含有多个隐藏层，可以实现更复杂的功能