第一周：深度学习引言(Introduction to Deep Learning)

1.1 Supervised Learning with Neural Networks

一般的监督式学习（房价预测和线上广告问题），只要使用标准的神经网络模型就可以

图像识别处理问题，则要使用卷积神经网络（Convolution Neural Network），即CNN

处理类似语音这样的序列信号时，则要使用循环神经网络（Recurrent Neural Network），即RNN

自动驾驶这样的复杂问题则需要更加复杂的混合神经网络模型

CNN一般处理图像问题，RNN一般处理语音信号

数据类型一般分为两种：Structured Data和Unstructured Data

Structured Data通常指的是有实际意义的数据，例如房价预测中的size，#bedrooms，price等；例如在线广告中的User Age，Ad ID等

Unstructured Data通常指的是比较抽象的数据，例如Audio，Image或者Text

1.2 Why is Deep Learning taking off？

红色曲线代表了传统机器学习算法的表现，例如是SVM，logistic regression，decision tree等。当数据量比较小的时候，传统学习模型的表现是比较好的。当数据量很大的时候，其性能基本趋于水平

构建一个深度学习的流程是首先产生Idea，然后将Idea转化为Code，最后进行Experiment。接着根据结果修改Idea，继续这种Idea->Code->Experiment的循环，直到最终训练得到表现不错的深度学习网络模型