DeepLearning.ai深度学习课程笔记
  • Introduction
  • 第一门课 神经网络和深度学习(Neural-Networks-and-Deep-Learning)
    • 第一周：深度学习引言(Introduction to Deep Learning)
      • 1.1 神经网络的监督学习(Supervised Learning with Neural Networks)
      • 1.2 为什么神经网络会流行？(Why is Deep Learning taking off?)
    • 第二周：神经网络的编程基础(Basics of Neural Network programming)
      • 2.1 二分类(Binary Classification)
      • 2.2 逻辑回归(Logistic Regression)
      • 2.3 逻辑回归的代价函数（Logistic Regression Cost Function）
      • 2.4 逻辑回归的梯度下降（Logistic Regression Gradient Descent）
      • 2.5 梯度下降的例子(Gradient Descent on m Examples)
      • 2.6 向量化 logistic 回归的梯度输出（Vectorizing Logistic Regression’s Gradient Output）
      • 2.7 （选修）logistic 损失函数的解释（Explanation of logistic regression cost function ）
      • Logistic Regression with a Neural Network mindset 代码
      • lr_utils.py
    • 第三周：浅层神经网络(Shallow neural networks)
      • 3.1 神经网络概述（Neural Network Overview）
      • 3.2 神经网络的表示（Neural Network Representation ）
      • 3.3 计算一个神经网络的输出（Computing a Neural Network's output ）
      • 3.4 多样本向量化（Vectorizing across multiple examples ）
      • 3.5 激活函数（Activation functions）
      • 3.6 为什么需要（ 非线性激活函数？（why need a nonlinear activation function?）
      • 3.7 激活函数的导数（Derivatives of activation functions ）
      • 3.8 神经网络的梯度下降（Gradient descent for neural networks）
      • 3.9 （选修）直观理解反向传播（Backpropagation intuition ）
      • 3.10 随机初始化（Random+Initialization）
      • Planar data classification with one hidden layer
      • planar_utils.py
      • testCases.py
    • 第四周：深层神经网络(Deep Neural Networks)
      • 4.1 深层神经网络（Deep L-layer neural network）
      • 4.2 前向传播和反向传播（Forward and backward propagation）
      • 4.3 深层网络中的前向传播（Forward propagation in a Deep Network ）
      • 4.4 为什么使用深层表示？（Why deep representations?）
      • 4.5 搭建神经网络块（Building blocks of deep neural networks）
      • 4.6 参数 VS 超参数（Parameters vs Hyperparameters）
      • Building your Deep Neural Network Step by Step
      • dnn_utils.py
      • testCases.py
      • Deep Neural Network Application
      • dnn_app_utils.py
  • 第二门课 改善深层神经网络：超参数调试、 正 则 化 以 及 优 化 (Improving Deep Neural Networks:Hyperparameter tuning, Regulariza
    • 第二门课 改善深层神经网络：超参数调试、正则化以及优化(Improving Deep Neural Networks:Hyperparameter tuning, Regularization and
      • 第一周：深度学习的实用层面(Practical aspects of Deep Learning)
        • 1.1 训练，验证，测试集（Train / Dev / Test sets）
        • 1.2 偏差，方差（Bias /Variance）
        • 1.3 机器学习基础（Basic Recipe for Machine Learning）
        • 1.4 正则化（Regularization）
        • 1.5 为什么正则化有利于预防过拟合呢？（Why regularization reduces overfitting?）
        • 1.6 dropout 正则化（Dropout Regularization）
        • 1.7 理解 dropout（Understanding Dropout）
        • 1.8 其他正则化方法（Other regularization methods）
        • 1.9 归一化输入（Normalizing inputs）
        • 1.10 梯度消失/梯度爆炸（Vanishing / Exploding gradients）
        • 1.11 神经网络的权重初始化（Weight Initialization for Deep Networks）
        • 1.12 梯度的数值逼近（Numerical approximation of gradients）
        • 1.13 梯度检验（Gradient checking）
        • 1.14 梯度检验应用的注意事项（Gradient Checking Implementation Notes）
        • Initialization
        • Gradient Checking
        • Regularization
        • reg_utils.py
        • testCases.py
      • 第二周：优化算法 (Optimization algorithms)
        • 2.1 Mini-batch 梯度下降（Mini-batch gradient descent）
        • 2.2 理解 mini-batch 梯度下降法（Understanding mini-batch gradient descent）
        • 2.3 指数加权平均数（Exponentially weighted averages）
        • 2.4 理解指数加权平均数（Understanding exponentially weighted averages ）
        • 2.5 指 数 加 权 平 均 的 偏 差 修 正 （ Bias correction in exponentially weighted averages ）
        • 2.6 动量梯度下降法（Gradient descent with Momentum ）
        • 2.7 RMSprop( root mean square prop)
        • 2.8 Adam 优化算法(Adam optimization algorithm)
        • 2.9 学习率衰减(Learning rate decay)
        • 2.10 局部最优的问题(The problem of local optima)
        • Optimization
        • opt_utils.py
        • testCases.py
      • 第 三 周 超 参 数 调 试 、 Batch 正 则 化 和 程 序 框 架 （Hyperparameter tuning）
        • 3.1 调试处理（Tuning process）
        • 3.2 为超参数选择合适的范围（Using an appropriate scale to pick hyperparameters）
        • 3.3 超参数训练的实践： Pandas VS Caviar（Hyperparameters tuning in practice: Pandas vs. Caviar）
        • 3.4 归一化网络的激活函数（ Normalizing activations in a network）
        • 3.5 将 Batch Norm 拟合进神经网络（Fitting Batch Norm into a neural network）
        • 3.6 Batch Norm 为什么奏效？（Why does Batch Norm work?）
        • 3.7 测试时的 Batch Norm（Batch Norm at test time）
        • 3.8 Softmax 回归（Softmax regression）
        • 3.9 训练一个 Softmax 分类器（Training a Softmax classifier）
        • tensorflow tutorial
        • improv_utils.py
        • tf_utils.py
  • 第三门课 结构化机器学习项目（Structuring Machine Learning Projects）
    • 第三门课 结构化机器学习项目（Structuring Machine Learning Projects）
      • 第一周 机器学习（ML）策略（1）（ML strategy（1））
        • 1.1 为什么是 ML 策略？（Why ML Strategy?）
        • 1.2 正交化（Orthogonalization）
        • 1.3 单一数字评估指标（Single number evaluation metric）
        • 1.4 满足和优化指标（Satisficing and optimizing metrics）
        • 1.5 训练/开发/测试集划分（Train/dev/test distributions）
        • 1.6 开发集和测试集的大小（Size of dev and test sets）
        • 1.7 什么时候该改变开发/测试集和指标？（When to change dev/test sets and metrics）
        • 1.8 为什么是人的表现？（ Why human-level performance?）
        • 1.9 可避免偏差（Avoidable bias）
        • 1.10 理解人的表现（Understanding human-level performance）
        • 1.11 超过人的表现（Surpassing human- level performance）
        • 1.12 改善你的模型的表现（Improving your model performance）
      • 第二周：机器学习策略（2）(ML Strategy (2))
        • 2.1 进行误差分析（Carrying out error analysis）
        • 2.2 清楚标注错误的数据（Cleaning up Incorrectly labeled data）
        • 2.3 快速搭建你的第一个系统，并进行迭代（Build your first system quickly, then iterate）
        • 2.4 在不同的划分上进行训练并测试（Training and testing on different distributions）
        • 2.5 不匹配数据划分的偏差和方差（Bias and Variance with mismatched data distributions）
        • 2.6 定位数据不匹配（Addressing data mismatch）
        • 2.7 迁移学习（Transfer learning）
        • 2.8 多任务学习（Multi-task learning）
        • 2.9 什么是端到端的深度学习？（What is end-to-end deep learning?）
        • 2.10 是否要使用端到端的深度学习？（Whether to use end-to-end learning?）
  • 第四门课 卷积神经网络（Convolutional Neural Networks）
    • 第四门课 卷积神经网络（Convolutional Neural Networks）
      • 第一周 卷积神经网络（Foundations of Convolutional Neural Networks）
        • 1.1 计算机视觉（Computer vision）
        • 1.2 边缘检测示例（Edge detection example）
        • 1.3 更多边缘检测内容（More edge detection）
        • 1.4 Padding
        • 1.5 卷积步长（Strided convolutions）
        • 1.6 三维卷积（Convolutions over volumes）
        • 1.7 单层卷积网络（One layer of a convolutional network）
        • 1.8 简单卷积网络示例（A simple convolution network example）
        • 1.9 池化层（Pooling layers）
        • 1.10 卷积神经网络示例（Convolutional neural network example）
        • 1.11 为什么使用卷积？（Why convolutions?）
        • Convolution model Step by Step
        • Convolutional Neural Networks: Application
        • cnn_utils
      • 第二周 深度卷积网络：实例探究（Deep convolutional models: case studies）
        • 2.1 经典网络（Classic networks）
        • 2.2 残差网络（Residual Networks (ResNets)）
        • 2.3 残差网络为什么有用？（Why ResNets work?）
        • 2.4 网络中的网络以及 1×1 卷积（Network in Network and 1×1 convolutions）
        • 2.5 谷歌 Inception 网络简介（Inception network motivation）
        • 2.6 Inception 网络（Inception network）
        • 2.7 迁移学习（Transfer Learning）
        • 2.8 数据扩充（Data augmentation）
        • 2.9 计算机视觉现状（The state of computer vision）
        • Residual Networks
        • Keras tutorial - the Happy House
        • kt_utils.py
      • 第三周 目标检测（Object detection）
        • 3.1 目标定位（Object localization）
        • 3.2 特征点检测（Landmark detection）
        • 3.3 目标检测（Object detection）
        • 3.4 卷积的滑动窗口实现（Convolutional implementation of sliding windows）
        • 3.5 Bounding Box预测（Bounding box predictions）
        • 3.6 交并比（Intersection over union）
        • 3.7 非极大值抑制（Non-max suppression）
        • 3.8 Anchor Boxes
        • 3.9 YOLO 算法（Putting it together: YOLO algorithm）
        • 3.10 候选区域（选修）（Region proposals (Optional)）
        • Autonomous driving application - Car detection
        • yolo_utils.py
      • 第四周 特殊应用：人脸识别和神经风格转换（Special applications: Face recognition &Neural style transfer）
        • 4.1 什么是人脸识别？（What is face recognition?）
        • 4.2 One-Shot学习（One-shot learning）
        • 4.3 Siamese 网络（Siamese network）
        • 4.4 Triplet 损失（Triplet 损失）
        • 4.5 面部验证与二分类（Face verification and binary classification）
        • 4.6 什么是深度卷积网络？（What are deep ConvNets learning?）
        • 4.7 代价函数（Cost function）
        • 4.8 内容代价函数（Content cost function）
        • 4.9 风格代价函数（Style cost function）
        • 4.10 一维到三维推广（1D and 3D generalizations of models）
        • Art Generation with Neural Style Transfer
        • nst_utils.py
        • Face Recognition for the Happy House
        • fr_utils.py
        • inception_blocks.py
  • 第五门课 序列模型(Sequence Models)
    • 第五门课 序列模型(Sequence Models)
      • 第一周 循环序列模型（Recurrent Neural Networks）
        • 1.1 为什么选择序列模型？（Why Sequence Models?）
        • 1.2 数学符号（Notation）
        • 1.3 循环神经网络模型（Recurrent Neural Network Model）
        • 1.4 通过时间的反向传播（Backpropagation through time）
        • 1.5 不同类型的循环神经网络（Different types of RNNs）
        • 1.6 语言模型和序列生成（Language model and sequence generation）
        • 1.7 对新序列采样（Sampling novel sequences）
        • 1.8 循环神经网络的梯度消失（Vanishing gradients with RNNs）
        • 1.9 GRU单元（Gated Recurrent Unit（GRU））
        • 1.10 长短期记忆（LSTM（long short term memory）unit）
        • 1.11 双向循环神经网络（Bidirectional RNN）
        • 1.12 深层循环神经网络（Deep RNNs）
        • Building your Recurrent Neural Network
        • rnn_utils.py
        • Dinosaurus Island -- Character level language model final
        • utils.py
        • shakespeare_utils.py
        • Improvise a Jazz Solo with an LSTM Network
      • 第二周 自然语言处理与词嵌入（Natural Language Processing and Word Embeddings）
        • 2.1 词汇表征（Word Representation）
        • 2.2 使用词嵌入（Using Word Embeddings）
        • 2.3 词嵌入的特性（Properties of Word Embeddings）
        • 2.4 嵌入矩阵（Embedding Matrix）
        • 2.5 学习词嵌入（Learning Word Embeddings）
        • 2.6 Word2Vec
        • 2.7 负采样（Negative Sampling）
        • 2.8 GloVe 词向量（GloVe Word Vectors）
        • 2.9 情感分类（Sentiment Classification）
        • 2.10 词嵌入除偏（Debiasing Word Embeddings）
        • Operations on word vectors
        • w2v_utils.py
        • Emojify
        • emo_utils.py
      • 第三周 序列模型和注意力机制（Sequence models & Attention mechanism）
        • 3.1 基础模型（Basic Models）
        • 3.2 选择最可能的句子（Picking the most likely sentence）
        • 3.3 集束搜索（Beam Search）
        • 3.4 改进集束搜索（Refinements to Beam Search）
        • 3.5 集束搜索的误差分析（Error analysis in beam search）
        • 3.6 Bleu 得分（选修）（Bleu Score (optional)）
        • 3.7 注意力模型直观理解（Attention Model Intuition）
        • 3.8注意力模型（Attention Model）
        • 3.9语音识别（Speech recognition）
        • 3.10触发字检测（Trigger Word Detection）
        • Neural machine translation with attention
        • nmt_utils.py
        • Trigger word detection
        • td_utils.py
Powered by GitBook
On this page

Was this helpful?

  1. 第五门课 序列模型(Sequence Models)
  2. 第五门课 序列模型(Sequence Models)
  3. 第三周 序列模型和注意力机制（Sequence models & Attention mechanism）

3.6 Bleu 得分（选修）（Bleu Score (optional)）

Previous3.5 集束搜索的误差分析（Error analysis in beam search）Next3.7 注意力模型直观理解（Attention Model Intuition）

Last updated 6 years ago

Was this helpful?

机器翻译（machine translation）的一大难题是一个法语句子可以有多种英文翻译而且都同样很好，常见的解决办法是通过一个BLEU得分（the BLEU score）的东西来解决，BLEU得分是一个有用的单一实数评估指标，用于评估生成文本的算法，判断输出的结果是否与人工写出的参考文本的含义相似

一般有多个人工翻译：

BLEU得分做的就是给定一个机器生成的翻译，它能够自动地计算一个分数来衡量机器翻译的好坏。只要机器生成的翻译与任何一个人工翻译的结果足够接近，那么它就会得到一个高的BLEU分数。BLEU代表bilingual evaluation understudy(双语评估替补)。且这些人工翻译的参考会包含在开发集或是测试集中

假设机器翻译 (MT)的输出是：the the the the the the the，是一个十分糟糕的翻译。衡量机器翻译输出质量的方法之一是观察输出结果的每一个词，看其是否出现在参考中，这被称做是机器翻译的精确度（a precision of the machine translation output）。这个情况下，机器翻译输出了七个单词并且这七个词中的每一个都出现在了参考1或是参考2，因此输出的精确度就是7/7，分母为机器翻译单词数目，分子为相应单词是否出现在参考翻译中。但是，这种方法很不科学，并不可取

改良后的精确度评估方法（the modified precision measure）：把每一个单词的记分上限定为它在参考句子中出现的最多次数。在参考1中，单词the出现了两次，在参考2中，单词the只出现了一次。单词the的得分上限为2。输出句子的得分为2/7，分母是7个词中单词the总共出现的次数，分子是单词the出现的计数，在达到上限时截断计数

上述都只是关注单独的单词，在BLEU得分中，另外一种更科学的打分方法是bleu score on bigrams（二元词组），bigram的意思就是相邻的两个单词

定义截取计数（the clipped count），也就是Count_clip：给算法设置得分上限，上限值为二元词组出现在参考1或2中的最大次数

假定机器翻译输出了稍微好一点的翻译，对MT output进行分解，得到的bigrams及其出现在MT output中的次数count为：

相应的bigrams precision为4/6也就是2/3，为二元词组改良后的精确度

将改良后的一元词组精确度定义为P1P_1P1​，PPP代表的是精确度。下标1的意思是一元词组，即考虑单独的词，PnP_nPn​ 定义为nnn元词组精确度，用n-gram替代掉一元词组。即机器翻译输出中的nnn元词组的countclip之和除以nnn元词组的出现次数之和

如果机器翻译输出与参考1或是参考2完全一致，那么所有的P1P_1P1​、P2P_2P2​等等的值，都会等于1.0

最终的BLEU得分：

将得到的P1P_1P1​，P2P_2P2​， P3P_3P3​...PnP_nPn​ 相加再取平均值

BLEU得分被定义为：

p=exp(1n∑i=1nPi)p=exp (\frac{1}{n}\sum\limits_{i=1}^{n}{P_i})p=exp(n1​i=1∑n​Pi​)

然后用BP（“简短惩罚”brevity penalty） 的惩罚因子（the BP penalty）来调整。它能够惩罚输出了太短翻译结果的翻译系统：

p=BP⋅exp(1n∑i=1npi)p=BP\cdot exp(\frac1n\sum_{i=1}^np_i)p=BP⋅exp(n1​i=1∑n​pi​)

BLEU得分被用来评估许多生成文本的系统（systems that generate text），比如说机器翻译系统（machine translation systems），图像描述系统（image captioning systems）。不过它并没有用于语音识别（speech recognition）。因为在语音识别当中，通常只有一个答案