模式识别 第四章 基于神经网络的模式分类.ppt

本章概述

本章讲授基于几类代表型神经网络的模式分类，包括：基于多层前馈

神经网络的模式分类、基于卷积神经网络的模式分类、基于循环神经网络

的模式分类、基于Transformer的模式分类、以及基于YOLO网络的模式

分类，过程中给出了各类网络的基本工作原理、网络结构、应用案例等，

旨在帮助学生理解和掌握不同神经网络特点、掌握神经网络核心环节设计

及功能，理解不同神经网络的模式分类原理与程序实现，最终具有面向具

体分类任务的神经网络选取、实现与改进能力。

本章主要内容

4.1基于多层前馈神经网络的模式分类

4.2基于卷积神经网络的模式分类

4.3基于循环神经网络的模式分类

4.4基于Transformer的模式分类

4.5基于YOLOvX的视觉模式识别

4-1基于多层前馈神经网络的模式分类

4.1.1神经元模型

人工神经元模拟生物神经元的结构和功能，是构成人工神经网络的

基本单元。1943年，经生理学家沃伦·S·麦卡洛克（WarrenS.

McCulloch）和数学家沃尔特·皮茨（WalterPitts）构建了M-P神经元

模型，被认为是第一个人工神经元模型，一直沿用至今。

4-1基于多层前馈神经网络的模式分类

4.1.1神经元模型

M-P神经元模型如图所示，输入

为x1到xn，作用于神经元的连接权重分

别为w到wn，神经元对这些输入按照

1n

对应权重进行求和xiwi并与偏置（也

i1n



称为阈值）进行比较xiwib，然后通过

i1

激活函数f(x)（ActivationFunction）

产生神经元的输出，如下所示。

n

yf(xiwib)

i1

4-1基于多层前馈神经网络的模式分类

4.1.1神经元模型

激活函数的作用是在神经网络中引入非线性因素，使其能够逼进任

何非线性函数。常见的激活函数有：

Sigmoid函数：

如图所示，将范围内的任意输入转化为[0,1]之间的输出，

适用于二分类问题，在深度神经网络中可能出现梯度消失

问题，其表达式如公式所示

1

Sigmoid(x)

1ex

4-1基于多层前馈神经网络的模式分类

4.1.1神经元模型

ReLU（RectifiedLinearUnit）线性整流函数：

如图所示，当输入小于0时输出为0，当输入大于0

时输出等于输入，表达式如图4-3所示。激活函数

计算简单，收敛速度快，能有效缓解梯度消失问题，

但训练过程可能导致神经元“死亡”（即权重无法

更新）。

ReLU(x)max(x,0)

4-1基于多层前馈神经网络的模式分类

4.1.1神经元模型

Tanh双曲正切函数：

如图所示，将输出限制在[-1,1]之间，适合于