第六章神经网络.docx
- 文档编号:8834470
- 上传时间:2023-05-15
- 格式:DOCX
- 页数:36
- 大小:119.82KB
第六章神经网络.docx
《第六章神经网络.docx》由会员分享,可在线阅读,更多相关《第六章神经网络.docx(36页珍藏版)》请在冰点文库上搜索。
第六章神经网络
一、填空题
1、神经元(即神经细胞)是由
、
、
和
四部分构成。
2、按网络结构分,人工神经元细胞可分为
和
,依据学习
方式分可分为
和
。
3、人工神经网络常有的输出变换函数有
和
。
4、人工神经网络的学习规则有
、
和
。
5、国内外学者提出了好多面向对象的神经网络控制结构和方法,从大类上看,
较具代表性的有以下几种
、
和
。
6、在一个神经网络中,常常依据办理单元的不一样办理功能,将办理单元分成有
以下三种
、
和
。
7、在一个神经网络中,基本单元神经元的三个基本因素是
、
和
。
8、人工神经网络常有的激发函数或作用函数有
、
、
和
。
9、BP网络的学习算法的改进有
、
和
。
10、神经网络是由大批
广泛互联而成的网络。
11、人工神经网络的学习方法有
和
。
12、从生物控制论的看法来看,神经元拥有以下功能和特征
、
和
。
13、一般来讲,人工神经网络的结构可以分成两种基本种类
和
。
14、人工神经网络的学习算法有
、
和
。
15、BP学习算法实质包含了两类信号不一样方向的流传过程,一类是施加输入信
号由输入层
经隐层到输出层,产生输出响应的
过程;另一类是希望输出与实质输
出之间的偏差信号由输出层返回隐层和输入层,反向逐层修正连接权值和神经元
输出阈值的
过程。
16、神经网络的学习方式可以分成
、
和
。
17、Anbiologicneuroniscomposedof
and.
二、选择题
1、一般以为,人工神经网络(ANN)合用于()
A
、线性系统
B
、多变量系统
C
、多输入多输出系统
D
、非线性系统
2、最早提出人工神经网络思想的学者是()
A
、McCulloch-Pitts
B
、Hebb
C
、Widrow-Hoff
D
、Rosenblatt
3、神经元模型一般为()
A
、单输入多输出
B
、多输入单输出
C
、单输入单输出
D
、多输入多输出
三、简答题
1、简述神经网络的特色。
2、试画出一个2-3-5-2BP网络的结构图,说明节点函数。
3、简要说明多层感知器的结构和学习算法。
4、前馈型神经网络有什么特色?
哪些结构的神经网络属于前馈神经网络?
5、简要说明典型的人工神经元模型。
6、神经网络控制系统的结构形式有哪些?
7、什么是感知器?
8、神经网络的基本属性是什么?
9、试画出BP网络的结构图,并说明其特色。
10、给出典型的神经元模型。
11、人工神经网络有哪些学习方法?
简述之。
12、试画出5输入、3个输出、包含层有10个神经元的3层BP网络,并说明BP网络的长处。
13、BP基本算法的优弊端。
14、人工神经元网络的拓扑结构主要有哪几种?
15、BP基本算法的优弊端。
16、什么是神经网络的学习算法?
神经网络中常用的学习规则有哪些?
17、试论述对BP网络算法的改进。
18、神经元计算与人工智能传统计算有什么不一样?
19、请说着迷经网络与模糊系统的交融方式。
20、模糊神经网络由哪些学习算法?
21、简述自适应神经-模糊推理系统ANFIS的结构和学习算法。
22、模糊神经网络分哪两大类?
各有什么特色?
23、简单表达生物神经元和人工神经元的结构。
24、从人工神经网络的结构来看,神经网络可以分成几各种类?
并说明它们的特色。
25、人工神经网络在工程上获得广泛应用,说明它拥有的突出长处。
26、神经网络的学习方式和学习算法有哪些?
各有什么特色,并适合什么样的网络?
27、前馈型神经网络有什么特色?
哪些结构的神经网络属于前馈神经网络?
28、成立一个BP网络完成逻辑“与”的分类。
29、反响神经网络的拓扑结构有什么特色?
哪些神经网络属于反响神经网络?
30、什么是神经网络控制?
其基本思想是什么?
31、神经网络控制系统可以分为哪几类?
举例说明三种神经网络控制系统的结构。
32、神经元的种类有哪些?
它们的函数关系如何?
33、为何由简单的神经元连接而成的神经网络拥有特别强盛的功能?
34、神经网络按连接方式分有哪几类?
35、为何说神经控制拥有潜伏发展远景?
试联合ANN的特征加以谈论。
36、人工神经网络可分为哪两类,经过网络中神经元的连接状况加以说明
37、试画出一个3-5RBF网络的结构图,说明节点函数和学习过程。
38、试比较单层感知器和多层感知器。
39、神经网络控制系统主要分为哪五类?
40、试说明BP学习算法中包含的两类信号不一样方向的流传过程。
41、RBF网络与BP网络的主要差异是什么?
42、生物神经元主要有哪些部分构成?
试给出等效的MP模型。
43、画出静态多层前向人工神经网络(BP网络)的结构图,并简述其特色
44、试画出一个3-5-2BP网络的结构图,说明节点函数和学习算法,并说明BP
网络的弊端。
45、试画出一个RBF神经网络的结构图,并说明其节点函数。
四、计算题
1、如图
4-24所示的多层前向流传神经网络结构。
假设对于希望
的输入
[x1,x2]
[13],[yd1,yd2
0.3]。
网络权系数的初始值见图。
试用BP算法训
练此网络。
并详细写出第一次迭代学习的计算结果。
这里,取神经元激励函数
f(x)
1
。
学习步长为
1。
最大迭代次数为iterafemax。
偏差为e。
(四
ex
1
舍五入,精确到小数后1位)
2、试设计一个失散型Hopfield
网络,拥有联想记忆功能,使其能正确鉴别
0~
9的阿拉伯数字。
并且每次随机改变2个、4个和6个象素后,分别测试一试看网络对加入噪声的数字的正确诊断率。
3、试设计一个单神经元感知器,利用MATLAB编程解决下述训练样本的模式分类,并找出其分界线。
8个训练样本为
{P1
0
1
1};{P2
1
y2
0};{P3
1
3
0};{P4
1
4
1}
y
0
y
y
1
1
0
{P5
1
5
1};{P6
1
6
1};{P7
0
y
7
0};{P8
1
y8
0}
y
y
1
1
1
1
4、利用MatLab中神经网络函数创立一个RBF网络,并对非线性函数y
sin(x)
进行迫近。
编写MatLab程序并给出仿真结果。
答案:
一、
1、细胞体、树突、轴突、突触
2、层状结构、网络结构、有教师学习、无教师学习
3、略。
4、无督查Hebb学习规则、有督查δ学习规则或Widow-Hoff学习规则、有督查Hebb学习规则
5、略。
6、略。
7、略。
8、阈值函数,分段线性函数,双曲函数、Sigmoid函数
9、引入动量项、变尺度法、变步长法
10、略。
11、略。
12、略。
13、前馈(前向)网络、反响(递归)网络
14、偏差修正规则或Delta()学习规则、Hebb学习规则、竞争学习规则
15、输入模式正向流传、偏差逆流传
16、有教师学习(有督查学习)、无教师学习(无无督查学习、UnsupervisedLearning)、加强学习(ReinforcementLearning)
17、细胞体(Soma)、崛起(Neurites)
二、
1D2A3C
三、
1、1)神经网络可以充分迫近任意复杂的非线性函数。
2)神经网络拥有分布式信息存贮特色,有很强的鲁棒性和容错性。
3)神经网络拥有巨量信息并行办理和大规模平行计算能力。
4)神经网络拥有自组织、自学习功能,是自适应组织系统。
2、答案:
X1
y1
隐含结点函数为S型函数。
输出结点函数为S型函数或线性函数
3、答案:
图中X
(x1,x2,xm)T
为输入特色向量,各重量为y2xi(i
1,2,
m),wij为xi到第
X2
一隐层sj
的连接权值,
j为第一隐层神经元的阈值;wjt
为sj
到第二隐层gt的连
接权值,
t为第二隐层神经元的阈值;输出量
Y
(y1,y2,yn),各重量为
yk(k1,2,n),
为
gt
到输出层
yk
的连接权值,
k
为输着迷经元的阈值;f()
vtk
为激励函数,平时用阶跃函数、双极值函数。
学习算法可以采纳Hebb学习规则。
4、答案:
前馈型神经网络中的神经元按层摆列,网络从输入层到输出层是单向
连接,只有前后相邻两层之间神经元实现互相连接,从上一层接收信号输送给下一层神经元,同层的神经元之间没有连接,各神经元之间也没有反响。
前馈网络是一种静态的非线性映照,大部分前馈网络都是学习网络,比较合用于模式鉴别、分类和展望谈论问题
典型的前馈网络有感知器(MLP)、偏差反向流传网络(BP)和径向基函数神经网络(RBF)、小脑模型连接控制网络(CMAC)等。
5、答案:
此中,xi(i1,2,n)是从其他神经元传来的输入信号;wi表示从其他神经元
到该神经元的连接权值;为该神经元激活阈值;y为神经元输出;f()为输出
变换函数,一般为非线性函数,也可以称为激励函数、响应函数等。
6、答案:
直接逆动向控制
神经网络自适应控制包含自校订控制和模型参照自适应控制
神经网络PID控制
神经网络内模控制
神经网络模型展望控制
也许
督查控制、直接逆控制、模型参照控制、内部模型控制、展望控制、自适应控制、系统鉴别、滤波预告等更加认真的分类形式。
也许
基于传统控制理论的神经控制和基于神经网络的智能控制两大类
7、答案:
感知器(Perceptron)是一个拥有单层神经元的神经网络,并由线性阀值元件构成,是最简单的前向神经网络,它主要用于模式分类。
由感知器的网络结构,我们可以看出感知器的基本功能是将输入矢量转变为0
或1的输出。
感知器利用其学习规则来调整网络的权值,以便使该网络对输人矢量的响应达到数值为0或1的目标输出。
感知器的学习是有指导的学习,其训练算法的基本源理本源于有名的Hebb学习规则。
基本思想是:
逐渐地将样本会合的样本输入到网络中,依据输出结果和理想输出之间的差异来调整网络中的权系
数。
8、答案:
神经网络的基本属性:
1)非线性
2)非局域性
3)非定常性
4)非凸性
9、答案:
BP网络的主要特色是:
1)输入和输出是并行的模拟量;
2)网络的输入输出关系是各层连接的权因子决定,没有固定的算法;
3)权因子是经过学习信号调理的,这样学习越多,网络越聪慧;
4)隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响
10、略。
11、略。
12、略。
13、略。
14、略。
15、略。
16、答案:
“学习”是指在外界环境激励作用下,神经网络的连接权值不停调整
适应的过程。
神经网络的学习算法是指一系列早先定义好的解决学习问题的规则,它决定了如何调整神经网络连接权值的方式。
误差修正规则(Error-CorrectionLearning)、误差修正规则
(Error-CorrectionLearning)Hebb学习规则(HebbianLearning)、竞争学
习(CompetitiveLearning
)。
17、略。
18、略。
19、略。
20、略。
21、略。
22、略。
23、略。
24、略。
25、略。
26、略。
27、略。
28、略。
29、略。
30、略。
31、略。
32、答案:
神经元模型是生物神经元的抽象和模拟。
它是模拟生物神经元的结构和功能、并从数学角度抽象出来的一个基本单元。
它是神经网络的最基本的构成部分。
神经元一般是多输入-单输出的非线性器件。
模型可以描述为
假设
g(ui)
ui,即
yi
f(Neti)
ui
为神经元的内部状态;
i为阀值;xi为输入信号,
j
1,...,n
;wij
为表示从
uj单
元到ui单元的连接权系数;
si为外面输入信号。
常用的神经元非线性特征有以下四种
阀值型
分段线性型
Sigmoid函数型
Tan函数型
33、答案:
神经系统是一个高度复杂的非线性动力学系统,固然每一个神经元的结构和功能十分简单,但由大批神经元构成的网络系统的行为倒是丰富多彩和十分复杂的。
从神经元模型角度来看,有线性办理单元和非线性办理单元。
从网络结构方面来看,有:
前向网络、反响网络和自组织网络。
34、答案:
神经网络按连接方式分属于网状结构网络。
输
入
输
出
互相联合型网络
神经网络是由经过神经元的互连而达到的。
根
据神经元的连接方式的不一样,神经网络可分为以下四种形式:
前向网络由输入层、隐含层和输出层构成。
每一层只接受前一层神经元的输入。
各神经元之间不存在反响。
属于层次型网络。
因此可以有较好的耐故障能力和较快的整体办理能力。
态控制。
反响网络只在输出层到输入层存在反响,即每一个输入节点都有可能接受来自外面的输入和来自输着迷经元的反响。
属于层次型网络。
互相联合型网络这类神经网络在任意两个神经元之间都可能有连接。
在这个状态中,信号要在神经元之间频频来回传达,网络处在一种不停改变状态的动向之中,从某种初态开始,经过若干次的变化,才会达到某种均衡状态。
混杂型网络经过同一层内神经元的互相联合,可以实现同一层内神经元之间的
横向克制或愉悦体系。
这样可以限制每层内能同时动作的神经元数,也许把每层内的神经元分为若干组,让每组作为一个整体来动作。
它是层次型网络和网状结构网络的一种联合。
35、答案:
1)并行分布办理。
神经网络拥有高度的并行结构和并行实现能力,
这特别适于及时控制和动
2)非线性映照。
神经网络拥有固有的非线性特征,这源于其近似任意非线性映照(变换)能力。
这一特征给非线性控制问题带来新的希望。
3)经过训练进行学习。
神经网络是经过所研究系统过去的数据记录进行训
练的。
一个经过适合训练的神经网络拥有归纳所有数据的能力。
所以,神经网络
可以解决那些由数学模型或描述规则难以办理的控制过程问题。
4)适应与集成。
神经网络可以适应在线运转,并能同时进行定量和定性操作。
神经网络的强适应和信息熔合能力使得网络过程可以同时输入大批不一样的控
制信号,解决输入信息间的互补和冗余问题,并实现信息集成和熔合办理。
这些特征特别适于复杂、大规模和多变量系统的控制。
5)硬件实现。
神经网络不但可以经过软件并且可借助软件实现并行办理。
最近几年来,一些超大规模集成电路实现硬件已经问世,并且可从市场上购到。
这使得神经网络拥有快速和大规模办理能力的实现网络。
十分明显,神经网络因为其学习和适应、自组织、函数迫近和大规模并行办理等能力,因此拥实用于智能控制系统的潜力。
36、答案:
人工神经网络的结构基本上分为两类,即递归(反响)网络和前馈网络。
1)递归网络
在递归网络中,多个神经元互连以组织一个互连神经网络,如图4所示。
有些神经元的输出被反响至同层或前层神经元。
所以,信号可以从正向和反向流通。
Hopfield网络,Elmman网络和Jordan网络是递归网络有代表性的例子。
递归网络又叫做反响网络。
图4递归(反响)网络图5前馈(多层)网络
图4中,表示节点的状态,为节点的输入(初始)值,为收敛后的输
出值,i=1,2,...,n。
2)前馈网络
前馈网络拥有递阶分层结构,由一些同层神经元间不存在互连的层级组
成。
从输入层至输出层的信号经过单向连接流通;神经元从一层连接至下一层,不存在同层神经元间的连接,如图5所示。
图中,实线指明实质信号流通而虚线表示反向流传。
前馈网络的例子有多层感知器(MLP)、学习矢量量化(LVQ)网络、小脑模型联接控制(CMAC)网络和数据办理方法(GMDH)网络等。
37、答案:
径向基函数有3种形式:
1)多二次函数
T
(xcj)
2
j(xcj)=(xcj)
j
,j1,2,a;
2
)逆多二次函数
=
1
,j
1,2,a;
j(xcj)
T
(xcj)
2
(xcj)
j
3
)高斯函数j(x
(xcj)T(xcj
)
a。
cj)=exp[
2
],j1,2,
j
在RBF网络中,RBF网络的学习过程分为两个阶段,第一依据所有的输入样
本集利用聚类分析方法求解隐含层各节点的径向基函数的中心向量或隐层基函数的宽度参数,这属于无教师学习;第二阶段依据给定训练样本,利用有教师
学习算法训练和调整隐含层和输出层之间的连接权值或阈值。
38、答案:
单层感知器拥有对线性可分的输入模式进行自动分类的功能。
为了克
服单层感知器的缺点,实现任意输入模式的分类和功能,可以加入隐含层构成多
层感知器。
对于多层感知器,假如隐含层的节点可任意设置,则用双层感知器可
以实现任意的二值逻辑函数;假如隐含层的节点可任意设置,且隐含层用S型激
励函数,双层感知器结构可以一致迫近任意的连续函数。
39、答案:
神经网络控制系统主要分成督查控制、直接逆动向控制、神经适应控
制、适用反向流传控制、自适应谈论控制五大类。
40、答案:
BP学习算法实质包含了两类信号不一样方向的流传过程,一类是施加
输入信号由输入层经隐层到输出层,产生输出响应的“输入模式正向流传”过程;
另一类是希望输出与实质输出之间的偏差信号由输出层返回隐层和输入层,反向
逐层修正连接权值和神经元输出阈值的“偏差逆流传”过程。
“输入模式正向传
播”和“偏差逆流传”过程频频交替进行网络训练,最后达到网络的全局偏差向
极小值收敛(即实质输出逐渐迫近希望输出)而结束学习过程,这类学习规则就
是上节课讲到的Delta()学习规则。
41、答案:
1)对于RBF和BP网络,从理论上可以证明,只要隐层神经元的数目足够多,都可以以任意精度迫近任何单值连续函数。
二者的主要差异在于非线性映照上采纳了不一样的激励函数,BP网络隐含层神经元采纳S型函数,对输入信号无穷大的范围内均会产生非零值,作用函数拥有全局接收域;而RBF网络隐含
层神经元采纳高斯等径向基函数,只有距离基函数中心较近的范围产生较大输出,作用函数拥有局部化接收域,属于局部映照网络。
2)从结构方面BP网络一般是双层网络,但也可以由三层至更多层构成;而RBF网络只有一个隐含层和一个输出层构成的两层形式。
3)RBF网络隐含层和输出层之间是线性方程组合,理论证明网络拥有唯一最正确迫近特征,且无局部极小值问题。
4)RBF网络与BP网络对比较拥有训练收敛速度快、函数迫近能力和模式分
类能力强等长处,所以比较适合于系统的及时鉴别和在线控制。
别的,RBF网络在数值计算、函数拟合、模式鉴别与分类等领域获得了广泛的应用,获得了巨大的成就。
但是BP网络的泛化能力,即对未知样本的展望能力要好于RBF网络。
5)RBF网络的学习过程分为两个比较直观的阶段,但是详细求解RBF网络
隐节点的中心向量cj和隐层基函数的宽度参数j比较困难。
BP网络的学习过程
只有一个有督查学习。
42、答案:
生物神经元主要有树突、轴突和细胞体构成。
图4-1-2MP神经元模型输出函数yf(X)
43、略。
44、答案:
y1
X1
X2
y2
X3
隐层中的神经元一般均采纳S型函数作为激励函数,输出层神经元可以依据实质状况选择线性激励函数,则整个网络的输出可以取任意值;输出层神经元假如相同选择S型函数作为激励函数,则整个网络的输出就限制在一个较小的范围内。
(a)Sigmoid
函数f(X)
1
aX,
a0(b)S
型正切函数
e
1
1eaX
f(X)1eaX,a0
性激励函数f(X)X
BP网采纳BP学算法。
BP学算法属于有教督的学方式,模式供给BP网后,入信号先向前播到点,激励函数以后,把
点的出信息播到出点,出出响果。
而后再依据减小希望出与出差的方向,从出向含逐修正网的和,直至回到入,这样频频直到差达到最小,所以得名“差反向播算法”。
BP网的缺点(要求最少答出3点):
1)因为BP算法上是非性化的梯度算法,不行防备的存在收,主若是简单堕入局部极小,不可以保收到全局最小点。
2)学收速度太慢,且收速度与网的和的初始有关,需要频频以保证达到最解。
3)网的构还没有理性的指,包含含数和点数以及激
励函数、算法等的取均依据
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第六 神经网络