智能计算作业模板Word文档格式.docx
《智能计算作业模板Word文档格式.docx》由会员分享,可在线阅读,更多相关《智能计算作业模板Word文档格式.docx(60页珍藏版)》请在冰点文库上搜索。
![智能计算作业模板Word文档格式.docx](https://file1.bingdoc.com/fileroot1/2023-5/10/a79a26c1-c902-4934-940e-aa2af01a1e4c/a79a26c1-c902-4934-940e-aa2af01a1e4c1.gif)
3.1问题描述15
3.2算法理论15
3.3求解步骤16
3.4运行结果(图、表等)19
3.5分析小结21
4用PSO算法求解优化问题22
4.1问题描述22
4.2算法理论22
4.3求解步骤23
4.4运行结果(图、表等)25
4.5分析小结26
参考文献26
附录27
1Hopfield联想记忆源程序27
2SOFM对化学元素进行分类源程序40
3遗传算法优化问题源程序42
4PSO解决优化问题源程序45
1Hopfield网络联想记忆的实现
1.1问题描述
Hopfield神经网络可以用于联想记忆的实现。
本实验中将对汉字、韩文、英文字母和标点符号进行联想记忆。
在不同干扰下,训练神经网络,输出训练后的图形。
1.2算法理论
离散Hopfield网络是一个单层网络,有n个神经元节点,每个神经元的输出均接到其它神经元的输入。
各节点没有自反馈。
每个节点都可处于一种可能的状态(1或-1),即当该神经元所受的刺激超过其阀值时,神经元就处于一种状态(比如1),否则神经元就始终处于另一状态(比如-1)。
整个网络有两种工作方式:
即异步方式和同步方式。
联想记忆功能是离散Hopfield网络的一个重要应用范围。
要想实现联想记忆,反馈网络必须具有两个基本条件:
①网络能收敛到稳定的平衡状态,并以其作为样本的记忆信息;
②具有回忆能力,能够从某一残缺的信息回忆起所属的完整的记忆信息。
离散Hopfield网络实现联想记忆的过程分为两个阶段:
学习记忆阶段和联想回忆阶段。
在学习记忆阶段中,设计者通过某一设计方法确定一组合适的权值,使网络记忆期望的稳定平衡点。
联想回忆阶段则是网络的工作过程。
离散Hopfield网络用于联想记忆有两个突出的特点:
即记忆是分布式的,而联想是动态的。
离散Hopfield网络局限性,主要表现在以下几点:
①记忆容量的有限性;
②伪稳定点的联想与记忆;
③当记忆样本较接近时,网络不能始终回忆出正确的记忆等。
另外网络的平衡稳定点并不可以任意设置的,也没有一个通用的方式来事先知道平衡稳定点。
与连续Hopfield网络相比,离散Hopfield网络[Hopf1982]的主要差别在于神经元激活函数使用了硬极限函数(连续Hopfield网使用Sigmoid激活函数),且一般情况下离散Hopfield网络没有自反馈,即
。
因此,离散Hopfield网络是一种二值神经网络,即每个神经元的输出只取1和-1这两种状态(分别表示激活和抑制)。
一个具有4个神经元的离散Hopfield网络的结构图如图5.4所示,图中的-1z表示
单位时延算子,其它连接权值和偏移均可与图5.1的电路形式的连续Hopfield网对应。
离散Hopfield网络工作时,各神经元将在外部输入和初始状态作用下,产生不断的状态变化然后每个神经元的输出反馈到其它神经元的输入,从而产生新的输出。
如果网络是稳定的,则这种反馈过程将一直叠代下去,直至到达稳定平衡状态。
对于有i个神经元的Hopfield网络,每次叠代时,第i个神经元按以下方式计算:
其中
为符号函数。
当然,根据需要,式(5.30)也可取1和0两种状态。
离散Hopfield网络表示的状态是有限的。
对于图5.4的4个神经元的网络,它的输出层就是4位二进制数,每一个4位二进制数就是一种网络状态,从而共有
个网络状态。
同理,对于
个神经元的离散Hopfield网络,它有
离散Hopfield网有串行和并行两种工作方式:
在串行方式中,任意时刻只有一个神经元(一般随机选择)按硬极限函数改变状态,其余单元状态不变;
在并行方式中,任意时刻所有神经元同时改变状态。
不管哪种运行方式,在达到稳定后,网络的状态就不再发生变化,此时有
1.3求解步骤
Hopfield网络的一个功能是可用于联想记忆,也即是联想存储器。
这是人类的智能特点之一。
人类的所谓“触景生情”就是见到一些类同过去接触的景物,容易产生对过去情景的回昧和思忆。
对于Hopfield网络,用它作联想记忆时,首先通过一个学习训练过程确定网络中的权系数,使所记忆的信息在网络的n维超立方体的某一个顶角的能量最小。
当网络的权系数确定之后,只要向网络给出输入向量,这个向量可能是局部数据.即不完全或部分不正确的数据,但是网络仍然产生所记忆的信息的完整输出。
1984年Hopfield开发了一种用n维Hopfield网络作联想存储器的结构。
在这个网络中,权系数的赋值规则为存储向量的外积存储规则(outproductstorageprescription),其原理如下:
设有m个样本存储向量x1,x2,…,xm
X1={X11,X21,...,Xm1}
X2={X12,X22,...,Xm2}
......
Xm={Xm1,Xm2,...,Xmm}
把这m个样本向量存储人Hopfield网络中,则在网络中第i,j两个节点之间权系数的值为:
其中:
k为样本向量Xk的下标,k=1,2,…m;
i,j分别是样本向量Xk的第i,j分量Xi,Xj的下标;
i,j=1,2,…n。
对联想存储器的联想检索过程如下:
给定一个向量X。
进行联想检索求取在网络中的存储内容。
这时,把向量X={X1,X2,...Xn}
的各个分量x1,x2,…,xn赋于相对应的节点j,(j=1,2,…,n),则节点有相应的初始状态Yj(0),则有
Yj(0)=Xj,j=1,2,…,n
接着,在Hopfield网络中按动力学系统原则进行计算,得
Yj(t+1)=f[ΣWijYj(0)-θj]
i,j=1,2,…,n
其中,f[·
]是非线性函数,可取阶跃函数。
通过状态不断变化,最后状态会稳定下来.最终的状态是和给定向量x最接近的样本向量。
所以,Hopfield网络的最终输出也就是给定向量联想检索结果。
这个过程说明,即使给定向量并不完全或部分不正确,也能找到正确的结果。
在本质上,它也有滤波功能。
1.4运行结果(图、表等)
Hopfield联想记忆的图像
联想记忆训练结果
(1)
noise=0.05success:
100%
noise=0.1success:
noise=0.15success:
noise=0.2success:
noise=0.25success:
noise=0.3success:
noise=0.35success:
90%
noise=0.4success:
noise=0.45success:
80%
noise=0.5success:
30%
noise=0.55success:
20%
noise=0.6success:
0%
noise=0.65success:
noise=0.7success:
noise=0.75success:
noise=0.8success:
noise=0.85success:
noise=0.9success:
noise=0.95success:
noise=1success:
(2)
40%
(3)
70%
(4)
60%
(5)
(6)
50%
10%
(7)
(8)
(9)
(10)
1.5分析小结
Hopfield神经网络的联想记忆效果很好。
在本实验中分别对汉字、英文字母、韩文、标点符号进行Hopfield联想记忆。
在结果中,输出了联想记忆的成功率,发现在出现的干扰小于50%时,成功率非常高,但当干扰大于50%时,联想记忆的成功率渐渐降低。
但是,Hopfield神经网络联想记忆在适量干扰下还是可以输出被干扰的图形的原样。
2利用SOFM网络对输入样本进行分类
2.1问题描述
利用SOFM对输入样本进行分类:
根据原子序数、电导率κ、热导率λ、密度ρ、熔点
、沸点
对化学元素进行分类。
κ——电导率,单位为106/(cm·
Ω);
λ——热导率,单位为W/(cm·
K);
ρ——密度,单位为g/ml,除注明者外,均指在300K状态下;
——熔点,单位为℃。
在大气压(101.325kPa)下的测定值;
——沸点,单位为℃。
在大气压(101.325kPa)下的测定值。
(元素资料来源于
2.2算法理论
算法应首先对权值进行初始。
类似于BP网,SOFM的初始权值常取小的随机数。
权值初始化后,SOFM还应完成两个基本过程:
竞争过程和合作过程。
竞争过程就是最优匹配神经元的选择过程,合作过程则是网络中权系数的自组织过程。
选择最优匹配神经元实质是选择输入模式对应的中心神经元,权系数的自组织过程则是以“墨西哥帽”的形态来使输入模式得以存放。
这两部分是密切相关的,它们共同作用才能完成自组织特征映射的学习过程。
每执行一次学习,SOFM网络中就会对外部输入模式执行一次自组织适应过程,其结果是强化现行模式的映射形态,弱化以往模式的映射形态。
图6.2为二维自组织特征映射的连接图,可见SOFM网络可以将任意的多维输入信号变换到二维离散网格上。
图中的两维离散网格即为网络的输出层,SOFM的所有计算节点都在这一层。
离散网格中的每个神经元都与输入层中的所有输入相连,这些神经元排成行和列的形式。
图6.2中输入为3维,输出为2维,离散网格中共有5行4列共20个神经元。
应该指出,一维自组织特征映射是二维情况的一个特例。
自组织特征映射的每个输入模式均对应于二维网格上的一个局部化区域,而且随着输入模式的不同,该区域的位置和性质也各不相同。
因此,必须有充分数量的输入模式,才能保证网格中所有的神经元都受到训练,并确保自组织过程的正确收敛。
SOFM的一个重要特点是具有拓扑保形特性,即最终形成的以输出权矢量所描述的特征映射能反映输入的模式的分布。
2.3求解步骤
SOFM的学习算法如下:
(1)权值初始化:
可令各权矢量
,j=1,2,,l,初始值取小的各不相同的随机数,
或干脆随机选择样本输入作为初始权值。
令叠代次数n=1。
(2)在样本集中随机选择一个模式x作为SOFM的输入;
(3)在时刻n,根据下式的最小欧氏距离准则选择x的最佳匹配神经元i(竞争过程):
,j=1,2,,l;
(4)根据下式确定邻域函数(合作过程):
,其中
(5)令学习率为
,然后按下式对邻域内的所有神经元进行权值修
正:
;
(6)如果已形成稳定的特征映射,则结束学习;
否则令n=n+1,转
(2)
2.4运行结果(图、表等)
运行结果
最大训练步数(a)
分类结果(yc)
元素
Ag
Al
Am
As
Au
B
Ba
Be
Bi
C
Ca
Cd
10
6
23
24
3
1
12
100
15
9
13
5
18
8
11
14
1000
16
20
7
17
10000
4
19
Ce
Co
Cr
Cs
Cu
Dy
Er
Eu
Fe
Ga
Gd
Ge
22
21
a=10
a=100
a=1000
a=10000
2.5分析小结
在本实验中,利用SOFM神经网络可以对输入数据进行分类,根据化学元素的一些特征对部分化学元素进行了分类。
本实验采用6*4的SOFM进行分类,并分别按最大训练步数分别为10、100、1000、10000进行神经网络训练。
最大训练步数为10时,将24个化学元素分成了7类;
最大训练步数为100时,经化学元素分成了17类;
最大训练步数为1000时,