ART-2神经网络的缺点及其改进

ART-2神经网络的缺点及其改进 ART-2神经网络的缺点及其改进 口21世纪人才培养口 文章编号:1671.1o41(2o08)02011202 ART一2神经网络的缺点及其改进 姚光顺 (滁州学院计算机科学与技术系,滁州239012) 摘要:自适应共振理论fART)是一种典型的自组织识别的神经网络. 本文通过分析.指出传统ART一2神经网络在分类时没有用到小幅值 特征分量的局限性.提出了一种改进的网络结构.在理论上,分析指出 了改进的网络结构在分类时比 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 ART一2网络的优越性.最后通过 仿真验证了改进的网络结构对分类效果有了很好的改善. 关键词ART一2神经网络,小幅值特征分量,归一化.补码 中图分类号:T~91文献 标识 采样口标识规范化 下载危险废物标识 下载医疗器械外包装标识图下载科目一标识图大全免费下载产品包装标识下载 码:B 1引言. ART理论是由美国C~enter等于1976年提出的.它是 一 个由前向和反向自适应滤波器构成的闭环反馈系统,所以 称为共振.ART共有三种基本形式,其中应用较广的是ART 一 2网络.它具有训练是自组织的,对已学习过的对象具有稳 定的快速识别能力,能够对动态的输入模式样本进行自适应 的聚类和识别,能适应非平稳环境等特点… 2ART一2理论及其不足 为了清楚的阐述ART一2理论的不足并加以改进,有必要 简要介绍其部分流程算法.标准ART一2网络结构"如图 1所示.网络共分4块:输入模式预处理场;特征表示场 F1;类别表示场和调整子系统.我们主要讨论场. 场两层的神经元构成一个闭合的正反馈回路.当样本 输入到网络后,它的每一个分量沿场循环运作,其中有两 次归一化运算和一次非线形变换(滤波).这样就为场和调 整子系统提供了更稳定的输入(图1中是它的分量"). 下层到上层的滤波(s一)运算可表示为: "=s,)(1) yf 广 I 工 图1标准ART一2网络结构 式中?)为非线形函数,它实现对由下层传送到上层的 信号进行变换.在具体实现时?)可采用下面的形式: 112EJCVo1.152008NO.2 墨麦旦 ? 这种非线形函数的作用是对小于0的小幅值信号进行抑 制,即起到滤波的作用,0称为滤波阈值.ART一2理论认为,归 一 化后,任何小于0的分量均被视为噪音而被抑制. 在ART一2的网络参数选择中,式(2)中的滤波阈值0取 0=1~/?,?为输入观察向量的维数.由上面的分析可以看出向 量中凡是小于1~/?的分量在网络中均被视为噪音,而被抛弃. 这一取值方法在ART网络的一些应用领域中(如语音识别等) 是合理的,而且是保证网络学习稳定性的重要因素. 但是,在工业控制的时间序列特征识别这样处理可能就 不合理了.例如图2所示的两种归一化后的输入模式:(a)仍 在变化,而(b)已趋于稳定,它们显然代表两种不同的工业过 程趋势.但由于其特征分量太小,ART一2将它们分为一类,这 在许多情况下是不能接受的. 3针对不足的改进方法 针对上面讲到的不足可以通过减小滤波阈值0来得到改 进.在极限情况下,取0为0,也就是省略了和场中的滤波 部分.但其缺点非常明显:首先是网络去不掉噪声干扰,噪声将 进入网络会影响分类的效果;再者,和场也失去了归一化 和对比度提高的功能;更严重的是,这样会使网络的学习失去 稳定性. 0 图2两类不同的过程变化趋势 考虑到图2中两种不同的情况之所以分为一类,是因为只 利用了时间序列数据(t)中大于0的信息,而其中小于0的那 部分信息被抛弃,没有被充分利用.如果在不改变0的情况下, 能够利用好小于0的那部分信息,就可以把这两种情况区分 开来. 基于此,我们想到输入观察向量的原码的补码.设待识 别的输入观察向量的原码为: X=[1,2,…,?](3) 则其补码为: X=[1一1,1一2,…,1一?](4) 这样,原来式(3)中的小幅值特征分量在式(4)中变成了 加强了的大幅值特征分量,可以把式(4)的结果作为网络的输 入,这样就利用到了原来信息中的小幅值特征分量了.但是,这 样原来的大幅值特征分量此时又变成了小幅值特征分量,而 又没有利用上.所以仅靠式(4)进行分类仍得不到正确的分类 结果.但可以把式(3)和式(4)结合起来,把结合的结果作为 网络的输入,以得到信息的全貌,从而得到正确的分类结果,如 图3所示. 欢迎光临本刊网站hRp:HWwW.e.?m.Cfl 墨麦旦 图3原码一补码互补融合 4神经网络结构的实现 通过观察网络可知,网络中有许多神经元实现的功能就 是对向量进行归一化处理,归一化之后,所有的向量将在一个 同一的变化范围内变化.所以可以在向量输人到网络之前先 对它们进行归,化处理,处理后就可以求它的补码了.在结构 上,如图4所示,在场之前我们增加了H和,J两层神经元(图 4为其中之一h和f),分别实现归一化和求补的功能. 在求补后,原码中的小幅值分量在场滤波之前就变成 了大幅值分量,被抛弃的小幅值的信息得到了加强.按照上面 的方法将和融合.但是如果直接将补码也输人到场中, 那么原码的信息和补码的信息在场中将会混淆;如果将原 码和补码分时输人,这样将不会产生混淆,但是补码要在原码 分类结束后才能进行分类,实时性很差,而且原码和补码的分 类结果也很难结合起来做出正确的判断. }' 圈4改进的ART一2网络结构 如果将补码和原码放在一起,把补码放在原码后面,将两 组数据合并成,组数据,那在场中原码和补码就不会产生混 淆了,而这样的一组数据在经过场处理后不但包含了原码 的大幅值特征分量,而且包含了还原码中的小幅值特征分量. 所以,经过处理后的一组数据就包含了所有信息,从而达到了 原码和补码融合的效果. 在网络结构上,在求补神经元之后增加了一层神经元 (图4为该层神经元之,m).设归一化后的向量为[d.,d:, … ,d?],那么f输出为[1一d,1,d:,…,1一d],那么实现 的功能是: ,f:[d1,d2,…,d?,1一dl,1一d2,…1一d?](5) 欢迎订阅欢迎撰稿欢迎发布产品广告信息 口21世纪人才培养口 改进后的网络结构如图4所示.在输人模式预处理场 之前增加了一层神经网络F,称为全信息表示场,该层神经元 的输出作为下面网络的输人.它包含了三种神经元:h,f和 m实现的功能分别为:归一化,求补和原码与补码的融合 相加. 由于这样的改进没有改变网络的参数,对网络的其他结 构也没有修改,所以不会引起网络学习的不稳定. 5仿真比较 仿真时,在笔者所在实验室的天煌THJ一3型高级过程控 制对象系统试验装置上采得的关于水箱液位控制的数据30 组,每组数据为6维,所以警戒参数取0=0.41.在进行神经网 络的训练和仿真jI的时候我们选择P=0.99.其他参数的初 始化遵照以下的原则:0,b>0,0?d?l,cd/(1一d)?1,e《 1. 把训练好的神经网络用来进行分类时,在图1所示的标准 ART一2下,归一化之后,由于每组样本的后部分数据小于0而 被抛弃,故在利用标准ART一2神经网络进行分类时将许多不 同的工业过程划分为同,类,从而将所有样本分为3类,产生 了较大的错分率;在图4所示的改进的ART一2下,网络处理 的时候利用到了样本中的全部信息,从而将样本分为5类,产 生的错分率要小的多.如表1所示,可以看出,改进的网络比 标准的网络有更好的分类效果. 表l两种神经网络的分类比较 实际类网络的正确分类样本数错分率 别数分类数的样本数 标准ART一230631356.7% 改进ART一230652516.7% 6结束语 本文在深人分析ART一2理论的基础上,发现了标准ART 一 2神经网络对小幅值特征分量难以判别的问题,限制了ART 一 2的分类效果和应用范围,通过理论分析提出了对网络结构 的改进,从而很好的解决了上述问题,增强了ART一2算法的 适用性.口 参考文献 [1]周德泽袁南儿应英.计算机智能监测控制系统的设计及应 用.北京:清华大学出版社.2002. [2]CarpenterGA,GmssbergS.Amassivelyparallelarchitecturefor aselforganizingneuralpatternrecognitionmachine[J].Comp VisionGraphicsandImageProcess,1987.37(1):54一l15. [3]CarpenterGA,GmssbergS.ART22:selforganizationofstable categoryrecognitioncodesforanaloginputpattern[J].App Optics,1987,26(23):4919—4930. [4]DavenportMP,TitusAH.MultilevelCategoryStructureinthe ART一2Nerwork,NeuralNetworks[J].IEEETranctionson, 2004(15):145—158 [5]丛爽面向MATLAB工具箱的神经网络理论与应用.合肥:中 国科学技术大学出版社.2003. i61JamesA.FreemanDavidM.Skapura.NeuralNetworks—Algo. rithms,Applications,andProgrammingTechniques.Addision— WesleyPublishingCompany.USA.1991,297—338 作者简介:姚光顾(1982一).男.滁州学院计算机系教师.研究方向包 括:智能控制.单片机与嵌入式等. 收稿日期:2007—10—30(7570) EICVOI.152008N0.2113