The Science of Pattern RecognitionAchievements and PerspectivesWord文档下载推荐.docx

The Science of Pattern RecognitionAchievements and PerspectivesWord文档下载推荐.docx

《The Science of Pattern RecognitionAchievements and PerspectivesWord文档下载推荐.docx》由会员分享，可在线阅读，更多相关《The Science of Pattern RecognitionAchievements and PerspectivesWord文档下载推荐.docx（78页珍藏版）》请在冰点文库上搜索。

r.duin@ieee.org

2SchoolofComputerScience,UniversityofManchester,UnitedKingdom

pekalska@cs.man.ac.uk

Summary.Automaticpatternrecognitionisusuallyconsideredasanengineeringareawhichfocussesonthedevelopmentandevaluationofsystemsthatimitateorassisthumansintheirabilityofrecognizingpatterns.Itmay,however,alsobeconsideredasasciencethatstudiesthefacultyofhumanbeings（andpossiblyotherbiologicalsystems）todiscover,distinguish,characterizepatternsintheirenvironmentandaccordinglyidentifynewobservations.Theengineeringapproachtopatternrecognitionisinthisviewanattempttobuildsystemsthatsimulatethisphenomenon.Bydoingthat,scientificunderstandingisgainedofwhatisneededinordertorecognizepatterns,ingeneral.

自动模式识别通常被认为是这样的一个工程领域：

专注于开发和评价模仿或辅助人类识别模式能力的系统，但是也可能被认为是这样的一门科学：

学习人类（或其它生物系统）在所处环境中发现、区别和找出特征从而标识出观察结果的本领。

模式识别中工程的观点是试图建立模拟生物识别能力的系统，通过工程中的实践，总的来说，科学上的理解在模式识别中的技术需求方面得到了发展。

Likeinanyscienceunderstandingcanbebuiltfromdifferent,sometimesevenoppositeviewpoints.Wewillthereforeintroducethemainapproachestothescienceofpatternrecognitionastwodichotomiesofcomplementaryscenarios.Theygiverisetofourdifferentschools,roughlydefinedunderthetermsofexpertsystems,neuralnetworks,structuralpatternrecognitionandstatisticalpatternrecognition.

象任何科学一样，对模式识别的理解能够从不同方向来建立，有时甚至是相反的观点。

我们将介绍模式识别科学中的主要方法，即两种不同方向且各有两个不同种类的技术，这些技术产生了四个不同学派，粗略地可以定义为：

专家系统，神经网络，结构模式识别和统计模式识别。

Wewillbrieflydescribewhathasbeenachievedbytheseschools,whatiscommonandwhatisspecific,whichlimitationsareencounteredandwhichperspectivesariseforthefuture.Finally,wewillfocusonthechallengesfacingpatternrecognitioninthedecenniatocome.Theymainlydealwithweakerassumptionsofthemodelstomakethecorrespondingproceduresforlearningandrecognitionwiderapplicable.Inaddition,newformalismsneedtobedeveloped.

我们将简要地描述这四个学派的发展成果，它们之间的相同点及不同点，它们各自碰到的局限性及未来发展的展望。

最后，我们再来看模式识别在未来几十年所面临的挑战,这个挑战主要是解决在学习和识别更大范围适用性时所碰到的为建立相应处理的模型的脆弱问题。

再有就是需要发展新的模式识别形式。

1Introduction

1介绍

Weareveryfamiliarwiththehumanabilityofpatternrecognition.Sinceourearlyyearswehavebeenabletorecognizevoices,faces,animals,fruitsorinanimateobjects.Beforethespeakingfacultyisdeveloped,anobjectlikeaballisrecognized,evenifitbarelyresemblestheballsseenbefore.So,exceptforthememory,theskillsofabstractionandgeneralizationareessentialtofindourwayintheworld.Inlateryearsweareabletodealwithmuchmorecomplexpatternsthatmaynotdirectlybebasedonsensorialobservations.

对于人类的识别能力我们是非常熟悉的。

因为我们在早些年就已经会开发识别声音、脸、动物、水果或简单不动的东西的技术了。

在开发出说话技术之前，一个象球的东西，甚至看上去只是象个球，就已经可以被识别出来了。

所以除了记忆，抽象和推广能力是推进模式识别技术的关键技术。

最近几年我们已可以处理更复杂的模式，这种模式可能不是直接基于通过感知器观察出来的。

Forexample,wecanobservetheunderlyingthemeinadiscussionorsubtlepatternsinhumanrelations.Thelattermaybecomeapparent,e.g.onlybylisteningtosomebody’scomplaintsabouthispersonalproblemsatworkthatagainoccurinacompletelynewjob.Withoutadirectparticipationinthe

events,weareabletoseebothanalogyandsimilarityinexamplesascomplexassocialinteractionbetweenpeople.Here,welearntodistinguishthepatternfromjusttwoexamples.

例如，我们能够观察发现某个讨论会的中心议题或人与人之间关系的微妙的模式。

后面一种模式是可能可以被明显观察到，例如倾听某人在新的工作中因人际关系问题而产生的抱怨，我们不用切身其中就能够发现这种相似和相同的例子，其复杂性莫过于人与人之间的社会相互影响。

这里我们要学会区分只是从两个例子中得到的模式。

Thepatternrecognitionabilitymayalsobefoundinotherbiologicalsystems:

thecatknowsthewayhome,thedogrecognizeshisbossfromthefootstepsorthebeefindsthedeliciousflower.Intheseexamplesadirectconnectioncanbemadetosensoryexperiences.Memoryaloneisinsufficient;

animportantroleisthatofgeneralizationfromobservationswhicharesimilar,althoughnotidenticaltothepreviousones.Ascientificchallengeistofindouthowthismaywork.

模式识别的能力也可以在其它生物中被发现到：

猫可以知道回家的路，狗能够识别主人的脚印，蜜蜂会发现它要采蜜的花。

这些例子中每一个直接联结都是通过感观来实现的。

不只是记忆方面，推广能力是重要的一方面，从观察到的相似事物中，虽然前后不一样，也能够进行识别，发现动物是怎么做到这一点是一个科学挑战。

Scientificquestionsmaybeapproachedbybuildingmodelsand,moreexplicitly,bycreatingsimulators,i.e.artificialsystemsthatroughlyexhibitthesamephenomenonastheobjectunderstudy.Understandingwillbegainedwhileconstructingsuchasystemandevaluatingitwithrespecttotherealobject.Suchsystemsmaybeusedtoreplacetheoriginalonesandmayevenimprovesomeoftheirproperties.Ontheotherhand,theymayalsoperformworseinotheraspects.Forinstance,planesflyfasterthanbirdsbutarefarfrombeingautonomous.Weshouldrealize,however,thatwhatisstudiedinthiscasemaynotbethebirditself,butmoreimportantly,theabilitytofly.

科学问题可以通过建立模型来解决，更确切的说是建立模拟器，例如人工系统通过学习来粗略地展示具有相同功能的东西，在建立这个系统和取得真实对象相关参数的过程中获得得了对这个事物的理解，这样的系统可以替换原来的对象，甚至可以提高原来的性能，但在其它方面可能是更差。

例如，飞机可以飞得比鸟快，但在智能方面却远远不如鸟，然而，我们的研究不是为了达到跟鸟全部一样，更重要的是飞行能力。

Muchcanbelearnedaboutflyinginanattempttoimitatethebird,butalsowhendifferentiatingfromitsexactbehaviororappearance.Byconstructingfixedwingsinsteadoffreelymovableones,theinsightinhowtoflygrows.

通过模仿鸟的飞行可以学到很多飞行方面的技术，但无法学到其精确的分辨能力。

通过建立固定不动的翅膀，而不是自由扇动的翅膀，我们知道了怎么飞行。

Finally,thereareengineeringaspectsthatmaygraduallydeviatefromtheoriginalscientificquestion.Theseareconcernedwithhowtoflyforalongtime,withheavyloads,orbymakinglessnoise,andslowlyshiftthepointofattentiontootherdomainsofknowledge.

最后，存在希望逐渐从原来的科学问题中引申出来的工程技术，如在重载下怎么飞得更长时间，怎么减少噪音，慢慢地把注意点转移到其它的知识领域。

Theaboveshowsthatadistinctioncanbemadebetweenthescientificstudyofpatternrecognitionastheabilitytoabstractandgeneralizefromobservationsandtheappliedtechnicalareaofthedesignofartificialpatternrecognitiondeviceswithoutneglectingthefactthattheymayhighlyprofitfromeachother.Notethatpatternscanbedistinguishedonmanylevels,startingfromsimplecharacteristicsofstructuralelementslikestrokes,throughfeaturesofanindividualtowardsasetofqualitiesinagroupofindividuals,toacompositeoftraitsofconceptsandtheirpossiblegeneralizations.Apatternmayalsodenoteasingleindividualasarepresentativeforitspopulation,modelorconcept.Patternrecognitiondeals,therefore,withpatterns,regularities,characteristicsorqualitiesthatcanbediscussedonalowlevelofsensorymeasurements（suchaspixelsinanimage）aswellasonahighlevelofthederivedandmeaningfulconcepts（suchasfacesinimages）.Inthiswork,wewillfocusonthescientificaspects,i.e.whatweknowaboutthewaypatternrecognitionworksand,especially,whatcanbelearnedfromourattemptstobuildartificialrecognitiondevices.

上面表明，模式识别（源于观察的抽象和归纳能力）科学研究和应用技术领域中的人工智能模式识别设备设计存在差别，后者不会放过任何相互间互利的因素。

注意这里所说的模式在很多层次上是有区分的，就如结构元素的简单特征（如笔画），体现了从在一组个体中表示某一个性质集的个体特征，到综合概念和归纳的特征。

一个模式可能表示成一个单独个体，如某个总体、模型或概念的表示。

结合模式、规律、特征或性质，模式识别所做的事可以说是在感观测定的低层次上（如图像的象素），也可以说是在推理和有意义概念的高层层次上（如图像中的人脸）。

这里，我们注重在科学研究方面，如模式识别的实现途径是什么，特别是我们在建立人工识别设备需要具备什么技术。

Anumberofauthorshavealreadydiscussedthescienceofpatternrecognitionbasedontheirsimulationandmodelingattempts.Oneofthefirst,inthebeginningofthesixties,wasSayre[64],whopresentedaphilosophicalstudyonperception,patternrecognitionandclassification.Hemadeclearthatclassificationisataskthatcanbefulfilledwithsomesuccess,butrecognitioneitherhappensornot.Wecanstimulatetherecognitionbyfocussingonsomeaspectsofthequestion.Althoughwecannotsetouttofullyrecognizeanindividual,wecanatleaststarttoclassifyobjectsondemand.ThewaySayredistinguishesbetweenrecognitionandclassificationisrelatedtothetwosubfieldsdiscussedintraditionaltextsonpatternrecognition,namelyunsupervisedandsupervisedlearning.Theyfulfilltwocomplementarytasks.Theyactasautomatictoolsinthehandofascientistwhosetsouttofindtheregularitiesinnature.

已经有些人在讨论基于模拟和建模尝试的模式识别科学了。

在开始的六十年里，其中有个叫Sayre的人做了关于感知器、模式识别和分类的哲学研究，他断言分类方法在某些程度上可以被成功实现，但或许也会失败。

根据问题的一些情况我们可以进行模拟识别。

虽然我们不能完全识别某个个体，但是我们至少可以根据需要把对象分类出来。

识别和分类的Sayre区分方法跟模式识别的两个传统的学习方法有关：

无监督学习和有监督学习，这个两个方法可以实现识别和分类方法，科学家利用这个自动化工具来发现自然界中的规律。

Unsupervisedlearning（alsorelatedtoexploratoryanalysisorclusteranalysis）givesthescientistanautomaticsystemtoindicatethepresenceofyetunspecifiedpatterns（regularities）intheobservations.Theyhavetobeconfirmed（verified）byhim.Here,inthetermsofSayre,apatternisrecognized.

无监督学习（也称为试探性分析或聚类分析）：

这个方法给研究者一种在观察中自动表示未确定模式（规律）方法，通过这种方法模式种类被确定（检验）了下来，依此，根据Sayre观点，一个模式就可以被被识别出来了。

Supervisedlearningisanautomaticsystemthatverifies（confirms）thepatternsdescribedbythescientistbasedonarepresentationdefinedbyhim.Thisisdonebyanautomaticclassificationfollowedbyanevaluation.

有监督学习：

是这样的一个自动系统，检验（确定）已被研究者通过一种表示方法定义好了的模式，这就是通过评估来实现的自动分类方法。

InspiteofSayre’sdiscussion,theconceptsofpatternrecognitionandclassificationarestillfrequentlymixedup.Inourdiscussion,classificationisasignificantcomponentofthepatternrecognitionsystem,butunsupervisedlearningmayalsoplayarolethere.Typically,suchasystemisfirstpresentedwithasetofknownobjects,thetrainingset,insomeconvenientrepresentation.Learningreliesonfindingthedatadescriptionssuchthatthesystemcancorrectlycharacterize,identifyorclassifynovelexamples.Afterappropriatepreprocessingandadaptations,variousmechanismsareemployedtotraintheentiresystemwell.Numerousmodelsandtechniquesareuseda