增强现实系统的人机交互技术研究与应用精.docx

上传人:b****8 文档编号:13129945 上传时间:2023-06-11 格式:DOCX 页数:51 大小:49.64KB
下载 相关 举报
增强现实系统的人机交互技术研究与应用精.docx_第1页
第1页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第2页
第2页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第3页
第3页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第4页
第4页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第5页
第5页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第6页
第6页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第7页
第7页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第8页
第8页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第9页
第9页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第10页
第10页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第11页
第11页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第12页
第12页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第13页
第13页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第14页
第14页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第15页
第15页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第16页
第16页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第17页
第17页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第18页
第18页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第19页
第19页 / 共51页
增强现实系统的人机交互技术研究与应用精.docx_第20页
第20页 / 共51页
亲,该文档总共51页,到这儿已超出免费预览范围,如果喜欢就下载吧!
下载资源
资源描述

增强现实系统的人机交互技术研究与应用精.docx

《增强现实系统的人机交互技术研究与应用精.docx》由会员分享,可在线阅读,更多相关《增强现实系统的人机交互技术研究与应用精.docx(51页珍藏版)》请在冰点文库上搜索。

增强现实系统的人机交互技术研究与应用精.docx

增强现实系统的人机交互技术研究与应用精

摘要

增强现实(AugmentedReality,简称AR)技术通过视频采集设备取得真实场景的图像,同时生成虚拟的信息准确实时地注册到真实的场景当中,并通过视频显示设备呈现出来,从而达到虚实融合的目的。

增强现实技术被广泛地应用于军事、医疗、教育、文化娱乐等领域。

随着人机交互技术的发展,人们不再局限于传统的键盘、鼠标的交互方式,努力探索更加智能、更加自然的交互方式。

人手动作和手势是人类最直观、自然的表达方式之一,蕴含着非常丰富的语义信息,用户可以直接将人手作为计算机的输入,通过人手的动作或者手势与机器交互。

增强现实技术本身就是作为一种新型的人机交互的手段出现的,增强现实系统中人手交互广泛地扩展了增强现实系统的交互方式,极大地提高增强现实的应用范围,具有较高的研究意义。

本文基于双目视觉原理研究了增强现实系统中通过指尖与虚拟物体进行交互的技术,涉及到手势图像的分割、指尖的定位、交互方式三个方面,论文的主要工作是:

l、在手势分割阶段,针对肤色分割算法中存在的类肤色区域误识别的问题,区域。

算法首先建立基于肤色统计的肤色模型和基于累计的背景模型,并分别用

2、在指尖定位阶段,本文根据手指的形态特征,提出了一种基于距离的指尖

ofInterest,简称ROI);对ROI进行二次扫描,通过计算图像的零阶矩

3、在交互阶段,设计并实现了基于增强现实技术的虚实交互系统,该系统允本文提出了肤色和背景模型相结合的分割算法,用背景模型来去除一部分类肤色两种模型对图像进行分割,同时更新背景模型,然后将两者分割的结果进行逻辑运算,最后通过连通域划分,得到最大的连通域即为分割出的手部图像。

实验结果表明,这种方法在简单的环境下,能够滤除类肤色区域(与手部不重叠类肤色区域)的干扰,满足实时系统中手势分割的要求。

识别算法。

算法首先对分割出来的手部图像进行轮廓跟踪,得到手势的感兴趣区域(Region和一阶矩得到手势的重心,比较于势边界点与图像重心的距离来判断指尖的位置。

实验结果表明,这种方法能够准确的找到人手的最凸的位置,快速的定位指尖。

许用户使用指尖缩放虚拟图片。

根据双目视觉原理,利用几何的方法判断指尖是否接触到虚拟图片,从而触发缩放虚拟图片的事件,模拟实现了触摸屏功能,使交互更为自然与方便。

关键词:

增强现实;基于肤色和背景的手势分割;指尖交互

Abstract

AugmentedReality(AR)isonetechnologythatregistersvirtualobjectsgeneratedbycomputeronrealsceneacquiringbyvideocapturedeviceinordertopresentcombinedimage.ARtechnologyiswidelyusedinmilitary,medical,education,cultureandentertainmentfields.

AsthedevelopmentofHuman-ComputerInteraction(HCI),peoplearenolongerconfinedtotraditionalinteractionways,buttryingtoexploremoreintelligentandnaturalinteractionways.Movementsofhandsandgesturesarethemostintuitivewayofinterpersonalcommunication,whichcontainawealthofinformation.Movementsofhandsandgesturescouldbedirectlyusedininteractingwiththemachine.OccurringasannewmeansofHCI,ARtechnologyhaswidelyextendedinteractionwaysofHCIsystemsandgreatlyimprovedthescopeofapplicationofARtechnology.Inthispaper,basedonthebinocularvisionprinciple,threeparts,includingsegmentationgestures,fingerpositioningandinteractivemethods,arestudied.Firstly,insegmentationstage,forsolvingthemisrecognitionofskin—likeregion,asegmentationalgorithmcombiningskincolorandbackgroundmodetoprecludesomeskin—likeregionsisproposed..Skincolorandthebackgroundmodelareestablishedandthenimageissegmentedbythesetwomethodsrespectively.Thebackgroundmodelisupdatedaccordingtothesegmentationresultofskincolormodel.Logicalcalculationontwosegmentationresultsisconducted.Atlast,thebiggestconnectedregionisselectedasthehandregion.Experimentalresultsindicatedthatthismethodisvalidandeffective.Disturbanceofskin—likeregions(handsarenotoverlapskin—likeregions)couldbefilteredinrealtime.

Secondly,inthefingerpositioningstage,basedonmorphologicalcharacteristicsofthefingers,arecognitionalgorithmisproposed.Bytracingthecontourofsegmentedhandimage,ROI(regionofinterest)ofgesturesisgetting.DuringscanningtheROI,bycalculatingthezero-ordermomentandthefirstmoments,centerofimagegravityCanobtained.Comparingthegestureboundarypointswiththecenterofgravity,locationofthefingertipcouldbedetermined.Experimentalresultsshowthatthismethodcouldachievebetterprocessingspeed.

Thirdly,interactionaspect,anARsystembasedondoublecameraandfingertipinteractionisdesignedandrealized.,Byusingfingertiptodragthevirtualimage,thevirtualimagecouldbezoomedinandzoomedout.Tojudgingwhetherthefingertouchesthevirtualobjectsornot,geometrymethodandbinocularvisionprincipleareadopted.Whenthefingertiptouchedeventsofzoominginorzoomingoutaretriggered.ThissystemmakestheHCImorenaturalandconvenient.

Keywords:

AugmentedReality;gesturesegmentation;fingertipinteraction

目录

第一章绪论……………………………………………………………………………11.1研究背景与选题意义……………………………………………………………l1.1.1增强现实概述………………………………………………………………11.1.2增强现实中的交互技术…………………………………………………….21.2增强现实技术的应用……………………………………………………………31.3研究动态………………………………………………………………………….81.3.1国外研究动态……………………………………………………………….81.3.2国内研究动态………………………………………………………………91.4研究内容…………………………………………………………………………91.5论文结构……………………………………………………………………….10

第二章增强现实系统相关技术…………………………………………………….122.1跟踪注册技术……………………………………………………………………122.1.1基于标记的跟踪注册技术…………………………………………………132.1.2基于无标记的跟踪注册技术………………………………………………182.2人机交互技术………………………………………………………………….182.3手势分割技术………………………………………………………………….202.3.1基于肤色阂值的分割算法…………………………………………………202.3.2基于生长的分割算法………………………………………………………2l2.3.3基于背景的分割算法………………………………………………………222.4ARTOOLKIT开发包……………………………………………………………..222.5小结………………………………………………………………………………………………………23

第三章基于增强现实的人手分割与交互技术…………………………………….243.1基于背景和肤色的人手分割…………………………………………………..243.1.1肤色模型……………………………………………………………………253.1.2背景模型……………………………………………………………………273.2指尖的检测与定位………………………………………………………………293.2.1跟踪人手的轮廓……………………………………………………………303.2.2确定ROI区域………………………………………………………………323.2.3确定指尖的位置……………………………………………………………323.3交互的判断…………………………………………………………………….333.4/j、结………………………………………………………………………………………………………34第四章系统的实现………………………………………………………………….35

4.1系统的设计目标……………………………………………………………….354.2系统实现平台………………………………………………………………….354.2.1硬件平台……………………………………………………………………354.2.2软件平台……………………………………………………………………354.3系统框架……………………………………………………………………….364.4实验结果…………………………………………………………………………374.4.1人手分割实验……………………………………………………………..374.4.2增强现实交互系统实验结果………………………………………………..384.5小结……………………………………………………………………………………………...………40结j沦…………………………………………………………………………………………………………….42l、全文工作总结…………………………………………………………………..422、存在的问题及展望……………………………………………………………..42参考文献……………………………………………………………………………….43攻读学位期间的研究成果…………………………………………………………..47致谢…………………………………………………………………………………………………………….48学位论文独创性声明………………………………………………………………..49学位论文知识产权权属声明…………………………………………………………49

第一‘章绪论

一章绪论

1.1.1增强现实概述

虚拟现实(VirtualReality,简称VR)技术追求一种让用户完全沉浸的虚拟环境,而增强现实(AugmentedReality,简称AR)追求的是虚拟和现实的无缝隙融合的环境,也就是把虚拟的信息“对齐"到真实的世界当中,从而极大的丰富用户的感官体验,以一种更加自然的方式与机器进行交互,更好的完成工作任务。

AR技术本身就是一种新型的人机交互接口。

AR不单单将虚实融合的信息显示在屏幕上,它要求这种显示是实时的、准确的、无缝隙的。

因此,AR技术模糊了真实世界和用户接口之间的关系【5】,将两者以一种更加自然的方式结合起来,由此可以针对复杂的应用系统开发出简单实用的用户接口。

AR技术的出现得益于计算机图形学的快速发展,第一个增强现实系统起源于1960年美国哈佛大学的IvanSutherland教授研制出用于实时显示3D图像的头戴

现在,增强现实技术已经作为独立的研究领域,但对于增强现实的概念却没①虚实融合;.

②准确的“对齐”;

③可以实时的交互;

其中第一个特点是AR的基本要求,也是AR技术与VR技术的重要区别,第二个特点是AR要求虚拟信息或对象准确的“放置”到真实场景的合适的式显示器【I】,但直到1990年,增强现实技术才从虚拟现实技术中分离出来。

有统一的定义和描述。

曼洛维奇【2】认为AR技术是:

“将动态的、背景专门化的信息加在用户的视觉域之上"。

费尔尼与理查兹则坚持增强现实只是虚拟现实的一种表现形式。

HRL实验室Azuma曾经用以下三个特点f50】来描述一个增强现实系统:

它为用户呈现出虚实融合的景象,是对真实场景的扩展,而彳i是虚拟现实中完全的沉浸,实现感官上的统一,完全感觉不到虚实叠加的突兀。

例如:

在博物馆通过识别不同的文物,显示对应的虚拟信息(年份、地点、事件等)。

位置,实现与真实世界的完美融合,这要求计算机不能简单的在二维图像上叠加信息,而是还原到三维空间进行准确的“对齐”,并最终用二维的方式显示给用户,达到无缝融合。

青岛大学硕士学位论文

最后一个特点是指允许用户实时的和AR系统交互。

它扩展了人机交互的方式,人们不再仅限于键盘、鼠标,出现了很多自由度更大的交互方式。

另外,实时性也是AR系统的主要特点之一,它与离线的图像信息增强有本质不同,比如电影加菲猫中,现实场景中那只虚拟的加菲猫是通过离线的方式加上去,再连续的显示出来,它不具有实时交互的能力。

图1.1是Milgram对于混合显示的描述【511,其中,增强现实只是作为混合现实的一个阶段存在。

当真实的元素多于虚拟元素的时候,我们就称之为增强现实,反之,我们称之为增强虚拟。

由此可以看出,AR和VR的界限并不是那么明显。

Ec,麻oomeotR镑确哆、黼嘲耋ly£舰溉栩嘲臌

图1.1Miligram’S混合现实闭合集的描述哺妇

1.1.2增强现实中的交互技术

1.1.2.1人机交互技术

概括来说“一切有关人类使用的可交互计算机系统的设计、实现、评估等准则以及相关外围现象研究【48l’’都可以归为人机交互技术,它主要关注人与机器的交流和反馈。

人机交互技术是计算机研究的最主要的方向之一,越是高效、完备的操作系统对于交互的要求越高,不仅包括交互的多样化,而且还包括交互的方便性。

随着计算机硬件的发展,处理器、存储器等的不断更新换代,相关外围设备层出不穷,计算机的性能也得到长足的提高。

在此基础上,人机交互技术也有突破性的进展,并且朝着更加完善、自然、方便的方向发展。

友好的图形用户界面代替了命令行方式,人们也不再仅限于鼠标、键盘的交互方式,人机交互技术已经从以计算机为中心逐步转移到以人为中心,是多媒体、多模式的交互技术【201。

目前,人机交互技术涉及到很多学科和专业领域,从机器角度而言,相关技术有图形学、机器学习、模式识别、计算机视觉、人工智能等;从人的角度来说,通信原理、心理学、社会科学、语言学等都与之相关;每一项的技术的突破,都将深远影响人机交互技术的发展。

目前,越来越多的智能设备的出现使得人机交互的方式更加人性化,同用户2

第‘章绪论

的关系越来越友好,这种人机交互的接口是自然的、智能的、无处不在的。

1.1.2.2AR中的人机交互技术

伴随着计算机性能的不断提升,AR技术的科研成果也日趋成熟,许多设想从概念变成了现实,尤其是掌上电脑、智能手机、个人数字助理的出现,使得AR技术的应用平台趋于微型化、便携化、智能化。

基于AR的人机交互技术研究也因此受到广泛关注,成为AR研究的热点之一。

增强现实技术是把虚拟信息或对象融合到真实的场景当中的一种技术,其中的“虚拟信息或对象”本身就是对现实世界的一种交互,所以说,增强现实技术本身就是一种人机交互技术。

在过去的几十年里,增强现实技术的研究主要集中在跟踪、注册、显示技术上。

早期的增强现实应用中,只是简单的把虚拟信息或对象添加到真实场景当中,人通过二维显示设备可以看到虚实混合的图像,除此之外,系统和外界没有更多的交互能力,但是随着显示设备向微型化、便携化、智能化发展,这种“显示”交互已经不能满足用户对增强现实系统的要求,更多智能化、自然化的交互方式出现在增强现实系统中,例如:

通过识别手势与系统进行交互,通过语音识别与系统进行交互等。

从应用角度讲,一个系统采用什么样的交互方式取决于其特殊的交互任务【|71,我们针对不同的任务来设计交互的方式,从这点来说,人机交互技术丰富了增强现实系统的应用,这也使得人机交互技术在增强现实研究中的地位越来越高,这将有助于增强现实技术进一步的推广与应用。

1.2增强现实技术的应用

AR技术是近年来发展迅速的一项前沿技术,受到越来越多的关注。

相比VR技术,AR具有许多的优势,不仅广泛的应用到原有的VR领域,更是发掘了自身的应用潜力。

AR技术以真实世界为主体,通过获取摄像机姿态准确的把虚拟信息或对象叠加其中,使得用户感受虚实融合的全新体验,而不需要沉浸到虚拟的计算机“世界”当中;同时,它还允许用户实时的与系统交互,正是由于增强现实技术自身的这些特点,使得它具有广泛的应用前景。

目前,在医学、教育、娱乐等多个领域,增强现实技术都得到广泛应用。

随着增强现实技术的发展和成熟,增强现实技术势必在更多领域中得到应用。

(1)医疗领域

在医疗领域,AR技术和VR技术都有很大的应用空间。

AR结合医学成像技3

青岛大学硕士学位论文

术,已经成为辅助医疗的有效手段,发挥着非常重要的作用。

AR技术可以将超声波、CT或MⅪ检查得到的图像信息进行二次成像,使医生具有了“透视功能",更清楚地了解病人的病情。

如图1.2,通过对人体解剖信息的可视化,显示了患者身上的虚拟的切口,患者不同的部位显示相应的切口图像,可以使医生清楚地看到患者病灶的全景图像,协助医生在可视化的条件下完成手术。

图1.2人体虚拟的切口

图1.3显示了布朗大学建立了基于增强现实的外科手术培训系统‘81,该系统可以模拟外科手术的场景,培训医生犹如亲身经历一场外科手术。

图1.3布朗大学外科手术培训系统.

增强现实系统可以用来治疗心理疾病。

Valencia大学的Juan等人利用AR技术来治疗心理病人。

他们设计出了一套用来生成虚拟恐惧物的增强现实系统,尝试让病人去触摸、感受,克服心理上的恐惧感。

图1.4就是利用生成的虚拟蟑螂4

第一章绪论

来治疗昆虫恐惧症。

图1.4利用虚拟的蟑螂治疗心理疾病

(2)军事领域

在现代军事领域,增强现实技术得到了广泛的应用。

AR技术不仅在军事训练、模拟作战、装备研发中广泛使用,而且也非常多地应用在实战当中,成为军事现代化、信息化的重要研究领域。

目前,增强现实技术多用来进行目标跟踪,主要是为飞行员提供瞄准路径、射击环境的增强信息。

利用头盔显示器或者面板显示设备,通过卫星、雷达、机载电子设备对目标进行精确定位,以向量图形方式展示给飞行员,为他们提供导航、跟踪、定位信息【9】。

如下图1.5所示。

因1.5军用飞机上的瞄准系统

(3)教育领域当前教育越来越重视素质、能力的培养,让学生由被动的受教变为主动的学

青岛大学硕上学位论文

习,“寓教于乐’’无疑是最容易接受的方法。

AR技术充分发挥虚实融合这种全新体验的优势;例如,在历史课上,利用AR技术,将著名的历史事件以更加生动形象的方式展现出来。

如图1.6所示,该系统可以把课堂转移的户外,让学生更加深刻的了解相关的历史【51。

美国华盛顿人学人机界面技术实验室实现的MagicBook增强现实系统【101,用户可以在看书的时候看到文字所描述物体的三维模型。

闺1.6显示实际场景发生过的历史事件

(4)商业娱乐领域

随着AR技术的日益成熟,越来越多的商家看到了增强现实应用的市场前景。

AR技术可以带给用户全新的视觉体验,并且在很多领域出现了很多极具创意的应用。

2009年,美国GE公司开发了一款广告游戏,你只需配备普通的网络摄像头,登录GE三维奇境中国网站http:

//www.imaginationatwork.crl,从网站上下载并打印标记,就可以体验增强现实技术。

用户可以通过双手驱动虚拟的风车,通过风车的转动来发电。

’同时,针对iPhone,应用开发商也推出了数十款的应用软件;图2.8是一款足球游戏,ARSoccer可以生产一个虚拟的3D足球,无论去什么地方,都可以一路踢着足球过去;图2.9是一款识别星座的应用程序,它利用GPS,指南针和陀螺仪三者帮您识别星座。

图1.7ARSoccer虚拟足球游戏

图1.8StarWalk“天空互动指南“识别星座

(5)机械装配、制造与维修

随着科技的快速发展,工业设备的复杂性也越来越高,这使得设备的制造、装备、维修的难度越来越大,尤其是在装备、拆卸和维护等复杂过程中。

传统的方式是技术人员花费大量时间查看技术手册、维修指南,严重影响了工作的效率和进度,基于AR的装备显示器可以弥补这些缺陷;技术人员只需要戴一个头盔显示器,在装配、维修过程中把图像传给服务器,通过计算把详细的技术手册和维修指南用3D图像显示出来,大大的简化了工人的劳动强度,具有较高的实用性。

图1.9所示,通过头戴式显示器将该机械模型的辅助信息显示给用户,包括虚拟的仪表面板、设备的内部结构、相关零件信息等…】。

青岛大学硕士学位论文

图1.9欧洲计算机工业研究中心的机械模型辅助系统

1.3研究动态

1.3.1国外研究动态

对于增强现实技术的研究可以追溯到1960年,IvanSutherland教授研制出世界上第一台头盔式显示器(See—throughHeadMountedDisplay),该设备可以实时地显示虚实结合的图像;由于当时处理、显示技术比较落后,这个显示器只能显示二维线框图像,而且重量和体积都比较大。

1975年,J.H.Clark利用IvanSutherland设计的头盔显示设备与Utah大学开发的机械Wand共同建立了一个交互的环境【I21,虽然并没有引起更多的重视,但这为增强现实交互技术的发展奠定了基础。

1900年以来,AR技术得到了飞速的发展,大量的科研机构致力于AR技术的研究;例如:

哥伦比亚大学的图形和用户交互实验室、美国麻省理工学院的图像导航外科手术实验室、新加坡的混合现实实验室、德国的Arvika组织等,都取

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 高等教育 > 军事

copyright@ 2008-2023 冰点文库 网站版权所有

经营许可证编号:鄂ICP备19020893号-2