西工大计算智能知识点整理完整版.docx
《西工大计算智能知识点整理完整版.docx》由会员分享,可在线阅读,更多相关《西工大计算智能知识点整理完整版.docx(30页珍藏版)》请在冰点文库上搜索。
西工大计算智能知识点整理完整版
第一章绪论
1.图灵测试
一组人类裁判以敲击键盘的形式与电脑“对话”。
如果裁判认定电脑为人的比例超过30%,则电脑通过测试。
2.人类智能活动的能力是人类在认识世界和改造世界的活动中,由脑力劳动表现出来的能力。
•认识和理解世界环境的能力
•提出概念、建立方法、进行演绎和归纳推理、做出决策的能力
•学习取得经验、积累知识的能力
•自我适应的能力
•联想、推理、判断、决策的能力
3.智能的本质
感知能力、记忆和思维能力、学习能力、自适应能力、行为能力
4.思维种类
逻辑思维、形象思维、顿悟思维
5.人工智能的含义
用计算机来完成能表现出人类智能的任务学科
模仿人脑所从事的推理、学习、思考、规划等思维活动
关于知识的科学
执行拟人的任务
6.没有计算机的出现,人工智能就无法得到应用
7.人类智能与人工智能
本质区别:
物质载体、逻辑模拟、活动规律、目的性、能动性、适应性
8.研究方法
符号主义、联结主义、行为主义
9.计算智能是人工智能的深化与发展
人工智能是以知识库为基础、那么计算智能则是以模型为基础、以分步、并行、仿生计算为特征含数据、算法和实现的信息系统。
前者强调规则的形式和表示,后者强调模型的建立和构成;前者依赖专家知识,后者强调系统的自组织、自学习和自适应。
10.计算智能的主要方法有人工神经网络、遗传算法、遗传程序、演化程序、局部搜索、模拟退火等等
11.计算智能的特征与应用
智能性:
包括算法的自适应性,自组织性,算法不依赖于问题本身的特点,具有通用性
并行性:
算法基本上是群体协作的方式对问题进行优化求解,非常适合大规模并行处理
鲁棒性:
算法具有很好的容错性,同时对初始条件不敏感,能在不同条件下寻找最优解
12.计算智能发展趋势
分布式人工智能、Internet及数据库的挖掘、智能系统之间的交互与通信、智能系统之间的合作等
13.
第二章知识表示
一.知识的基本概念
1.相关概念:
数据:
指为描述具体事物引入的数字、符号等
信息:
指不同数据组成的一种结构(如“建国50岁”)
数据与信息的关系:
数据是信息的载体和表示,信息是数据的语义
知识:
对信息进行智能性加工后形成的对客观世界的规律性认识*。
知识的一般概念
人类认识与经验的总和
人们对客观事物的认识及解决问题的方法和策略
以高度概括形式对客观事实及相互关系的整合
知识的三个代表性定义:
经过消减、塑造、选择和转换的信息;
由特定领域的描述、关系和过程组成;
知识=事实+信念+启发式。
2.人类对客观世界感知
四个层面:
4智能(Intelligence)
-------------------------
3知识(Knowledge)
-------------------------
2信息(Information)
-------------------------
1数据(Data)
3.知识的特性
相对正确性、可表示性、不确定性、关联性
4.知识的分类
常识性知识、领域性知识(作用范围)
确定性知识、不确定性知识(确定性)
逻辑性知识、形象性知识(结构及表现形式)
5.知识的表示方法
对知识的表示过程就是将知识编码成某种数据结构的过程
v一阶谓词逻辑表示法(FirstOrderPredicate)
v产生式表示法(Production)
v框架表示法(Framework)
v语义网络法(SemanticNetwork)
v脚本表示法(Script)
6.如何选择合适的表示方法?
v选择知识表示要根据所处理的具体领域和实际情况荀泽相应的知识表示方法
▪充分表示领域知识
▪有利于对知识的利用
▪便于理解和实现
▪便于对知识的组织、管理与维护
7.智能活动过程的模拟
▪知识表示
▪知识利用
▪知识获取
二.谓词逻辑表示
1.命题逻辑
命题是能够判断真或假的陈述句
▪通常用大写字母来表示,如A,B,P,Q等
▪命题的真假值一般用T或F来表示
表示单一意义的命题,称之为原子命题。
原子命题通过“连接词”构成复合命题。
2.连接词
v“┑”表示“非”
▪复合命题┑P为真,当且仅当P为假。
v“∧”表示“与(合取)”
复合命题“P∧Q”为真,当且仅当P和Q都为真。
v“∨”表示“或(析取)”
▪复合命题“P∨Q”为真,当且仅当P、Q两者之一为真。
v“=>(→)”表示“蕴含”
▪复合命题“P⇒Q”为假,当且仅当P为真且Q为假。
与自然语言不一样,蕴涵式的前件和后件可以没有内在联系
v“⇔”表示“等价”
▪复合命题“P⇔Q”为真,当且仅当P、Q同时为真、或者同时为假。
▪与自然语言不一样,等价式的2个命题可以没有内在联系
v等价式具有下列性质:
v自反性:
对于任意公式A,有A⇔A
v对称性:
对于任意公式A和B,若A⇔B,则B⇔A
传递性:
对于任意公式A,B和C,若A⇔B,B⇔C,则A⇔C
3.命题定律
▪双否律┑(┑P)⇔P
▪德摩根律┑(P∨Q)⇔┑P∧┑Q
┑(P∧Q)⇔┑P∨┑Q
▪交换律P∧Q⇔Q∧P
P∨Q⇔Q∨P
▪结合律P∧(Q∧R)⇔(P∧Q)∧R
P∨(Q∨R)⇔(P∨Q)∨R
▪分配率P∧(Q∨R)⇔(P∧Q)∨(P∧R)
P∨(Q∧R)⇔(P∨Q)∧(P∨R)
▪等幂律P∧P⇔P
P∨P⇔P
▪同一律P∧T*⇔P
P∨F*⇔P
▪零律P∧F*⇔F*
P∨T*⇔T*
▪互补率P∧┑P⇔F*
P∨┑P⇔T*
▪吸收率P∨(Q∧R)⇔P
P∧(Q∧R)⇔P
4.设A和B是两个公式,若A→B为永真式,则称A蕴含B,记作A=>B
5.主要的推理式
假言推理
P
P→Q
----------[P∧(P→Q)]=>Q
Q
假言三段论或演绎
P→Q
Q→R
----------[(P→Q)∧(Q→R)]=>(P→R)
P→R
拒取式
P→Q
┑Q
----------[(P→Q)∧(┑Q)]=>(┑P)
┑P
简化式
P∧Q
----------[(P∧Q)]=>P
P
析取三段论
P∨Q
┑P
----------[(P∨Q)∧(┑P)]=>Q
Q
二难推论
P→R
Q→R
----------[(P→R)∧(Q→R)]=>(P∨Q)→R
(P∨Q)→R
6.谓词逻辑表示法的特点
v自然性:
符合人类对问题的直觉理解;
v精确性:
只有“真与假”的值;
v严密性:
谓词逻辑具有严格的形式定义以及推理规则;利用推理规则及有关定理证明技术,可以从已知事实推出新的事实,或证明作出的假设。
v易实现:
用谓词逻辑表示的知识可以比较容易地转换为计算机内部形式,易于模块化,便于对知识的增加、修改、删除。
用其表达的知识也易于计算机上实现。
7.谓词逻辑局限性
v不能揭示不确定的知识:
只能表示精确性知识,不能表示不确定的知识,表示的知识范围受到了局限。
v易形成组合爆炸:
在推理过程中,其推理根据事实数目的增大及盲目使用推理规则,可能形成组合爆炸。
v效率低:
将推理与知识语义割裂,降低推理效率。
三.产生式表示法
1.事实的表示
事实通常是用三元组成四元组来表示。
对确定性知识,一个事实可用一个三元组(对象,属性,值)或(关系,对象1,对象2)来表示。
对不确定性知识,一个事实可用一个四元组(对象,属性,值,可信度因素)来表示。
2.规则的表示
▪规则描述的是事实间的因果关系,规则的产生式表示形式称为产生式规则。
其基本形式为:
▪P→Q
▪或者:
IFPTHENQ
▪其中,P是产生式的前提,也称前件,由事实的逻辑组合来构成,
▪Q是产生式的结论或操作,也称后件.
▪产生式的含义是:
如果前提P满足,则可推出结论Q或执行Q规定的操作。
3.产生式系统的基本结构
控制系统
规则库
综合数据库
4.优点
▪自然性:
接近人类对因果关系知识的思维判断形式
▪模块性:
与推理机构相互独立,利于增加、删除、修改和扩充
▪有效性:
可表示不确定性知识、启发性知识
▪一致性:
规则具有固定表示形式
缺点
▪效率较低
▪存在组合爆炸:
匹配--冲突消解--执行;
不能表示结构性知识
四.语义网络
1.语义网络是一个有向图,其中节点表示个体,而弧表示两个体间的二元关系,弧上标记关系模型名称,单一个体就由一结点表示。
2.语义关联
▪类属关系:
是一种、是一员、是一个
▪聚类关系:
是一部分
▪属性关系:
有、能
▪推论关系:
推论出
▪时间、位置关系:
在前、在后、在上、在下、接近、相似等
3.语义网络主要特点:
⏹结构性把事物的属性以及事物间的各种语义联系显式地表示出来,是一种结构化的知识表示方法。
在这种方法中,下层结点可以继承、新增、变异上层结点的属性。
⏹联想性本来是作为人类联想记忆模型提出来的,它着重强调事物间的语义联系,体现了人类的联想思维过程。
⏹自然性这种带有标识的有向图,可比较直观地把知识表示出来,符合人们表达事物间关系的习惯,并且与自然语言语义网络之间的转换也比较容易实现。
⏹复杂性语义网络表示知识的手段是多种多样的,这虽然对其表示带来了灵活性,但同时也由于表示形式的不一致,使得它的处理增加了复杂性。
五.框架表示法
1.框架:
是一种描述对象(事物、事件或概念等)属性的数据结构,在框架理论中,框架是知识表示的基本单位。
2.一个框架由若干个“槽”(Slot)结构组成,每个槽又可分为若干个“侧面”。
一个槽:
用于描述所论对象某一方面的属性;
一个侧面:
用于描述相应数学的一个方面。
槽和侧面所具有的属性值分别称为槽值和侧面值。
第三章基本推理原理
一.推理的基本概念
1.推理:
按某种策略由已知判断推出另一判断的思维过程
已知判断:
包括已掌握的与求解问题有关的知识及关于问题的已知事实
推理的结论:
由已知判断推出新判断
推理机:
推理由程序程序实现,称为推理机
2.推理的基本任务:
从一种判断推出另一种判断
推理的分类:
演绎推理、归纳推理、默认推理
3.演绎推理
推理过程:
从已知的一般性知识推出组合在这些已知知识中适合于某种个别情况结论的过程
三段论式演绎推理:
大前提:
已知的一般性知识或假设
小前提:
关于所研究的具体情况或个别事实的判断
结论:
由大前提推出的适合于小前提所示情况的新判断
个别经验:
无意发现一种药治病
一般性认识:
经验累积
结论:
得出结论:
这种药可以治这种病
4.归纳推理
从足够多的事例中归纳出一般性结论的推理过程,是一种从个别到一般的推理
完全归纳推理:
在进行归纳时考察了相应事物的全部对象,并根据这些对象是否都具有某种属性,从而推出这个事物是否具有这个属性
不完全归纳推理:
只考察了相应事物的部分对象就得出了结论
5.默认推理
又称缺省推理,它是在知识不完全的情况下假设某些条件已经具备所进行的推理
按所用知识的确定性分类:
确定性推理、不确定性推理
按推理过程的单调性分类:
单调推理、非单调推理
二.自然演绎推理
从一组已知的事实出发,直接运用命题逻辑或谓词逻辑中的推理规则推出结论的过程
三.归结反演推理
应用归结原理证明定理的过程称为归结反演。
1.谓词公式转换成相应子句集的步骤
(1)利用等价谓词关系消去谓词公式中的“
”和“
”
(2)减少否定符号的辖域,将每个否定符号移到仅靠谓词的位置,使得每个否定符号最多作用于一个谓词。
双重否定律
德摩根律
量词转换律
(3)对变元标准化。
在一个量词的辖域内,将谓词公式中受该量词约束的变元全部用另一个没有出现过的任意变元代替,使不同量词约束的变元有不同的名字。
(4)消去存在量词
若存在量词不出现在全称量词的辖域内(即左边没有全称量词),只用一个新的个体常量(称为Skolem常量)替换受该存在量词约束的变元,即可消除该存在量词。
若存在量词位于一个或多个全称量词的辖域内,则需要Skolem函数替换受该存在量词约束的变元,再消去该存在量词。
量词消去原则:
v存在量词。
将该量词约束的变量用任意常量(a,b等)或任意变量的函数(f(x),g(y)等)代替。
v左边有任意量词的存在量词,消去时该变量改写成为任意量词的函数;如没有,改写成为常量。
v任意量词。
简单地省略掉该量词。
(5)化身前束范式
将所有量词都移到公式左边,并且不改变相对顺序。
(6)化为Skolem标准型
其标准型一般形式为
使用如下等价关系
(7)消去全称量词
由于母式中全部变元均受到全称量词的约束,并且全称量词的次序已无关紧要,因此可省掉全称量词。
(8)消去合取词
在母式中消去所有合取词,将母式用子句集的形式表示出来,其中,子句集中的每一个元素都是一个子句。
(9)更换变元名称
对子句集中的某些变元重新命名,使得任意两个子句中不出现相同的变元名。
(10)定理:
设有谓词公式F,其标准形的子句集为S,则F不可满足的充要条件是S不可满足。
要证明一个谓词公式是不可满足的,只要证明其相应的标准子句集是不可满足的
2.鲁宾逊归结原理
检查子句集S中是否包含空子句,若包含,则S不可满足;若不包含,就在子句集中选择合适的子句进行归结,一旦通过归结能推出空子句集,就说明子句集S是不可满足的。
(1)、命题逻辑中的归结原理
(2)、谓词逻辑中的归结
3.使用归结原理证明问题
4.不确定推理
建立在不确定性知识和证据基础上的推理。
引起不确定性的因素:
知识的不完备、不精确;原因的多样性;
知识描述的模糊性;不一致性;
随机性;解决问题的方案不唯一;
第四章搜索原理
求解:
推理和搜索。
一.搜索原理概述
1.概念:
依靠经验,利用已有知识,根据问题的实际情况,不断寻找可利用知识,从而构造一条代价最小的推理路线,使问题得以解决的过程称为搜索。
2.搜索策略的任务
确定如何选取规则的方式
3.搜索的分类
盲目搜索:
无信息引导的搜索策略
启发式搜索:
有信息引导的搜索
4.状态空间、搜索空间与解路径
状态空间:
一个有向图,节点可表示问题的各种状态(综合数据库),及节单之间的弧代表一些操作(产生式规则),可以把一种状态导向另一种状态。
解路径:
在状态空间图中,从初始点到目标节点的一条路径称为解路径
搜索空间:
为找到解路径而搜索的空间称为搜索空间
5.搜索成本
规则控制费用:
即为决定选取可用规则而花费的费用
规则应用费用:
即使用规则所花费的费用
6.搜索结果
最优结果
次优结果
任意结果
二、盲目搜索策略
1.一般图搜索算法
v
(1)把初始节点S0放入Open表,并建立目前仅包含S0的图G;
v
(2)检查Open表是否为空,若为空,则问题无解,失败推出;
v(3)把Open表的第一个节点取出放入Closed表,并记该节点为节点n;
v(4)考察节点n是否为目标节点。
若是则得到了问题的解,成功退出;
v(5)扩展节点n,生成一组子节点。
把这些子节点中不是节点n先辈的那部分子节点记入集合M,并把这些子节点作为节点n的子节点加入G中
v(6)针对M中子节点的不同情况,分别作如下处理:
v①对那些没有在G中出现过的M成员设置一个指向其父节点(即节点n)的指针,并把它放入Open表。
(新生成的)
v②对那些原来已在G中出现过,但还没有被扩展的M成员,确定是否需要修改它指向父节点的指针。
(原生成但未扩展的)
v③对于那些先前已在G中出现过,并已经扩展了的M成员,确定是否需要修改其后继节点指向父节点的指针。
(原生成也扩展过的)
v(7)按某种策略对Open表中的节点进行排序。
(8)转第
(2)步。
2.深度优先搜索
v算法描述
v
(1)把初始节点S0放入Open表中;
v
(2)如果Open表为空,则问题无解,失败退出;
v(3)把Open表的第一个节点取出放入Closed表,并记该节点为n;
v(4)考察节点n是否为目标节点。
若是,则得到问题的解,成功退出;
v(5)若节点n不可扩展,则转第
(2)步;
(6)扩展节点n,将其子节点放入Open表的首部,并为每一个子节点设置指向父节点的指针,然后转第
(2)步。
3.有界深度优先搜索
对深度优先搜索引入搜索深度的界限(设为dm),当搜索深度达到了深度界限,而尚未出现目标节点时,就换一个分支进行搜索。
v搜索算法:
v
(1)把初始节点S0放入Open表,置S0的深度d(S0)=0;
v
(2)如果Open表为空,则问题无解,退出;
v(3)把Open表的第一个节点(记为节点n)取出,放入Closed表;
v(4)考查节点n是否为目标节点.若是,则求得了问题的解,退出;
v(5)如果节点n的深度d(节点n)=dm,则转第
(2)步;
v(6)若节点n不可扩展,则转第
(2)步;
v(7)扩展节点n,将其子节点放入Open表的首部,并为每一个子节点都配置指向父节点的指针,转第
(2)步。
4.宽度优先搜索
v基本思想:
从初始节点S0开始逐层向下扩展,在第n层节点还没有全部搜索完之前,不进入第n+1层节点的搜索。
Open表中的节点总是按进入的先后排序,先进入的节点排在前面,后进入的节点排在后面。
v搜索算法:
v
(1)把初始节点S0放入Open表中;
v
(2)如果Open表为空,则问题无解,失败退出;
v(3)把Open表的第一个节点取出放入Closed表,并记该节点为n;
v(4)考察节点n是否为目标节点。
若是,则得到问题的解,成功退出;
v(5)若节点n不可扩展,则转第
(2)步;
(6)扩展节点n,将其子节点放入Open表的尾部,并为每一个子节点设置指向父节点的指针,然后转第
(2)步。
5.深度优先搜索与宽度优先搜索唯一区别
宽度优先搜索是将节点n的子节点放入Open表的尾部,而深度优先搜索是把节点n的子节点放入Open表的首部。
仅此一点不同,就使得搜索的路径完全不一样。
6.等代价搜索
v代价图:
当搜索图中的节点之间的耗散不是单位耗散时,这样的图成为代价图。
v搜索算法:
v
(1)把起始节点S放到Open表中。
如果此起始节点为一目标节点.则求得一个解。
否则令g(S)=0。
v
(2)如果Open是个空表,则没有解而失败退出。
v(3)从Open表中选择一个节点i,使其g(i)为最小。
如果有几个节点都合格,那么就要选择一个目标节点作为节点i(要是有目标节点的话),否则,就从中选一个作为节点。
把节点i从Open表移至扩展节点表Closed中。
v(4)如果节点i为目标节点,则求得一个解。
v(5)扩展节点i。
如果没有后继节点,则转向第
(2)步。
v(6)对于节点i的每个后继节点j,计算g(j)=g(i)十c(i,j),并把所有后继节点j放进Open表。
提供回到节点i的指针。
v(7)转向第
(2)步。
三.启发式搜索
1.概念:
又称为有信息搜索,利用问题拥有的启发信息引导搜索,达到减少搜索范围,降低问题复杂度的目的。
2.三种基本启发式信息搜索策略:
(1)节点选择:
根据启发式信息决定要扩展的下一个节点(最有希望的节点)
(2)操作选择:
控制下层子节点产生,以避免盲目地同时生成所有可能的节点。
(3)剪枝技术:
在图搜索中对某些节点从图中剪去。
3.评价函数
评价函数用来估计节点重要性的函数。
评价函数f(n)被定义为从初始节点S0出发,约束经过节点n到达目标节点Sg的所有路径中最小路径代价的估计值。
它的一般形式为:
f(n)=g(n)+h(n)
其中,g(n)是从初始节点S0到节点n的实际代价;h(n)是从节点n到目标节点Sg的最优路径的估计代价。
4.A算法
A算法也被称为启发式搜索算法。
可根据搜索过程中选择扩展节点的范围,将启发式搜索算法分为全局择优搜索算法和局部择优搜索算法。
全局择优:
从Open表的所有节点中选择一个评价函数值最小的一个进行扩展。
局部择优:
仅从刚生成的子节点中选择一个评价函数值最小的一个进行扩展。
v全局择优搜索A算法描述
(1)把初始节点S0放入Open表中,f(S0)=g(S0)+h(S0);
(2)如果Open表为空,则问题无解,失败退出;
(3)把Open表的第一个节点取出放入Closed表,并记该节点为n;
(4)考察节点n是否为目标节点。
若是,则找到了问题的解,成功退出;
(5)若节点n不可扩展,则转第
(2)步;
(6)扩展节点n,生成其子节点ni(i=1,2,…),计算每一个子节点的估价值f(ni)(i=1,2,…),并为每一个子节点设置指向父节点的指针,然后将这些子节点放入Open表中;
(7)根据各节点的估价函数值,对Open表中的全部节点按从小到大的顺序重新进行排序;
(8)转第
(2)步。
5.A*算法
A*算法是对A算法的评价函数f(n)=g(n)+h(n)加上某些限制后得到的一种启发式搜索算法。
第六章神经网络
一.概述
1.概念:
人工神经网络(ArtificialNeuralNetworks,简记作ANN),是反映人脑结构及功能的一种抽象数学模型,是由大量神经元节点互连而成的复杂网络,用以模拟人类进行知识的表示与存储以及利用知识进行推理的行为。
简单地讲,它是一个数学模型,可以用电子线路来实现,也可以用计算机程序来模拟,是人工智能研究的一种方法。
2.人工神经网络力求从四个方面去模拟人脑的智能行为
▪物理结构
▪计算模拟
▪存储与操作
▪训练
3.生物神经元
神经元结构包括四个部分:
▪胞体:
神经细胞的本体,维持细胞生存功能
▪树突:
接收来自其他神经元的信号(输入)
▪轴突:
输出信号
突触:
与另一个神经元相联系的特殊部位
4.一个神经元有两种状态:
兴奋和抑制;
5.生物神经网络的六个基本特征:
▪1)神经元及其联接;
▪2)神经元之间的联接强度决定信号传递的强弱;
▪3)神经元之间的联接强度是可以随训练改变的;
▪4)信号可以是起刺激作用的,也可以