太原理工大学数据挖掘考试题库Word文件下载.docx
《太原理工大学数据挖掘考试题库Word文件下载.docx》由会员分享，可在线阅读，更多相关《太原理工大学数据挖掘考试题库Word文件下载.docx（12页珍藏版）》请在冰点文库上搜索。
通过聚类分析可以检测孤立点，将类似的值组织成群或“聚类”，直观看，落在聚类之外的值被看成孤立点。
17.决策树：
是用样本的属性作为结点，用属性的取值作为分支的树结构。
它是分类规则挖掘的典型方法，可用于对新样本进行分类。
18.相异度矩阵：
是聚类分析中用于表示各对象之间相异度的一种矩阵，n个对象的相异度矩阵是一个nn维的单模矩阵，其对角线元素均为0，对角线两侧元素的值相同。
19.频繁项集：
指满足最小支持度的项集，是挖掘关联规则的基本条件之一。
20.支持度：
规则A→B的支持度指的是所有事件中A与B同地发生的的概率，即P（A∪B），是AB同时发生的次数与事件总次数之比。
支持度是对关联规则重要性的衡量。
21.可信度：
规则A→B的可信度指的是包含A项集的同时也包含B项集的条件概率P（B|A），是AB同时发生的次数与A发生的所有次数之比。
可信度是对关联规则的准确度的衡量。
22.关联规则：
同时满足最小支持度阈值和最小可信度阈值的规则称之为关联规则。
23计算机和人工检查结合：
通过结合的方法识别孤立点。
24回归（regression）:
利用拟合函数（回归函数）来平滑数据。
如找出两个变量的“最佳”直线。
涉及多个变量的多线性回归是进一步扩展，即找多维面。
回归出适合的数据方程式，进而帮助消除噪声。
25数据集成：
需要统一原始数据中的所有矛盾之处，如字段的:
同名异义、同名同义、单位不统一、字长不一致，从而把原始数据在最低层上加以转换、提炼和集成。
常见数据集成：
–模式集成：
如不同库中的id或Number对应（元数据一致可避免模式集成中的错误）；
–冗余问题：
另一个表导出的属性，命名不一致导致的；
26数据变换：
将数据转换成适合于挖掘的形式，主要是找到数据的特征表示，对数据进行格式化处理，用维变换或转换方式减少有效变量的数目（降维）或找到数据的不变式
•常见的数据变换：
1平滑（smoothing）:
去掉数据中的噪声，如用分箱、聚类和回归；
2聚集：
对数据进行汇总和聚集
如聚集日销售数据，计算月或年销售额
（为多粒数据度分析准备数据立方体）
1数据概化：
利用概念分层，用高层次概念替换低层次“原始”数据，如
✓分类属性：
街道用城市或国家替换；
✓数值属性，年龄用老、中、青替换。
27数据管理框架/系统结构
a）基于关系数据库：
Oracle（双机热备）、MSSQL（GPS数据）
–基于文件系统：
将主要数据分目录/分类存在文件系统中
–基于云计算平台/NoSQL数据库：
存在HBase等NoSQL或分布式文件系统
–混合结构：
多种数据管理技术
•各系统结构均支持如下功能：
数据模型、数据预处理与集成、数据查询、存储与索引等。
28计算智能：
是以生物进化的观点认识和模拟智能。
按照这一观点，智能是在生物的遗传、变异、生长以及外部环境的自然选择中产生的。
在用进废退、优胜劣汰的过程中，适应度高的（头脑）结构被保存下来，智能水平也随之提高。
因此说计算智能就是基于结构演化的智能。
•主要方法：
人工神经网络（第7章，P155-182）、遗传算法、遗传程序、演化程序、局部搜索等，当前主要研究方向有群智能、模糊逻辑/推理等。
•这类方法的特点是通过自适应学习的特性，这些算法达到了全局优化的目的,有些算法容易陷入局部最优，有时也专门求次优解。
28决策支持：
即决策支持系统（decisionsupportsystem，简称dss）是辅助决策者通过数据、模型和知识，以人机交互方式进行半结构化或非结构化决策的计算机应用系统。
29DSS是管理信息系统（MIS）向更高一级发展而产生的先进信息管理系统。
它为决策者提供分析问题、建立模型、模拟决策过程和方案的环境，调用各种信息资源和分析工具，帮助决策者提高决策水平和质量。
30决策按其性质可分为如下3类：
a）结构化决策，是指对某一决策过程的环境及规则，能用确定的模型或语言描述，以适当的算法产生决策方案，并能从多种方案中选择最优解的决策；
31典型的物联网智能决策应用模式
32体系结构:
主要由四个部分组成：
数据部分：
一个数据库系统；
模型部分：
模型库（MB）及其管理系统（MBMS）;
推理部分：
由知识库（KB）、知识库管理系统（KBMS）和推理机组成;
人机交互部分:
人机交互界面，用以接收和检验用户请求。
a）何谓数据挖掘？
它有哪些方面的功能？
从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。
相关的名称有知识发现、数据分析、数据融合、决策支持等。
数据挖掘的功能包括：
概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。
b）何谓数据仓库？
为什么要建立数据仓库？
数据仓库是一种新的数据处理体系结构，是面向主题的、集成的、不可更新的（稳定性）、随时间不断变化（不同时间）的数据集合，为企业决策支持系统提供所需的集成信息。
建立数据仓库的目的有3个：
一是为了解决企业决策分析中的系统响应问题，数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度。
二是解决决策分析对数据的特殊需求问题。
决策分析需要全面的、正确的集成数据，这是传统事务数据库不能直接提供的。
三是解决决策分析对数据的特殊操作要求。
决策分析是面向专业用户而非一般业务员，需要使用专业的分析工具，对分析结果还要以商业智能的方式进行表现，这是事务数据库不能提供的。
c）列举操作型数据与分析型数据的主要区别。
操作型数据
分析型数据
当前的、细节的
历史的、综合的
面向应用、事务驱动
面向分析、分析驱动
频繁增、删、改
几乎不更新，定期追加
操作需求事先知道
分析需求事先不知道
生命周期符合SDLC
完全不同的生命周期
对性能要求高
对性能要求宽松
一次操作数据量小
一次操作数据量大
支持日常事务操作
支持管理决策需求
d）何谓OLTP和OLAP？
它们的主要异同有哪些？
OLTP即联机事务处理，是以传统数据库为基础、面向操作人员和低层管理人员、对基本数据进行查询和增、删、改等的日常事务处理。
OLAP即联机分析处理，是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。
OLTP和OLAP的主要区别如下表：
OLTP
OLAP
数据库数据
数据库或数据仓库数据
细节性数据
综合性数据
当前数据
历史数据
经常更新
不更新，但周期性刷新
一次性处理的数据量小
一次处理的数据量大
对响应时间要求高
响应时间合理
用户数量大
用户数据相对较少
面向操作人员，支持日常操作
面向决策人员，支持管理需要
面向应用，事务驱动
面向分析，分析驱动
e）何谓粒度？
它对数据仓库有什么影响？
按粒度组织数据的方式有哪些？
粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。
按粒度组织数据的方式主要有：
i.简单堆积结构
ii.轮转综合结构
iii.简单直接结构
iv.连续结构
f）简述数据仓库设计的三级模型及其基本容。
概念模型设计是在较高的抽象层次上的设计，其主要容包括：
界定系统边界和确定主要的主题域。
逻辑模型设计的主要容包括：
分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。
物理数据模型设计的主要容包括：
确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。
在物理数据模型设计时主要考虑的因素有:
I/O存取时间、空间利用率和维护代价等。
提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。
g）在数据挖掘之前为什么要对原始数据进行预处理？
原始业务数据来自多个数据库或数据仓库，它们的结构和规则可能是不同的，这将导致原始数据非常的杂乱、不可用，即使在同一个数据库中，也可能存在重复的和不完整的数据信息，为了使这些数据能够符合数据挖掘的要求，提高效率和得到清晰的结果，必须进行数据的预处理。
为数据挖掘算法提供完整、干净、准确、有针对性的数据，减少算法的计算量，提高挖掘效率和准确程度。
h）简述数据预处理方法和容。
1数据清洗：
包括填充空缺值，识别孤立点，去掉噪声和无关数据。
2数据集成：
将多个数据源中的数据结合起来存放在一个一致的数据存储中。
需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。
3数据变换：
将原始数据转换成为适合数据挖掘的形式。
包括对数据的汇总、聚集、概化、规化，还可能需要进行属性的重构。
4数据归约：
i）简述数据清理的基本容。
1尽可能赋予属性名和属性值明确的含义；
2统一多数据源的属性值编码；
3去除无用的惟一属性或键值（如自动增长的id）；
4去除重复属性（在某些分析中，年龄和出生日期可能就是重复的属性，但在某些时候它们可能又是同时需要的）
5去除可忽略字段（大部分为空值的属性一般是没有什么价值的，如果不去除可能造成错误的数据挖掘结果）
6合理选择关联字段（对于多个关联性较强的属性，重复无益，只需选择其中的部分用于数据挖掘即可，如价格、数据、金额）
7去掉数据中的噪音、填充空值、丢失值和处理不一致数据。
j）简述处理空缺值的方法。
1忽略该记录；
2去掉属性；
3手工填写空缺值；
4使用默认值；
5使用属性平均值；
6使用同类样本平均值；
7预测最可能的值。
k）常见的分箱方法有哪些？
数据平滑处理的方法有哪些？
分箱的方法主要有：
1统一权重法（又称等深分箱法）
2统一区间法（又称等宽分箱法）
3最小熵法
4自定义区间法
数据平滑的方法主要有：
平均值法、边界值法和中值法。
l）何谓数据规化？
规化的方法有哪些？
写出对应的变换公式。
将数据按比例缩放（如更换大单位），使之落入一个特定的区域（如0.0～1.0），称为规化。
1.
最大－最小规化：
2.
零－均值规化：
3.小数定标规化：
x＝x0/10α
m）数据归约的方法有哪些？
为什么要进行维归约？
i.数据立方体聚集
ii.维归约
iii.数据压缩
iv.数值压缩
v.离散化和概念分层
维归约可以去掉不重要的属性，减少数据立方体的维数，从而减少数据挖掘处理的数据量，提高挖掘效率。
n）何谓聚类？
它与分类有什么异同？
聚类是将物理或抽象对象的集合分组成为多个类或簇（cluster）的过程，使得在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。
聚类与分类不同，聚类要划分的类是未知的，分类则可按已知规则进行；
聚类是一种无指导学习，它不依赖预先定义的类和带类标号的训练实例，属于观察式学习，分类则属于有指导的学习，是示例式学习。
o）举例说明聚类分析的典型应用。
①商业：
帮助市场分析人员从客户基本库中发现不同的客户群，并且用不同的购买模式描述不同客户群的特征。
②生物学：
推导植物或动物的分类，对基于进行分类，获得对种群中固有结构的认识。
③WEB文档分类
④其他：
如地球观测数据库中相似地区的确定；
各类保险投保人的分组；
一个城市中不同类型、价值、地理位置房子的分组等。
⑤聚类分析还可作为其他数据挖掘算法的预处理：
即先进行聚类，然后再进行分类等其他的数据挖掘。
聚类分析是一种数据简化技术，它把基于相似数据特征的变量或个案组合在一起。
p）聚类分析中常见的数据类型有哪些？
何谓相异度矩阵？
它有什么特点？
常见数据类型有区间标度变量、比例标度型变量、二元变量、标称型、序数型以及混合类型等。
相异度矩阵是用于存储所有对象两两之间相异度的矩阵，为一个nn维的单模矩阵。
其特点是d（i,j）=d（j,i），d（i,i）=0，d（j,j）=0。
如下所示：
q）分类知识的发现方法主要有哪些？
分类过程通常包括哪两个步骤？
分类规则的挖掘方法通常有：
决策树法、贝叶斯法、人工神经网络法、粗糙集法和遗传算法。
分类的过程包括2步：
首先在已知训练数据集上，根据属性特征，为每一种类别找到一个合理的描述或模型，即分类规则；
然后根据规则对新数据进行分类。
r）什么是决策树？
如何用决策树进行分类？
决策树是用样本的属性作为结点，用属性的取值作为分支的树结构。
它是利用信息论原理对大量样本的属性进行分析和归纳而产生的。
决策树的根结点是所有样本息量最大的属性。
树的中间结点是以该结点为根的子树所包含的样本子集息量最大的属性。
决策树的叶结点是样本的类别值。
决策树用于对新样本的分类，即通过决策树对新样本属性值的测试，从树的根结点开始，按照样本属性的取值，逐渐沿着决策树向下，直到树的叶结点，该叶结点表示的类别就是新样本的类别。
决策树方法是数据挖掘中非常有效的分类方法。
s）简述ID3算法的基本思想及其主算法的基本步骤。
首先找出最有判别力的因素，然后把数据分成多个子集，每个子集又选择最有判别力的因素进一步划分，一直进行到所有子集仅包含同一类型的数据为止。
最后得到一棵决策树，可以用它来对新的样例进行分类。
主算法包括如下几步：
①从训练集中随机选择一个既含正例又含反例的子集（称为窗口）；
②用“建树算法”对当前窗口形成一棵决策树；
③对训练集（窗口除外）中例子用所得决策树进行类别判定，找出错判的例子；
④若存在错判的例子，把它们插入窗口，重复步骤②，否则结束。
t）简述ID3算法的基本思想及其建树算法的基本步骤。
建树算法的具体步骤如下：
①对当前例子集合，计算各特征的互信息；
②选择互信息最大的特征Ak；
③把在Ak处取值相同的例子归于同一子集，Ak取几个值就得几个子集；
④对既含正例又含反例的子集，递归调用建树算法；
⑤若子集仅含正例或反例，对应分枝标上P或N，返回调用处。
u）从信息处理角度看，神经元具有哪些基本特征？
写出描述神经元状态的M-P方程并说明其含义。
基本特征：
①多输入、单输出；
②突触兼有兴奋和抑制两种性能；
③可时间加权和空间加权；
④可产生脉冲；
⑤脉冲可进行传递；
⑥非线性，有阈值。
M-P方程：
，Wij是神经元之间的连接强度，
是阈值，f（x）是阶梯函数。
v）遗传算法与传统寻优算法相比有什么特点？
i.遗传算法为群体搜索，有利于寻找到全局最优解；
ii.遗传算法采用高效有方向的随机搜索，搜索效率高；
iii.遗传算法处理的对象是个体而不是参变量，具有广泛的应用领域；
iv.遗传算法使用适应值信息评估个体，不需要导数或其他辅助信息，运算速度快，适应性好；
v.遗传算法具有隐含并行性，具有更高的运行效率。
简述K-平均算法的输入、输出及聚类过程（流程）。
输入：
簇的数目k和包含n个对象的数据集。
输出：
k个簇，使平方误差准则最小。
步骤：
vi.任意选择k个对象作为初始的簇中心；
vii.计算其它对象与这k个中心的距离，然后把每个对象归入离它“最近”的簇；
viii.计算各簇中对象的平均值，然后重新选择簇中心（离平均值“最近”的对象值）；
ix.重复第2第3步直到簇中心不再变化为止。
何谓文本挖掘？
它与信息检索有什么关系（异同）。
文本挖掘是从大量文本数据中提取以前未知的、有用的、可理解的、可操作的知识的过程。
它与信息检索之间有以下几方面的区别：
x.方法论不同：
信息检索是目标驱动的，用户需要明确提出查询要求；
而文本挖掘结果独立于用户的信息需求，是用户无法预知的。
xi.着眼点不同：
信息检索着重于文档中字、词和；
而文本挖掘在于理解文本的容和结构。
xii.目的不同：
信息检索的目的在于帮助用户发现资源，即从大量的文本中找到满足其查询请求的文本子集；
而文本挖掘是为了揭示文本中隐含的知识。
xiii.评价方法不同：
信息检索用查准率和查全率来评价其性能。
而文本挖掘采用收益、置信度、简洁性等来衡量所发现知识的有效性、可用性和可理解性。
xiv.使用场合不同：
文本挖掘是比信息检索更高层次的技术，可用于信息检索技术不能解决的许多场合。
一方面，这两种技术各有所长，有各自适用的场合；
另一方面，可以利用文本挖掘的研究成果来提高信息检索的精度和效率，改善检索结果的组织，使信息检索系统发展到一个新的水平。
33物联网数据特征
1、异构多样化结构，来源广，表现方式不同，结构形式差异；
2、高增长，随着物联网的发展，各种信息量几何级增长；
3、有噪声，数据的多样性对于具体的应用当然是噪声极大，利用前需要进行分拣。
●数据的多态性与异构性
各式各样传感器
●数据的海量性
时时刻刻都在产生数据
●数据的时效性
被感知的事物的状态可能是瞬息万变的
●数据传输的难题:
文本型数据易传难感，多媒体数据易感难传
网络终端或软件故障难区分、电源、节点数量
数据处理的基本方法
●物联网数据生成到处理涉及采集、传输、存储、处理等环节，这构成了数据处理的基本方法，不同阶段采用不同的技术。
●采集：
依靠各种传感器并A/D或D/A转换；
●传输：
485串口通讯、有线或无线网络（IPV4或IPV6）等；
●存储：
关系数据库、实时数据库、云存储等；
●处理：
统计、融合、分类、聚类等数据挖掘/机器学习/人工智能方法。
数据清洗技术
•功能:
去掉数据中的噪声，纠正不一致
•完成：
填充空缺的值、识别孤立点、消除噪声、纠正数据中的不一致
•方法：
有监督和无监督两类方法：
–有监督过程：
在领域专家指导下，分析收集数据，去掉明显错误的噪声数据和重复记录，填补缺省数据；
–无监督过程：
用样本数据训练算法，使其获得一定的经验，并在以后的处理过程中自动采用这些经验完成数据清洗工作。
升级会员 