Apriori算法实验报告及程序文档格式.docx
《Apriori算法实验报告及程序文档格式.docx》由会员分享，可在线阅读，更多相关《Apriori算法实验报告及程序文档格式.docx（40页珍藏版）》请在冰点文库上搜索。
从数据库读取记录进行Apriori实验，获得频繁集以及关联规则，实现可视化。
并用课堂上PPT的实例测试其正确性。
1.2.2实验要求
1、程序结构：
包括前台工具和数据库；
2、设定项目种类为10个，随机产生事务，生成数据库；
3、正确性验证（可用课堂上的例子）；
4、算法效率的研究：
在支持度固定数据量不同的时候测量运行时间；
在数据量固定，支持度不同的时候测量运行时间；
5、注意界面的设计，输入最小支持度和最小可信度，能够输出并显示频繁项目集以及关联规则。
1.2.3实验目的
1、加强对Apriori算法的理解；
2、锻炼分析问题、解决问题并动手实践的能力。
2Apriori算法分析与实验环境
2.1Apriori算法的描述
Apriori算法是一种找频繁项目集的基本算法。
其基本原理是逐层搜索的迭代：
频繁K项Lk集用于搜索频繁（K+1）项集Lk+1，如此下去，直到不能找到维度更高的频繁项集为止。
这种方法依赖连接和剪枝这两步来实现。
算法的第一次遍历仅仅计算每个项目的具体值的数量，以确定大型l项集。
随后的遍历，第k次遍历，包括两个阶段。
首先，使用在第（k-1）次遍历中找到的大项集Lk-1和产生候选项集Ck。
接着扫描数据库，计算Ck中候选的支持度。
用Hash树可以有效地确定Ck中包含在一个给定的事务t中的候选。
如果某项集满足最小支持度,则称它为频繁项集。
2.2Apriori算法的步骤
步骤如下:
1、设定最小支持度s和最小置信度c；
2、Apriori算法使用候选项集。
首先产生出候选的项的集合,即候选项集,若候选项集的支持度大于或等于最小支持度,则该候选项集为频繁项集；
3、在Apriori算法的过程中,首先从数据库读入所有的事务,每个项都被看作候选1-项集,得出各项的支持度,再使用频繁1-项集集合来产生候选2-项集集合,因为先验原理保证所有非频繁的1-项集的超集都是非频繁的；
4、再扫描数据库,得出候选2-项集集合,再找出频繁2-项集,并利用这些频繁2-项集集合来产生候选3-项集；
5、重复扫描数据库,与最小支持度比较,产生更高层次的频繁项集,再从该集合里产生下一级候选项集,直到不再产生新的候选项集为止。
2.3开发环境
2.3.1软件环境
（1）编程软件：
Jdk开发包+eclipse集成开发环境
Eclipse是一个开放源代码的、基于Java的可扩展开发平台。
就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。
幸运的是，Eclipse附带了一个标准的插件集，包括Java开发工具（JavaDevelopmentKit，JDK）。
（2）数据库软件：
SQLServer2008
SQLServer2008在Microsoft的数据平台上发布，可以组织管理任何数据。
可以将结构化、半结构化和非结构化文档的数据直接存储到数据库中。
可以对数据进行查询、搜索、同步、报告和分析之类的操作。
数据可以存储在各种设备上，从数据中心最大的服务器一直到桌面计算机和移动设备，它都可以控制数据而不用管数据存储在哪里。
（3）办公软件：
Excel2010
Excel是一款试算表办公软件。
它是微软办公套装软件office的重要的组成部分，它是集统计分析、数据处理和辅助决策等功能于一身，现在金融、统计财经、管理等众多领域广泛应用。
本实验主要用来为固定数据量改变最小支持数以及固定最小支持数改变数据量两种情况进行时间分析提供可视化图表。
2.3.2硬件环境
装有Windows7旗舰版电脑。
2.4本章小结
本章的内容主要是为了引出本实验的主要算法以及对算法的实现环境做了介绍。
3算法的设计
3.1Apriori算法整体框架
图3.1Apriori实验流程图
3.2主要的数据结构与函数
3.2.1数据结构
classTransaction
{
publicintpid;
publicStringitemset;
}
该类表示表中的一条记录。
classDao
publicArrayList<
Transaction>
Query（Stringsql）
该类用于访问数据库操作。
classKfp
publiccharkfpstr[]=newchar[Apriori.ITEMSIZE];
publicintindex=-1;
publicintsupport=0;
publicbooleanisfp=true;
该类代表一个频繁项目。
3.2.2主要的程序
Java中最常用的集合类是List和Map。
List的具体实现包括ArrayList和Vector，它们是可变大小的列表，比较适合构建、存储和操作任何类型对象的元素列表。
List适用于按数值索引访问元素的情形。
HashMap：
Map接口的常用实现类，系统<
key,value>
当成一个整体进行处理，系统总是根据Hash算法来计算<
的存储位置，这样可以保证能快速存、取Map的<
对。
ArrayList<
alTransactions：
保存表中的所有记录
Kfp>
alKfpsl：
临时存储频繁项目的集合，存储连接后的结果
SureFpset：
保存频繁k项集
SureFpsetPrio：
保存频繁k-1项集
String>
notFpList：
保存一定不是频繁项目的集合，用于剪枝
HashMap<
String,Integer>
KfpSuppor:
频繁项目集及其对应的支持数
String,Double>
guanlianguize:
关联规则及其置信度
3.2.3连接与剪枝操作
对于连接操作的两个字符串（长度为k），它们必须有k-1个相同的字符才能做连接操作。
例如:
abc和abd可以连接成abcd，abd和bcd可以连接成abcd，而abc和ade就不可以做连接操作。
整个连接过程类似归并排序中的归并操作
对于任一频繁项目集的所有非空子集也必须是频繁的，反之，如果某个候选的非空子集不是频繁的，那么该候选集肯定不是频繁的，将其剪枝。
3.3本章小结
本章主要介绍了算法设计的整体流程并且也对主要程序和操作作了简要的说明。
4数据库的设计与数据的来源
本实验的数据均存储于数据库中。
数据库yuzm中共产生6张表。
表test为测试用表，用于程序的正确性验证。
还有5张表存储随机产生的实验数据。
其中数据库的结构如下图所示。
图4.1数据库结构
4.1正确性验证数据
表test为PPT上的实例，用于正确性验证。
数据的item个数为5，其中的九行数据均由SQL语句产生，表的每一行都是一个“0”“1”的字符串，字符串长度等于商品种类，其中“0”表示该商品不存在，“1”表示该商品存在。
表的全部数据如图4.2。
图4.2表test
4.2实验数据
5张表是通过算法随机产生的具有不同数据量的数据集，假设商品种类为10种，表的每一行都是一个“0”“1”的字符串，字符串长度等于商品种类，其中“0”表示该商品不存在，“1”表示该商品存在。
其中表data1共随机产生1万行数据，表data2产生5万行数据，表data3产生25万行数据，表data4产生50万行数据，表data5产生75万行数据。
部分数据如图4.3。
图4.3实验用表（部分）
4.3本章小结
本章主要对数据库的设计与数据来源做出了说明。
5实验结果与性能分析
5.1Apriori实验界面
其中可信度可自由设置，默认为0.7。
而支持度记为最小支持度与数据量的比例。
实验数据可以下拉选择6张表中的任意一张。
如下图所示：
图5.1实验界面
5.2实验的正确性验证
运行程序，我们选择表test，即可进行正确性验证，实验结果如下图：
图5.2正确性验证
最终实验结果与ppt的结果相吻合，表明程序编写正确。
5.3实验性能分析
为了对本程序的实验进行性能分析，我们分别采用固定数据量改变最小支持数以及固定最小支持数改变数据量两种情况进行时间分析,其中最小置信度设为0.7不变。
5.3.1固定最小支持度改变数据量
设支持度为0.2，最小可信度为0.7。
具体实验数据量与执行时间如下：
表5.1数据量对性能的影响
数据量（万行）
1
5
25
50
75
时间（秒）
48.2
128.2
366.9
623.4
1032.3
图5.3数据量对性能的影响
5.3.2固定数据量改变最小支持度
设实验数据量固定改变最小支持度，具体如下所示：
表5.2最小支持度对性能的影响
最小支持度
0.15
0.20
0.25
0.30
0.35
时间（秒/1万）
175.6
49
14.2
8.5
5.2
时间（秒/5万）
294.1
58.8
41.5
25.7
时间（秒/25万）
531.3
246.5
185.6
154.0
图5.4最小支持度对性能的影响
5.3.3实验结果分析
由以上实验我们可以看出，实验时间会随着数据量的增大而增大，并且随着最小支持度的增大而减小。
并且他们之间的变化类似于某种指数函数的变化趋势。
Apriori的时间主要消耗在4个方面：
1、利用K频繁集连接产生K+1候选集时，判断连接的条件时比较的次数太多。
假设项集个数为m的频繁集合Lk，判断连接条件时比较的时间复杂度为O（K*m2）。
而且本实验的m都很大；
2、对Ck中任意的一个c的k个（k-1）子集是否都在Lk-1中。
在平均情况下，对所有候选k项集需要扫描次数为|Ck|*|Lk-1|*k/2；
3、为了得到所有的候选频集的支持度，需要扫描N次；
4、扫描一次数据库需时间O（k|T|）。
|T|为交易数量，k交易长度
5.4本章小结
Apriori算法因自身需要多次扫描数据库，并且经过复杂的连接剪枝操作而产生大量候选集以及进行大量的模式匹配计算的缺陷，使得其在I/O上的花费时间很多，从而导致算法的效率不是太高。
6总结与体会
通过本次实验，让我明白了什么是Apriori算法和数据之间的关联性，Apriori算法是一种最有影响的挖掘布尔关联规则频繁项集的算法，为以后进步学习数据挖掘知识打下了良好的基础。
同时我也更加深刻理解了Apriori算法的原理及其实现的内部细节，同时通过实现这一经典的数据挖掘算法，也让我更深刻的体会到数据挖掘对于知识发现的重要性，尽管实现了算法，但其中可能还有可以改进的地方，尤其是程序的运行效率方面。
Apriori算法实验不仅使得我对该算法的理解更加上升了一个层次，同时也使得我更加了解了java编程语言，使用更加得心应手。
importjava.awt.BorderLayout;
importjava.awt.Font;
importjava.awt.GridLayout;
importjava.awt.Panel;
importjava.awt.TextArea;
importjava.awt.TextField;
importjava.awt.event.ActionEvent;
importjava.awt.event.ActionListener;
importjava.util.ArrayList;
importjava.util.HashMap;
importjava.util.Iterator;
importjava.util.Set;
importjavax.swing.JButton;
importjavax.swing.JComboBox;
importjavax.swing.JFrame;
importjavax.swing.JLabel;
importjavax.swing.JPanel;
importjavax.swing.JTextField;
importorg.omg.CORBA.PUBLIC_MEMBER;
publicclassAprioriextendsJFrameimplementsActionListener
//////////////////////////////////////////////////////
publicstaticintITEMSIZE=10;
publicfinalintFRAMEWIDTH=800;
publicfinalintFRAMEHEIGHT=600;
///////////////////////////////////////////////////////
JPanelup=null;
JPanelup_up=null;
TextFieldtextFieldName[]=null;
JPanelup_down=null;
JPanelup_down_left=null;
JLabelconflabel=null;
JLabelc1=null;
JLabelc2=null;
JLabelc3=null;
JLabelc4=null;
JLabelc5=null;
JLabelc6=null;
JLabelc7=null;
JLabelc8=null;
JTextFieldconf=null;
JLabelsupportlabel=null;
JTextFieldsupport=null;
JPanelup_down_right=null;
JComboBoxjComboBoxDateSize=null;
//下拉框
JButtonjButtonMine=null;
JPaneldown=null;
TextAreatextArea=null;
intfpstep=1;
intfpindex=0;
Daodao=null;
doubleMinSupport=0.20;
doubleMinConfi=0.70;
doubleDateSize=9.0;
ArrayList<
alTransactions=null;
alKfps=null;
notFpList=null;
SureFpset=null;
SureFpsetPrio=null;
HashMap<
KfpSupport=null;
alsurekfpstr=null;
guanlianguize=null;
isaddarrStrings=null;
int[][]AuxArr=null;
publicstaticvoidmain（String[]args）
{
AprioriA=newApriori（）;
}
publicApriori（）
JPanelup=newJPanel（newGridLayout（2,1））;
JPanelup_up=newJPanel（newGridLayout（1,ITEMSIZE））;
//TextFieldtextFieldName[]=newTextField[ITEMSIZE];
//for（inti=0;
i<
ITEMSIZE;
i++）
//{
//textFieldName[i]=newTextField（）;
//up_up.add（textFieldName[i]）;
//}
c1=newJLabel（"
数"
）;
up_up.add（c1）;
c2=newJLabel（"
据"
up_up.add（c2）;
c3=newJLabel（"
挖"
up_up.add（c3）;
c4=newJLabel（"
掘"
up_up.add（c4）;
c5=newJLabel（"
实"
up_up.add（c5）;
c6=newJLabel（"
验"
up_up.add（c6）;
c7=newJLabel（"
--------"
up_up.add（c7）;
c8=newJLabel（"
Apriori"
up_up.add（c8）;
up_down=newJPanel（newGridLayout（1,2））;
up_down_left=newJPanel（newGridLayout（1,4））;
conflabel=newJLabel（"
可信度：
"
conf=newJTextField（）;
conf.setText（"
0.7"
supportlabel=newJLabel（"
支持度：
support=newJTextField（）;
support.setText（"
0.2"
up_down_left.add（conflabel）;
up_down_left.add（conf）;
up_down_left.add（supportlabel）;
up_down_left.add（support）;
up_down_right=newJPanel（newGridLayout（1,2））;
jComboBoxDateSize=newJComboBox（）;
jComboBoxDateSize.addItem（"
test"
data1"
data2"
data3"
data4"
data5"
jComboBoxDateSize.addActionListener（this）;
jButtonMine=newJButton（"
开始挖掘"
jButtonMine.addActionListener（this）;
up_down_right.add（jComboBoxDateSize）;
up_down_right.add（jButtonMine）;
up_down.add（up_down_left）;
up_down.add（up_down_right）;
up.add（up_up）;
up.add（up_down）;
down=newJPanel（newBorderLayout（））;
textArea=newTextArea（）;
//textArea.setFont（newFont（Font.DIALOG,Font.ITALIC,20））;
textArea.setFont（newFont（Font.DIALOG,Font.PLAIN,20））;
down.add（textArea）;
this.setLayout（newBorderLayout（））;
this.setSize（FRAMEWIDTH,FRAMEHEIGHT）;
this.setLocation（100,100）;
this.setSize（this.FRAMEWIDTH,this.FRAMEHEIGHT）;
this.setDefaultCloseOperation（JFrame.EXIT_ON_CLOSE）;
this.setTitle（"
Apriori"
//up.setSize（this.FRAMEWIDTH,100）;
this.add（up,BorderLayout.NORTH）;
//down.setLocation（0,100）;
//down.setSize（this.FRAMEWIDTH,this.FRAMEHEIGHT-100）;
升级会员 