分布式数据库HBase安装配置与实践.docx

1、分布式数据库HBase安装配置与实践实验指导书分布式数据库HBase安装配置与实践1.1实验目的HBase安装配置与实践1.2实验环境本教程运行环境是Cent OS 64位系统下，HBase版本为hbase-1.0.1.1-bin.tar.gz，这是目前已经发行的已经编译好的稳定的版本，带有src的文件是未编译的版本。下载地址http:/www.apache.org/dyn/closer.cgi/hbase/1.3实验步骤1.3.1安装并配置HBase1. HBase安装1.1 解压安装包hbase-1.0.1.1-bin.tar.gz至路径 /usr/local，命令如下：cd /usr/l

2、ocalsudo tar -zxvf hbase-1.0.1.1-bin.tar.gz1.2 将解压的文件名hbase-1.0.1.1改为hbase，以方便使用，命令如下：sudo mv hbase-1.0.1.1 hbase1.3 配置环境变量将hbase下的bin目录添加到path中，这样，启动hbase就无需到/usr/local/hbase目录下，大大的方便了hbase的使用。教 程下面的部分还是切换到了/usr/local/hbase目录操作，有助于初学者理解运行过程，熟练之后可以不必切换。编辑/.bashrc文件vi /.bashrc如果没有引入过PATH请在/.bashrc文件尾

3、行添加如下内容：export PATH=$PATH:/usr/local/hbase/bin如图1： 图 1编辑完成后，再执行source命令使上述配置在当前终端立即生效，命令如下：source /.bashrc扩展阅读: 设置Linux环境变量的方法和区别（下附）1.4 添加HBase权限sudo chown -R hadoop:hadoop ./hbase #将hbase下的所有文件的所有者以及用户组改为hadoop，hadoop是当前用户的用户名。1.5 查看HBase版本，确定hbase安装成功,命令如下：hbase version命令执行后，输出信息截图如图2：图 2看到以上输出消息

4、表示HBase已经安装成功，接下来将分别进行HBase单机模式和伪分布式模式的配置。2. HBase配置HBase有三种运行模式，单机模式、伪分布式模式、分布式模式。作为学习，我们重点讨论单机模式和伪分布式模式。以下先决条件很重要，比如没有配置JAVA_HOME环境变量，就会报错。- jdk- Hadoop( 单机模式不需要，伪分布式模式和分布式模式需要)- SSH以上三者如果没有安装，请回到第二章的实验指导参考如何安装。2.1伪分布式模式配置1.配置/usr/local/hbase/conf/hbase-env.sh。命令如下：vi /usr/local/hbase/conf/hbase-e

5、nv.sh配置JAVA_HOME，HBASE_CLASSPATH，HBASE_MANAGES_ZK.HBASE_CLASSPATH设置为本机Hadoop安装目录下的conf目录（即/usr/local/hadoop/conf）export JAVA_HOME=/usr/lib/jvm/java-1.7.0_67export HBASE_CLASSPATH=/usr/local/hadoop/conf export HBASE_MANAGES_ZK=true截图如图5：图 52.配置/usr/local/hbase/conf/hbase-site.xml用命令vi打开并编辑hbase-site.

6、xml，命令如下：vi /usr/local/hbase/conf/hbase-site.xml修改hbase.rootdir，指定HBase数据在HDFS上的存储路径；将属性hbase.cluter.distributed设置为true。假设当前Hadoop集群运行在伪分布式模式下，在本机上运行，且NameNode运行在9000端口。 hbase.rootdir hdfs:/etc03:9000/hbase hbase.cluster.distributed true hbase.zookeeper.quorum 127.0.0.1 hbase.rootdir指定HBase的存储目录；hba

7、se.cluster.distributed设置集群处于分布式模式.截图如图6：图 63. 接下来测试运行HBase。第一步：首先登陆ssh，之前设置了无密码登陆，因此这里不需要密码；再切换目录至/usr/local/hadoop ；再启动hadoop，如果已经启动hadoop请跳过此步骤。命令如下：cd /usr/local/hadoop./sbin/start-all.sh输入命令jps，能看到NameNode,DataNode和SecondaryNameNode都已经成功启动，表示hadoop启动成功，截图如图7：图 7第二步：切换目录至/usr/local/hbase;再启动HBase

8、.命令如下：cd /usr/local/hbasebin/start-hbase.sh启动成功，输入命令jps，看到图8界面说明hbase启动成功图 8进入shell界面：bin/hbase shell截图如图9：图 94.停止HBase运行,命令如下：bin/stop-hbase.sh注意：如果在操作HBase的过程中发生错误，可以通过HBASE_HOME目录（/usr/local/hbase）下的logs子目录中的日志文件查看错误原因。这里启动关闭Hadoop和HBase的顺序一定是：启动Hadoop启动HBase关闭HBase关闭Hadoop1.3.2编程实践1. 利用Shell命令1.

9、1 HBase中创建表HBase中用create命令创建表，具体如下： create student,Sname,Ssex,Sage,Sdept,course命令执行截图如图10：图 10此时，即创建了一个“student”表，属性有：Sname,Ssex,Sage,Sdept,course。因为HBase的表中会有一个系统 默认的属性作为行键，无需自行创建，默认为put命令操作中表名后第一个数据。创建完“student”表后，可通过describe命令查看 “student”表的基本信息。命令执行截图如图11：图 111.2 HBase数据库基本操作本小节主要介绍HBase的增、删、改、查操

10、作。在添加数据时，HBase会自动为添加的数据添加一个时间戳，故在需要修改数据时，只需直接添加数 据，HBase即会生成一个新的版本，从而完成“改”操作，旧的版本依旧保留，系统会定时回收垃圾数据，只留下最新的几个版本，保存的版本数可以在创建表 的时候指定。添加数据HBase中用put命令添加数据，注意：一次只能为一个表的一行数据的一个列，也就是一个单元格添加一个数据，所以直接用shell命令插入数据效率很低，在实际应用中，一般都是利用编程操作数据。当运行命令：put student,95001,Sname,LiYing时，即为student表添加了学号为95001，名字为LiYing的一行数据

11、，其行键为95001。put student,95001,Sname,LiYing命令执行截图如图12，即为student表添加了学号为95001，名字为LiYing的一行数据，其行键为95001。图 12 put student,95001,course:math,80命令执行截图如图13，即为95001行下的course列族的math列添加了一个数据。图 13删除数据在HBase中用delete以及deleteall命令进行删除数据操作，它们的区别是：1. delete用于删除一个数据，是put的反向操作；2. deleteall操作用于删除一行数据。1. delete命令 delete

12、student,95001,Ssex命令执行截图如图14， 即删除了student表中95001行下的Ssex列的所有数据。图 142. deleteall命令 deleteall student,95001命令执行截图如图15，即删除了student表中的95001行的全部数据。图 15查看数据HBase中有两个用于查看数据的命令：1. get命令，用于查看表的某一个单元格数据；2. scan命令用于查看某个表的全部数据1. get命令 get student,95001命令执行截图如图16， 返回的是student表95001行的数据。图 162. scan命令 scan student命

13、令执行截图如图17， 返回的是student表的全部数据。图 17删除表删除表有两步，第一步先让该表不可用，第二步删除表。disable student drop student命令执行截图如图18：图 181.3 查询表历史数据查询表的历史版本，需要两步。1、在创建表的时候，指定保存的版本数（假设指定为5） create teacher,NAME=username,VERSIONS=52、插入数据然后更新数据，使其产生历史版本数据，注意：这里插入数据和更新数据都是用put命令put teacher,91001,username,Maryput teacher,91001,username,M

14、ary1put teacher,91001,username,Mary2put teacher,91001,username,Mary3put teacher,91001,username,Mary4 put teacher,91001,username,Mary53、查询时，指定查询的历史版本数。默认会查询出最新的数据。（有效取值为1到5） get teacher,91001,COLUMN=username,VERSIONS=5查询结果截图如图19：图 191.4 退出HBase数据库表操作最后退出数据库操作，输入exit命令即可退出，注意：这里退出HBase数据库是退出对数据库表的操作，而

15、不是停止启动HBase数据库后台运行。exit2. Java API编程实例本实例使用Eclipse编写java程序，来对HBase数据库进行增删改查等操作，Eclipse可以在Ubuntu软件中心搜索下载并安装。第一步：启动hadoop，启动hbasecd /usr/local/hadoop./sbin/start-dfs.shcd /usr/local/hbase./bin/start-hbase.sh第二步，新建Java Project新建Class（图20，图21）图 20 图 21第三步：在工程中导入外部jar包：这里只需要导入hbase安装目录中的lib文件中的所有jar包。新版的

16、Hbase 1.1.2的java api已经发生变化，旧版的部分api已经停止使用，教材上第四章编程实例部分，请以本教程为准（图22）。 图 22这里给出一个编程实例,，以下是源代码：import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.hbase.*;import org.apache.hadoop.hbase.client.*;import java.io.IOException;public class ExampleForHbase public static Configuration configu

17、ration; public static Connection connection; public static Admin admin; /主函数中的语句请逐句执行，只需删除其前的/即可，如：执行insertRow时请将其他语句注释 public static void main(String args)throws IOException /创建一个表，表名为Score，列族为sname,course createTable(Score,new Stringsname,course); /在Score表中插入一条数据，其行键为95001,sname为Mary（因为sname列族下没有子

18、列所以第四个参数为空） /等价命令：put Score,95001,sname,Mary /insertRow(Score, 95001, sname, , Mary); /在Score表中插入一条数据，其行键为95001,course:Math为88（course为列族，Math为course下的子列） /等价命令：put Score,95001,score:Math,88 /insertRow(Score, 95001, course, Math, 88); /在Score表中插入一条数据，其行键为95001,course:English为85（course为列族，English为cour

19、se下的子列） /等价命令：put Score,95001,score:English,85 /insertRow(Score, 95001, course, English, 85); /1、删除Score表中指定列数据，其行键为95001,列族为course，列为Math /执行这句代码前请deleteRow方法的定义中，将删除指定列数据的代码取消注释注释，将删除制定列族的代码注释 /等价命令：delete Score,95001,score:Math /deleteRow(Score, 95001, course, Math); /2、删除Score表中指定列族数据，其行键为95001,

20、列族为course（95001的Math和English的值都会被删除） /执行这句代码前请deleteRow方法的定义中，将删除指定列数据的代码注释，将删除制定列族的代码取消注释 /等价命令：delete Score,95001,score /deleteRow(Score, 95001, course, ); /3、删除Score表中指定行数据，其行键为95001 /执行这句代码前请deleteRow方法的定义中，将删除指定列数据的代码注释，以及将删除制定列族的代码注释 /等价命令：deleteall Score,95001 /deleteRow(Score, 95001, , ); /查

21、询Score表中，行键为95001，列族为course，列为Math的值 /getData(Score, 95001, course, Math); /查询Score表中，行键为95001，列族为sname的值（因为sname列族下没有子列所以第四个参数为空） /getData(Score, 95001, sname, ); /删除Score表 /deleteTable(Score); /建立连接 public static void init() configuration = HBaseConfiguration.create(); configuration.set(hbase.root

22、dir,hdfs:/localhost:9000/hbase); try connection = ConnectionFactory.createConnection(configuration); admin = connection.getAdmin(); catch (IOException e) e.printStackTrace(); /关闭连接 public static void close() try if(admin != null) admin.close(); if(null != connection) connection.close(); catch (IOExc

23、eption e) e.printStackTrace(); /* * 建表。HBase的表中会有一个系统默认的属性作为主键，主键无需自行创建，默认为put命令操作中表名后第一个数据，因此此处无需创建id列 * param myTableName 表名 * param colFamily 列族名 * throws IOException */ public static void createTable(String myTableName,String colFamily) throws IOException init(); TableName tableName = TableName.

24、valueOf(myTableName); if(admin.tableExists(tableName) System.out.println(talbe is exists!); else HTableDescriptor hTableDescriptor = new HTableDescriptor(tableName); for(String str:colFamily) HColumnDescriptor hColumnDescriptor = new HColumnDescriptor(str); hTableDescriptor.addFamily(hColumnDescript

25、or); admin.createTable(hTableDescriptor); System.out.println(create table success); close(); /* * 删除指定表 * param tableName 表名 * throws IOException */ public static void deleteTable(String tableName) throws IOException init(); TableName tn = TableName.valueOf(tableName); if (admin.tableExists(tn) admi

26、n.disableTable(tn); admin.deleteTable(tn); close(); /* * 查看已有表 * throws IOException */ public static void listTables() throws IOException init(); HTableDescriptor hTableDescriptors = admin.listTables(); for(HTableDescriptor hTableDescriptor :hTableDescriptors) System.out.println(hTableDescriptor.get

27、NameAsString(); close(); /* * 向某一行的某一列插入数据 * param tableName 表名 * param rowKey 行键 * param colFamily 列族名 * param col 列名（如果其列族下没有子列，此参数可为空） * param val 值 * throws IOException */ public static void insertRow(String tableName,String rowKey,String colFamily,String col,String val) throws IOException init(

28、); Table table = connection.getTable(TableName.valueOf(tableName); Put put = new Put(rowKey.getBytes(); put.addColumn(colFamily.getBytes(), col.getBytes(), val.getBytes(); table.put(put); table.close(); close(); /* * 删除数据 * param tableName 表名 * param rowKey 行键 * param colFamily 列族名 * param col 列名 * throws IOException */ public static void deleteRow(String tableName,String rowKey,String colFamily,String col) throws IOException init(); Table table = connection.getTable(TableName.valueOf(tableName); Delete delete = new Delete(rowKey.getBytes(); /删除指定列族的所有数据 /delete.addFamily(colFamily.getByte