基于HBase Thrift接口的一些使用问题及相关注意事
网络编程 2021-07-05 09:49www.168986.cn编程入门
本篇文章是对HBase Thrift接口的一些使用问题及相关注意事项进行了详细的分析介绍,需要的朋友参考下
HBase对于非Java语言提供了Thrift接口支持,这里结合对HBase Thrift接口(HBase版本为0.92.1)的使用经验,其中遇到的一些问题及其相关注意事项。
1. 字节的存放顺序
HBase中,由于row(row key和column family、column qualifier、time stamp)是按照字典序进行排序的,,对于short、int、long等类型的数据,通过Bytes.toBytes(…)转换成byte数组后,必须按照大端模式(高字节在低地址,低字节在高地址)存放。对于value,也是同样的道理。,在使用Thrift API(C++、Php、Python等)方式时,最好对于row和value都统一按照大端进行pack和unpack处理。
举个例子,C++中,对于int型变量,经过以下方式转换为字典序
string key;
int32_t timestamp = 1352563200;
const char pTs =(const char) ×tamp;
size_t n = sizeof(int32_t);
key.append(pTs, n);
通过以下方式将字典序转换为int
const char ts = key.c_str();
int32_t timestamp = ((int32_t)(ts));
Php中则提供了pack和unpack方法进行转换
$key = pack("N", $num);
$num = unpack("N", $key);
2. TScan的使用陷阱
HBase的PHP Thrift接口中,TScan可以直接通过设置startRow、sRow、columns、filter等属性,默认这些属性均为null,设置后变为非null(通过TScan的构造函数或直接对TScan的成员变量进行赋值)。通过write()方法和Thrift Server进行RPC操作时,直接判断的依据是这些属性不为null,则通过Thrift协议传输到Thrift Server端。
在C++的Thrift接口中,TScan中有一个_TScan__isset __isset类型的变量,其内部结构如下
typedef struct _TScan__isset {
_TScan__isset() : startRow(false), sRow(false), timestamp(false), columns(false), caching(false), filterString(false) {}
bool startRow;
bool sRow;
bool timestamp;
bool columns;
bool caching;
bool filterString;
} _TScan__isset;
TScan的write()方法则是通过判断_TScan__isset下的各个bool变量标记是否设置了startRow、sRow、columns、filter等属性,决定是否将这些属性通过Thrift协议传输到Thrift Server端,而这些属性必须通过__set_xxx()方法进行设置才能生效!在TScan的默认构造函数中,并不会对这些属性对应的__isset标记设置为true!
,如果直接通过TScan的构造函数初始化startRow、sRow、columns、filter等属性会导致从头遍历该表,只有调用了__set_xxx()方法才会将对应的bool标识设置为true,这样服务端才会从Thrift Server获取startRow、sRow、columns、filter等属性进行扫描。
3. 并发访问线程数
,为了尽可能减少由于网络传输带来的时间开销,HBase的Thrift Server最好和应用客户端部署在同一台机器上。Thrift Server启动时可以通过参数配置并发线程数,否则很容易导致Thrift Server线程满了不响应客户端的读写请求,具体命令bin/hbase-daemon.sh start thrift --threadpool -m 200 -w 500(更多参数参考这里bin/hbase-daemon.sh start thrift -h)。
4. 最大堆内存配置
如果客户端与Thrift Server进行scan操作顺序读取数据,而且设置了一定的cache记录条数(通过TScan的int32_t caching变量设置),那么这些被caching的记录数可能会占用Thrift Server相当部分的堆内存,尤其在多客户端并发访问时更明显。
,在Thrift Server启动前,可以调大最大堆内存,否则可能由于java.lang.OutOfMemoryError异常而导致进程被杀掉,尤其是当Scan时设置了较大的caching记录条数的情况(默认为export HBASE_HEAPSIZE=1000MB,可以在conf/hbase-env.sh中设置)。
1. 字节的存放顺序
HBase中,由于row(row key和column family、column qualifier、time stamp)是按照字典序进行排序的,,对于short、int、long等类型的数据,通过Bytes.toBytes(…)转换成byte数组后,必须按照大端模式(高字节在低地址,低字节在高地址)存放。对于value,也是同样的道理。,在使用Thrift API(C++、Php、Python等)方式时,最好对于row和value都统一按照大端进行pack和unpack处理。
举个例子,C++中,对于int型变量,经过以下方式转换为字典序
代码如下:
string key;
int32_t timestamp = 1352563200;
const char pTs =(const char) ×tamp;
size_t n = sizeof(int32_t);
key.append(pTs, n);
通过以下方式将字典序转换为int
代码如下:
const char ts = key.c_str();
int32_t timestamp = ((int32_t)(ts));
Php中则提供了pack和unpack方法进行转换
代码如下:
$key = pack("N", $num);
$num = unpack("N", $key);
2. TScan的使用陷阱
HBase的PHP Thrift接口中,TScan可以直接通过设置startRow、sRow、columns、filter等属性,默认这些属性均为null,设置后变为非null(通过TScan的构造函数或直接对TScan的成员变量进行赋值)。通过write()方法和Thrift Server进行RPC操作时,直接判断的依据是这些属性不为null,则通过Thrift协议传输到Thrift Server端。
在C++的Thrift接口中,TScan中有一个_TScan__isset __isset类型的变量,其内部结构如下
代码如下:
typedef struct _TScan__isset {
_TScan__isset() : startRow(false), sRow(false), timestamp(false), columns(false), caching(false), filterString(false) {}
bool startRow;
bool sRow;
bool timestamp;
bool columns;
bool caching;
bool filterString;
} _TScan__isset;
TScan的write()方法则是通过判断_TScan__isset下的各个bool变量标记是否设置了startRow、sRow、columns、filter等属性,决定是否将这些属性通过Thrift协议传输到Thrift Server端,而这些属性必须通过__set_xxx()方法进行设置才能生效!在TScan的默认构造函数中,并不会对这些属性对应的__isset标记设置为true!
,如果直接通过TScan的构造函数初始化startRow、sRow、columns、filter等属性会导致从头遍历该表,只有调用了__set_xxx()方法才会将对应的bool标识设置为true,这样服务端才会从Thrift Server获取startRow、sRow、columns、filter等属性进行扫描。
3. 并发访问线程数
,为了尽可能减少由于网络传输带来的时间开销,HBase的Thrift Server最好和应用客户端部署在同一台机器上。Thrift Server启动时可以通过参数配置并发线程数,否则很容易导致Thrift Server线程满了不响应客户端的读写请求,具体命令bin/hbase-daemon.sh start thrift --threadpool -m 200 -w 500(更多参数参考这里bin/hbase-daemon.sh start thrift -h)。
4. 最大堆内存配置
如果客户端与Thrift Server进行scan操作顺序读取数据,而且设置了一定的cache记录条数(通过TScan的int32_t caching变量设置),那么这些被caching的记录数可能会占用Thrift Server相当部分的堆内存,尤其在多客户端并发访问时更明显。
,在Thrift Server启动前,可以调大最大堆内存,否则可能由于java.lang.OutOfMemoryError异常而导致进程被杀掉,尤其是当Scan时设置了较大的caching记录条数的情况(默认为export HBASE_HEAPSIZE=1000MB,可以在conf/hbase-env.sh中设置)。
编程语言
- 如何快速学会编程 如何快速学会ug编程
- 免费学编程的app 推荐12个免费学编程的好网站
- 电脑怎么编程:电脑怎么编程网咯游戏菜单图标
- 如何写代码新手教学 如何写代码新手教学手机
- 基础编程入门教程视频 基础编程入门教程视频华
- 编程演示:编程演示浦丰投针过程
- 乐高编程加盟 乐高积木编程加盟
- 跟我学plc编程 plc编程自学入门视频教程
- ug编程成航林总 ug编程实战视频
- 孩子学编程的好处和坏处
- 初学者学编程该从哪里开始 新手学编程从哪里入
- 慢走丝编程 慢走丝编程难学吗
- 国内十强少儿编程机构 中国少儿编程机构十强有
- 成人计算机速成培训班 成人计算机速成培训班办
- 孩子学编程网上课程哪家好 儿童学编程比较好的
- 代码编程教学入门软件 代码编程教程