版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u012292754/article/details/86574482
1 BulkLoad
- HBase 支持 bulk load 的入库方式,它是利用 hbase 的数据信息按照特定格式存储在 hdfs ,直接在 HDFS 中生成持久化的 HFile 数据格式 文件,然后上传至合适位置,即完成巨量数据快速入库的办法。配合 mapreduce完成,高效便捷,而且不占用 region 资源,增添负载,在大数据量写入时能极大提高写入效率,并降低对 HBase 节点的写入压力。
通过使用先生成 HFile ,然后再 BulkLoad 到 HBase 的方式来替代之前直接调用 HTableOutoputFormat 方法的好处:
- 消除了对 HBase 集群的插入压力
- 提高了 Job 的运行速度,降低了 Job 的执行时间;