因为开发环境需要迁移,将原来HBase中的表使用 org.apache.hadoop.hbase.mapreduce.Export 工具序列化到hdfs后下载出来,在新的开发环境中导入。导入时遇到了两个问题。
问题一:导入失败提示User hbase cannot submit applications to queue root.hbase
解决方法:
登录到yarn集群管理节点Resource Manager机器上/etc/hadoop 路径 ,修改fair-scheduler.xml
vi /etc/hadoop/fair-scheduler.xml,新增以下内容(所有的Resource Manager节点都需要修改),保存退出。不需要重启集群和组件
<queue name='hbase'> <weight>1</weight> <schedulingPolicy>drf</schedulingPolicy> <aclSubmitApps>hdfs,hbase,hive</aclSubmitApps> <aclAdministerApps>hbase</aclAdministerApps> <minResources>100 mb,10 vcores</minResources> <maxResources>10240 mb,50 vcores</maxResources> <maxRunningApps>50</maxRunningApps> </queue>
问题二:导入失败,终端没有按正常进度走,也没有相关错误提示。
查看yarn 中的job日志发现如下信息
解决方法:
去系统下查看hbase的id为uid=482(hbase)而yarn的配置中有一项为“min.user.id”最小用户id这里配置了1000。修改为300后问题排除。
这个配置的作用是“允许的最小 Linux 用户 ID。用于阻止其他超级用户。”
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
本文标题:使用HBase自带的import工具导入数据遇到的两个问题-创新互联
地址分享:https://www.cdcxhl.com/article38/dihdpp.html
成都网站建设公司_创新互联,为您提供网站策划、域名注册、小程序开发、自适应网站、Google、网站内链
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联