关闭HDFS中的权限检查:dfs.permissions。

[外链图片转存失败(img-JbnogPBY-1563699384780)(1563698510310.png)]

配置Hadoop支持LZO压缩

点击主机,在下拉菜单中点击Parcel,默认是没有的,再点击右上角的配置找到远程Parcel存储库URL,点击最后一栏的加号,增加一栏,输入http://archive.cloudera.com/gplextras/parcels/latest/,之后点击保存更改

[外链图片转存失败(img-tSQElBIy-1563699384785)(1563698708595.png)]

返回Parcel列表,可以看到多出了LZO,选择下载,下载完成后选择分配,分配完成后选择激活。
[外链图片转存失败(img-ifSBOEoY-1563699384786)(1563698885545.png)]

安装完LZO后,打开HDFS配置,找到“压缩编码解码器”一栏,点击加号,添加com.hadoop.compression.lzo.LzopCodec后保存更改

在这里插入图片描述
打开YARN配置,找到MR 应用程序 Classpath,添加/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/hadoop-lzo-cdh4-0.4.15-gplextras.jar

[外链图片转存失败(img-9QgV73XS-1563699384799)(1563699001627.png)]

更新过期配置,重启进程

在这里插入图片描述
会把相关需要重启的都重启

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐