cdh中配置hadoop支持LZO
文章目录关闭HDFS中的权限检查:dfs.permissions。配置Hadoop支持LZO压缩关闭HDFS中的权限检查:dfs.permissions。配置Hadoop支持LZO压缩点击主机,在下拉菜单中点击Parcel,默认是没有的,再点击右上角的配置找到远程Parcel存储库URL,点击最后一栏的加号,增加一栏,输入http://archive.cloudera.com/gplext...
·
关闭HDFS中的权限检查:dfs.permissions。
![[外链图片转存失败(img-JbnogPBY-1563699384780)(1563698510310.png)]](https://i-blog.csdnimg.cn/blog_migrate/72ba6693c5396d20f8f9d1658e649733.png)
配置Hadoop支持LZO压缩
点击主机,在下拉菜单中点击Parcel,默认是没有的,再点击右上角的配置找到远程Parcel存储库URL,点击最后一栏的加号,增加一栏,输入http://archive.cloudera.com/gplextras/parcels/latest/,之后点击保存更改
![[外链图片转存失败(img-tSQElBIy-1563699384785)(1563698708595.png)]](https://i-blog.csdnimg.cn/blog_migrate/c3c60af6c5110e5a8f09cfeb9a2d6357.png)
返回Parcel列表,可以看到多出了LZO,选择下载,下载完成后选择分配,分配完成后选择激活。![[外链图片转存失败(img-ifSBOEoY-1563699384786)(1563698885545.png)]](https://i-blog.csdnimg.cn/blog_migrate/454a3e0386512edbba923100b0023ccb.png)
安装完LZO后,打开HDFS配置,找到“压缩编码解码器”一栏,点击加号,添加com.hadoop.compression.lzo.LzopCodec后保存更改

打开YARN配置,找到MR 应用程序 Classpath,添加/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/hadoop-lzo-cdh4-0.4.15-gplextras.jar
![[外链图片转存失败(img-9QgV73XS-1563699384799)(1563699001627.png)]](https://i-blog.csdnimg.cn/blog_migrate/26f5820884bc1b986db6173b5d65d7c1.png)
更新过期配置,重启进程

会把相关需要重启的都重启
更多推荐
所有评论(0)