Caused by: java.lang.IllegalArgumentException: Unrecognized Hadoop major version number: 3.0.0-cdh6.2.1
在这里插入图片描述
业务场景:spark 抽取ck数据进Hive
结论:CDH 自带的hive 版本和hadoop支持的hive 版本对应不上 导致报错
办法:
1:去掉pom文件中的hive 依赖(去掉依赖的话 本地执行会报错 但是线上不会报错)

<!--        <dependency>-->
<!--            <groupId>org.apache.spark</groupId>-->
<!--            <artifactId>spark-hive_2.11</artifactId>-->
<!--            <version>2.4.0</version>-->
<!--        </dependency>-->

2:有看到有人说把这个依赖换成:(这个我没有测试过 不太确定的是否正确 核心应该是把版本号 改成 2.1.1-cdh6.2.1 类似于这种)

<dependency>
    <groupId>org.apache.hive</groupId>
    <artifactId>hive-serde</artifactId>
    <version>2.1.1-cdh6.2.1</version>
</dependency>
<dependency>
    <groupId>org.apache.hive</groupId>
    <artifactId>hive-exec</artifactId>
    <version>2.1.1-cdh6.2.1</version>
    <exclusions>
        <exclusion>
            <groupId>org.apache.avro</groupId>
            <artifactId>avro</artifactId>
        </exclusion>
    </exclusions>
</dependency>
<dependency>
    <groupId>org.apache.hive.hcatalog</groupId>
    <artifactId>hive-hcatalog-core</artifactId>
    <version>2.1.1-cdh6.2.1</version>
    <exclusions>
        <exclusion>
            <groupId>org.apache.avro</groupId>
            <artifactId>avro</artifactId>
        </exclusion>
    </exclusions>
</dependency>
Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐