报错信息:

[2022-09-30 13:48:35] [42000][30041] Error while processing statement: FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark client for Spark session 2fefd48c-83b9-40b0-9cdb-5b515b7a2155

 报错原因:SparkTask任务失败,executor内存不足。

解决方案:加上下面两个参数

set mapred.map.tasks.speculative.execution=true
set mapred.reduce.tasks.speculative.execution=true

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐