当前位置:主页 > 查看内容

SparkSQL访问Hive遇到的问题及解决方法

发布时间:2021-07-24 00:00| 位朋友查看

简介:需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中 测试代码 报错 查看源码 解决方法 将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中 继续报错 查看源码 进入ConfVars 发现ConfV……

需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中

测试代码

SparkSQL访问Hive遇到的问题及解决方法

报错

SparkSQL访问Hive遇到的问题及解决方法

查看源码

SparkSQL访问Hive遇到的问题及解决方法

解决方法

将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中

继续报错

SparkSQL访问Hive遇到的问题及解决方法

查看源码

SparkSQL访问Hive遇到的问题及解决方法

进入ConfVars

SparkSQL访问Hive遇到的问题及解决方法

发现ConfVars中定义的变量并没有METASTORE_CLIENT_SOCKET_LIFETIME,而HiveConf.java来自于hive-exec-1.1.0-cdh5.7.0.jar,即证明hive1.1.0中并没有假如该参数。

解决方法

将hive依赖换为1.2.1

SparkSQL访问Hive遇到的问题及解决方法

继续报错

SparkSQL访问Hive遇到的问题及解决方法

解决方法

这是因为远端没有启动hive造成的,启动hive时需要配置metastore。


本文转载自网络,原文链接:https://www.toutiao.com/a6746443359637733891/
本站部分内容转载于网络,版权归原作者所有,转载之目的在于传播更多优秀技术内容,如有侵权请联系QQ/微信:153890879删除,谢谢!

推荐图文

  • 周排行
  • 月排行
  • 总排行

随机推荐