当前位置: 首页 >数据库 > spark 1.5的hivecontext的问题

spark 1.5的hivecontext的问题

spark升级到1.5,里面的hive版本升级到1.2.1版本,我写了如下的代码

object SQLApp  extends App{val sparkconf = new SparkConf().setAppName("sql").setMaster("local")val sc = new SparkContext(sparkconf)val sqlContext = new HiveContext(sc)sqlContext.sql("show tables").show()sc.stop()}

当依赖的版本是1.5时候,hivecontext不会加载resources里面的hive-site.xml ,我试验了下实例化hiveconf 可以加载。

当依赖的版本是1.4.1的时候,这个时候hivecontext会访问hive-site.xml里面配置的mysql 数据库。

 

大致看了下代码,1.5的hivecontext没有读取hite-site.xml。 这个可能是1.5的bug. 但是我现在对spark的代码质量很担心

 

作者:高兴的博客
来源链接:https://www.cnblogs.com/gaoxing/p/4834862.html

版权声明:
1、JavaClub(https://www.javaclub.cn)以学习交流为目的,由作者投稿、网友推荐和小编整理收藏优秀的IT技术及相关内容,包括但不限于文字、图片、音频、视频、软件、程序等,其均来自互联网,本站不享有版权,版权归原作者所有。

2、本站提供的内容仅用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯相关权利人及本网站的合法权利。
3、本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站(javaclubcn@163.com),我们将第一时间核实后及时予以删除。





本文链接:https://www.javaclub.cn/database/117556.html

标签:MySQL升级
分享给朋友:

“spark 1.5的hivecontext的问题” 的相关文章

MYSQL的存储过程 2022年05月16日 21:54:19
连接数据库版本不一致 2022年05月20日 01:07:15
利用Oracle分析函数row 2022年06月03日 23:42:05
mysql 查询或 2022年06月07日 13:56:22
MYSQL查询某字段为空的数据 2022年06月08日 21:35:13
Mysql 查询区分大小写的两种方法 2022年06月11日 20:53:24
如何查看MySQL的版本? 2022年06月11日 22:08:01