问题解决:java运行HiveQL,报错:java,多亏这份《秋招+金九银十-腾讯面试题合集》跳槽薪资翻倍

76 阅读3分钟

使用Java编写HiveQL语句,然后通过jdbc的方式远程连接hive集群,并执行。在执行过程中,报错,错误信息如下:

java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
	at org.apache.hive.jdbc.HiveConnection.createBinaryTransport(HiveConnection.java:393)
	at org.apache.hive.jdbc.HiveConnection.openTransport(HiveConnection.java:187)
	at org.apache.hive.jdbc.HiveConnection.<init>(HiveConnection.java:163)
	at org.apache.hive.jdbc.HiveDriver.connect(HiveDriver.java:105)
	at java.sql.DriverManager.getConnection(DriverManager.java:664)
	at java.sql.DriverManager.getConnection(DriverManager.java:247)
	。。。
	at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
	at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
	at java.lang.Thread.run(Thread.java:745)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.conf.Configuration
	at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
	at org.springframework.boot.loader.LaunchedURLClassLoader.loadClass(LaunchedURLClassLoader.java:93)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
	... 11 common frames omitted

问题环境

软件版本
JDK1.8
Hive1.1.0
hive-jdbc1.1.0
Hadoop2.6.5

问题原因

问题提示关键点在于:java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration。而NoClassDefFoundError错误的出现,主要是在编译过程中,没有出现问题;在运行过程中,发现缺失类或者有重复类就会导致这个报错。
在这里插入图片描述
我们首先在全局搜索这个类:org.apache.hadoop.conf.Configuration,因为我这里是idea,所以是直接双击shift键,然后输入对应的类路径,结果如下:
在这里插入图片描述
很显然,我们本地是没有org.apache.hadoop.conf.Configuration这个类的。
在这里插入图片描述

解决方案

在这里插入图片描述
既然是类缺失,那么就引入对应的jar包即可。如果大家是使用idea+maven进行开发的话,可以到pom.xml文件,点击alt+insert快捷键,选择第一个Dependency,如下图:
在这里插入图片描述
Search for class点击输入org.apache.hadoop.conf.Configuration,结果如下:
在这里插入图片描述
这里,我们需要根据现网的Hadoop版本,选择对应的依赖包。因为博主这边的环境是Hadoop 2.6.5,所以这里的hadoop-common选择为2.6.5版本。

结果

引入依赖之后,重跑没有报错,顺利执行完毕!!!
在这里插入图片描述

总结

在解决问题的过程中,阐述说明问题发生的原因,并给出解决方案。在学习的过程中中,可以学到很多知识点。即使知识点比较少,但是积少成多,技术就会慢慢精进!!!
在这里插入图片描述

随缘求赞

如果我的文章对大家产生了帮忙,可以在文章底部点个赞或者收藏;

img img img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

需要这份系统化资料的朋友,可以戳这里获取