java.lang.NoClassDefFoundError:org/apache/spark/streaming/kafka/KafkaUtils 报错

经过2天的挣扎,终于解决了这个问题。
期间也遇到了其他问题,解决办法是spark-submit中设置相应的jar(加了好几个)。这一问题是由于kafka的版本不对,我的环境里Scala的版本是2.11.1,但是我安装的是kafka_2.12-1.1.0.tgz,对应Scala 2.12,更换了kafka的版本后完美解决

!!!!!细节很重要!!!!
最后附上spark-submit提交语句,提醒自己。

/root/app/spark-2.1.0-bin-hadoop2.6/bin/spark-submit  --class hdfs.KafkaToHbase --master spark://192.168.1.233:7077 --jars spark.jar,metrics-core-2.2.0.jar,spark-streaming-kafka-0-8_2.11-2.1.0.jar,spark-streaming_2.11-2.1.0.jar,kafka_2.11-1.1.0.jar 1000

猜你喜欢

转载自blog.csdn.net/yangyang_yangqi/article/details/81215629
今日推荐