经过2天的挣扎,终于解决了这个问题。
期间也遇到了其他问题,解决办法是spark-submit中设置相应的jar(加了好几个)。这一问题是由于kafka的版本不对,我的环境里Scala的版本是2.11.1,但是我安装的是kafka_2.12-1.1.0.tgz,对应Scala 2.12,更换了kafka的版本后完美解决
!!!!!细节很重要!!!!
最后附上spark-submit提交语句,提醒自己。
/root/app/spark-2.1.0-bin-hadoop2.6/bin/spark-submit --class hdfs.KafkaToHbase --master spark://192.168.1.233:7077 --jars spark.jar,metrics-core-2.2.0.jar,spark-streaming-kafka-0-8_2.11-2.1.0.jar,spark-streaming_2.11-2.1.0.jar,kafka_2.11-1.1.0.jar 1000