spark集群 spark提交任务的三种的方法

https://blog.csdn.net/boling_cavalry/article/details/86747258

https://www.cnblogs.com/xuliangxing/p/7234014.html  

第二个链接较为详细,但版本较旧

 

   注意spark 7077端口URL,如果hostname没配置正确,spark-submit会报错

jps看了两个slaves是有worker进程的。

spark安装完毕,启动hadoop集群:./sbin/./start-all.sh  

jps可查看

spark提交任务的三种的方法

https://www.cnblogs.com/itboys/p/9998666.html

 虚拟机分配内存不足,解决方案参考:https://blog.csdn.net/u012848709/article/details/85425249

 

最后终于跑完了,把输出结果get下来

 done!

猜你喜欢

转载自www.cnblogs.com/breakingbrad/p/12343889.html