Crontab执行java/spark-shell/spark-submit 异常解决方法

版权声明：转载请注明出处：苏冉旭的博客 http://blog.csdn.net/suranxu007/ https://blog.csdn.net/suranxu007/article/details/78562153

现象：

java/spark-shell/spark-submit 语句在linux shell中直接执行时没有任何问题，但是放到crontab中就出异常，且异常一般都抛在一些基础库里，让人感觉非常莫名，比如这种：

Traceback (most recent call last):
  File "/usr/lib64/python2.4/logging/__init__.py", line 731, in emit
    msg = self.format(record)
  File "/usr/lib64/python2.4/logging/__init__.py", line 617, in format
    return fmt.format(record)
  File "/usr/lib64/python2.4/logging/__init__.py", line 408, in format
    s = self._fmt % record.__dict__
KeyError: 'funcName'

原因：

由于crontab使用了自己独立的一套环境变量，与当前linux用户的path是不一样的。因此很多依赖于PATH的命令语句都会无法执行（比如依赖于python，或者依赖于java)。

可以看这里：https://stackoverflow.com/questions/2388087/how-to-get-cron-to-call-in-the-correct-paths

解决方法1：

#在当前用户的linux shell下执行下列命令，获取当前的path信息，复制到剪贴版中：

echo $PATH

#将PATH信息加入到crontab中：

crontab -e

#在文件首部新增两个空行，在第一行增加下列信息。其中<$PATH> 改为你剪贴板中的值：

PATH=<$PATH> 

解决方法2：（该方法比较安全，推荐）

#直接依次运行如下命令修改crontab，而后crontab -e 就可以正常用了。

echo PATH=$PATH > tmp.cron

echo >> tmp.cron

crontab -l >> tmp.cron

crontab tmp.cron 

转载请注明出处：http://blog.csdn.net/suranxu007/article/details/78562153