Sqoop常用命令及参数

常用命令列举

序号 命令 说明
1 import ImportTool
将数据导入到集群
2 export ExportTool
将集群数据导出
3 codegen CodeGenTool
获取数据库中某张表数据生成Java并打包Jar
4 create-hive-table CreateHiveTableTool
创建 Hive 表
5 eval EvalSqlTool
查看 SQL 执行结果
6 import-all-tables ImportAllTablesTool
导入某个数据库下所有表到 HDFS 中
7 job JobTool 用来生成一个 sqoop的任务,生成后,该任务并不执行,除非使用命令执行该任务。
8 list-databases ListDatabasesTool 列出所有数据库名
9 list-tables ListTablesTool 列出某个数据库下所有表
10 merge MergeTool 将 HDFS 中不同目录下面的数据合在一起,并存放在指定的目录中
11 metastore MetastoreTool 记录 sqoop job 的元数据信息,如果不启动 metastore 实例,则默认的元数据存储目

录为:~/.sqoop,如果要更改存储目录,可以 在 配 置 文 件sqoop-site.xml 中进行更

改。

12 help HelpTool 打印 sqoop 帮助信息
13 version VersionTool 打印 sqoop 版本信息

命令&参数详解

    公用的参数,所谓公用参数,就是大多数命令都支持的参数。

公用参数:数据库连接

序号 参数 说明
1 --connect 连接关系型数据库的 URL
2 --connection-manager   指定要使用的连接管理类
3 --driver   JDBC 的 driver class
4 --help   打印帮助信息
5 --password   连接数据库的密码
6 --username  连接数据库的用户名
7 --verbose   在控制台打印出详细信息

公共参数:import

序号 参数 说明
1 --enclosed-by <char> 给字段值前后加上指定的字符
2 --escaped-by <char> 对字段中的双引号加转义符
3 --fields-terminated-by <char>   设定每个字段是以什么符号作为结束,默认为逗号
4 --lines-terminated-by <char> 设定每行记录之间的分隔符,默认是\n
5 --mysql-delimiters  

Mysql 默认的分隔符设置,字段之间以逗号分隔,行之间以\n 分

隔,默认转义符是\,字段值以单引号包裹。

6 --optionally-enclosed-by <char> 给带有双引号或单引号的字段值前后加上指定字符。

公共参数:export

序号 参数 说明
1 --input-enclosed-by <char>   对字段值前后加上指定字符
2 --input-escaped-by <char>   对含有转移符的字段做转义处理
3 --input-fields-terminated-by <char> 字段之间的分隔符
4 --input-lines-terminated-by <char> 行之间的分隔符
5 --input-optionally-enclosed-by <char> 给带有双引号或单引号的字段前后加上指定字符

公用参数:hive

序号 参数 说明
1 --hive-delims-replacement <arg> 用自定义的字符串替换掉数据中的\r\n和\013 \010等字符
2 --hive-drop-import-delims 在导入数据到 hive 时,去掉数据中的\r\n\013\010 这样的字符
3 --map-column-hive <map>  生成 hive 表时,可以更改生成字段的数据类型
4 --hive-partition-key  创建分区,后面直接跟分区名,分区字段的默认类型为string
5 --hive-partition-value <v> 导入数据时,指定某个分区的值
6 --hive-home <dir> hive 的安装目录,可以通过该参数覆盖之前默认配置的目录
7 --hive-import 将数据从关系数据库中导入到 hive 表中
8 --hive-overwrite  覆盖掉在 hive 表中已经存在的数据
9 --create-hive-table   默认是 false,即,如果目标表已经存在了,那么创建任务失败.
10 --hive-table 后面接要创建的 hive 表,默认使用 MySQL 的表名
11 --table   指定关系数据库的表名

更多内容参考http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html

秘籍(传送门) 

猜你喜欢

转载自blog.csdn.net/liangzelei/article/details/80305988