数据导入工具

    JSON格式的记录必须符合JSON的定义,以左右花括号作为记录的分界符,并且字符串类型的数据必须包含在两个双引号之间,转义字符为反斜杠“\”。

    CSV

    CSV(Comma Separated Value)格式以逗号分隔数值。默认情况下记录以换行符分隔,字段以逗号分隔。用户能够指定字符串分隔符、字段分隔符以及记录分隔符。

    CSV类型

    类型别名说明
    intinteger十进制整型,取值范围为 -2147483648 ~ 2147483647
    long十进制长整型,取值范围 -9223372036854775808 ~ 9223372036854775807
    double双精度浮点型,取值范围为 1.79E +/- 308 (15 位)
    decimal高精度数,范围为小数点前最高 131072 位;小数点后最高 16383 位。可以指定精度,如
    number数值类型,自动判断数值的具体类型(int,long,double,decimal)
    boolboolean布尔型,取值可以为 true,false,t,f,yes,no,y 或 n,不区分大小写
    string字符串
    null空值
    oidOID 类型,长度必须为 24 个字符,不支持类型自动判断
    date日期类型,取值范围为 0000-01-01 ~ 9999-12-31,不支持类型自动判断
    autodate日期类型,取值范围为 0000-01-01 ~ 9999-12-31,不支持类型自动判断
    timestamp时间戳类型,取值范围为 1902-01-01-00.00.00.000000 ~ 2037-12-31-23.59.59.999999,不支持类型自动判断。 可以指定格式,如timestamp("YYYY-MM-DD HH:mm:ss")
    autotimestamp时间戳类型,取值范围为 1902-01-01-00.00.00.000000 ~ 2037-12-31-23.59.59.999999,不支持类型自动判断
    binary二进制类型,使用 base64 编码,不支持类型自动判断
    regex正则表达式类型,不支持类型自动判断
    skip忽略指定的列,该列的数据不导入到数据库

    在不指定 CSV 字段类型时,导入工具会自动判断类型。其中 oid、date、timestamp、binary、regex 不支持自动类型判断,会被识别为 string 类型。整数超过 long 的范围,浮点数超过 double 的范围,以及浮点数总位数超过 15 位或小数位超过 6 位时,类型判断为 decimal。

    CSV 数据判断类型实际数据
    123int123
    123.int123
    +123int123
    -123int-123
    0123int123
    #-123.int-123
    2147483648long2147483648
    123.1double123.1
    .123double0.123
    9223372036854775808decimal9223372036854775808
    truebooltrue
    falseboolfalse
    "123"string"123"
    123astring"123a"
    "true"string"true"
    "false"string"false"
    "null"string"null"
    nullnullnull

    CSV类型转换

    在指定 CSV 字段类型时,导入工具会将字段转换为指定的类型。如果字段的实际类型不是指定的类型,则转换可能失败。具体参考下表,最左边一列是指定的类型,Y 表示可以转换,N 表示不能转换。

    选项缩写说明
    —help-h显示帮助信息
    —version-V显示版本号
    —hosts指定主机地址(hostname:svcname),用“,”分隔多个地址,默认值为“localhost:11810”
    —user-u数据库用户名
    —password-w数据库用户名对应的密码,指定值则使用明文输入,不指定值则命令行提示输入
    —cipher是否使用加密文件输入密码,默认值为 false
    —token加密口令
    —cipherfile加密文件,默认值为 ./passwd
    —csname-c集合空间的名字
    —clname-l集合的名字
    —errorstop如果遇到解析错误就停止,默认值为 false
    —ssl使用 SSL 连接,默认值为 false
    —verbose-v显示详细的执行信息
    选项缩写说明
    —file要导入的数据文件的名称,使用“,”分隔多个文件或目录。如果 —file 和 —exec 都没有指定,则从标准输入读取数据
    —exec执行外部程序来获取数据,外部程序必须将数据输出到标准输出
    —type导入数据格式,可以是 csv 或 json,默认为 csv
    —linepriority当前分隔符默认的优先级为:记录分隔符,字符串分隔符,字段分隔符,默认值是 true;如果设置为 false,那么分隔符的优先级为:字符串分隔符,记录分隔符,字段分隔符
    —delrecord-r指定记录分隔符,默认值为换行符'\n'
    —force如果数据中有非 UTF-8 的字符,强制导入数据,默认为 false
    选项缩写说明
    —delchar-a指定字符串分隔符,默认值为双引号'"'
    —delfield-e指定字段分隔符,默认值为逗号','
    —fields指定导入数据的字段名、类型、默认值
    —datefmt指定日期格式,默认为 YYYY-MM-DD
    —timestampfmt指定时间戳格式,默认为 YYYY-MM-DD-HH.mm.ss.ffffff
    —trim删除字符串左右两侧的空格(包括 ASCII 空格和 UTF-8 全角空格),取值可以是 no、right、left 或 both, 默认值为 no
    —headerline指定导入数据首行是否作为字段名,默认值为 false
    —sparse指定导入数据时是否自动添加字段名,默认值为 true,字段名按 filed1、field2 顺序增加
    —extra指定导入数据时是否自动添加值,默认值为 false
    —cast指定是否允许数值类型转换时丢失精度或数值溢出,默认值为 false
    —strictfieldnum指定是否严格限制记录的字段数与定义的字段数一致,默认值为 false
    —checkdelimeter是否严格校验分隔符,默认为 true。true:禁止字符分隔符、字段分隔符、记录分隔符互相包含;false:允许字符分隔符、字段分隔符、记录分隔符互相包含。
    选项缩写说明
    —insertnum-n指定每次导入的记录数,取值范围为 1 ~ 100000,默认值为 100。
    —jobs-j指定导入连接数(每个连接一个线程),取值范围为 1 ~ 1000,默认值为 1。
    —coord指定是否自动查找协调节点,默认值为 true。
    —sharding指定是否按分区信息重新打包记录,默认值为 true。
    —transaction指定导入数据时是否开启事务,默认为 false。注意:此功能需要服务端开启事务。
    —allowkeydup指定是否允许唯一索引的键出现重复时忽略错误继续导入,默认值为 true。

    示例

    • 将数据导入到本地数据库 11810 中集合空间 foo 的集合 bar,导入格式是 csv,数据文件为“test.csv”,第一行为字段定义:

    以下是导入文件的内容:

    1. $ sdbimprt --hosts=localhost:11810 --type=csv --file=test.csv -c foo -l bar --headerline=true
    • 导入格式是 csv,文件名是“test.csv”,导入至集合空间 foo 的集合 bar 中
    1. "Jack",18,"China"
    2. "Mike",20,"USA"

    导入命令:

    1. $ sdbimprt --hosts=localhost:11810 --type=csv --file=test.csv -c foo -l bar --fields='name string default "Anonymous", age int, country'
    • 导入格式是 csv,文件名是“test.csv”,导入至集合空间 foo 的集合 bar 中

    以下是导入文件的内容,其中文件第一行是字段定义,需要跳过:

    导入命令:

    1. $ sdbimprt --hosts=localhost:11810 --type=csv --file=test.csv -c foo -l bar --fields='name string default "Anonymous", age int, country' --headerline=true
    • 导入格式是 csv,导入文件是目录“../data”中的所有文件,导入至集合空间 foo 的集合 bar 中
    1. $ sdbimprt --hosts=localhost:11810 --type=csv --file=../data -c foo -l bar --fields='name string default "Anonymous", age int, country'
    • 导入格式是 csv,导入文件是目录“../data”中的所有文件以及“./foo_bar_data.csv”,导入至集合空间 foo 的集合 bar 中,有 11810 和 11910 两个协调节点,记录中时间戳类型的数据类似于“2015-10-01 T 12.31.15.123 T”,使用两个连接同时导入
    1. $ sdbimprt --type=csv --file=../data,./foo_bar_data.csv --fields='name, time timestamp' -c foo -l bar --timestampfmt="YYYY-MM-DD T HH.mm.ss.SSS T" --hosts=localhost:11810,localhost:11910 -j 2
    • 导入格式是 json,通过管道从其它工具 other 获取数据,导入至集合空间 foo 的集合 bar 中
    • 导入格式是 csv,导入多种时间戳格式

    例子的系统时区是东八区

    以下是导入文件的内容:

    1. 2014-01-01, 2001/01/01, 1990-01-01
    2. 2014-01-01Z, 2001/01/01Z, 1990-01-01Z
    3. 2014-01-01+0200, 2001/01/01+0200, 1990-01-01+0200
    1. $ sdbimprt --hosts=localhost:11810 --type=csv --file=test.csv -c foo -l bar --fields='time1 timestamp("YYYY-MM-DD"), time2 timestamp("YYYY/MM/DDZ"), time3 timestamp("YYYY-MM-DD+0600")'
    • time1没有指定时区,因此都用系统的时区
    • time2指定时区字符Z,如果数据没有时区信息,则用系统的时区;如果数据有Z字符,则作为UTC时间
    • time3指定+0600时区,如果数据没有时区信息,则用字段指定的+0600时区;如果数据有Z字符,则作为UTC时间查询结果:
    1. {
    2. "_id": {
    3. "$oid": "5ad5565f13f513e620000000"
    4. },
    5. "time1": {
    6. "$timestamp": "2014-01-01-00.00.00.000000"
    7. },
    8. "time2": {
    9. "$timestamp": "2001-01-01-00.00.00.000000"
    10. },
    11. "time3": {
    12. "$timestamp": "1990-01-01-02.00.00.000000"
    13. }
    14. }
    15. {
    16. "_id": {
    17. "$oid": "5ad5565f13f513e620000001"
    18. },
    19. "time1": {
    20. "$timestamp": "2014-01-01-00.00.00.000000"
    21. },
    22. "time2": {
    23. "$timestamp": "2001-01-01-08.00.00.000000"
    24. },
    25. "time3": {
    26. "$timestamp": "1990-01-01-08.00.00.000000"
    27. }
    28. }
    29. {
    30. "_id": {
    31. "$oid": "5ad5565f13f513e620000002"
    32. },
    33. "time1": {
    34. "$timestamp": "2014-01-01-00.00.00.000000"
    35. },
    36. "time2": {
    37. "$timestamp": "2001-01-01-06.00.00.000000"
    38. },
    39. "time3": {
    40. "$timestamp": "1990-01-01-06.00.00.000000"
    41. }
    42. }