文件拆分命令 split 使用简介

1,292 阅读3分钟

背景

很多时候,我们需要将一个大文件拆分成 N 个小文件,以方便并发或批量处理

命令

在 Linux 系统下就有这样一个工具:

split [选项]... [输入 [前缀]]

通常,[输入] 是一个指定路径的文件,[前缀] 用来标示拆分后的小文件

[选项] 则主要包括:

-a, --suffix-length=N    指定后缀长度为N (默认为2)
-b, --bytes=大小        指定每个输出文件的字节大小
-C, --line-bytes=大小    指定每个输出文件里最大行字节大小
-d, --numeric-suffixes     使用数字后缀代替字母后缀
-l, --lines=数值        指定每个输出文件有多少行
--verbose        在每个输出文件打开前输出文件特征
--help        显示此帮助信息并退出
--version        显示版本信息并退出

选项

对于文件 file.log,执行拆分命令:

split file.log

会在当前目录下生成以 x 为前缀,2位长度的字母为后缀命名的小文件

而且,每个小文件的行数为 1000,示例:

-rw-r--r-- 1 root root     33000 428 14:51 xaa
-rw-r--r-- 1 root root     33000 428 14:51 xab
-rw-r--r-- 1 root root     33000 428 14:51 xac
-rw-r--r-- 1 root root     33000 428 14:51 xad
-rw-r--r-- 1 root root     33000 428 14:51 xae
-rw-r--r-- 1 root root     33000 428 14:51 xaf

可以通过选项指定这些参数:

  • 指定前缀为 prefix_
split file.log prefix_
-rw-r--r-- 1 root root     33000 428 14:59 prefix_aa
-rw-r--r-- 1 root root     33000 428 14:59 prefix_ab
-rw-r--r-- 1 root root     33000 428 14:59 prefix_ac
-rw-r--r-- 1 root root     33000 428 14:59 prefix_ad
-rw-r--r-- 1 root root     33000 428 14:59 prefix_ae
-rw-r--r-- 1 root root     33000 428 14:59 prefix_af
  • 指定后缀类型和长度

后缀类型默认为字母,还可以是数字,长度默认为2

这样的话,对于字母类型小文件最大可用的后缀个数为:

aa ab ac ad ... zz 总共有:26*26=676

对于数字类型小文件最大可用后缀个数为:

00 01 02 03 ... 99 总共有 10*10=100

因此,在拆分大文件之前一定要评估好小文件的数量级,据此来选择后缀的类型和长度,否则,超出可用后缀范围的数据将丢失

示例:指定后缀类型为数字,长度为 3

split -d -a 3 file.log prefix_
-rw-r--r-- 1 root root        66 428 15:08 prefix_000
-rw-r--r-- 1 root root        66 428 15:08 prefix_001
-rw-r--r-- 1 root root        66 428 15:08 prefix_002
-rw-r--r-- 1 root root        66 428 15:08 prefix_003
-rw-r--r-- 1 root root        66 428 15:08 prefix_004
-rw-r--r-- 1 root root        66 428 15:08 prefix_005
-rw-r--r-- 1 root root        66 428 15:08 prefix_006
  • 指定小文件大小
  1. 按照行数拆分,示例:每个小文件最大 10000 行
    split -l 10000 file.log
  2. 按照字节数拆分,示例:每个小文件最大 4M
    split -b 4M file.log

总结

以上,便是文件拆分命令 split 的使用简介

需要注意的就是,后缀类型和长度的设置,否则会丢失子文件


还有疑问? 联系作者微博/微信 @Ceelog