橙风歌
我不是在说教只是在学习，要是能帮到你我会更高兴。
Linux中sort和uniq关于排序去重的那些用法
相信在Linux下对文件操作经常会用到sort和uniq命令，下面系统的介绍一下这两个命令的用法。
sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。sort命令既可以从特定的文件，也可以从stdin中获取输入。
语法
sort(选项)(参数)
选项
-b：忽略每行前面开始出的空格字符；
-c：检查文件是否已经按照顺序排序；
-d：排序时，处理英文字母、数字及空格字符外，忽略其他的字符；
-f：排序时，将小写字母视为大写字母；
-i：排序时，除了040至176之间的ASCII字符外，忽略其他的字符；
-m：将几个排序号的文件进行合并；
-M：将前面3个字母依照月份的缩写进行排序；
-n：依照数值的大小排序；
-o<输出文件>：将排序后的结果存入制定的文件；
-r：以相反的顺序来排序；
-t<分隔字符>：指定排序时所用的栏位分隔字符；
+<起始栏位>-<结束栏位>：以指定的栏位来排序，范围由起始栏位到结束栏位的前一栏位。
参数
文件：指定待排序的文件列表。
实例
sort将文件/文本的每一行作为一个单位，相互比较，比较原则是从首字符向后，依次按ASCII码值进行比较，最后将他们按升序输出。
[root@mail text]# cat sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
eee:50:5.5
[root@mail text]# sort sort.txt
aaa:10:1.1
bbb:20:2.2
ccc:30:3.3
ddd:40:4.4
eee:50:5.5
eee:50:5.5
忽略相同行使用-u选项或者uniq：
[root@mail text]# cat sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
eee:50:5.5
[root@mail text]# sort -u sort.txt
aaa:10:1.1
bbb:20:2.2
ccc:30:3.3
ddd:40:4.4
eee:50:5.5
或者
[root@mail text]# uniq sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
sort的-n、-r、-k、-t选项的使用：
[root@mail text]# cat sort.txt
AAA:BB:CC
aaa:30:1.6
ccc:50:3.3
ddd:20:4.2
bbb:10:2.5
eee:40:5.4
eee:60:5.1
#将BB列按照数字从小到大顺序排列：
[root@mail text]# sort -nk 2 -t: sort.txt
AAA:BB:CC
bbb:10:2.5
ddd:20:4.2
aaa:30:1.6
eee:40:5.4
ccc:50:3.3
eee:60:5.1
#将CC列数字从大到小顺序排列：
[root@mail text]# sort -nrk 3 -t: sort.txt
eee:40:5.4
eee:60:5.1
ddd:20:4.2
ccc:50:3.3
bbb:10:2.5
aaa:30:1.6
AAA:BB:CC
# -n是按照数字大小排序，-r是以相反顺序，-k是指定需要爱排序的栏位，-t指定栏位分隔符为冒号
uniq命令用于报告或忽略文件中的重复行，一般与sort命令结合使用。
语法
uniq(选项)(参数)
选项
-c或——count： 在每列旁边显示该行重复出现的次数；
-d或--repeated： 仅显示重复出现的行列；
-f<栏位>或--skip-fields=<栏位>：忽略比较指定的栏位；
-s<字符位置>或--skip-chars=<字符位置>：忽略比较指定的字符；
-u或——unique：仅显示出一次的行列；
-w<字符位置>或--check-chars=<字符位置>：指定要比较的字符。
实例
删除重复行：
uniq file.txt
sort file.txt | uniq
sort -u file.txt
只显示单一行：
uniq -u file.txt
sort file.txt | uniq -u
统计各行在文件中出现的次数：
sort file.txt | uniq -c
在文件中找出重复的行：
sort file.txt | uniq -d
利用sort和uniq求两个文件的并集，交集和差集
并集：cat file1.txt file2.txt | sort | uniq > file.txt
交集：cat file1.txt file2.txt | sort | uniq -d >file.txt
差集：求file1.txt相对于file2.txt的差集，可先求出两者的交集temp.txt，然后在file1.txt中除去temp.txt即可。
cat file1.txt file2.txt | sort | uniq -d >temp.txt
cat file1.txt temp.txt | sort | uniq -u >file.txt
posted on 2014-12-30 18:01 橙风歌 阅读(20923) 评论(0) 编辑 收藏
刷新评论刷新页面返回顶部 注册用户登录后才能发表评论，请 登录 或 注册， 访问 网站首页。 【推荐】超50万行VC++源码: 大型组态工控、电力仿真CAD与GIS源码库【活动】腾讯云服务器推出云产品采购季 1核2G首年仅需99元
【推荐】精品问答：大数据常见问题之 flink 五十问
【推荐】精品问答：大数据计算技术 1000 问
公告
昵称： 橙风歌园龄： 5年7个月
粉丝： 8
关注： 68 +加关注
导航
|
||||||
| 日 | 一 | 二 | 三 | 四 | 五 | 六 |
|---|---|---|---|---|---|---|
| 26 | 27 | 28 | 29 | 30 | 31 | 1 |
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 | 29 |
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
统计
- 随笔 - 48
- 文章 - 0
- 评论 - 0
- 引用 - 0
搜索
常用链接
我的标签
随笔档案
- 2015年7月(2)
- 2015年4月(1)
- 2015年3月(4)
- 2015年2月(1)
- 2015年1月(14)
- 2014年12月(7)
- 2014年11月(2)
- 2014年10月(4)
- 2014年9月(2)
- 2014年8月(2)
- 2014年7月(9)
阅读排行榜
- 1. MySQL安装后默认自带数据库的作用(21310)
- 2. Linux中sort和uniq关于排序去重的那些用法(20923)
- 3. 总结的一些MySQL数据库面试题(11834)
- 4. C++中cin的使用总结(9694)
- 5. PHP学习之数组Array操作和键值对操作函数（一）(3616)
Powered by .NET Core on Linux
