2

cut命令

含义
正如cut的中文意思,cut的工作就是“剪”,具体来说是在文件负责剪切数据用的,它以每一行为一个处理对象,与sed的机制是一样的。

剪切依据
cut命令主要是接受三个定位方法:

  • 第一,字节(bytes),用选项-b
  • 第二,字符(characters),用选项-c
  • 第三,域(fields),用选项-f

语法格式

cut  [-bn] [file] 或 cut [-c] [file]  或  cut [-df] [file]

使用说明
cut命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段写至标准输出。
如果不指定 File 参数,cut 命令将读取标准输入。必须指定 -b、-c 或 -f 标志之一。
主要参数

  • -b :以字节为单位进行分割。这些字节位置将忽略多字节字符边界,除非也指定了 -n 标志。
  • -c :以字符为单位进行分割。
  • -d :自定义分隔符,默认为制表符。
  • -f :与-d一起使用,指定显示哪个区域。
  • -n :取消分割多字节字符。仅和 -b 标志一起使用。如果字符的最后一个字节落在由 -b 标志的 List 参数指示的
    范围之内,该字符将被写出;否则,该字符将被排除。

常用示例:
“字节”定位中,提取第1到第5和第10个字节,-b支持形如1-5的写法,而且多个定位之间用逗号隔开
注意,cut命令如果使用了-b选项,那么执行此命令时,cut会先把-b后面所有的定位进行从小到大排序,然后再提取。

示例1:提取第1到第5字节和第10个字节的内容

[root@moli_linux1 ~]$ echo "abcde12345" | cut -b 1-5,10
abcde5

示例2:-3表示从第1个字节到第3个字节,3-表示从第3个字节到行尾

[root@moli_linux1 ~]$ echo "abcde54321" | cut -b -3
abc
[root@moli_linux1 ~]$ echo "abcde54321" | cut -b 3-
cde54321

示例3:多字节字符处理
1个空格算1个字节,而1个汉字算3个字节,因此汉字是多字节字符.遇到多字节字符可以使用-c选项,也可以使用-b选项,不过要结合-n选项,-n选项告诉cut命令不要将多字节字符拆开。

[root@moli_linux1 ~]$ cat cut_test2.txt 
星期一aa
星期二bb
星期三cc
[root@moli_linux1 ~]$ cut -b 3 cut_test2.txt # 因为没加-n选项,因此将"星"字给拆分了..
 
 
 
[root@moli_linux1 ~]$ cut -nb 3 cut_test2.txt # 切割第3个字符
一
二
三
[root@moli_linux1 ~]$ cut -c 3 cut_test2.txt 
一
二
三
[root@moli_linux1 ~]$ cut -c 4,5 cut_test2.txt 
aa
bb
cc
[root@moli_linux1 ~]$ cut -nb 4,5 cut_test2.txt 
aa
bb
cc    

示例4:对于非固定格式的文档,使用-f选项来定义域来切割文件

[root@moli_linux1 ~]$ head -n 5 /etc/passwd > cut_test.txt
[root@moli_linux1 ~]$ cat cut_test.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
[root@moli_linux1 ~]$ cut -d ":" -f 1-3,5 cut_test.txt 
root:x:0:root
bin:x:1:bin
daemon:x:2:daemon
adm:x:3:adm
lp:x:4:lp

上面的cut -d ":" -f 1-3,5 cut_test.txt 中,-d选项指定:为分割符,每个分隔符作为一个域,-f后面的数字指定切割哪个域,这里1-3,5表示截取第1,2,3和第5个域。

sort命令

说明
sort命令将文件进行排序,并将排序结果标准输出。sort命令既可以从特定的文件,也可以从stdin中获取输入。

工作原理
sort将文件的每一行作为一个单位,相互比较,比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出。

语法

sort(选项)(参数)

常用选项

  • -u:unique 唯一,排序并且排除重复项
  • -n: number 按照数字进行排序,默认数字会被当作字符串进行比较,字符或者其他特殊符号会被当做0排在数字前面
  • -r:反向排序
  • -b:忽略每行前面开始出的空格字符

示例1:-u选项

[root@moli_linux1 ~]$ cat sort_test.txt 
hello
world
>>>
hello
12345
shell
???
 have a space
[root@moli_linux1 ~]$ sort -u sort_test.txt # 去除重复hello并排序
>>>
???
12345
 have a space
hello
shell
world

示例2:-n选项。按照数字进行排序,默认数字会被当作字符串进行比较,字符或者其他特殊符号会被当做0排在数字前面

[root@moli_linux1 ~]$ cat sort_test2.txt 
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -n sort_test2.txt 
???
hello
123
123
124
234
987

示例3:反向排序-r

[root@moli_linux1 ~]$ cat sort_test2.txt 
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -rn sort_test2.txt 
987
234
124
123
123
hello
???

uniq命令

说明
uniq命令用于报告或忽略文件中的重复行,一般与sort命令结合使用。对于uniq来说,去除重复的内容,内容之间必须相邻,不然无法去除。因此多先用sort排序,再用uniq去重。

语法

uniq(选项)(参数)

常用选项

  • -c:在每列旁边显示该行重复出现的次数
  • -d: 仅显示重复出现的行列;

示例1

[root@moli_linux1 ~]$ cat uniq.txt 
hello
world
hello
python
1
1
2
3
[root@moli_linux1 ~]$ uniq uniq.txt # 只会去除相邻的重复内容数字1,不相邻的重复内容hello不会被删除
hello
world
hello
python
1
2
3

示例2,结合sort删除所有重复内容

[root@moli_linux1 ~]$ sort uniq.txt |uniq
1
2
3
hello
python
world

示例3:统计各行在文件中出现的次数

[root@moli_linux1 ~]$ sort uniq.txt |uniq -c
  2 1
  1 2
  1 3
  2 hello
  1 python
  1 world

示例4:找出文件中重复的行

[root@moli_linux1 ~]$ sort uniq.txt |uniq -d
1
hello

总结:这三个命令经常在shell脚本中使用,除了grep,sed,awk三个之外,也需要熟练掌握。


syushin
948 声望316 粉丝

引用和评论

0 条评论