linux-shell-03 shell-脚本四剑客-grep+正则表达式

概念解析

grep

　　Linux grep命令用于查找文件里符合条件的字符串。grep指令用于查找内容包含指定的范本样式的文件，如果发现某文件的内容符合所指定的范本样式，预设grep指令会把含有范本样式的那一列显示出来。若不指定任何文件名称，或是所给予的文件名为”-“，则grep指令会从标准输入设备读取数据。grep是一种强大的文本搜索工具，可以与正则表达式配合搜索文本，并把匹配的行打印出来。

正则表达式

　　正则表达式是对字符串（包括普通字符（例如，a 到 z 之间的字母）和特殊字符（称为“元字符”））操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。正则表达式是一种文本模式，模式描述在搜索文本时要匹配的一个或多个字符串。总之，正则表达式就是为了处理大量的文本|字符串而定义的一套规则和方法。通过定义的这些特殊符号的辅助，系统管理员就可以快速过滤，替换或输出需要的字符串。Linux正则表达式一般以行为单位处理。

　　在linux运维工作中，针对大量过滤日志工作，正则表达式可以化繁为简，用起来简单、高效。

grep参数

-a 或 --text : 不要忽略二进制的数据。
-A<显示行数> 或 --after-context=<显示行数> : 除了显示符合范本样式的那一列之外，并显示该行之后的内容。
-b 或 --byte-offset : 在显示符合样式的那一行之前，标示出该行第一个字符的编号。
-B<显示行数> 或 --before-context=<显示行数> : 除了显示符合样式的那一行之外，并显示该行之前的内容。
-c 或 --count : 计算符合样式的列数。
-C<显示行数> 或 --context=<显示行数>或-<显示行数> : 除了显示符合样式的那一行之外，并显示该行之前后的内容。
-d <动作> 或 --directories=<动作> : 当指定要查找的是目录而非文件时，必须使用这项参数，否则grep指令将回报信息并停止动作。
-e<范本样式> 或 --regexp=<范本样式> : 指定字符串做为查找文件内容的样式。
-E 或 --extended-regexp : 将样式为延伸的普通表示法来使用。
-f<规则文件> 或 --file=<规则文件> : 指定规则文件，其内容含有一个或多个规则样式，让grep查找符合规则条件的文件内容，格式为每行一个规则样式。
-F 或 --fixed-regexp : 将样式视为固定字符串的列表。
-G 或 --basic-regexp : 将样式视为普通的表示法来使用。
-h 或 --no-filename : 在显示符合样式的那一行之前，不标示该行所属的文件名称。
-H 或 --with-filename : 在显示符合样式的那一行之前，表示该行所属的文件名称。
-i 或 --ignore-case : 忽略字符大小写的差别。
-l 或 --file-with-matches : 列出文件内容符合指定的样式的文件名称。
-L 或 --files-without-match : 列出文件内容不符合指定的样式的文件名称。
-n 或 --line-number : 在显示符合样式的那一行之前，标示出该行的列数编号。
-o 或 --only-matching : 只显示匹配PATTERN 部分。
-q 或 --quiet或--silent : 不显示任何信息。
-r 或 --recursive : 此参数的效果和指定"-d recurse"参数相同。
-s 或 --no-messages : 不显示错误信息。
-v 或 --revert-match : 显示不包含匹配文本的所有行。
-V 或 --version : 显示版本信息。
-w 或 --word-regexp : 只显示全字符合的列。
-x --line-regexp : 只显示全列符合的列。
-y : 此参数的效果和指定"-i"参数相同。

正则表达式字符

\：将下一个字符标记符、或一个向后引用、或一个八进制转义符。例如，“\\n”匹配\n。“\n”匹配换行符。序列“\\”匹配“\”而“\(”则匹配“(”。即相当于多种编程语言中都有的“转义字符”的概念。

^：匹配输入字行首。如果设置了RegExp对象的Multiline属性，^也匹配“\n”或“\r”之后的位置。


$：匹配输入行尾。如果设置了RegExp对象的Multiline属性，$也匹配“\n”或“\r”之前的位置。

*：匹配前面的子表达式任意次。例如，zo*能匹配“z”，也能匹配“zo”以及“zoo”。*等价于{0,}。

+：匹配前面的子表达式一次或多次(大于等于1次）。例如，“zo+”能匹配“zo”以及“zoo”，但不能匹配“z”。+等价于{1,}。

?：匹配前面的子表达式零次或一次。例如，“do(es)?”可以匹配“do”或“does”。?等价于{0,1}。

{n}：n是一个非负整数。匹配确定的n次。例如，“o{2}”不能匹配“Bob”中的“o”，但是能匹配“food”中的两个o。

{n,}：n是一个非负整数。至少匹配n次。例如，“o{2,}”不能匹配“Bob”中的“o”，但能匹配“foooood”中的所有o。“o{1,}”等价于“o+”。“o{0,}”则等价于“o*”。

{n,m}：m和n均为非负整数，其中n<=m。最少匹配n次且最多匹配m次。例如，“o{1,3}”将匹配“fooooood”中的前三个o为一组，后三个o为一组。“o{0,1}”等价于“o?”。请注意在逗号和两个数之间不能有空格。

?：当该字符紧跟在任何一个其他限制符（*,+,?，{n}，{n,}，{n,m}）后面时，匹配模式是非贪婪的。非贪婪模式尽可能少地匹配所搜索的字符串，而默认的贪婪模式则尽可能多地匹配所搜索的字符串。例如，对于字符串“oooo”，“o+”将尽可能多地匹配“o”，得到结果[“oooo”]，而“o+?”将尽可能少地匹配“o”，得到结果 ['o', 'o', 'o', 'o']

.：匹配除“\n”和"\r"之外的任何单个字符。要匹配包括“\n”和"\r"在内的任何字符，请使用像“[\s\S]”的模式。

(pattern)：匹配pattern并获取这一匹配。所获取的匹配可以从产生的Matches集合得到，在VBScript中使用SubMatches集合，在JScript中则使用$0…$9属性。要匹配圆括号字符，请使用“\(”或“\)”。

(?:pattern)：非获取匹配，匹配pattern但不获取匹配结果，不进行存储供以后使用。这在使用或字符“(|)”来组合一个模式的各个部分时很有用。例如“industr(?:y|ies)”就是一个比“industry|industries”更简略的表达式。

(?=pattern)：非获取匹配，正向肯定预查，在任何匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如，“Windows(?=95|98|NT|2000)”能匹配“Windows2000”中的“Windows”，但不能匹配“Windows3.1”中的“Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

(?!pattern)：非获取匹配，正向否定预查，在任何不匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如“Windows(?!95|98|NT|2000)”能匹配“Windows3.1”中的“Windows”，但不能匹配“Windows2000”中的“Windows”。

(?<=pattern)：非获取匹配，反向肯定预查，与正向肯定预查类似，只是方向相反。例如，“(?<=95|98|NT|2000)Windows”能匹配“2000Windows”中的“Windows”，但不能匹配“3.1Windows”中的“Windows”。

(?<!patte_n)：非获取匹配，反向否定预查，与正向否定预查类似，只是方向相反。例如“(?<!95|98|NT|2000)Windows”能匹配“3.1Windows”中的“Windows”，但不能匹配“2000Windows”中的“Windows”。

x|y：匹配x或y。例如，“z|food”能匹配“z”或“food”(此处请谨慎)。“[z|f]ood”则匹配“zood”或“food”。

[xyz]：字符集合。匹配所包含的任意一个字符。例如，“[abc]”可以匹配“plain”中的“a”。

[^xyz]：负值字符集合。匹配未包含的任意字符。例如，“[^abc]”可以匹配“plain”中的“plin”任一字符。

[a-z]：字符范围。匹配指定范围内的任意字符。例如，“[a-z]”可以匹配“a”到“z”范围内的任意小写字母字符。
注意:只有连字符在字符组内部时,并且出现在两个字符之间时,才能表示字符的范围; 如果出字符组的开头,则只能表示连字符本身

[^a-z]：负值字符范围。匹配任何不在指定范围内的任意字符。例如，“[^a-z]”可以匹配任何不在“a”到“z”范围内的任意字符。

\b：匹配一个单词的边界，也就是指单词和空格间的位置（即正则表达式的“匹配”有两种概念，一种是匹配字符，一种是匹配位置，这里的\b就是匹配位置的）。例如，“er\b”可以匹配“never”中的“er”，但不能匹配“verb”中的“er”；“\b1_”可以匹配“1_23”中的“1_”，但不能匹配“21_3”中的“1_”。

\B：匹配非单词边界。“er\B”能匹配“verb”中的“er”，但不能匹配“never”中的“er”。

\cx：匹配由x指明的控制字符。例如，\cM匹配一个Control-M或回车符。x的值必须为A-Z或a-z之一。否则，将c视为一个原义的“c”字符。

\d：匹配一个数字字符。等价于[0-9]。grep 要加上-P，perl正则支持

\D：匹配一个非数字字符。等价于[^0-9]。grep要加上-P，perl正则支持

\f：匹配一个换页符。等价于\x0c和\cL。

\n：匹配一个换行符。等价于\x0a和\cJ。

\r：匹配一个回车符。等价于\x0d和\cM。

\s：匹配任何不可见字符，包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。

\S：匹配任何可见字符。等价于[^ \f\n\r\t\v]。

\t：匹配一个制表符。等价于\x09和\cI。

\v：匹配一个垂直制表符。等价于\x0b和\cK。

\w：匹配包括下划线的任何单词字符。类似但不等价于“[A-Za-z0-9_]”，这里的"单词"字符使用Unicode字符集。

\W：匹配任何非单词字符。等价于“[^A-Za-z0-9_]”。

正则表达式匹配实例

匹配手机号码：^1[3|4|5|7|8][0-9]{9}$
匹配IP地址：[0-9]{1,3})\.([0-9]{1,3})\.([0-9]{1,3})\.([0-9]{1,3} 不准确
匹配电子邮箱：/^[a-z\d]+(\.[a-z\d]+)*@([\da-z](-[\da-z])?)+(\.{1,2}[a-z]+)+$/
匹配URL：/^(https?:\/\/)?([\da-z\.-]+)\.([a-z\.]{2,6})([\/\w \.-]*)*\/?$/
匹配6-18位的密码：/^[a-z0-9_-]{6,18}$/

正则表达式的分类

POSIX规范将正则表达式的分为了两种

基本正则表达式（BRE，basic regular expression）
高级功能：扩展正则表达式（ERE，extended regular expression）

BRE和ERE的区别仅仅是元字符的不同

BRE（基础正则表达式）只承认的元字符有^$.[]*其他字符识别为普通字符：()
ERE(扩展正则表达式）则添加了（）{}?+|等
只有在用反斜杠“”进行转义的情况下，字符（）{}才会在BRE被当作元字符处理，而ERE中，任何元符号前面加上反斜杠反而会使其被当作普通字符来处理。

如何区分通配符和正则表达式

不需要思考的判断方法：在三剑客awk，sed，grep，egrep都是正则，其他都是通配符
区别通配符和正则表达式最简单的方法：

1 2	（1）文件目录名===>通配符（2）文件内容（字符串，文本【文件】内容）===>正则表达式

　3.通配符和正则表达式都有“*”，“?”，“【】”，但是通配符的这些符号都能自身代表任意字符，而正则表达式的这些符号只能代表这些符号前面的字符

实例解析

注意：grep严格区分大小写，如下例中，grep SELINUX是有结果的，而grep selinux却没有结果。

1.在当前目录下查找config文件中带有SELINUX字符串的行并打印出来。

[root@localhost ~]# cd /etc/selinux
[root@localhost selinux]# ls
config  final  semanage.conf  targeted  tmp
[root@localhost selinux]# cat config 

# This file controls the state of SELinux on the system.
# SELINUX= can take one of these three values:
#     enforcing - SELinux security policy is enforced.
#     permissive - SELinux prints warnings instead of enforcing.
#     disabled - No SELinux policy is loaded.
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
#     targeted - Targeted processes are protected,
#     minimum - Modification of targeted policy. Only selected processes are protected. 
#     mls - Multi Level Security protection.
SELINUXTYPE=targeted 


[root@localhost selinux]# grep SELINUX config 
# SELINUX= can take one of these three values:
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
SELINUXTYPE=targeted 
[root@localhost selinux]# grep selinux config 
[root@localhost selinux]#

2.在当前目录下针对文件名中含有“onfi”字样的文件，查找该文件中带有SELINUX字符串的行并打印出来。

[root@localhost selinux]# ls
config  final  semanage.conf  targeted  tmp
[root@localhost selinux]# grep SELINUX *onfi* 
# SELINUX= can take one of these three values:
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
SELINUXTYPE=targeted 
[root@localhost selinux]#

其实，含有“onfi”字样的文件只有一个，那就是config。这里的

*onfi*

之中的*号就是个用于匹配字符的正则表达式。如下，这样也是可以的：

[root@localhost selinux]# grep SELINUX *nfi* 
# SELINUX= can take one of these three values:
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
SELINUXTYPE=targeted 
[root@localhost selinux]#

3.反向查找。查找config文件中没有SELINUX字符串的行并打印出来

[root@localhost selinux]# grep -v SELINUX config 

# This file controls the state of SELinux on the system.
#     enforcing - SELinux security policy is enforced.
#     permissive - SELinux prints warnings instead of enforcing.
#     disabled - No SELinux policy is loaded.
#     targeted - Targeted processes are protected,
#     minimum - Modification of targeted policy. Only selected processes are protected. 
#     mls - Multi Level Security protection.


[root@localhost selinux]#

4.递归查找。查找/etc/selinux目录下所有文件及其子目录（如果有的话）中所有文件中包含字符串“SELINUXTYPE”的文件，并且打印出该字符串所在行的内容。

[root@localhost selinux]# cd
[root@localhost ~]# grep -r SELINUXTYPE /etc/selinux/
/etc/selinux/config:# SELINUXTYPE= can take one of three two values:
/etc/selinux/config:SELINUXTYPE=targeted 
[root@localhost ~]#

5.grep结合管道符|也可以使用。在当前目录下查找config文件中带有SELINUX字符串的行并打印出来。

[root@localhost selinux]# cat config | grep SELINUXTYPE
# SELINUXTYPE= can take one of three two values:
SELINUXTYPE=targeted 
[root@localhost selinux]#

6.其他例子：

[root@localhost selinux]# cat config 

# This file controls the state of SELinux on the system.
# SELINUX= can take one of these three values:
#     enforcing - SELinux security policy is enforced.
#     permissive - SELinux prints warnings instead of enforcing.
#     disabled - No SELinux policy is loaded.
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
#     targeted - Targeted processes are protected,
#     minimum - Modification of targeted policy. Only selected processes are protected. 
#     mls - Multi Level Security protection.
SELINUXTYPE=targeted 


[root@localhost selinux]# grep "^S" config 		#表示以S开头的行
SELINUX=enforcing
SELINUXTYPE=targeted 
[root@localhost selinux]# 

[root@localhost selinux]# grep "g$" config 		#表示以g结尾的行
SELINUX=enforcing
[root@localhost selinux]#

[root@localhost selinux]# grep "[a-d]" config 	#表示有匹配a-d字符的行
# This file controls the state of SELinux on the system.
# SELINUX= can take one of these three values:
#     enforcing - SELinux security policy is enforced.
#     permissive - SELinux prints warnings instead of enforcing.
#     disabled - No SELinux policy is loaded.
SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
#     targeted - Targeted processes are protected,
#     minimum - Modification of targeted policy. Only selected processes are protected. 
#     mls - Multi Level Security protection.
SELINUXTYPE=targeted 
[root@localhost selinux]#

效果其实是有高亮的，一目了然：

[root@localhost selinux]# grep "[a-d][a-d]" config 	 #表示匹配连续两个a-d的字符所在的行
# SELINUX= can take one of these three values:
#     permissive - SELinux prints warnings instead of enforcing.
#     disabled - No SELinux policy is loaded.
# SELINUXTYPE= can take one of three two values:
#     minimum - Modification of targeted policy. Only selected processes are protected. 
[root@localhost selinux]#

以此类推可以匹配连续三个、四个、多个a-d的字符所在的行。

匹配以大写字母开头的行

[root@localhost selinux]# grep "^[A-Z]" config 
SELINUX=enforcing
SELINUXTYPE=targeted 
[root@localhost selinux]#

匹配enforcing或者targeted所在的行

[root@localhost selinux]# grep -E "enforcing | targeted" config 
#     enforcing - SELinux security policy is enforced.
#     targeted - Targeted processes are protected,
#     minimum - Modification of targeted policy. Only selected processes are protected. 
[root@localhost selinux]#

常用实例

1.显示selinux配置文件中非注释的所有行（-v表示取反，^表示首行）

[root@node4 ~]# grep -v ^# /etc/selinux/config 

SELINUX=disabled
SELINUXTYPE=targeted 


[root@node4 ~]#

2.统计文本中某单词的出现的次数

[root@localhost ~]# echo "abc 1 def 1 ghi 1 jkl" | grep -o '1'
1
1
1
[root@localhost ~]# echo "abc 1 def 1 ghi 1 jkl" | grep -o '1' | wc -l
3
[root@localhost ~]#

本篇到此结束