温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

shell脚本及正则表达式

发布时间:2020-07-21 14:19:28 来源:网络 阅读:834 作者:运维小弟qaq 栏目:网络安全

shell脚本的编写及正则表达式:

    一、shell脚本的基本:

   1.首先shell脚本到底是什么?

        1)纯文本文档--文件中所存储的数据都是以字符为单位进行存储的;

        2)根据用户的需求来解决用户问题的大量命令的组合体

        3)“执行幂等性”——任何命令多次执行的结果是一致的

             注意:很多命令都不具备“执行幂等性”,在shell脚本中就需要大量的程序逻辑来判断某个命令是否满足其运行条件,以避免在运行过程中出现严重错误。

   

   2.脚本的基本代码内容:

       1)首先我们可以利用文本编辑工具来编写shell脚本:

              例如:Nano 、vi、Vim、emacs、pico

           在这里我们推荐使用Vim,因为它具有语法着色,自动缩进等特性


        脚本的命令方式:可以使用.sh的文件名为后缀;在低版本的Vim编辑器,只能根据.sh的后缀命令来识别是否为shell脚本,高版本的Vim编辑器,则无需过多的文件后缀名的问题;

      

       2)shebang:首行必须是shebang,解释器路径,必须占据就对行首:在执行时,启动相应的解释器以解释脚本内诸多的命令

         因为我们使用的shell为bash

          #! /bin/bash

       3) 在shell脚本中,除了shebang之外,所有以#开头的行都为注释行,解释器都会忽略这样的行的内容

    例如:

         # author:秦耀东

         # type:基础练习

         ...

      4)空白行:解释器会忽略脚本中所有的空白行;

      5)大量的关键字和命令:if、else、then、do、while、for、...

      6) bash中所有的特殊想字符

 /// 注意:shell脚本一旦运行,是在当前的shell中根据shebang的指示,开启一个解释器(子shell)解释执行代码内容,shell脚本的内容是在一个子shell进程中实现的;

      

    3.脚本的运行方法:

       1)为脚本文件赋予执行权限,直接运行此文件:

         ~ ]#  chmod  +x /PATH/TO/SCRIPT_FILE

          注意:如果在执行脚本时,只写脚本的名不写路径的话,必须确保PATH变量中保存的路径下,能够找到该文件;

       2)直接使用解释器运行脚本,讲脚本作为解释器命令的参数;

            bash /PATH/TO/SCRIPT_FILE

            bash -x /PATH/TO/SCRIPT_FILE(将脚本的运行过程展示出来,一般用于脚本排错)

            bash -n /PATH/TO/SCRIPT_FILE(对脚本进行语法排错,如果存在语法错误,则 bash会给予提示,针对于这类错误提示,,需要我们自行判断错误的发生位置)



  二、正则表达式:

  

在学习正则表达式之前我们先来学习文本处理工具:

文本处理三剑客:

grep系:grep、egrep、fgrep,文本搜索工具,基于"PATTERN"对于给定的文本进行模糊搜索,grep系默认工作于贪婪模式下;


sed:Stream EDitor,流编辑器,行编辑器,文本编辑工具;


awk:gawk——GNU awk,文本格式化工具,文本报告生成器,文本处理的编程语言;


  1.grep系:grep  egrep  fgrep

     

     1:grep:默认仅支持基本正则表达式

       全称为Global search Regular Expression and Print out the line.利用正则表达式进行全局搜索并将匹配的行显示出来;

       1)grep [OPTIONS] PATTERN [FILE...]

          ////这里我们要介绍一下PATTERN,PATTERN是一种过滤条件,是由正则表达式元字符以及没有特殊含义的文本字符组成;

            正则表达式的元字符会被正则表达式引擎解释为特殊含义;

            正则表达式的文本字符是指只具备字符表面含义的字符;

       常用选项为:

        -i, --ignore-case:忽略文本字符的大小写;

        -v, --invert-match:反向匹配;最终显示的结果是PATTERN不能成功匹配的行;

        -c, --count:计数,统计匹配PATTERN的所有的行数;

       -o, --only-matching:关闭贪婪模式,仅显示PATTERN能够匹配的内容;

        -q, --quiet, --silent:安静模式,不输出任何匹配结果;

       --color[=WHEN], --colour[=WHEN]:将匹配PATTERN的内容以特殊颜色高亮显示;

    --color=auto

       -E, --extended-regexp:扩展的正则表达式,grep -E相当于egrep;

        -F, --fixed-strings, --fixed-regexp:grep -F相当于fgrep

        -G, --basic-regexp:基本的正则表达式,egrep -G相当于grep

        -P, --perl-regexp:使用PCRE(Perl Common Regular Expression)引擎;

       -A NUM, --after-context=NUM:在显示匹配PATTERN的行的同时显示其后面的NUM行;

       -B NUM, --before-context=NUM:在显示匹配PATTERN的行的同时显示其前面的NUM行;

       -C NUM, -NUM, --context=NUM:在显示匹配PATTERN的行的同时显示其前后各NUM行;

     基本的正则表达式的元字符:

        1) 字符匹配;

           . :匹配任意单个字符;

          []:匹配指定范围内的任意单个字符;

          [^]:匹配指定范围以外的任意单个字符;

    下列所有的字符集都可以放置于[]之中用于匹配单个字符;

   [:lower:]:所有小写的单个字符 

   [:upper:]:所有大写的字母

     [:alpha:]:所有字母字符

     [:digit:]:所有的十进制数字

   [:space:]:所有的空白字符

   [:alnum:]:表示所有的大小写字母以及十进制数字

   [:punct:]:所有的标点符号

     [:xdigit:]:所有的十六进制数字;

   a-z:所有的小写字母

   A-Z:所有的大写字母

   0-9:标识所有的十进制数字

      

        2)次数匹配

            *:其前面的字符可以出现任意次(0次,1次或多次);

           \?:其前面的字符可有可无(0次或1次);

           \+:其前面的字符至少出现一次(1次或多次);

           \{m\}:其前面的字符必须出现m次;

           \{m,n\}:其前面的字符至少出现m次,至多出现n次;(m<n)

           \{,n\}:其前面的字符至少出现0次,至多出现n次;

           \{m,\}:其前面的字符至少出现m次,×××;


  在正则表达式中,表示任意长度任意字符的方式:.*


  位置锚定字符:

   行锚定:

   行首锚定:^

   行尾锚定:$

   字锚定:

   字首锚定:\<或\b

   字尾锚定:\>或\b

   \b:旧版本中的锚定方法,建议不使用;


  对于正则表达式引擎来说,字是由非特殊字符组成的连续字符串;


  分组与引用字符:

  \(PATTERN\):将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理


 在正则表达式引擎之中,有一系列的内置变量,这些变量会保存所有分组内的字符信息,用于后向引用;这些变量依次是:\1, \2, \3, ...


   pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)


   \1:pattern2

   \2:pattern4

     \3:pattern5

              \1:第一组小括号中的pattern匹配到的字符;

      \2:第二组小括号中的pattern匹配到的字符;

      ...


    ///// 例:请找出在/etc/passwd中用户的UID和GID相同的用户账户;

   ~]# grep '\(\<[[:digit:]]\+\>\).*\1' /etc/passwd


   或:\|

               注意:\|将其左右两边的字符串当作整体对待;

                A\|american  :A或american

               请找出ifconfig命令的执行结果中数值在100-255之间的整数;

                    第一位:1 2

   第二位:0-90-4  5

   第三位:0-90-9  0-5


   ifconfig | grep '\<\(1[0-9][0-9]\|2[0-4][0-9]\|25[0-5]\)\>'

           请找出ifconfig命令的执行结果中数值在0-255之间的整数;

     2.grep [OPTIONS] [-e PATTERN | -f FILE] [FILE...]


       默认情况下,grep命令后面只允许有一个PATTERN;

       如果想要在一次grep所搜过程中写多个PATTERN,则需要使用-e选项;每个-e选项只能使用一个PATTERN作为参数;

         将所需要的PATTERN写入到一个文件中,保证每行只有一个PATTERN;我们就可以使用-f FILE方式来实现多PATTERN匹配;

      egrep:

       egrep [OPTIONS] PATTERN [FILE...]

       扩展的正则表达式元字符:

     1) 字符匹配;

           . :匹配任意单个字符;

          []:匹配指定范围内的任意单个字符;

          [^]:匹配指定范围以外的任意单个字符;

       下列所有的字符集都可以放置于[]之中用于匹配单个字符;

          [:lower:]:所有小写的单个字符 

          [:upper:]:所有大写的字母

           [:alpha:]:所有字母字符

           [:digit:]:所有的十进制数字

           [:space:]:所有的空白字符

           [:alnum:]:表示所有的大小写字母以及十进制数字

           [:punct:]:所有的标点符号

           [:xdigit:]:所有的十六进制数字;

           a-z:所有的小写字母

           A-Z:所有的大写字母

           0-9:标识所有的十进制数字

      

        2)次数匹配

            *:其前面的字符可以出现任意次(0次,1次或多次);

           \?:其前面的字符可有可无(0次或1次);

           \+:其前面的字符至少出现一次(1次或多次);

           \{m\}:其前面的字符必须出现m次;

           \{m,n\}:其前面的字符至少出现m次,至多出现n次;(m<n)

           \{,n\}:其前面的字符至少出现0次,至多出现n次;

           \{m,\}:其前面的字符至少出现m次,×××;


   在正则表达式中,表示任意长度任意字符的方式:.*


   位置锚定字符:

    行锚定:

    行首锚定:^

    行尾锚定:$

    字锚定:

    字首锚定:\<或\b

    字尾锚定:\>或\b

       分组与引用字符:

   \(PATTERN\):将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理


  在正则表达式引擎之中,有一系列的内置变量,这些变量会保存所有分组内的字符信息,         用于后向引用;这些变量依次是:\1, \2, \3, ...


    pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)

     \1:pattern2

    \2:pattern4

     \3:pattern5

              \1:第一组小括号中的pattern匹配到的字符;

       \2:第二组小括号中的pattern匹配到的字符;

       ...


    ///// 例:请找出在/etc/passwd中用户的UID和GID相同的用户账户;

    ~]# grep '\(\<[[:digit:]]\+\>\).*\1' /etc/passwd


    或:\|

               注意:\|将其左右两边的字符串当作整体对待;

                A\|american  :A或american

   

    fgrep:PATTERN中所有的字符都被当作文本字符来处理;


  其他的文本处理命令:

  wc:

  wc [OPTION]... [FILE]...

  -l:只显示行数

  -w:只显示字数

  -c:只显示字符数


  cut:remove sections from each line of files

  能够被cut命令修剪的文件,一般都是具有一定结构或格式的文本文档;/etc/passwd

  cut OPTION... [FILE]...

  -d, --delimiter=DELIM:指定在实施修剪操作时所依赖的分隔符,默认是空白字符;

  -f, --fields=LIST:根据定义的分隔符来指定字段的编号;

  地址定界使用方法:

  #:选择被指定的单个字段;

  #,#:离散的多个被指定的单个字段;

  #-#:连续的多个被指定的字段;

  --output-delimiter=STRING:指定输出分隔符;


  awk:

  awk -F "DELIMITER" '[/PATTERN/]{print $1,$2,...$NF}' FILE...

  -F "DELIMITER":指定字段分隔符,默认为空白字符;

  $1,$2,...,$NF:根据字段分隔符切割出来的文本片段都存放在相应的内部变量中;


  sort:sort lines of text files,将文本文件按行继续排序,默认排序规则是按照ASCII表中的字符顺序进行,这个排序标准可修改;

  -r, --reverse:逆序排序

  -R, --random-sort:随机排序,这种随机算法是非常简陋的,不适用于复杂环境;

  -u, --unique:重复出现的行,只保留一行;(连续且完全相同的行叫重复),祛重;

  -n, --numeric-sort:以数字的数值大小进行排序;

  -t, --field-separator=SEP:指定字段分隔符;

  -k, --key=KEYDEF:指明根据哪个关键字段进行排序,一般和-t同时使用;


  uniq:report or omit repeated lines

  -d, --repeated:只显示重复出现的行,而且每一组重复行只显示一行;

  -u, --unique:只显示不重复的行;

  -c, --count:在每行以前缀的方式显示重复行的重复次数;


  diff:compare files line by line

  同一文件的不同修改版本;打补丁;


  patch:apply changes to files

        

            

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI