注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

牧笔临风

己有能,勿自私!

 
 
 

日志

 
 
 
 

sed单行命令快速参考  

2010-11-12 11:04:55|  分类: sed & awk |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

本文转自:http://www.dutor.net/index.php/2010/05/sed-samples/

简述

  sed是Linux环境下的一个文本流、行编辑器,十分强大,这里贴一些常用的单行脚本,脚本最初来源于此,基本未做改动。另外一个强大的文本处理工具就是awk,对于这两个工具,个人觉得,根据个人选择其一就够用了,我自己就喜欢sed多一点。Bones在这里用awk对下面的各个sed命令行做了相应的替代。
  推荐一本关于sed和awk的书《sed & awk》,作者Dale Dougberty, Arnold Robbins。中文版在网上已经买不到了,china-pub倒是有,不过是原版的一般人承受不起那个价位。幸好这本书的作者提供免费的电子版,在网上应该可以搜的到。

sed单行命令快速参考

文本间隔
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 
# 在每一行后面增加一空行  sed G    # 将原来的所有空行删除并在每一行后面增加一空行。  # 这样在输出的文本中每一行后面将有且只有一空行。  sed '/^$/d;G'    # 在每一行后面增加两行空行  sed 'G;G'    # 将第一个脚本所产生的所有空行删除(即删除所有偶数行)  sed 'n;d'    # 在匹配式样“regex”的行之前插入一空行  sed '/regex/{x;p;x;}'    # 在匹配式样“regex”的行之后插入一空行  sed '/regex/G'    # 在匹配式样“regex”的行之前和之后各插入一空行  sed '/regex/{x;p;x;G;}'
编号
1 2 3 4 5 6 7 8 9 10 11 12 
# 为文件中的每一行进行编号(简单的左对齐方式)。这里使用了“制表符”  # (tab,见本文末尾关于'\t'的用法的描述)而不是空格来对齐边缘。  sed = filename | sed 'N;s/\n/\t/'    # 对文件中的所有行编号(行号在左,文字右端对齐)。  sed = filename | sed 'N; s/^/     /; s/ *\(.\{6,\}\)\n/\1  /'    # 对文件中的所有行编号,但只显示非空白行的行号。  sed '/./=' filename | sed '/./N; s/\n/ /'    # 计算行数 (模拟 "wc -l")  sed -n '$='
文本转换和替代(这是我最常用到的功能了)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 
# Unix环境:转换DOS的新行符(CR/LF)为Unix格式。  sed 's/.$//'                     # 假设所有行以CR/LF结束  sed 's/^M$//'                    # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V  sed 's/\x0D$//'                  # ssed、gsed 3.02.80,及更高版本    # Unix环境:转换Unix的新行符(LF)为DOS格式。  sed "s/$/`echo -e \\\r`/"        # 在ksh下所使用的命令  sed 's/$'"/`echo \\\r`/"         # 在bash下所使用的命令  sed "s/$/`echo \\\r`/"           # 在zsh下所使用的命令  sed 's/$/\r/'                    # gsed 3.02.80 及更高版本    # DOS环境:转换Unix新行符(LF)为DOS格式。  sed "s/$//"                      # 方法 1  sed -n p                         # 方法 2    # DOS环境:转换DOS新行符(CR/LF)为Unix格式。  # 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的  #  sed可以通过其特有的“--text”选项。你可以使用帮助选项(“--help”)看  # 其中有无一个“--text”项以此来判断所使用的是否是UnxUtils版本。其它DOS  # 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。  sed "s/\r//" infile >outfile     # UnxUtils sed v4.0.7 或更高版本  tr -d \r <infile >outfile        # GNU tr 1.22 或更高版本    # 将每一行前导的“空白字符”(空格,制表符)删除  # 使之左对齐  sed 's/^[ \t]*//'                # 见本文末尾关于'\t'用法的描述    # 将每一行拖尾的“空白字符”(空格,制表符)删除  sed 's/[ \t]*$//'                # 见本文末尾关于'\t'用法的描述    # 将每一行中的前导和拖尾的空白字符删除  sed 's/^[ \t]*//;s/[ \t]*$//'    # 在每一行开头处插入5个空格(使全文向右移动5个字符的位置)  sed 's/^/     /'    # 以79个字符为宽度,将所有文本右对齐  sed -e :a -e 's/^.\{1,78\}$/ &/;ta'  # 78个字符外加最后的一个空格    # 以79个字符为宽度,使所有文本居中。在方法1中,为了让文本居中每一行的前  # 头和后头都填充了空格。 在方法2中,在居中文本的过程中只在文本的前面填充  # 空格,并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。  sed  -e :a -e 's/^.\{1,77\}$/ & /;ta'                     # 方法1  sed  -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/'  # 方法2    # 在每一行中查找字串“foo”,并将找到的“foo”替换为“bar”  sed 's/foo/bar/'                 # 只替换每一行中的第一个“foo”字串  sed 's/foo/bar/4'                # 只替换每一行中的第四个“foo”字串  sed 's/foo/bar/g'                # 将每一行中的所有“foo”都换成“bar”  sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替换倒数第二个“foo”  sed 's/\(.*\)foo/\1bar/'            # 替换最后一个“foo”    # 只在行中出现字串“baz”的情况下将“foo”替换成“bar”  sed '/baz/s/foo/bar/g'    # 将“foo”替换成“bar”,并且只在行中未出现字串“baz”的情况下替换  sed '/baz/!s/foo/bar/g'    # 不管是“scarlet”“ruby”还是“puce”,一律换成“red”  sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'  #对多数的sed都有效  gsed 's/scarlet\|ruby\|puce/red/g'               # 只对GNU sed有效    # 倒置所有行,第一行成为最后一行,依次类推(模拟“tac”)。  # 由于某些原因,使用下面命令时HHsed v1.5会将文件中的空行删除  sed '1!G;h;$!d'               # 方法1  sed -n '1!G;h;$p'             # 方法2    # 将行中的字符逆序排列,第一个字成为最后一字,……(模拟“rev”)  sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'    # 将每两行连接成一行(类似“paste”)  sed '$!N;s/\n/ /'    # 如果当前行以反斜杠“\”结束,则将下一行并到当前行末尾  # 并去掉原来行尾的反斜杠  sed -e :a -e '/\\$/N; s/\\\n//; ta'    # 如果当前行以等号开头,将当前行并到上一行末尾  # 并以单个空格代替原来行头的“=”  sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'    # 为数字字串增加逗号分隔符号,将“1234567”改为“1,234,567”  gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'                     # GNU sed  sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'  # 其他sed    # 为带有小数点和负号的数值增加逗号分隔符(GNU sed)  gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'    # 在每5行后增加一空白行 (在第5,10,15,20,等行后增加一空白行)  gsed '0~5G'                      # 只对GNU sed有效  sed 'n;n;n;n;G;'
选择性地显示特定行
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 
# 显示文件中的前10行 (模拟“head”的行为)  sed 10q    # 显示文件中的第一行 (模拟“head -1”命令)  sed q    # 显示文件中的最后10行 (模拟“tail”)  sed -e :a -e '$q;N;11,$D;ba'    # 显示文件中的最后2行(模拟“tail -2”命令)  sed '$!N;$!D'    # 显示文件中的最后一行(模拟“tail -1”)  sed '$!d'                        # 方法1  sed -n '$p'                      # 方法2    # 显示文件中的倒数第二行  sed -e '$!{h;d;}' -e x              # 当文件中只有一行时,输入空行  sed -e '1{$q;}' -e '$!{h;d;}' -e x  # 当文件中只有一行时,显示该行  sed -e '1{$d;}' -e '$!{h;d;}' -e x  # 当文件中只有一行时,不输出    # 只显示匹配正则表达式的行(模拟“grep”)  sed -n '/regexp/p'               # 方法1  sed '/regexp/!d'                 # 方法2    # 只显示“不”匹配正则表达式的行(模拟“grep -v”)  sed -n '/regexp/!p'              # 方法1,与前面的命令相对应  sed '/regexp/d'                  # 方法2,类似的语法    # 查找“regexp”并将匹配行的上一行显示出来,但并不显示匹配行  sed -n '/regexp/{g;1!p;};h'    # 查找“regexp”并将匹配行的下一行显示出来,但并不显示匹配行  sed -n '/regexp/{n;p;}'    # 显示包含“regexp”的行及其前后行,并在第一行之前加上“regexp”所  # 在行的行号 (类似“grep -A1 -B1”)  sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h    # 显示包含“AAA”、“BBB”或“CCC”的行(任意次序)  sed '/AAA/!d; /BBB/!d; /CCC/!d'  # 字串的次序不影响结果    # 显示包含“AAA”、“BBB”和“CCC”的行(固定次序)  sed '/AAA.*BBB.*CCC/!d'    # 显示包含“AAA”“BBB”或“CCC”的行 (模拟“egrep”)  sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d    # 多数sed  gsed '/AAA\|BBB\|CCC/!d'                        # 对GNU sed有效    # 显示包含“AAA”的段落 (段落间以空行分隔)  # HHsed v1.5 必须在“x;”后加入“G;”,接下来的3个脚本都是这样  sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'    # 显示包含“AAA”“BBB”和“CCC”三个字串的段落 (任意次序)  sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'    # 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)  sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d  gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'         # 只对GNU sed有效    # 显示包含65个或以上字符的行  sed -n '/^.\{65\}/p'    # 显示包含65个以下字符的行  sed -n '/^.\{65\}/!p'            # 方法1,与上面的脚本相对应  sed '/^.\{65\}/d'                # 方法2,更简便一点的方法    # 显示部分文本——从包含正则表达式的行开始到最后一行结束  sed -n '/regexp/,$p'    # 显示部分文本——指定行号范围(从第8至第12行,含8和12行)  sed -n '8,12p'                   # 方法1  sed '8,12!d'                     # 方法2    # 显示第52行  sed -n '52p'                     # 方法1  sed '52!d'                       # 方法2  sed '52q;d'                      # 方法3, 处理大文件时更有效率    # 从第3行开始,每7行显示一次      gsed -n '3~7p'                   # 只对GNU sed有效  sed -n '3,${p;n;n;n;n;n;n;}'     # 其他sed    # 显示两个正则表达式之间的文本(包含)  sed -n '/Iowa/,/Montana/p'       # 区分大小写方式
选择性地删除特定行
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 
# 显示通篇文档,除了两个正则表达式之间的内容  sed '/Iowa/,/Montana/d'    # 删除文件中相邻的重复行(模拟“uniq”)  # 只保留重复行中的第一行,其他行删除  sed '$!N; /^\(.*\)\n\1$/!P; D'    # 删除文件中的重复行,不管有无相邻。注意hold space所能支持的缓存  # 大小,或者使用GNU sed。  sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'    # 删除除重复行外的所有行(模拟“uniq -d”)  sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'    # 删除文件中开头的10行  sed '1,10d'    # 删除文件中的最后一行  sed '$d'    # 删除文件中的最后两行  sed 'N;$!P;$!D;$d'    # 删除文件中的最后10行  sed -e :a -e '$d;N;2,10ba' -e 'P;D'   # 方法1  sed -n -e :a -e '1,10!{P;N;D;};N;ba'  # 方法2    # 删除8的倍数行  gsed '0~8d'                           # 只对GNU sed有效  sed 'n;n;n;n;n;n;n;d;'                # 其他sed    # 删除匹配式样的行  sed '/pattern/d'                      # 删除含pattern的行。当然pattern                                        # 可以换成任何有效的正则表达式    # 删除文件中的所有空行(与“grep '.' ”效果相同)  sed '/^$/d'                           # 方法1  sed '/./!d'                           # 方法2    # 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。  # (模拟“cat -s”)  sed '/./,/^$/!d'        #方法1,删除文件顶部的空行,允许尾部保留一空行  sed '/^$/N;/\n$/D'      #方法2,允许顶部保留一空行,尾部不留空行    # 只保留多个相邻空行的前两行。  sed '/^$/N;/\n$/N;//D'    # 删除文件顶部的所有空行  sed '/./,$!d'    # 删除文件尾部的所有空行  sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'  # 对所有sed有效  sed -e :a -e '/^\n*$/N;/\n$/ba'        # 同上,但只对 gsed 3.02.*有效    # 删除每个段落的最后一行  sed -n '/^$/{p;h;};/./{x;/./p;}'
其他特殊应用
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 
# 移除手册页(man page)中的nroff标记。在Unix System V或bash shell下使  # 用'echo'命令时可能需要加上 -e 选项。  sed "s/.`echo \\\b`//g"    # 外层的双括号是必须的(Unix环境)  sed 's/.^H//g'             # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H  sed 's/.\x08//g'           # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法    # 提取新闻组或 e-mail 的邮件头  sed '/^$/q'                # 删除第一行空行后的所有内容    # 提取新闻组或 e-mail 的正文部分  sed '1,/^$/d'              # 删除第一行空行之前的所有内容    # 从邮件头提取“Subject”(标题栏字段),并移除开头的“Subject:”字样  sed '/^Subject: */!d; s///;q'    # 从邮件头获得回复地址  sed '/^Reply-To:/q; /^From:/h; /./d;g;q'    # 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮  # 地址的部分剃除。(见上一脚本)  sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'    # 在每一行开头加上一个尖括号和空格(引用信息)  sed 's/^/> /'    # 将每一行开头处的尖括号和空格删除(解除引用)  sed 's/^> //'    # 移除大部分的HTML标签(包括跨行标签)  sed -e :a -e 's/<[^>]*>//g;/</N;//ba'    # 将分成多卷的uuencode文件解码。移除文件头信息,只保留uuencode编码部分。  # 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入;  # 第二种版本则可以放入一个带执行权限的shell脚本中。(由Rahul Dhesi的一  # 个脚本修改而来。)  sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode   # vers. 1  sed '/^end/,/^begin/d' "$@" | uudecode                    # vers. 2    # 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用  # 字元“\v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以  # 用其他未在文件中使用的字符来代替它。  sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'  gsed '/./{H;d};x;y/\n/\v/' file 
   # 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用  # 字元“\v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以  # 用其他未在文件中使用的字符来代替它。  sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'  gsed '/./{H;d};x;y/\n/\v/' 
  评论这张
 
阅读(158)| 评论(0)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017