Linux三剑客之sed

工作原理

sed是Stream Editor（流编辑器）的缩写，简称（行）流编辑器；用来处理文件的。

• 首先sed读取文件中的一行内容，把其保存在一个临时内存空间中（也称为模式空间）；
• 然后根据需求处理临时缓冲区中的行，完成后把该行发送到屏幕上；
• 默认不编辑源文件，只对模式空间做处理。（由于sed把每一行都存在临时缓冲区中，对这个副本进行编辑，所以不会直接修改源文件）

格式

sed [options]  'AddressCommand'  file …

选项(options)

用来指定sed的行为方式，如是否显示未修改的行等。

指令（Address+Command）：

这是sed命令的核心，用于定义要执行的操作。

指令通常包含以下元素：

• 地址（Address）：指定要应用指令的行。可以是行号、正则表达式或$（表示最后一行）。
• 动作（Command）：对选定的行执行的操作，如s（替换）、d（删除）、a（添加）、i（在行前插入）等。

地址和动作

地址（Address）

• Startline,endline
  1，100
  $：表示最后一行
• 正则表达式指定的模式定义,模式匹配需要双斜线。
  /^root/
  /模式1/,/模式2/
• 指定的行
  startline, +N
  从startline开始，向后的N行。

动作（Command）

用法

• sed替换标记

s：表示search搜索；
\n：换行符
\：转译符
g：表示全局替换，每一行中的所有匹配字符串进行替换（修饰符）
p：表示打印行。  
w：表示把行写入一个文件。  
x：表示互换模板块中的文本和缓冲区中的文本。  
y：表示把一个字符翻译为另外的字符（但是不用于正则表达式）
\1：子串匹配标记
&：已匹配字符串标记

• sed元字符集

在 sed 流编辑器中，元字符集（也称为字符类或字符集）是一种特殊的正则表达式构造，用于匹配一组特定的字符。

.（点）：匹配任意单个字符（换行符除外）。如：/s.d/匹配s后接一个任意字符，最后是d。

^：匹配输入字符串的开始位置。当在字符类中使用时，它表示不接受该字符集中的任何字符。如：/^sed/匹配所有以sed开头的行。

$：匹配输入字符串的结束位置。如：/sed$/匹配所有以sed结尾的行。

[]（方括号）：匹配方括号内的任意字符。例如，[abc] 匹配 "a"、"b" 或 "c"。

[^] 或 [!]：匹配除了方括号内字符集中的字符之外的任意字符。

()（圆括号）：在扩展正则表达式（ERE）中，用于分组。在基本正则表达式（BRE）中，sed 不支持圆括号分组，但可以通过 -E 选项启用ERE。

|（竖线）：在ERE中，用作选择操作符，表示逻辑“或”。在BRE中，需要使用 \|。

*（星号）：在BRE中，表示前面的字符可以出现零次或多次。在ERE中，* 有懒惰匹配的特性，匹配尽可能少的字符。

+（加号）：在ERE中，表示前面的字符至少出现一次。在BRE中，需要使用 \+。

?（问号）：在ERE中，表示前面的字符出现零次或一次。在BRE中，需要使用 \?。

{n}：在ERE中，表示前面的字符恰好出现 n 次。在BRE中不支持。

{n,}：在ERE中，表示前面的字符至少出现 n 次。

{n,m}：在ERE中，表示前面的字符至少出现 n 次，但不超过 m 次。在BRE中不支持。

\(..\)： 匹配子串，保存匹配的字符，如s/\(love\)able/\1rs，loveable被替换成lovers。

&： 保存搜索字符用来替换其他字符，如s/love/**&**/，love这成**love**。

\< ：匹配单词的开始，如:/\<love/匹配包含以love开头的单词的行。

\> ：匹配单词的结束，如/love\>/匹配包含以love结尾的单词的行。

x\{m\} ：重复字符x，m次，如：/0\{5\}/匹配包含5个0的行。

x\{m,\} ：重复字符x，至少m次，如：/0\{5,\}/匹配至少有5个0的行。

x\{m,n\} ：重复字符x，至少m次，不多于n次，如：/0\{5,10\}/匹配5~10个0的行。

1、搜索替换操作 （ S ）

sed 选项 's/搜索的内容/替换的内容/动作'  filename

注意：

• 正则表达式必须以"/"前后规范间隔

s后边以/、#、@作为分隔符
	s///
	s@@@
	s###

• 在正则表达式中如果出现特殊字符(^$.*/[]),需要反斜杠做转义
• -ni选项不要一起使用
• p命令不要再使用-i时使用

案例

• 替换操作

替换文本中的字符串：
sed 's/book/books/' file

-n选项和p命令一起使用表示只打印那些发生替换的行
sed -n 's/test/TEST/p' file

直接编辑文件选项-i，匹配每一行的所有book进行替换
sed -i 's/book/books/g' file

直接编辑文件选项-i，会匹配file文件中每一行的第一个book替换为books：
sed -i 's/book/books/' file

sed -i 's/#PermitRootLogin prohibit-password/PermitRootLogin yes/' /usr/etc/sshd_config

• 定界符

以上命令中字符 / 在sed中作为定界符使用，也可以使用任意的定界符：
sed 's:test:TEXT:g'
sed 's|test|TEXT|g'

定界符出现在样式内部时，需要进行转义：
sed 's/\/bin/\/usr\/local\/bin/g'

• 删除操作

删除空白行：
sed '/^$/d' file

删除文件的第2行：
sed '2d' file

删除文件的第2行到末尾所有行：
sed '2,$d' file

删除文件最后一行：
sed '$d' file

删除文件第1行
sed '1d' a.txt 

删除文件中所有开头是test的行：
sed '/^test/'d file

• 增加

i 地址定位的上面插入
a 下面插入
sed '$a99999' a.txt 		文件最后一行下面增加内容
sed 'a99999' a.txt 		    文件每行下面增加内容
sed '5a99999' a.txt 		文件第5行下面增加内容
sed '$i99999' a.txt 		文件最后一行上一行增加内容
sed 'i99999' a.txt 		    文件每行上一行增加内容
sed '6i99999' a.txt 		文件第6行上一行增加内容
sed '/^uucp/ihello'		    以uucp开头行的上一行插入内容

• 从文件读入：r命令

file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面：
sed '/test/r file' filename

• 写入文件：w命令

在example中所有包含test的行都被写入file里：
sed -n '/test/w file' example

• 追加（行下）：a\命令

将 this is a test line 追加到 以test 开头的行后面：

sed '/^test/a\this is a test line' file
在 test.conf 文件第2行之后插入 this is a test line：

sed -i '2a\this is a test line' test.conf

• 插入（行上）：i\命令

将 this is a test line 追加到以test开头的行前面：

sed '/^test/i\this is a test line' file
在test.conf文件第5行之前插入this is a test line：

sed -i '5i\this is a test line' test.conf

• 已匹配字符串标记&

正则表达式 \w\+ 匹配每一个单词，使用 [&] 替换它，& 对应于之前所匹配到的单词：

echo this is a test line | sed 's/\w\+/[&]/g'
[this] [is] [a] [test] [line]
所有以192.168.0.1开头的行都会被替换成它自已加localhost：

sed 's/^192.168.0.1/&localhost/' file
192.168.0.1localhost

• 子串匹配标记\1

匹配给定样式的其中一部分：
echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/'
this is 7 in a number
命令中 digit 7，被替换成了 7。样式匹配到的子串是 7，\(..\) 用于匹配子串，对于匹配到的第一个子串就标记为 \1，依此类推匹配到的第二个结果就是 \2，例如：

echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/'
BBB aaa
love被标记为1，所有loveable会被替换成lovers，并打印出来：

sed -n 's/\(love\)able/\1rs/p' file

• 组合多个表达式

sed '表达式' | sed '表达式'
等价于：
sed '表达式; 表达式'

• 引用

sed表达式可以使用单引号来引用，但是如果表达式内部包含变量字符串，就需要使用双引号。

test=hello
echo hello WORLD | sed "s/$test/HELLO"
HELLO WORLD

• 选定行的范围：,（逗号）

所有在模板test和check所确定的范围内的行都被打印：

sed -n '/test/,/check/p' file
打印从第5行开始到第一个包含以test开始的行之间的所有行：

sed -n '5,/^test/p' file
对于模板test和west之间的行，每行的末尾用字符串aaa bbb替换：

sed '/test/,/west/s/$/aaa bbb/' file

• 多点编辑：e命令

-e选项允许在同一行里执行多条命令：

sed -e '1,5d' -e 's/test/check/' file
上面sed表达式的第一条命令删除1至5行，第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。

和 -e 等价的命令是 --expression：

sed --expression='s/test/check/' --expression='/love/d' file

• 下一个：n命令

如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续：

sed '/test/{ n; s/aa/bb/; }' file

• 变形：y命令

把1~10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令：

sed '1,10y/abcde/ABCDE/' file

• 退出：q命令

打印完第10行后，退出sed

sed '10q' file

• 保持和获取：h命令和G命令

在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。

sed -e '/test/h' -e '$G' file
在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。

• 保持和互换：h命令和x命令

互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换：

sed -e '/test/h' -e '/check/x' file

• 脚本scriptfile

sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。

sed [options] -f scriptfile file(s)

• 打印奇数行或偶数行

方法1：

sed -n 'p;n' test.txt  #奇数行
sed -n 'n;p' test.txt  #偶数行
方法2：

sed -n '1~2p' test.txt  #奇数行
sed -n '2~2p' test.txt  #偶数行

• 打印匹配字符串的下一行

grep -A 1 SCC URFILE
sed -n '/SCC/{n;p}' URFILE
awk '/SCC/{getline; print}' URFILE

参考

https://blog.csdn.net/qq_45206551/article/details/104498965