sed腳本
A. sed -e腳本參數求解
man sed,幫忙裡其實都有說的。
sed內部有兩個空間,模式空間和保留空間。
模式空間是對外用的,用於讀取外部文件;保留空間是內部用的,用於暫存文本數據。
常規處理只用到模式空間,sed將文件以行為單位讀入模式空間內處理即可。
但有時在讀取後面的內容時需要保留上文,就可以將上文內容暫存在保留空間內,需要時再取回來。因此,sed提供了一些命令用於在這兩個空間之間交換數據。
g 拷貝保留空間的內容到模式空間(覆蓋寫方式)
G 將保留空間的內容附加到模式空間已有內容的後面(以換行符'\n'分隔)
p 列印模式空間的當前內容
h 拷貝模式空間的內容到保留空間(覆蓋寫方式)
x 交換模式空間與保留空間的內容
這樣看看,你是否能明白些呢?
B. 運行一個自己寫的sed腳本,為什麼出現了亂碼,即使代碼有錯也不應這樣啊,查看一下編碼情況,要改嗎
sh -x ./append1.sed input
看看過程是哪有問題
file ./append1.sed 看看和其他正常文件的區別
vim狀態在./append1.sed 裡面執行:set fileformat=unix
C. linux sed 一個腳本刪除文件後10行
是文件/etc/passwd的行數, 從文件11行開始,讀出一條,就要刪除模式空間的一行,這樣模式裡面才只有10行記錄,如果只寫成11D,那麼當讀出文件的行號為11時,模式才刪一行記錄
D. linux之文本內容替換命令sed
sed簡介:流編輯工具,用來對文本進行過濾與替換操作。
sed流程:sed通過一次僅讀取一行內容來對某些指令進行處理後輸出。
1、sed通過文件或管道讀取文件內容,但sed默認並不直接修改源文件,而是將讀入的內容復制到緩沖區中,稱之為模式空間。
2、所有的指令操作都是在模式空間找那個進行
3、sed根據相應的指令對模式空間中的內容進行處理並輸出結果,默認輸出至標准輸出(即屏幕上)。
sed基本語法格式:
用法:sed[選項]...{腳本指令}[輸入文件]...
選項: -version 顯示sed版本
-help :顯示幫助文檔
-n,-quiet,-silent靜默輸出,默認情況下,sed程序在所有的腳本指令執行完畢後,將自動列印模式空間中的內容。
-e script允許多個腳本指令被執行
-f script-file從文件中讀取腳本指令,對編寫自動化腳本程序很實用
-i ,-in-place 該選項直接修改源文件
-l N 該選項指定l指令可以輸出的行長度,l指令為輸出非列印字元。
-posix 禁用GNU sed擴展功能。
-r 在腳本指令中使用擴展正則表達式。
-s,-separate 默認情況下,sed將把輸入的多個文件名作為一個長的連續的輸入流。而GNU sed則允許把它們當作單獨的文件。
-u,-unbuffered 最低限度的緩存輸入與輸出
a,append表示追加指令;
i,insert表示插入指令;
d,delete表示刪除指令;
s,substitution表示替換指令。
sed腳本指令的基本格式是:
[地址,即路徑]命令(有些命令僅可以對一行操作,有些可以對多行操作),命令也可以用花括弧進行組合,使命令序列可以作用於同一個地址。
address{
command1
command2
command3
}
sed的基本工作方式是:
sed的替換命令s:
1、全局替換 : s/old/new/g ,其中g為全局替換,用於替換所有出現的次數; /如果和正則匹配的內容沖突可以使用其他符號,如 : s@old@new@g
2、標志位
為什麼要有多行模式: 配置文件一般有單行出現,但也有使用json或XML格式的配置文件,為多行出現。
多行模式處理命令N、D、P
E. Shell基本腳本命令使用教程
1、本地變數:用戶私有變數,只有本用戶可以訪問,保存在家目錄的 .bash_profile、.bashrc文件中
2、全局變數:所有用戶都可以使用,保存在 /etc/profile 文件中
3、用戶自定義變數:用戶自定義,比如腳本中的變數
定義變數格式: 變數名=值 (=兩邊不能有空格)
字元串用單引號或者雙引號引起來
shell支持正則表達式的常見命令:grep、sed、awk。
sed 是一個行(流)編輯器,非互動式的對文件內容進行增刪改查操作
awk 能夠集過濾、提取、運算為一體,它的工作方式是讀取數據,將每一行數據視為一條記錄,每條記錄以欄位分隔符分成若干欄位,然後輸出各個欄位的值。平行命令還有 gawk、pgawk、dgawk。
F. SED的小技巧
在sed的命令行中引用shell變數時要使用雙引號,而不是通常所用的單引號。下面是一個根據name變數的內容來刪除named.conf文件中zone段的腳本:
name='zone localhost'sed /$name/,/};/d named.conf
文本間隔
--------
# 在每一行後面增加一空行
sed G
# 將原來的所有空行刪除並在每一行後面增加一空行。這樣在輸出的文本中每一行後面將有且只有一空行。
sed '/^$/d;G'
# 在每一行後面增加兩行空行
sed 'G;G'
# 將第一個腳本所產生的所有空行刪除(即刪除所有偶數行)
sed 'n;d'
# 在匹配式樣「regex」的行之前插入一空行
sed '/regex/{x;p;x;}'
# 在匹配式樣「regex」的行之後插入一空行
sed '/regex/G'
# 在匹配式樣「regex」的行之前和之後各插入一空行
sed '/regex/{x;p;x;G;}'
編號
--------
# 為文件中的每一行進行編號(簡單的左對齊方式)。這里使用了「製表符」(tab,見本文末尾關於' '的用法的描述)而不是空格來對齊邊緣。
sed = filename | sed 'N;s/
/ /'
# 對文件中的所有行編號(行號在左,文字右端對齊)。
sed = filename | sed 'N; s/^/ /; s/ *(.{6,})
/1 /'
# 對文件中的所有行編號,但只顯示非空白行的行號。
sed '/./=' filename | sed '/./N; s/
/ /'
# 計算行數 (模擬 wc -l)
sed -n '$='
文本轉換和替代
--------
# Unix環境:轉換DOS的新行符(CR/LF)為Unix格式。
sed 's/.$//' # 假設所有行以CR/LF結束
sed 's/^M$//' # 在bash/tcsh中,將按Ctrl-M改為按Ctrl-V
sed 's/x0D$//' # ssed、gsed 3.02.80,及更高版本
# Unix環境:轉換Unix的新行符(LF)為DOS格式。
sed s/$/`echo -e \
`/ # 在ksh下所使用的命令
sed 's/$'/`echo \
`/ # 在bash下所使用的命令
sed s/$/`echo \
`/ # 在zsh下所使用的命令
sed 's/$/
/' # gsed 3.02.80 及更高版本
# DOS環境:轉換Unix新行符(LF)為DOS格式。
sed s/$// # 方法 1
sed -n p # 方法 2
# DOS環境:轉換DOS新行符(CR/LF)為Unix格式。
# 下面的腳本只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的。sed可以通過其特有的「--text」選項。你可以使用幫助選項(「--help」)看其中有無一個「--text」項以此來判斷所使用的是否是UnxUtils版本。其它DOS版本的的sed則無法進行這一轉換。但可以用「tr」來實現這一轉換。
sed s/
// infile >outfile # UnxUtils sed v4.0.7 或更高版本
tr -d
<infile >outfile # GNU tr 1.22 或更高版本
# 將每一行前導的「空白字元」(空格,製表符)刪除使之左對齊
sed 's/^[ ]*// #見本文末尾關於' '用法的描述
# 將每一行拖尾的「空白字元」(空格,製表符)刪除
sed 's/[ ]*$//' # 見本文末尾關於' '用法的描述
# 將每一行中的前導和拖尾的空白字元刪除
sed 's/^[ ]*//;s/[ ]*$//'
# 在每一行開頭處插入5個空格(使全文向右移動5個字元的位置)
sed 's/^/ /'
# 以79個字元為寬度,將所有文本右對齊
sed -e :a -e 's/^.{1,78}$/ &/;ta' # 78個字元外加最後的一個空格
# 以79個字元為寬度,使所有文本居中。在方法1中,為了讓文本居中每一行的前頭和後頭都填充了空格。在方法2中,在居中文本的過程中只在文本的前面填充空格,並且最終這些空格將有一半會被刪除。此外每一行的後頭並未填充空格。
sed -e :a -e 's/^.{1,77}$/ & /;ta' # 方法1
sed -e :a -e 's/^.{1,77}$/ &/;ta' -e 's/(*)1/1/' # 方法2
# 在每一行中查找字串「foo」,並將找到的「foo」替換為「bar」
sed 's/foo/bar/' # 只替換每一行中的第一個「foo」字串
sed 's/foo/bar/4' # 只替換每一行中的第四個「foo」字串
sed 's/foo/bar/g' # 將每一行中的所有「foo」都換成「bar」
sed 's/(.*)foo(.*foo)/1bar2/' # 替換倒數第二個「foo」
sed 's/(.*)foo/1bar/' # 替換最後一個「foo」
# 只在行中出現字串「baz」的情況下將「foo」替換成「bar」
sed '/baz/s/foo/bar/g'
# 將「foo」替換成「bar」,並且只在行中未出現字串「baz」的情況下替換
sed '/baz/!s/foo/bar/g'
# 不管是「scarlet」「ruby」還是「puce」,一律換成「red」
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #對多數的sed都有效
gsed 's/scarlet|ruby|puce/red/g' # 只對GNU sed有效
# 倒置所有行,第一行成為最後一行,依次類推(模擬「tac」)。
# 由於某些原因,使用下面命令時HHsed v1.5會將文件中的空行刪除
sed '1!G;h;$!d' # 方法1
sed -n '1!G;h;$p' # 方法2
# 將行中的字元逆序排列,第一個字成為最後一字,……(模擬「rev」)
sed '/
/!G;s/(.)(.*
)/&21/;//D;s/.//'
# 將每兩行連接成一行(類似「paste」)
sed '$!N;s/
/ /'
# 如果當前行以反斜杠「」結束,則將下一行並到當前行末尾並去掉原來行尾的反斜杠
sed -e :a -e '/\$/N; s/\
//; ta'
# 如果當前行以等號開頭,將當前行並到上一行末尾並以單個空格代替原來行頭的「=」
sed -e :a -e '$!N;s/
=/ /;ta' -e 'P;D'
# 為數字字串增加逗號分隔符號,將「1234567」改為「1,234,567」
gsed ':a;s/B[0-9]{3}>/,&/;ta' # GNU sed
sed -e :a -e 's/(.*[0-9])([0-9]{3})/1,2/;ta' # 其他sed
# 為帶有小數點和負號的數值增加逗號分隔符(GNU sed)
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9])/12,3/g;ta'
# 在每5行後增加一空白行 (在第5,10,15,20,等行後增加一空白行)
gsed '0~5G' # 只對GNU sed有效
sed 'n;n;n;n;G;' # 其他sed
選擇性地顯示特定行
--------
# 顯示文件中的前10行 (模擬「head」的行為)
sed 10q
# 顯示文件中的第一行 (模擬「head -1」命令)
sed q
# 顯示文件中的最後10行 (模擬「tail」)
sed -e :a -e '$q;N;11,$D;ba'
# 顯示文件中的最後2行(模擬「tail -2」命令)
sed '$!N;$!D'
# 顯示文件中的最後一行(模擬「tail -1」)
sed '$!d' # 方法1
sed -n '$p' # 方法2
# 顯示文件中的倒數第二行
sed -e '$!{h;d;}' -e x # 當文件中只有一行時,輸入空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x # 當文件中只有一行時,顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x # 當文件中只有一行時,不輸出
# 只顯示匹配正則表達式的行(模擬「grep」)
sed -n '/regexp/p' # 方法1
sed '/regexp/!d' # 方法2
# 只顯示「不」匹配正則表達式的行(模擬「grep -v」)
sed -n '/regexp/!p' # 方法1,與前面的命令相對應
sed '/regexp/d' # 方法2,類似的語法
# 查找「regexp」並將匹配行的上一行顯示出來,但並不顯示匹配行
sed -n '/regexp/{g;1!p;};h'
# 查找「regexp」並將匹配行的下一行顯示出來,但並不顯示匹配行
sed -n '/regexp/{n;p;}'
# 顯示包含「regexp」的行及其前後行,並在第一行之前加上「regexp」所
# 在行的行號 (類似「grep -A1 -B1」)
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
# 顯示包含「AAA」、「BBB」或「CCC」的行(任意次序)
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影響結果
# 顯示包含「AAA」、「BBB」和「CCC」的行(固定次序)
sed '/AAA.*BBB.*CCC/!d'
# 顯示包含「AAA」「BBB」或「CCC」的行 (模擬「egrep」)
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多數sed
gsed '/AAA|BBB|CCC/!d' # 對GNU sed有效
# 顯示包含「AAA」的段落 (段落間以空行分隔)
# HHsed v1.5 必須在「x;」後加入「G;」,接下來的3個腳本都是這樣
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
# 顯示包含「AAA」「BBB」和「CCC」三個字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
# 顯示包含「AAA」、「BBB」、「CCC」三者中任一字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA|BBB|CCC/b;d' # 只對GNU sed有效
# 顯示包含65個或以上字元的行
sed -n '/^.{65}/p'
# 顯示包含65個以下字元的行
sed -n '/^.{65}/!p' # 方法1,與上面的腳本相對應
sed '/^.{65}/d' # 方法2,更簡便一點的方法
# 顯示部分文本——從包含正則表達式的行開始到最後一行結束
sed -n '/regexp/,$p'
# 顯示部分文本——指定行號范圍(從第8至第12行,含8和12行)
sed -n '8,12p' # 方法1
sed '8,12!d' # 方法2
# 顯示第52行
sed -n '52p' # 方法1
sed '52!d' # 方法2
sed '52q;d' # 方法3,處理大文件時更有效率
# 從第3行開始,每7行顯示一次
gsed -n '3~7p' # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}' # 其他sed
# 顯示兩個正則表達式之間的文本(包含)
sed -n '/Iowa/,/Montana/p' # 區分大小寫方式
選擇性地刪除特定行
--------
# 顯示通篇文檔,除了兩個正則表達式之間的內容
sed '/Iowa/,/Montana/d'
#刪除文件中相鄰的重復行(模擬「uniq」)只保留重復行中的第一行,其他行刪除
sed '$!N; /^(.*)
1$/!P; D'
#刪除文件中的重復行,不管有無相鄰。注意hold space所能支持的緩存大小,或者使用GNU sed。
sed -n 'G; s/
/&&/; /^([ -~]*
).*
1/d; s/
//; h; P'
# 刪除除重復行外的所有行(模擬「uniq-d」)
sed '$!N; s/^(.*)
1$/1/; t; D'
#刪除文件中開頭的10行
sed '1,10d'
#刪除文件中的最後一行
sed '$d'
#刪除文件中的最後兩行
sed 'N;$!P;$!D;$d'
#刪除文件中的最後10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2
# 刪除8的倍數行
gsed '0~8d' # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;' # 其他sed
# 刪除匹配式樣的行
sed '/pattern/d' # 刪除含pattern的行。當然pattern可以換成任何有效的正則表達式
#刪除文件中的所有空行(與「grep '.' 」效果相同)
sed '/^$/d' # 方法1
sed '/./!d' # 方法2
# 只保留多個相鄰空行的第一行。並且刪除文件頂部和尾部的空行。
# (模擬「cat -s」)
sed '/./,/^$/!d' #方法1,刪除文件頂部的空行,允許尾部保留一空行
sed '/^$/N;/
$/D' #方法2,允許頂部保留一空行,尾部不留空行
# 只保留多個相鄰空行的前兩行。
sed '/^$/N;/
$/N;//D'
#刪除文件頂部的所有空行
sed '/./,$!d'
#刪除文件尾部的所有空行
sed -e :a -e '/^
*$/{$d;N;ba' -e '}' # 對所有sed有效
sed -e :a -e '/^
*$/N;/
$/ba' # 同上,但只對 gsed 3.02.*有效
# 刪除每個段落的最後一行
sed -n '/^$/{p;h;};/./{x;/./p;}'
特殊應用
--------
# 移除手冊頁(man page)中的nroff標記。在Unix System V或bash shell下使用'echo'命令時可能需要加上 -e 選項。
sed s/.`echo \`//g # 外層的雙括弧是必須的(Unix環境)
sed 's/.^H//g' # 在bash或tcsh中,按 Ctrl-V 再按 Ctrl-H
sed 's/. //g' # sed 1.5,GNU sed,ssed所使用的十六進制的表示方法
# 提取新聞組或 e-mail 的郵件頭
sed '/^$/q' # 刪除第一行空行後的所有內容
# 提取新聞組或 e-mail 的正文部分
sed '1,/^$/d' # 刪除第一行空行之前的所有內容
# 從郵件頭提取「Subject」(標題欄欄位),並移除開頭的「Subject:」字樣
sed '/^Subject: */!d; s///;q'
# 從郵件頭獲得回復地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
# 獲取郵件地址。在上一個腳本所產生的那一行郵件頭的基礎上進一步的將非電郵地址的部分剃除。(見上一腳本)
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
# 在每一行開頭加上一個尖括弧和空格(引用信息)
sed 's/^/> /'
# 將每一行開頭處的尖括弧和空格刪除(解除引用)
sed 's/^> //'
# 移除大部分的HTML標簽(包括跨行標簽)
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
# 將分成多卷的uuencode文件解碼。移除文件頭信息,只保留uuencode編碼部分。文件必須以特定順序傳給sed。下面第一種版本的腳本可以直接在命令行下輸入;第二種版本則可以放入一個帶執行許可權的shell腳本中。(由Rahul Dhesi的一個腳本修改而來。)
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1
sed '/^end/,/^begin/d' $@ | uudecode # vers. 2
# 將文件中的段落以字母順序排序。段落間以(一行或多行)空行分隔。GNU sed使用字元「v」來表示垂直製表符,這里用它來作為換行符的佔位符——當然你也可以用其他未在文件中使用的字元來代替它。
sed '/./{H;d;};x;s/
/==/g' file | sort | sed '1s/==//;s/==/
/g'
gsed '/./{H;d};x;y/
/v/' file | sort | sed '1s/v//;y/v/
/'
# 分別壓縮每個.TXT文件,壓縮後刪除原來的文件並將壓縮後的.ZIP文件命名為與原來相同的名字(只是擴展名不同)。(DOS環境:「dir /b」顯示不帶路徑的文件名)。
echo @echo off >zipup.bat
dir /b *.txt | sed s/^(.*).TXT/pkzip -mo 1 1.TXT/ >>zipup.bat
G. sed 腳本替換有重復行怎樣處理
sed-i's%<error_path>%<PATH1>%'test.txt
sed-i's%</error_path>%<PATH2>%'test.txt
或者:
sed's/error_path/PATH1/'test.txt#只替換每一行中第1次匹配的error_path
sed『s/error_path/PATH2/2'test.txt#只替換每一行中第2次匹配的error_path
H. 用sed腳本在input文件里的file:後追加一行 結果出錯:./append.sed: line 6: /file:/iWe: 沒有那個文件或
We insert a new line. 需要放在雙引號里,表示是一個整體。
因為命令解釋默認是以空格為命令分隔符的,這樣插入的內容只有We,而空格後面的內容會被解釋為sed的輸入文件,所以報這個錯。
--------------------------------------------------------------------------------
明白為什麼你不行了,腳本第一行不能有注釋。
第一行必須放 #!/bin/sed -f
I. SED是什麼
SED
sed 是一個非互動式上下文(context)編輯器,它被設計在下列三種情況下發揮作用:
1) 編輯那些對舒適的互動式編輯而言太大的文件。
2) 在編輯命令太復雜而難於在交互模式下鍵入的時候編輯任何大小的文件。
3) 要在對輸入的一趟掃描中有效的進行多個『全局』(global)編輯函數。
因為每次只把輸入的某些行駐留在內存中,並且不使用臨時文件,所以可編輯的文件的有效大小,只受限於輸入和輸出要同時共存於次級存儲的要求。
可以單獨的建立復雜的編輯腳本並作為給 sed 的命令文件。對於復雜的編輯,這節省了可觀的鍵入和隨之而來的錯誤。從命令文件運行 sed 高效於作者所知道的任何互動式編輯器,甚至包括能用預先寫好的腳本驅動的編輯器。
相較於互動式編輯器而言,根本性的損失是缺乏相對地址(由於操作是每次一行的),和缺乏對命令如期運行的立即驗證。
sed 是 UNIX 編輯器 ed 的直系後代。由於在互動式和非互動式操作之間的差異,在 ed 和 sed 之間已經有了可觀的變化;甚至 ed 的慣常用戶都會經常感到驚訝(並可能氣憤),如果他們沒有閱讀本文檔的章節 2 和 3,就草率的使用 sed 的話。在兩個編輯器之間最顯著的家族性共同之處,在於他們所識別的模式(『正則表達式』)的種類;匹配模式的代碼可以從 ed 的代碼幾乎原封不動的復制過來,在章節 2 中對正則表達式的描述就是從 UNIX Programmer』s Manual[1] 幾乎原封不動的復制過來的。(代碼和描述都是 Dennis M. Ritchie 寫的)。
J. shell腳本sed命令如何使用變數替換掉包含指定字元串的整行
#先將包含指定字元串的整行列印到變數tmp
tmp=$(sed -n '/${zip}/p' 文本名)
#然後將文本中這一整行字元串替換為你想要修改的字元串
sed -i 's/${tmp}/${zip}/g' 文本名