sort命令
uniq命令
tr命令
cut命令
sphit命令
paste命令
ecal命令
正则表达式
sort命令
sort命令---以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序
比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出。
语法格式:
sort [选项] 参数
先是对首字母进行排序,如果首字母相同则对第二个字母进行计较,以此类推。
加上-n的选项,实现数值大小的排序
加上-r的选项实现反向排序,可以和-n一起使用
加上-u的选项实现去重,重复出现的数值不再出现。
使用sort -t指定分隔符,-k指定字段为3 -n按照数值排序 指定文件,实现用户的uid号排序
cat file | sort 选项
常用选项:
-n:按照数字进行排序
-r:反向排序
-u:等同于uniq,表示相同的数据仅显示一行
-t:指定字段分隔符,默认使用[Tab]键分隔
-k:指定排序字段
-o <输出文件>:将排序后的结果转存至指定文件
-f:忽略大小写,会将小写字母都转换为大写字母来进行比较
-b:忽略每行前面的空格
sort -n testfile2
sort -t ':' -k 3 -n /etc/passwd
du -a | sort -nr -o du.txt
uniq命令
uniq命令---用于报告或者忽略文件中连续的重复行,常与 sort 命令结合使用
语法格式:
uniq [选项] 参数
cat file | uniq 选项
先使用sort进行排序,接管道符号uniq进行去重
对重复出现的数字进行统计
加上-d和-u分别输出连续重复的行内容和不连续的行内容。
常用选项:
-c:进行计数,并删除文件中重复出现的行
-d:仅显示连续的重复行
-u:仅显示出现一次的行
uniq testfile3
sort -n testfile3 | uniq -c
tr 命令
tr命令---常用来对来自标准输入的字符进行替换、压缩和删除
语法格式:
tr [选项] [参数]
常用选项:
-c:保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换
-d:删除所有属于字符集1的字符
-s:将重复出现的字符串压缩为一个字符;用字符集2 替换 字符集1
-t:字符集2 替换 字符集1,不加选项同结果。
echo "abcefg" | tr 'a-z' 'A-Z'
实现英文字母大小写的互换
设置第一个字符a-d,后面的字符为0,则输出的结果就会除了a-d后面的字符包括换行符都回变成0
当我们加上反斜杠,换行符也就不会被替代掉了。
参数:
字符集1:指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2”;
字符集2:指定要转换成的目标字符集。
echo -e "abc\ncabcdab" | tr -c "ab\n" "0"
echo -e "abc\ncabcdab" | tr -c "ab" "0"
echo 'hello world' | tr -d 'od'
删除指定的内容
echo "thissss is a test linnnnnnne." | tr -s 'sn'
删除空行
echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
cat testfile5 | tr -s "\n"
把路径变量中的冒号":",替换成换行符"\n"
echo $PATH | tr -s ":" "\n"
echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"
删除Windows文件“造成”的'^M'字符:
cat abc.txt | tr -s "\r" "\n" > new_file
或
cat abc.txt | tr -d "\r" > new_file
Linux中遇到换行符("\n")会进行回车+换行的操作,回车符反而只会作为控制字符("^M")显示,不发生回车的操作。而windows中要回车符+换行符("\r\n")才会回车+换行,缺少一个控制符或者顺序不对都不能正确的另起一行。
cat -A abc.txt
cat -v abc.txt
dos2unix abc.txt
数组排序
echo ${array[*]} | tr ' ' '\n' | sort -n > file
a=0
for i in $(cat file)
do
array[$a]=$i
let a++
#array+=($i)
done
cut 命令
cut命令---显示行中的指定部分,删除文件中指定字段
语法格式:
cut 参数
cat file | cut 选项
常用选项:
-f :通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分隔符。
-d :“TAB”是默认的分隔符,使用此选项可以更改为其他的分隔符。
--complement :此选项用于排除所指定的字段。
--output-delimiter :更改输出内容的分隔符。
cut -d ':' -f 1 /etc/passwd
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7 #以-分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2 #排除第二个字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/passwd #输出分隔符使用空格分隔
i=123456789
echo $i | cut -b 1-3 #起始位置从1开始
123
echo ${i:0:3} #起始位置从0开始
expr substr $i 1 3 #起始位置从1开始
split 命令
split命令---linux下将一个大的文件拆分成若干小文件
语法格式:
split 选项 参数 原始文件 拆分后文件名前缀
常用选项:
–l :以行数拆分
–b :以大小拆分
split -l 50 /etc/passwd passwd
#以50行对文件进行拆分,最后一个文件的行数没有50行以实际行数进行分配
如何将一个10G文件分割为10个1G的文件 split -b 1G -d 原文件 目标文件名前缀
如何将一个100行文件分割为10个10行的文件 split -l 10 -d 原文件 目标文件名前缀
paste命令
paste命令---用于合并文件的列
paste [-s][-d <间隔字符>] 文件...
常用选项:
-d<间隔字符> :用指定的间隔字符取代制表符
-s :把多行内容合并为一行进行显示
文件替换。
eval命令
命令字前加上eval时,shell会在执行命令之前扫描它两次。eval命令将首先会先扫描命令行进行所有的置换,然后再执行该命令。该命令适用于那些一次扫描无法实现其功能的变量。该命令对变量进行两次扫描。
示例1:
echo "hello world" > file
myfile="cat file"
echo $myfile
eval $myfile
示例2:
vim test.sh
#!/bin/bash
eval echo \$$#
./test.sh 1 2 3 4
得4
示例3:
a=100
b=a
eval echo \$$b
100
eval $b=50
echo $a
50
正则表达式
正则表达式---通常用于判断语句中,用来检查某一字符串是否满足某一格式
正则表达式是由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号
元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符或表达式)在目标对象中的出现模式
基础正则表达式常见元字符:(支持的工具:grep、egrep、sed、awk)
\ :转义字符,用于取消特殊符号的含义,例:\!、\n、\$等
^ :匹配字符串开始的位置,例:^a、^the、^#、^[a-z]
$ :匹配字符串结束的位置,例:word$、^$匹配空行
. :匹配除\n之外的任意的一个字符,例:go.d、g..d
* :匹配前面子表达式0次或者多次,例:goo*d、go.*d
[list] :匹配list列表中的一个字符,例:go[ola]d,[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字
[^list] :匹配任意非list列表中的一个字符,例:[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母
\{n\} :匹配前面的子表达式n次,例:go\{2\}d、'[0-9]\{2\}'匹配两位数字
\{n,\} :匹配前面的子表达式不少于n次,例:go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字
\{n,m\} :匹配前面的子表达式n到m次,例:go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字
注:egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”
\w :匹配包括下划线的任何单词字符。\W :匹配任何非单词字符。等价于“[^A-Za-z0-9_]”。
\d :匹配一个数字字符。\D :匹配一个非数字字符。等价于 [^0-9]。 grep -P
\s :空白符。\S :非空白符
扩展正则表达式元字符:(支持的工具:egrep、awk)grep -E sed -r
+ :匹配前面子表达式1次以上,例:go+d,将匹配至少一个o,如god、good、goood等
? :匹配前面子表达式0次或者1次,例:go?d,将匹配gd或god
() :将括号中的字符串作为一个整体,例:g(oo)+d,将匹配oo整体1次以上,如good、gooood等
| :以或的方式匹配字符串,例:g(oo|la)d,将匹配good或者glad
正则表达式匹配E-mail地址
用户名@ :^([a-zA-Z0-9_\-\.\+]+)@
子域名 :([a-zA-Z0-9_\-\.]+)
.顶级域名(字符串长度一般在2到5) :\.([a-zA-Z]{2,5})$
egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt