- 浏览: 19090 次
最新评论
一个年轻的程序员问一个老程序员(一个比较牛逼的公司的CTO) 年轻程序员: 你为什么这么牛X., 就好像没有你不会的。老程序员: 积累的。年轻程序员: 怎么才能积累到您的程度呢。我每天都在积累。但是似乎都没有感觉到进步。老程序员: 我从20岁开始做到了一件事情,直到今天,而且尽可能地保证不间断。年轻程序员: 到底是什么? 老程序员: 我每天保证自己有2个小时在学习新的东西。
awk是一种编程语言,用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件,或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。它在命令行中使用,但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的,它逐行扫描文件,从第一行到最后一行,寻找匹配的特定模式的行,并在这些行上进行你想要的操作。如果没有指定处理动作,则把匹配的行显示到标准输出(屏幕),如果没有指定模式,则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人,分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本,它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的,在linux系统中已把awk链接到gawk,所以下面全部以awk进行介绍。 -F fs or --field-separator fs
指定输入文件折分隔符,fs是一个字符串或者是一个正则表达式,如-F:。 -v var=value or --asign var=value
赋值一个用户定义变量。 -f scripfile or --file scriptfile
从脚本文件中读取awk命令。 -mf nnn and -mr nnn
对nnn值设置内在限制,-mf选项限制分配给nnn的最大块数目;-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能,在标准awk中不适用。 -W compact or --compat, -W traditional or --traditional
在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样,所有的awk扩展都被忽略。 -W copyleft or --copyleft, -W copyright or --copyright
打印简短的版权信息。 -W help or --help, -W usage or --usage
打印全部awk选项和每个选项的简短说明。 -W lint or --lint
打印不能向传统unix平台移植的结构的警告。 -W lint-old or --lint-old
打印关于不能向传统unix平台移植的结构的警告。 -W posix
打开兼容模式。但有以下限制,不识别:\x、函数关键字、func、换码序列以及当fs是一个空格时,将新行作为一个域分隔符;操作符**和**=不能代替^和^=;fflush无效。 -W re-interval or --re-inerval
允许间隔正则表达式的使用,参考(grep中的Posix字符类),如括号表达式[[:alpha:]]。 -W source program-text or --source program-text
使用program-text作为源代码,可与-f命令混用。 -W version or --version
打印bug报告信息的版本。 awk脚本是由模式和操作组成的:
pattern {action} 如$ awk '/root/' test,或$ awk '$3 正则表达式/:使用通配符的扩展集。 关系表达式:可以用下面运算符表中的关系运算符进行操作,可以是字符串或数字的比较,如$2>%1选择第二个字段比第一个字段长的行。 模式匹配表达式:用运算符~(匹配)和~!(不匹配)。 模式,模式:指定一个行的范围。该语法不能包括BEGIN和END模式。 BEGIN:让用户指定在第一条输入记录被处理之前所发生的动作,通常可在这里设置全局变量。 END:让用户在最后一条输入记录被读取之后发生的动作。 操作由一人或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内。主要有四部份: Table 1. awk的环境变量 变量 描述
$n 当前记录的第n个字段,字段间由FS分隔。
$0 完整的输入记录。
ARGC 命令行参数的数目。
ARGIND 命令行中当前文件的位置(从0开始算)。
ARGV 包含命令行参数的数组。
CONVFMT 数字转换格式(默认值为%.6g)
ENVIRON 环境变量关联数组。
ERRNO 最后一个系统错误的描述。
FIELDWIDTHS 字段宽度列表(用空格键分隔)。
FILENAME 当前文件名。
FNR 同NR,但相对于当前文件。
FS 字段分隔符(默认是任何空格)。
IGNORECASE 如果为真,则进行忽略大小写的匹配。
NF 当前记录中的字段数。
NR 当前记录数。
OFMT 数字的输出格式(默认值是%.6g)。
OFS 输出字段分隔符(默认值是一个空格)。
ORS 输出记录分隔符(默认值是一个换行符)。
RLENGTH 由match函数所匹配的字符串的长度。
RS 记录分隔符(默认是一个换行符)。
RSTART 由match函数所匹配的字符串的第一个位置。
SUBSEP 数组下标分隔符(默认值是\034)。
Table 2. 运算符 运算符 描述
= += -= *= /= %= ^= **= 赋值
?: C条件表达式
|| 逻辑或
&& 逻辑与
~ ~! 匹配正则表达式和不匹配正则表达式
>= != == 关系运算符
空格 连接
+ - 加,减
* / & 乘,除与求余
+ - ! 一元加,减和逻辑非
^ *** 求幂
++ -- 增加或减少,作为前缀或后缀
$ 字段引用
in 数组成员
awk把每一个以换行符结束的行称为一个记录。
记录分隔符:默认的输入和输出的分隔符都是回车,保存在内建变量ORS和RS中。
$0变量:它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。
变量NR:一个计数器,每处理完一条记录,NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录,并在记录前显示记录号。 记录中每个单词称做"域",默认情况下以空格或tab分隔。awk可跟踪域的个数,并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。 内建变量FS保存输入域分隔符的值,默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一,第五列的内容。
可以同时使用多个域分隔符,这时应该把分隔符写成放到方括号中,如$awk -F'[:\t]' '{print $1,$3}' test,表示以空格、冒号和tab作为分隔符。
输出域的分隔符默认是一个空格,保存在OFS中。如$ awk -F: '{print $1,$5}' test,$1和$5间的逗号就是OFS的值。 一般通用的元字符集就不讲了,可参考我的Sed和Grep学习笔记。以下几个是gawk专用的,不适合unix版本的awk。 \Y
匹配一个单词开头或者末尾的空字符串。 \B
匹配单词内的空字符串。 \
匹配一个单词的末尾的空字符串,锚定末尾。 \w
匹配一个字母数字组成的单词。 \W
匹配一个非字母数字组成的单词。 \'
匹配字符串开头的一个空字符串。 \'
匹配字符串末尾的一个空字符串。 用来在记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。 conditional expression1 ? expression2: expression3,例如:$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一个域大于第三个域,$1就赋值给max,否则$3就赋值给max。
$ awk '$1 + $2 5 && $2 正则表达式test,则第一个域加10并打印出来。 $ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一个域大于5则打印问号后面的表达式值,否则打印冒号后面的表达式值。 $ awk '/^root/,/^mysql/' test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录,则继续打印直到下一个以正则表达式mysql开头的记录为止,或到文件末尾。 在awk中,变量不需要定义就可以直接使用,变量类型可以是数字或字符串。 赋值格式:Variable = expression,如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先扫描第一个域,一旦test匹配,就把第二个域的值加上第三个域的值,并把结果赋值给变量count,最后打印出来。 awk可以在命令行中给变量赋值,然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004 test,上式的month和year都是自定义变量,分别被赋值为4和2004。在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。注意,如果参数前面出现test,那么在BEGIN语句中的变量就不能被使用。 域变量也可被赋值和修改,如$ awk '{$2 = 100 + $1; print }' test,上式表示,如果第二个域不存在,awk将计算表达式100加$1的值,并将其赋值给$2,如果第二个域存在,则用表达式的值覆盖$2原来的值。再例如:$ awk '$1 == "root"{$1 ="test";print}' test,如果第一个域的值是"root",则把它赋值为"test",注意,字符串一定要用双引号。 内建变量的使用。变量列表在前面已列出,现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test,把IGNORECASE设为1代表忽略大小写,打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。 BEGIN模块后紧跟着动作块,这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值,如OFS,RS和FS等,以及打印标题。如:$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示,在处理输入文件以前,域分隔符(FS)被设为冒号,输出文件分隔符(OFS)被设置为制表符,输出记录分隔符(ORS)被设置为两个换行符。$ awk 'BEGIN{print "TITLE TEST"}只打印标题。 END不匹配任何的输入文件,但是执行动作块中的所有动作,它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number of records is" NR}' test,上式将打印所有被处理的记录数。 awk可使用shell的重定向符进行重定向输出,如:$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100,则把它输出到output_file中。也可以用>>来重定向输出,但不清空文件,只做追加操作。 输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容,并给NF,NR和FNR等内建变量赋值。如果得到一条记录,getline函数返回1,如果到达文件的末尾就返回0,如果出现错误,例如打开文件失败,就返回-1。如:
$ awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量d,并打印它。
$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给d,split函数把变量d转化成数组mon,然后打印数组mon的第二个元素。
$ awk 'BEGIN{while( "ls" | getline) print}',命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为BEGIN块在打开输入文件前执行,所以可以忽略输入文件。
$ awk 'BEGIN{printf "What is your name?"; getline name 0) lc++; print lc}'。awk将逐行读取文件/etc/passwd的内容,在到达文件末尾前,计数器lc一直增加,当到末尾时,打印lc的值。注意,如果文件不存在,getline返回-1,如果到达文件的末尾就返回0,如果读到一行,就返回1,所以命令 while (getline 100) print $1 "bad" ; else print "ok"}' test。如果$1大于100则打印$1 bad,否则打印ok。
$ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大于100,则count加一,并打印$1,否则count减一,并打印$1。 14.5.3. if/else else if语句,用于多重判断。
awk有三种循环:while循环;for循环;special for循环。 $ awk '{ i = 1; while ( i 正则表达式,并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下: sub (regular expression, substitution string): sub (regular expression, substitution string, target string)
实例: $ awk '{ sub(/test/, "mytest"); print }' testfile $ awk '{ sub(/test/, "mytest"); $1}; print }' testfile
第一个例子在整个记录中匹配,替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub
第二个例子在整个记录的第一个域中进行匹配,替换只发生在第一次匹配发生的时候。 gsub函数作用如sub,但它在整个文档中进行匹配。格式如下: gsub (regular expression, substitution string) gsub (regular expression, substitution string, target string)
实例: $ awk '{ gsub(/test/, "mytest"); print }' testfile $ awk '{ gsub(/test/, "mytest"), $1 }; print }' testfile
第一个例子在整个文档中匹配test,匹配的都被替换成mytest。
第二个例子在整个文档的第一个域中匹配,所有匹配的都被替换成mytest。 index函数返回子字符串第一次被匹配的位置,偏移量从位置1开始。格式如下: index(string, substring)
实例: $ awk '{ print index("test", "mytest") }' testfile
实例返回test在mytest的位置,结果应该是3。 length函数返回记录的字符数。格式如下: length( string ) length
实例: $ awk '{ print length( "test" ) }' $ awk '{ print length }' testfile
第一个实例返回test字符串的长度。
第二个实例返回testfile文件中第条记录的字符数。 substr函数返回从位置1开始的子字符串,如果指定长度超过实际长度,就返回整个字符串。格式如下: substr( string, starting position ) substr( string, starting position, length of string )
实例: $ awk '{ print substr( "hello world", 7,11 ) }'
上例截取了world子字符串。 match函数返回在字符串中正则表达式位置的索引,如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置,RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下: match( string, regular expression )
实例: $ awk '{start=match("this is a test",/[a-z]+$/); print start}' $ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'
第一个实例打印以连续小写字符结尾的开始位置,这里是11。
第二个实例还打印RSTART和RLENGTH变量,这里是11(start),11(RSTART),4(RLENGTH)。 toupper和tolower函数可用于字符串大小间的转换,该功能只在gawk中有效。格式如下: toupper( string ) tolower( string )
实例: $ awk '{ print toupper("test"), tolower("TEST") }'
split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供,则按当前FS值进行分割。格式如下: split( string, array, field separator ) split( string, array )
实例: $ awk '{ split( "20:18:00", time, ":" ); print time[2] }'
上例把时间按冒号分割到time数组内,并显示第二个数组元素18。 systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下: systime()
实例: $ awk '{ now = systime(); print now }'
strftime函数使用C库中的strftime函数格式化时间。格式如下: systime( [format specification][,timestamp] )
Table 3. 日期和时间格式说明符 格式 描述
%a 星期几的缩写(Sun)
%A 星期几的完整写法(Sunday)
%b 月名的缩写(Oct)
%B 月名的完整写法(October)
%c 本地日期和时间
%d 十进制日期
%D 日期 08/20/99
%e 日期,如果只有一位会补上一个空格
%H 用十进制表示24小时格式的小时
%I 用十进制表示12小时格式的小时
%j 从1月1日起一年中的第几天
%m 十进制表示的月份
%M 十进制表示的分钟
%p 12小时表示法(AM/PM)
%S 十进制表示的秒
%U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
%w 十进制表示的星期几(星期天是0)
%W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
%x 重新设置本地日期(08/20/99)
%X 重新设置本地时间(12:00:00)
%y 两位数字表示的年(99)
%Y 当前月份
%Z 时区(PDT)
%% 百分号(%)
实例: $ awk '{ now=strftime( "%D", systime() ); print now }' $ awk '{ now=strftime("%m/%d/%y"); print now }'
Table 4. 函数名称 返回值
atan2(x,y) y,x范围内的余切
cos(x) 余弦函数
exp(x) 求幂
int(x) 取整
log(x) 自然对数
rand() 随机数
sin(x) 正弦
sqrt(x) 平方根
srand(x) x是rand()函数的种子
int(x) 取整,过程没有舍入
rand() 产生一个大于等于0而小于1的随机数
在awk中还可自定义函数,格式如下:
发表评论
-
(转载)C++中枚举与字符串相互转换
2012-07-06 09:52 4209有的时候我们喜欢使用一些外部的文件保存管理一些配置信息,这 ... -
正则表达式中附加参数的用法
2012-07-06 09:38 631附件参数g的用法: 1)对于表达式对象的exec方法, ... -
asp.net gridview美化
2012-07-06 09:30 1288i am now in university(HIT@We ... -
javascript js 删除表格的行、单元列
2012-07-05 20:45 659大发现,大家在贴代码的时候。系统会自动加上一些代码或注释之 ... -
具有可过滤功能的JList组件【Swing】
2012-07-03 13:44 806【场景】:在一个列表中,可以通过输入某个字符,而动态过滤列 ... -
Flex应用程序背景颜色渐变
2012-07-02 12:29 632今天突然看见CSDN一个美女高手写的小东西,发现Flex背 ... -
Flex操作Json数据示例
2012-07-02 12:29 698Flex操作Json数据示例 本示例中需要用到JSO ... -
FLEX4中 获取JSON数据的一个例子
2012-07-02 12:29 805公司要求使用JSON格式来获取服务器端的数据 通过 ... -
Flex获取操作XML示例
2012-07-02 12:28 539/****** ".",&qu ... -
Flex 4 Canvas backgroundImage 问题
2012-07-02 12:28 756倾听,慎言,勇行,自省... ... -
GNU Make 中文手册v3.8 学习 ( 3/3 )
2012-07-01 10:05 1030GNU Make 中文手册v3.8 学习 ( 3/3 ) ... -
Web前端开发之“常见模块你真的很了解吗?”
2012-07-01 10:05 759标题和内容模 ... -
Lex和yacc工具介绍
2012-07-01 10:05 930在编译过程中,词 ... -
谈谈我对未来的想法吧
2012-07-01 10:05 695来总行珠海研发中 ... -
终于搞清楚了Flex到底是收费还是免费
2012-06-30 16:30 1629终于搞清楚了Flex到底是收费还是免费 2010年06月29 ... -
结合实际项目谈谈Extjs、Flex、Jquery等富因特网时代框架的用武之处
2012-06-30 16:30 687结合实际项目谈谈Extjs ... -
全面认识Flex安全沙箱
2012-06-30 16:30 620全面认识Flex安全沙箱 2 ... -
为Flex应用添加实时组件
2012-06-30 16:30 468为Flex应用添加实时组件 2011年06月30日 在很 ... -
Flex socket通信实践学习笔记(2)-1
2012-06-30 16:30 632Flex socket通信实践学习 ...
相关推荐
awk 教程入门到精通 awk 是一种功能强大的文本处理工具,它可以对文本进行处理、格式化和输出。awk 的主要用途是处理文本文件,提取和处理数据,生成报表等。下面是一份 awk 教程,从基础知识到高级应用,涵盖了 ...
通过学习这个AWK教程,你将掌握如何利用AWK的强大功能处理日常文本处理任务,提高工作效率,并为更高级的数据分析打下坚实的基础。无论是进行数据提取、过滤、格式转换还是报告生成,AWK都将成为你不可或缺的工具。
- **《awk 入门教程_阮一峰的网络日志》**:阮一峰老师的教程通常深入浅出,易于理解,适合快速了解awk的基本用法。 - **《在Window中使用 AWK》**:这本书可能详细介绍了如何在Windows环境下配置和使用awk,对于...
AWK是一种编程语言,主要用于Linux/Unix环境下对文本和数据的处理。它被设计为一种强大的文本处理工具,在Linux及Unix环境中作为数据处理引擎的功能非常强大。AWK语言以三位创始人Alfred Aho(艾侯)、Peter ...
这个“非常经典的awk教程”涵盖了awk的使用手册和语法小节,是学习和掌握awk语言的宝贵资源。以下将详细介绍awk及其相关知识点。 1. **awk基础知识**: - Awk是由Aho、Weinberger和Kernighan三位开发者命名的,...
### awk教程知识点详解 #### 一、awk简介 - **定义**:`awk`是一种用于文本数据处理的强大工具,属于解释型编程语言。 - **用途**:主要用于数据分析、报告生成等场景,尤其适用于处理结构化的文本文件。 #### 二...
### sed与awk教程知识点概述 #### 一、sed命令详解 **sed**(stream editor)是一种功能强大的文本处理工具,广泛应用于Linux/Unix系统中。它能够实现对文本的查找、替换、添加、删除等功能,并且支持正则表达式的...
Tutorialspoint Awk 教程.epub
### AWK实例教程知识点解析 #### 一、AWK简介及背景 - **AWK**是一种功能强大的文本处理工具,最初由贝尔实验室的Alfred Aho、Peter Weinberger和Brian Kernighan共同开发,因此得名AWK。尽管这个名字听起来有些...
**AWK教程** AWK是一种强大的文本分析工具,主要用于在Linux/Unix环境下处理文本和数据。它的名字来源于三位创建者——Alfred Aho、Brian Kernighan和Peter Weinberger的首字母。在Linux系统中,通常使用的awk实际...
Linux系统中AWK工具是专门用于文本处理的强大工具,能够帮助用户分析和处理文本文件,生成报告,进行复杂的文本分析。AWK之所以强大,是因为它是一门解释型编程语言,拥有自己的编程逻辑和语法。它由Afred Aho, ...
awk是Linux下一款非常强大的文本处理工具,可以进行模式扫描和处理,是在UNIX环境下使用的一种编程语言。其最大的特点是能够通过对文本和数据进行模式扫描和处理,来对输入的行进行复杂的操作。awk同样也被广泛用于...
本教程集合包含了关于这两种工具的丰富学习资料,包括4个PDF文档和1个DOC文件,旨在帮助用户深入理解和掌握AWK和SED的用法。 首先,我们来探讨一下AWK。AWK是一种编程语言,主要用于处理结构化的文本文件,如日志...
### Linux AWK 教程详解 #### 1. AWK 简介 AWK 是一种专门设计用于处理文本和数据的编程语言,它在 Linux 和 Unix 环境下非常流行。AWK 可以从标准输入、一个或多个文件、甚至是其他命令的输出中读取数据。它的...
《awk入门到精通》这本书是一本专为学习awk语言设计的指南,主要关注awk适用的问题类型和常用的解题策略。作者希望通过一系列具有代表性的实例,帮助读者快速掌握awk的使用技巧和特性。书中实例逐步深入,互相连贯,...
awk 是一种强大的文本分析工具,尤其在 Unix 和 Linux 环境中被广泛使用。它以其简洁的语法和高效的数据处理能力而闻名。在本文中,我们将深入学习如何使用 awk 编写脚本来处理文本。 首先,awk 通过逐行处理输入...
Awk中文学习手册 非常好哦。图文并茂。
这个"unix awk 视频教程"很可能涵盖了`awk`的基本概念、语法以及高级用法,帮助用户深入理解和应用这一实用工具。 `awk`的名字来源于它的创始人—— Alfred V. Aho、Peter J. Weinberger 和 Brian W. Kernighan 的...
GNU awk教程”进一步确认了这是一本关于GAWK的教程书籍。GAWK是GNU项目的一部分,它是一个免费软件基金会在GNU通用公共许可证下发布的软件。这本书为程序员提供了一个详细的指南,以学习如何使用这个强大的文本处理...