红联Linux门户
Linux帮助

AWK:Linux管理员的智能工具包(一)

发布时间:2005-09-10 23:33:22来源:红联作者:aini
您正在学习 Linux 吗?本文对于非常有用的 AWK 文本操作工具进行了介绍,非常有价值。

AWK 实用工具带有其自己的自包含语言,它不仅是 Linux 中也是任何环境中现有的功能最强大的数据处理引擎之一。这种编程及数据操作语言(其名称得自于它的创始人 Alfred Aho、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母)的最大功能取决于一个人所拥有的知识。它允许您创建简短的程序,这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表,还有无数其他的功能。

  AWK 是什么?

  最简单地说,AWK 是一种用于处理文本的编程语言工具。AWK 实用工具的语言在很多方面类似于 shell 编程语言,尽管 AWK 具有完全属于其本身的语法。在最初创造 AWK 时,其目的是用于文本处理,并且这种语言的基础是,只要在输入数据中有模式匹配,就执行一系列指令。该实用工具扫描文件中的每一行,查找与命令行中所给定内容相匹配的模式。如果发现匹配内容,则进行下一个编程步骤。如果找不到匹配内容,则继续处理下一行。

  尽管操作可能会很复杂,但命令的语法始终是:

awk '{pattern + action}' {filenames}

  其中 pattern 表示 AWK 在数据中查找的内容,而 action 是在找到匹配内容时所执行的一系列命令。花括号 ({}) 不需要在程序中始终出现,但它们用于根据特定的模式对一系列指令进行分组。

  了解字段

  实用工具将每个输入行分为记录和字段。记录是单行的输入,而每条记录包含若干字段。默认的字段分隔符是空格或制表符,而记录的分隔符是换行。虽然在默认情况下将制表符和空格都看作字段分隔符(多个空格仍然作为一个分隔符),但是可以将分隔符从空格改为任何其它字符。

  为了进行演示,请查看以下保存为 emp_names 的员工列表文件:

46012 DULANEY EVAN MOBILE AL
46013 DURHAM JEFF MOBILE AL
46015 STEEN BILL MOBILE AL
46017 FELDMAN EVAN MOBILE AL
46018 SWIM STEVE UNKNOWN AL
46019 BOGUE ROBERT PHOENIX AZ
46021 JUNE MICAH PHOENIX AZ
46022 KANE SHERYL UNKNOWN AR
46024 WOOD WILLIAM MUNCIE IN
46026 FERGUS SARAH MUNCIE IN
46027 BUCK SARAH MUNCIE IN
46029 TUTTLE BOB MUNCIE IN

  当 AWK 读取输入内容时,整条记录被分配给变量 $0。每个字段以字段分隔符分开,被分配给变量 $1、$2、$3 等等。一行在本质上可以包含无数个字段,通过字段号来访问每个字段。因此,命令

awk '{print $1,$2,$3,$4,$5}' names

  将会产生的打印输出是

46012 DULANEY EVAN MOBILE AL
46013 DURHAM JEFF MOBILE AL
46015 STEEN BILL MOBILE AL
46017 FELDMAN EVAN MOBILE AL
46018 SWIM STEVE UNKNOWN AL
46019 BOGUE ROBERT PHOENIX AZ
46021 JUNE MICAH PHOENIX AZ
46022 KANE SHERYL UNKNOWN AR
46024 WOOD WILLIAM MUNCIE IN
46026 FERGUS SARAH MUNCIE IN
46027 BUCK SARAH MUNCIE IN
46029 TUTTLE BOB MUNCIE IN
文章评论

共有 3 条评论

  1. aini 于 2005-09-10 23:34:36发表:

    在第四和第五个字段之间,添加一个逗号和一个空格(在引号之间),在第五个字段后面,打印一个换行符 (\n)。在 AWK 打印语句中还可以使用那些可在 echo 命令中使用的所有特殊字符,包括:

    \n(换行)
    \t(制表)
    \b(退格)
    \f(进纸)
    \r(回车)

      因此,要读取全部五个最初由制表符分隔开的字段,并且也利用制表符打印它们,您可以编程如下

    $ awk '{print $1"\t"$2"\t"$3"\t"$4"\t"$5}' emp_names
    46012 DULANEY EVAN MOBILE AL
    46013 DURHAM JEFF MOBILE AL
    46015 STEEN BILL MOBILE AL
    46017 FELDMAN EVAN MOBILE AL
    46018 SWIM STEVE UNKNOWN AL
    46019 BOGUE ROBERT PHOENIX AZ
    46021 JUNE MICAH PHOENIX AZ
    46022 KANE SHERYL UNKNOWN AR
    46024 WOOD WILLIAM MUNCIE IN
    46026 FERGUS SARAH MUNCIE IN
    46027 BUCK SARAH MUNCIE IN
    46029 TUTTLE BOB MUNCIE IN
    $

      通过连续设置多项标准并用管道 (|) 符号将其分隔开,您可以一次搜索多个模式匹配:

    $ awk '/AL|IN/' emp_names
    46012 DULANEY EVAN MOBILE AL
    46013 DURHAM JEFF MOBILE AL
    46015 STEEN BILL MOBILE AL
    46017 FELDMAN EVAN MOBILE AL
    46018 SWIM STEVE UNKNOWN AL
    46024 WOOD WILLIAM MUNCIE IN
    46026 FERGUS SARAH MUNCIE IN
    46027 BUCK SARAH MUNCIE IN
    46029 TUTTLE BOB MUNCIE IN
    $

      这样可找到每个阿拉巴马州和印第安那州居民的匹配记录。但是在试图找出居住在亚利桑那州的人时,出现了一个问题:

    $ awk '/AR/' emp_names
    46019 BOGUE ROBERT PHOENIX AZ
    46021 JUNE MICAH PHOENIX AZ
    46022 KANE SHERYL UNKNOWN AZ
    46026 FERGUS SARAH MUNCIE IN
    46027 BUCK SARAH MUNCIE IN
    $

  2. aini 于 2005-09-10 23:34:14发表:

    对同一数据集的多个命令可以用分号 (;) 分隔开。例如,在一行中打印姓名,而在另一行中打印城市和州名:

    $ awk '/AL/ {print $3,$2 ; print $4,$5}' emp_names
    EVAN DULANEY
    MOBILE AL
    JEFF DURHAM
    MOBILE AL
    BILL STEEN
    MOBILE AL
    EVAN FELDMAN
    MOBILE AL
    STEVE SWIM
    UNKNOWN AL
    $

      如果没有使用分号 (print $3,$2,$4,$5),则会在同一行中显示所有内容。另一方面,如果分别给出两个打印语句,则会产生完全不同的结果:

    $ awk '/AL/ {print $3,$2} {print $4,$5}' emp_names
    EVAN DULANEY
    MOBILE AL
    JEFF DURHAM
    MOBILE AL
    BILL STEEN
    MOBILE AL
    EVAN FELDMAN
    MOBILE AL
    STEVE SWIM
    UNKNOWN AL
    PHOENIX AZ
    PHOENIX AZ
    UNKNOWN AR
    MUNCIE IN
    MUNCIE IN
    MUNCIE IN
    MUNCIE IN
    $

      只有在列表中找到 AL 时才会给出字段三和字段二。但是,字段四和字段五是无条件的,始终打印它们。只有第一组花括号中的命令对前面紧邻的命令 (/AL/) 起作用。

      结果非常不便于阅读,可以使其稍微更清晰一些。首先,在城市与州之间插入一个空格和逗号。然后,在每两行显示之后放置一个空行:

    $ awk '/AL/ {print $3,$2 ; print $4", "$5"\n"}' emp_names
    EVAN DULANEY
    MOBILE, AL

    JEFF DURHAM
    MOBILE, AL

    BILL STEEN
    MOBILE, AL

    EVAN FELDMAN
    MOBILE, AL

    STEVE SWIM
    UNKNOWN, AL
    $

  3. aini 于 2005-09-10 23:33:44发表:

    值得注意的一项重要内容是,AWK 解释由空格分隔的五个字段,但当它打印显示内容时,在每个字段间只有一个空格。利用为每个字段指定了唯一号码的功能,您可以选择只打印特定的字段。例如,只打印每条记录的姓名时,只需选择第二个和第三个字段进行打印:

    $ awk '{print $2,$3}' emp_names
    DULANEY EVAN
    DURHAM JEFF
    STEEN BILL
    FELDMAN EVAN
    SWIM STEVE
    BOGUE ROBERT
    JUNE MICAH
    KANE SHERYL
    WOOD WILLIAM
    FERGUS SARAH
    BUCK SARAH
    TUTTLE BOB
    $

      您还可以指定按任何顺序打印字段,而无论它们在记录中是如何存在的。因此,只需要显示姓名字段,并且使其顺序颠倒,先显示名字再显示姓氏:

    $ awk '{print $3,$2}' emp_names
    EVAN DULANEY
    JEFF DURHAM
    BILL STEEN
    EVAN FELDMAN
    STEVE SWIM
    ROBERT BOGUE
    MICAH JUNE
    SHERYL KANE
    WILLIAM WOOD
    SARAH FERGUS
    SARAH BUCK
    BOB TUTTLE
    $

      使用模式

      通过包含一个必须匹配的模式,您可以选择只对特定的记录而不是所有的记录进行操作。模式匹配的最简单形式是搜索,其中要匹配的项目被包含在斜线 (/pattern/) 中。例如,只对那些居住在阿拉巴马州的员工执行前面的操作:

    $ awk '/AL/ {print $3,$2}' emp_names
    EVAN DULANEY
    JEFF DURHAM
    BILL STEEN
    EVAN FELDMAN
    STEVE SWIM
    $

      如果您不指定要打印的字段,则会打印整个匹配的条目:

    $ awk '/AL/' emp_names
    46012 DULANEY EVAN MOBILE AL
    46013 DURHAM JEFF MOBILE AL
    46015 STEEN BILL MOBILE AL
    46017 FELDMAN EVAN MOBILE AL
    46018 SWIM STEVE UNKNOWN AL
    $