当前位置:首页 > 科技  > 软件

提升效率必备!学习 awk 命令,轻松搞定数据

来源: 责编: 时间:2024-09-10 09:45:05 26观看
导读在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握

在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握这门工具。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

awk选项

awk 命令的使用方式如下:kPO28资讯网——每日最新资讯28at.com

awk options program file

awk 可以采用以下选项:kPO28资讯网——每日最新资讯28at.com

  • -F:fs指定文件分隔符。
  • -f:文件指定包含 awk 脚本的文件。
  • -v:var=值声明变量。

我们将了解如何使用awk处理文件和打印结果。kPO28资讯网——每日最新资讯28at.com

读取AWK脚本

要定义awk脚本,请使用用单引号括起来的大括号,如下所示:kPO28资讯网——每日最新资讯28at.com

awk '{print "Welcome to awk command tutorial "}'

如果您键入任何内容,它将返回我们提供的相同欢迎字符串。如下图所示:kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

要终止程序,请按Ctrl+D。看起来很棘手,不要惊慌,最好的还没有到来。kPO28资讯网——每日最新资讯28at.com

使用变量

使用awk,可以处理文本文件。Awk为找到的每个数据字段分配一些变量:kPO28资讯网——每日最新资讯28at.com

  • $0:是输出整行的内容。
  • $1:是输出第一个字段。
  • $2:是输出第二个字段。
  • $n:表示第n个字段。

在awk中,空格或制表符等空白字符是字段之间的默认分隔符。看看这个例子,看看awk是如何处理它的:kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

上面的示例打印了每行的第一个单词。kPO28资讯网——每日最新资讯28at.com

有时某些文件中的分隔符不是空格或tab,而是其他内容。您可以使用–F选项指定它:kPO28资讯网——每日最新资讯28at.com

awk -F ':' '{print $1}' /etc/passwd

kPO28资讯网——每日最新资讯28at.com

此命令将打印passwd文件中的第一个字段。我们使用冒号作为分隔符,因为passwd文件使用它。kPO28资讯网——每日最新资讯28at.com

使用多个命令

要运行多个命令,请用分号分隔它们,如下所示:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# echo "Hello Tom" | awk '{$2="Adam"; print $0}'Hello Adam

第一个命令使 $2字段等于Adam。第二个命令打印整行。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

从文件中读取脚本

您可以在文件中键入awk脚本,并使用 -f 选项指定该文件。我们的文件包含以下脚本:kPO28资讯网——每日最新资讯28at.com

{print $1 " home at " $6}
 awk -F: -f testfile /etc/passwd

kPO28资讯网——每日最新资讯28at.com

在这里,我们从 /etc/passwd打印用户名和他的主路径,当然分隔符是用大写的-F指定的,即冒号。kPO28资讯网——每日最新资讯28at.com

你可以像这样awk脚本文件:kPO28资讯网——每日最新资讯28at.com

{text = $1 " home at " $6print t

awk预处理

如果您需要为结果创建标题或表头等。您可以使用BEGIN关键字来实现此目的。它在处理数据之前运行:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0}' myfile

执行上述代码输入如下图的结果:kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

awk后处理

要在处理数据后运行脚本,请使用END关键字:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0} END {print "this footer"}' myfile

执行上述代码输出如下图的结果:kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

这很有用,例如,您可以使用它来添加页脚。让我们将它们组合到一个脚本文件中:kPO28资讯网——每日最新资讯28at.com

BEGIN {print "Users and thier corresponding home"print " UserName /t HomePath"print "___________ /t __________"FS=":"}{print $1 "  /t  " $6}END {print "The end"

首先,使用BEGIN关键字创建顶部部分。然后我们定义FS并在末尾打印页脚。kPO28资讯网——每日最新资讯28at.com

 awk -f myscript  /etc/passwd

kPO28资讯网——每日最新资讯28at.com

内置变量

我们看到数据字段变量$1,$2,$3等用于提取数据字段,我们还处理字段分隔符FS。kPO28资讯网——每日最新资讯28at.com

但这些并不是唯一的变量,还有更多的内置变量。kPO28资讯网——每日最新资讯28at.com

下面列出了一些内置变量:kPO28资讯网——每日最新资讯28at.com

  • FIELDWIDTHS:指定字段宽度。
  • RS:指定记录分隔符。
  • FS:指定字段分隔符。
  • OFS:输出分隔符。
  • ORS:输出分隔符。

默认情况下,OFS变量是空格,你可以设置OFS变量来指定你需要的分隔符:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN {FS=":";OFS="---"} {print $1,$6,$7}' /etc/passwd

kPO28资讯网——每日最新资讯28at.com

有时,字段的分布没有固定的分隔符。在这些情况下,FIELDWIDTHS 变量可以解决问题。kPO28资讯网——每日最新资讯28at.com

假设我们有以下内容:kPO28资讯网——每日最新资讯28at.com

1235.96521927-8.365236257.8157
awk 'BEGIN{FIELDWIDTHS="3 4 3"}{print $1,$2,$3}' testfile

查看输出。输出字段为每行3个,每个字段长度都基于我们由FIELDWIDTH分配的字段。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

更多的变量

还有一些其他变量可以帮助你获取更多信息:kPO28资讯网——每日最新资讯28at.com

  • ARGC:获取传递的参数数量。
  • ARGV:获取命令行参数。
  • ENVIRON :shell环境变量及其对应值的数组
  • FILENAME:awk处理的文件名。
  • NF :Fields正在处理的行数。
  • NR:检索处理过的记录总数。
  • FNR:被处理的记录。

IGNORECASE:忽略字符的大小写。kPO28资讯网——每日最新资讯28at.com

让我们测试一下。kPO28资讯网——每日最新资讯28at.com

root@didiplus:~#  awk 'BEGIN{print ARGC,ARGV[1]}' myfile2 myfile

ENVIRON变量检索shell环境变量,如下所示:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN {print ENVIRON["PATH"]}'/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin

您可以使用不带ENVIRON变量的 bash 变量,如下所示:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# echo | awk -v home=$HOME '{print "My home is" home}'My home is/root

NF变量指定记录中的最后一个字段,但不知道其位置:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=":"; OFS=":"} {print $1,$NF}' /etc/passwd

kPO28资讯网——每日最新资讯28at.com

如果像这样键入NF变量,则可以将其用作数据字段变量:$NF。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

让我们看一下这两个例子来了解FNR和NR变量之间的区别:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=","}{print $1,"FNR="FNR}' myfile myfile

kPO28资讯网——每日最新资讯28at.com

在此示例中,awk命令定义两个输入文件。相同的文件,但处理了两次。输出是第一个字段值和FNR变量。kPO28资讯网——每日最新资讯28at.com

现在,检查NR变量并查看差异:kPO28资讯网——每日最新资讯28at.com

$ awk 'BEGIN {FS=","}{print $1,"FNR="FNR,"NR="NR}END{print "Total",NR,"processed lines"}' myfile myfile

kPO28资讯网——每日最新资讯28at.com

当涉及到第二个文件时,FNR变量变为1,但NR变量保留其值。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

用户自定义变量

变量名称可以是任何内容,但不能以数字开头。您可以像在shell脚本中一样分配变量,如下所示:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN{test="Welcome to LikeGeeks website"print test}'

执行上述命令后,输出如下结果:kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

结构化命令

1.if循环

awk脚本语言支持if条件语句。testfile包含以下内容:kPO28资讯网——每日最新资讯28at.com

101563345
root@didiplus:~# awk '{if ($1 > 30) print $1}' testfile3345

如果要运行多个语句,则应使用大括号:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x}}' testfile99

您可以使用如下所示的else语句:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x} else{x = $1 / 2print x}}' testfile57.5399135

或者在同一行中键入它们,并用分号分隔 if 语句,如下所示:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{ if ($1>20) print $1*2;else print $1/2}' testfile57.536690

2.while循环

您可以使用while循环遍历具有条件的数据。kPO28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $ii++}average = sum / 3print "Average:",average}' testfile
  • $i:是取到testfile的每一列的值
  • while循环运行,每次它都会向sum变量加$i的值,直到 i 变量变为 4。

kPO28资讯网——每日最新资讯28at.com

您可以使用break命令退出循环,如下所示:kPO28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $iif (i == 3) breaki++}average = sum / 3print "Average:",average}' testfile

结果还是和上面的输出的一样。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

3.for循环

awk脚本语言支持for循环:kPO28资讯网——每日最新资讯28at.com

awk '{total = 0for (var = 1; var < 5; var++){total += $var}avg = total / 3print "Average:",avg}' testfile

格式化打印

awk中的printf命令允许你使用格式说明符打印出格式化的输出。kPO28资讯网——每日最新资讯28at.com

格式说明符如下所示:kPO28资讯网——每日最新资讯28at.com

%[modifier]control-letter

下面列出了可用于printf的格式说明符:kPO28资讯网——每日最新资讯28at.com

  • c:以字符串的形式打印数值输出。
  • d:打印一个整数值。
  • e:打印科学数字。
  • f:打印浮点数。
  • o:打印一个八进制值。
  • s:打印文本字符串。

这里我们使用printf来格式化输出:kPO28资讯网——每日最新资讯28at.com

awk 'BEGIN{x = 100 * 100printf "The result is: %e/n", x}'

kPO28资讯网——每日最新资讯28at.com

内置函数

Awk提供了几个内置函数,例如:kPO28资讯网——每日最新资讯28at.com

1.数学函数

如果你喜欢数学,你可以在awk脚本中使用这些函数:kPO28资讯网——每日最新资讯28at.com

  • sin(x)
  • cos(x)
  • sqrt(x)
  • exp(x)
  • log(x)
  • rand()

而且它们可以正常使用:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x=exp(5); print x}'148.413

2.字符串函数

有很多字符串函数,你可以查看列表,但我们将其中一个作为示例来研究,其余的都是一样的:kPO28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x = "likegeeks"; print toupper(x)}'LIKEGEEKS

函数 toupper将传递的字符串的字符大小写转换为大写。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

3.用户自定义函数

您可以定义您的函数并像这样使用它们:kPO28资讯网——每日最新资讯28at.com

awk 'function myfunc(){printf "The user %s has home path at %s/n", $1,$6}BEGIN{FS=":"}{myfunc()}' /etc/passwd

在这里,我们定义了一个名为myprint的函数,然后在脚本中使用它通过printf函数打印输出。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

总结

AWK是一款功能强大的数据处理工具,它能够高效地处理复杂的文本文件和数据集。无论你是需要处理日志、统计数据,还是生成格式化的报表,AWK都能轻松胜任。通过熟练掌握AWK命令,你可以极大提升工作效率,轻松应对各种数据处理任务。kPO28资讯网——每日最新资讯28at.com

kPO28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-112708-0.html提升效率必备!学习 awk 命令,轻松搞定数据

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: WPF 入门知识:XAML 详解

下一篇: 将目标检测模型导出到C++|RT-DETR、YOLO-NAS、YOLOv10、YOLOv9、YOLOv8

标签:
  • 热门焦点
Top