ich eine HAProxy Protokolldatei mit Inhalt haben wie folgt aus:Hinzufügen einer weiteren Spalte zu awk Ausgang
Feb 28 11:16:10 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:01.220] frontend backend_srvs/srv1 9063/0/0/39/9102 200 694 - - --VN 9984/5492/191/44/0 0/0 {Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36|http://subdomain.domain.com/location1} "GET /location1 HTTP/1.1"
Feb 28 11:16:10 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.322] frontend backend_srvs/srv1 513/0/0/124/637 200 14381 - - --VN 9970/5491/223/55/0 0/0 {Mozilla/5.0 AppleWebKit/537.36 Chrome/56.0.2924.87 Safari/537.36|http://subdomain.domain.com/location2} "GET /location2 HTTP/1.1"
Feb 28 11:16:13 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.960] frontend backend_srvs/srv1 2245/0/0/3/2248 200 7448 - - --VN 9998/5522/263/54/0 0/0 {another user agent with fewer columns|http://subdomain.domain.com/location3} "GET /location3 HTTP/1.1"
Feb 28 11:16:13 localhost haproxy[20072]: 88.88.88.88:6152 [28/Feb/2017:11:16:10.960] frontend backend_srvs/srv1 2245/0/0/3/2248 200 7448 - - --VN 9998/5522/263/54/0 0/0 {Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36|} "GET /another_location HTTP/1.1"
Ich möchte einige der Felder extrahieren, um die folgende Ausgabe zu haben:
Field 1 Field 2 Field 3 Field 4 Field 5 Field 6
Date/time HTTP status code HTTP Method Request HTTP version Referer URL
Grundsätzlich ist in diesem speziellen Fall sollte die Ausgabe sein:
Feb 28 11:16:10 200 GET /location1 HTTP/1.1 http://subdomain.domain.com/location1
Feb 28 11:16:10 200 GET /location2 HTTP/1.1 http://subdomain.domain.com/location2
Feb 28 11:16:13 200 GET /location3 HTTP/1.1 http://subdomain.domain.com/location3
Feb 28 11:16:13 200 GET /another_location HTTP/1.1
das einzige Problem hier ist das Extrahieren der Referer-URL Das ist zwischen geschweiften Klammern zusammen mit dem User-Agent und sie sind durch eine Pipe getrennt. Außerdem hat der Benutzeragent eine variable Anzahl von Feldern.
Die einzige Lösung, die ich getrennt von wurde Extrahieren der Referer-URL einfiel und einfügen und dann die Spalten zusammen:
requests_temp=`grep -F " 88.88.88.88:" /root/file.log | tr -d '"'`
requests=`echo "${requests_temp}" | awk '{print $1" "$2" "$3" "$11, $(NF-2), $(NF-1), $NF}' > /tmp/requests_tmp`
referer_url=`echo "${requests_temp}" | awk 'NR > 1 {print $1}' RS='{' FS='}' | awk -F'|' '{ print $2 }' > /tmp/referer_url_tmp`
paste /tmp/abuse_requests_tmp /tmp/referer_url_tmp
Aber ich weiß nicht wirklich wie diese Methode. Gibt es eine andere Möglichkeit, wie ich es mit nur einer Awk-Linie machen kann? Vielleicht weisen Sie die Verweis-URL-Spalte einer Variablen in awk zu und verwenden Sie sie dann, um die gleiche Ausgabe zu erstellen?
Sie haben vergessen, die Filter für IP-Adresse (88.88.88.88) hinzufügen, wenn meine Datei einen weiteren Wert mit unterschiedlichen IP hat, die mit Ihrer Lösung gedruckt werden erhält auch. –
@VIPINKUMAR Ich habe gerade diesen Zustand hinzugefügt, danke ... – oliv