2016-03-25 10 views
0

Ich versuche, die Zeichen zu entfernen: \ n, \ t und \ r aus einer Spalte in Pig, aber ich bekomme die falsche Ausgabe.Schwein - Entfernen Sie Zeilenvorschub, Rückkehr und Registerkarte

Hier ist, was ich tue:

qr_1 = LOAD 'hdfs://localhost:9000/sample.csv' USING PigStorage(',') as (Id:int,PostTypeId:int,AcceptedAnswerId:int,ParentId:int,CreationDate:chararray,DeletionDate:chararray,Score:int,ViewCount:int,Body:chararray,OwnerUserId:int,OwnerDisplayName:chararray,LastEditorUserId:int,LastEditorDisplayName:chararray,LastEditDate:chararray,LastActivityDate:chararray,Title:chararray,Tags:chararray,AnswerCount:int,CommentCount:int,FavoriteCount:int,ClosedDate:chararray,CommunityOwnedDate:chararray); 
qr_1 = FOREACH qr_1 GENERATE Id .. ViewCount, REPLACE(Body,'\n','') as Body, OwnerUserId .. ; 
qr_1 = FOREACH qr_1 GENERATE Id .. ViewCount, REPLACE(Body,'\r','') as Body, OwnerUserId .. ; 
qr_1 = FOREACH qr_1 GENERATE Id .. ViewCount, REPLACE(Body,'\t','') as Body, OwnerUserId .. ; 

Eingang:

5585779,1,5585800,,2011-04-07 18:27:54,,1432,3090250,"<p>How can I convert a <code>String</code> to an <code>int</code> in Java?</p> 

<p>My String contains only numbers and I want to return the number it represents.</p> 

<p>For example, given the string <code>""""1234""""</code> the result should be the number <code>1234</code>.</p>",537967,,2756409,user166390,2015-09-10 21:30:42,2016-03-07 00:42:49,Converting String to Int in Java?,<java><string><type-conversion>,12,0,239 

Ausgang:

(5585779,1,5585800,,2011-04-07 18:27:54,,1432,3090250,"<p>How can I convert a <code>String</code> to an <code>int</code> in Java?</p>,,,,,,,,,,,,,) 
(,,,,,,,,,,,,,,,,,,,,,) 
(,,,,,,,,,,,,,,,,,,,,) 
(,,,,,,,,,,,,,,,,,,,,,) 
(,,537967,,2756409,user166390,,,Converting String to Int in Java?,,12,0,239,,,,,,,,,) 

Was mache ich?

Danke.

Auch "\\ n" macht keinen Unterschied.

+1

Warum können Sie die Daten nicht zuerst nach Zeilen einlesen und dann über die Kommata teilen? –

+0

@ cricket_007, weil die Spalte Körper Zeilenumbrüche enthält. –

+0

Könnten Sie in der Spalte "body" keine Kommas enthalten? –

Antwort

2

Es gibt Komma in Ihren Daten und das ist, warum die Felder und das Schema nicht CSVLoader matching.Use werden und den dann Befehl REPLACE ersetzen ‚\\ t‘, ‚\\ n‘, ‚\\ r‘

<p>For example, given the string 
Verwandte Themen