2016-04-04 5 views
0

Ich bin relativ neu zu R und Web Scraping, also Entschuldigung für alle offensichtlichen Fehler.R: Scrapping Site, Inkrementieren Schleife nach Datum in URL, Speichern in CSV

Ich bin auf der Suche nach einer CSV-Datei von URL 1 zu kratzen, nach Datum auf URL 2 zu erhöhen, und speichern Sie dann jede CSV-Datei.

startdate <- as.Date("2007-07-01") 
enddate <- as.Date(Sys.Date()) 

for(startdate in enddate){ // Loop through dates on each URL 
    read.csv(url("http://api.foo.com/charts/data?output=csv&data=close&startdate=",startdate,"&enddate=",startdate,"&exchanges=bpi&dev=1")) 
    startdate = startdate + 1 
    startdate <- startdate[-c(1441,1442),] // Irrelevant to question at hand. Removes unwanted information auto-inserted into CSV. 
    write.csv(startdate[-c(1441,1442),], startdate, 'csv', row.names = FALSE) 
} 

die folgenden Fehler ausgegeben werden:

read.csv(url("http://api.foo.com/charts/data?output=csv&data=close&startdate=",startdate,"&enddate=",startdate,"&exchanges=bpi&dev=1")) 
// Error in match.arg(method, c("default", "internal", "libcurl", "wininet")) :'arg' should be one of “default”, “internal”, “libcurl”, “wininet” 

und:

write.csv(startdate[c(1441,1442),], startdate, 'csv', row.names = FALSE) 
//Error in charToDate(x) : character string is not in a standard unambiguous format 

Vorschläge, wie diese Fehler zu beheben?

+0

'für (Startdatum im Enddatum)' was versucht das zu tun? – MichaelChirico

+0

'startdate <- startdatum [-c (1441,1442),] was versucht das zu erreichen? – MichaelChirico

Antwort

1

basierend auf Ihrer Zielsetzung "Ich möchte eine CSV-Datei von URL 1 abkratzen, auf URL 2 nach Datum erhöhen und dann jede CSV-Datei speichern." Hier ist ein Beispielcode:

startdate <- as.Date("2016-01-01") 
enddate <- as.Date(Sys.Date()) 

geturl <- function(sdt, edt) { 
    paste0("http://api.foo.com/charts/data?output=csv&data=close", 
     "&startdate=",sdt,"&enddate=",edt,"&exchanges=bpi&dev=1") 
} #geturl 

dir.create("data") 
garbage <- lapply(seq.Date(startdate, enddate, by="1 day"), function(dt) { 
    dt <- as.Date(dt) 
    dat <- read.csv(url(geturl(dt, dt))) 
    write.csv(dat, paste0("data/dat-",format(dt, "%Y%m%d"),".csv"), row.names=FALSE) 
}) 

ist das wonach Sie suchen? können Sie einen Beispiellink angeben? und einige Beispieldaten?

+0

Funktioniert perfekt, danke! – rsylatian

Verwandte Themen