2017-10-08 2 views
0

Ich wollte eine Datei herunterladen, die in open-plaques-all-2017-06-19.rar gezippt, aber es in R nicht implementieren konnte. Bitte werfen Sie einen Blick auf mein Code untenSo lesen Sie file.rar direkt von der Website in R

temp <- tempfile() 

download.file("https://github.com/tuyenhavan/Statistics/blob/master/open-plaques-all-2017-06-19.rar", temp) 

df<- fread(unzip(temp, files = "open-plaques-all-2017-06-19.csv")) 
head(df) 

Antwort

1

weiß ich nicht, ob es für das Extrahieren von RAR-Archiven eine R-Bibliothek ist, aber wenn man unrar haben, unar, p7zip oder etwas ähnliches installiert man sie durch einen Systemaufruf aufrufen können und Sie extrahieren die Datei.
Sie müssen auch eine ?raw=true an das Ende der URL markieren, um die Rohdaten (und nicht den HTML-Code) zu erhalten.

Dies ist mit p7zip oder unar auf einem Mac, andere Dienstprogramme und Systeme erfordern möglicherweise andere Syntax.

temp <- tempfile() 

download.file(paste0("https://github.com/tuyenhavan/Statistics/blob/master/", 
        "open-plaques-all-2017-06-19.rar?raw=true"), temp) 

#list all csv-files in current working directory 
csv_files <- list.files(pattern="\\.csv") 

#extract RAR to current working directory using p7zip 
system(paste("7z x", temp, paste0("-o", getwd()))) 

#extract RAR to current working directory using unar 
system(paste("unar", "-f", "-o", shQuote(getwd()), shQuote(temp))) 

#find the name of the extracted csv file 
csv_new <- setdiff(list.files(pattern="\\.csv"), csv_files) 

#read in the csv as a data.frame 
csv.dtf <- read.csv(csv_new) 

Sie können auch in der CSV direkt lesen, aber es ist ziemlich langsam.

csv <- system(paste("7z x -so", temp), intern=TRUE) 
csv.dtf <- read.csv(text=csv) 
2

Für diese jeweiligen Plattformen/PKG-Manager benötigen Sie:

  • deb: libarchive-dev (Debian, Ubuntu, etc)
  • rpm: libarchive-devel (Fedora, CentOS, RHEL)
  • CSW: libarchive_dev (Solaris)
  • Gebräu: libarchive (Mac OSX)

Windows-Benutzer erhalten vorkompilierte Binärdateien automatisch heruntergeladen.

Dann tun:

devtools::install_github("jimhester/archive") 

Hier ist ein Workflow. Nun, da die von Ihnen angegebene URL nicht korrekt/gültig war. Sie müssen die "rohe" URL verwenden, um zur eigentlichen Datei zu gelangen.

library(archive) 

tf1 <- tempfile(fileext = ".rar") 
download.file("https://github.com/tuyenhavan/Statistics/blob/master/open-plaques-all-2017-06-19.rar?raw=true", tf1) 

tf2 <- tempfile() 
archive_extract(tf1, tf2) 

list.files(tf2) 
## [1] "open-plaques-all-2017-06-19.csv" 

file.size(file.path(tf2, list.files(tf2))) 
## [1] 26942816 

xdf <- readr::read_csv(file.path(tf2, list.files(tf2))) 
dplyr::glimpse(xdf) 
## Observations: 38,436 
## Variables: 27 
## $ id      <int> 29923, 42945, 42944, 42943, 42942, 42941, 42940, ... 
## $ title     <chr> "Jon Pertwee blue plaque", "Apsley Cherry-Garrard... 
## $ inscription   <chr> "Jon Pertwee 1919-1996 Doctor Who 1970-1974", "Ap... 
## $ latitude    <dbl> NA, NA, NA, NA, NA, NA, 54.14910, 45.76330, NA, 4... 
## $ longitude    <dbl> NA, NA, NA, NA, NA, NA, -4.46938, 4.83157, NA, 4.... 
## $ country    <chr> "United Kingdom", "United Kingdom", "United Kingd... 
## $ area     <chr> "London", "Bedford", "Harlow", "Bozen", "Adro", "... 
## $ address    <chr> "BBC Television Centre", "Lansdowne Road", "The W... 
## $ erected    <int> NA, NA, NA, NA, NA, 2016, NA, NA, NA, NA, NA, NA,... 
## $ main_photo    <chr> NA, "https://commons.wikimedia.org/wiki/Special:F... 
## $ colour     <chr> "blue", "blue", "blue", "brass", "brass", "brass"... 
## $ organisations   <chr> "[]", "[]", "[\"Harlow Civic Society\"]", "[\"Gun... 
## $ language    <chr> "English", "English", "English", "Italian", "Ital... 
## $ series     <chr> NA, NA, NA, "Stolpersteine Italiano", "Stolperste... 
## $ series_ref    <chr> NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, NA, N... 
## $ `geolocated?`   <chr> "false", "false", "false", "false", "false", "fal... 
## $ `photographed?`  <chr> "false", "true", "false", "true", "true", "true",... 
## $ number_of_subjects  <int> 1, 1, 0, 0, 1, 1, 0, 1, 1, 1, 0, 1, 0, 1, 1, 0, 0... 
## $ lead_subject_name  <chr> "Jon Pertwee", "Apsley Cherry-Garrard", NA, NA, "... 
## $ lead_subject_born_in <int> 1919, 1886, NA, NA, 1911, 1913, NA, 1888, 1832, 1... 
## $ lead_subject_died_in <int> 1996, 1959, NA, NA, 1945, 1945, NA, 1967, 1898, 1... 
## $ lead_subject_type  <chr> "man", "man", NA, NA, "man", "man", NA, "man", "m... 
## $ lead_subject_roles  <chr> "[\"Doctor Who\", \"actor\", \"entertainer\", \"t... 
## $ lead_subject_wikipedia <chr> "https://en.wikipedia.org/wiki/Jon_Pertwee", "htt... 
## $ lead_subject_dbpedia <chr> "http://dbpedia.org/resource/Jon_Pertwee", "http:... 
## $ lead_subject_image  <chr> "https://commons.wikimedia.org/wiki/Special:FileP... 
## $ subjects    <chr> "[\"Jon Pertwee|(1919-1996)|man|Doctor Who, actor... 

Betrachten unlink()tf1 ing, das Kopieren der Datei (en) aus tf2 irgendwo dauerhaftere und dann unlink() ing tf2 aufzuräumen, nachdem die Arbeit abgeschlossen ist.

Verwandte Themen