Mapping mehrere Werte

Ich brauche die Hilfe von Experten wie Sie mit einem Problem, das für meine R-Fähigkeiten zu groß ist.Mapping mehrere Werte

Ich habe einen Vektor und eine data.frame:

vec = c("v1;v2","v3","v4","v5;v6") 

vecNames = c("v1","v2","v3","v4","v5","v6") 
vecNames 
## [1] "v1" "v2" "v3" "v4" "v5" "v6" 

vecDescription = c("descr1","descr2","descr3","descr4","descr5","descr6") 
vecDescription 
## [1] "descr1" "descr2" "descr3" "descr4" "descr5" "descr6" 

df = data.frame(vecNames, vecDescription) 
df 
    vecNames vecDescription 
1  v1   descr1 
2  v2   descr2 
3  v3   descr3 
4  v4   descr4 
5  v5   descr5 
6  v6   descr6

Die data.frame für Annotation verwendet wird.

mapping = df$vecDescription[match(vec, df$vecNames)]

Der Ausgang wird wie erwartet:

as.vector(mapping) 
## [1] NA "descr3" "descr4" NA

Aber ich will:

## [1] "descr1;descr2" "descr3" "descr4" "descr5;descr6"

Ich war succeful eine for-Schleife, aber dieser Ansatz ist schrecklich langsam, wenn auf 500k angewendet Linien.

df = data.frame(vecNames, vecDescription, stringsAsFactors = FALSE) 
elts = strsplit(vec, ";") 
mapping = df$vecDescription[match(do.call(c, elts), df$vecNames)] 
tapply(mapping, rep(1:length(elts), sapply(elts, length)), 
     paste, collapse = ';')

Beachten Sie die stringsAsFactors = FALSE in der data.frame Definition:

Quelle

2015-02-24 sblid

Sie folgende tun müssen. Grundsätzlich gibt es immer noch eine Schleife mit dem Tapply, aber ich denke nicht, dass es darüber hinaus vektorisiert werden kann.

Quelle

2015-02-24 19:37:10 jimmyb

library(data.table) 
library(reshape2) 

dt = as.data.table(df) # or use setDT to convert in place 

setkey(dt, vecNames) 

dt[melt(strsplit(vec, split = ";"))][, 
    paste(vecDescription, collapse = ";"), by = L1][, V1] 
#[1] "descr1;descr2" "descr3"  "descr4"  "descr5;descr6"

Für große Daten, melt wird zu einem Engpass werden, und Sie können die folgende Funktion verwenden statt:

melt2 = function(l) data.table(value = unlist(l, use.names = F), 
           L1 = unlist(lapply(seq_along(l), 
                function(i) rep(i, length(l[[i]]))), 
               use.names = F))

Quelle

2015-02-24 19:38:54 eddi

Könnten Sie bitte die zweite Lösung überprüfen? Es gibt ein falsches Ergebnis für 'vec <- c (" v2; v3 "," v6; v3 "," v3; v6 "," v4 "," v1; v6 "," v5 ")' und 'df <- Struktur (Liste (vecNames = Struktur (c (6L, 4L, 3L, 1L, 5L, 2L), .Label = c ("v1", "v2", "v3", "v4", "v5", " v6 "), Klasse =" Faktor "), vecDescription = Struktur (c (6L, 4L, 3L, 1L, 5L, 2L), .Label = c (" descr1 "," descr2 "," descr3 ", " descr4 "," descr5 "," descr6 "), class =" faktor ")) .Names = c (" vecNames ", " vecDescription "), row.names = c (NA, -6L), class =" data.frame ")' –

@MaratTalipov hmm, danke :) lass mich darüber nachdenken - anscheinend gibt es zwei aufträge um – eddi

@MaratTalipov Ich bin jetzt zu verwirrt, was erforderlich ist, wenn 'df' das Wörterbuch sein soll , dann ist das Original der Weg zu gehen, und mein Kommentar über Duplikate ist irrelevant – eddi

Hier ist eine andere Basis R schnelle Lösung

vec <- strsplit(vec, ";") 
sapply(vec, function(x) with(df, paste(vecDescription[vecNames %in% x], collapse = ";"))) 
## [1] "descr1;descr2" "descr3"  "descr4"  "descr5;descr6"

Oder wir könnten eine Bit beschleunigen es mit vapply wie in

vapply(vec, function(x) with(df, paste(vecDescription[vecNames %in% x], collapse = ";")), character(1))

Quelle

2015-02-24 19:54:05

Eine weitere Basis R Lösung:

L <- strsplit(vec,split = ';') 
    R <- as.character(df$vecDescription)[match(unlist(L),df$vecNames)] 
    sapply(relist(R, L), paste, collapse=';')

und Benchmarks:

f.m <- function(vec,df) { 
    L <- strsplit(vec,split = ';') 
    R <- with(df,vecDescription[match(unlist(L),vecNames)]) 
    sapply(relist(R, L), paste, collapse=';') 
} 

f.m2 <- function(vec,df) { 
    L <- strsplit(vec,split = ';') 
    R <- as.character(df$vecDescription)[match(unlist(L),df$vecNames)] 
    sapply(relist(R, L), paste, collapse=';') 
} 

f.j <- function(vec,df) { 
    elts = strsplit(vec, ";") 
    mapping = df$vecDescription[match(do.call(c, elts), df$vecNames)] 
    tapply(mapping, rep(1:length(elts), sapply(elts, length)), 
     paste, collapse = ';') 
} 

f.da <- function(vec,df) { 
    vec <- strsplit(vec, ";") 
    sapply(vec, function(x) with(df, paste(vecDescription[vecNames %in% x], collapse = ";"))) 
} 


f.da2 <- function(vec,df) { 
    vapply(vec, function(x) with(df, paste(vecDescription[vecNames %in% x], collapse = ";")), character(1)) 
} 

library(data.table) 
library(reshape2) 
f.eddi <- function(vec,df) { 

    dt = as.data.table(df) # or use setDT to convert in place 
    setkey(dt, vecNames) 
    dt[melt(strsplit(vec, split = ";"))][, 
             paste(vecDescription, collapse = ";"), by = L1][, V1] 
} 

f.eddi2 <- function(vec,df) { 
    setkey(dt, vecNames) 

    melt2 = function(l) data.table(value = unlist(l, use.names = F), 
           L1 = unlist(lapply(seq_along(l), 
                 function(i) rep(i, length(l[[i]]))), 
               use.names = F)) 
    dt[melt2(strsplit(vec, split = ";"))][, 
             paste(vecDescription, collapse = ";"), by = L1][, V1] 
} 


f.Metrics <- function(vec,df) { 
    x1<-strsplit(vec,";") 
    x2<-data.frame(do.call(rbind,x1)) 
    x3<-df$vecDescription[df$vecNames %in% x2[,1]] 
    x4<-df$vecDescription[df$vecNames %in% x2[,2]] 
    sapply(1:length(x1),function(i){ifelse(x3[i]!=x4[i],paste(x3[i],x4[i],sep=";"),paste(x3[i]))}) 
} 

df2 = data.frame(vecNames, vecDescription, stringsAsFactors = FALSE) 

library('microbenchmark') 
microbenchmark(f.m(vec,df), f.j(vec,df2), f.da(vec,df), f.da2(vec,df), f.eddi(vec,df))

Ergebnisse:

Unit: microseconds 
       expr  min  lq  mean median  uq  max neval cld 
     f.m(vec, df) 186.414 218.6155 263.8829 231.8240 248.3900 2506.887 100 b 
     f.m2(vec, df) 94.751 113.4995 124.3000 122.1635 134.3795 195.045 100 a 
     f.j(vec, df2) 211.411 231.2145 254.2509 242.9275 261.9220 481.501 100 b 
     f.da(vec, df) 145.689 176.9130 199.1804 185.8020 195.6595 1383.394 100 ab 
    f.da2(vec, df) 117.027 140.6245 153.2124 150.5025 157.9735 298.111 100 ab 
    f.eddi(vec, df) 3396.690 3586.1695 3799.5835 3648.2905 3762.6335 6468.448 100 d 
f.Metrics(vec, df) 748.323 789.5460 881.9349 809.0135 833.5465 3335.045 100 c

[Update]

Wie zutreffend ausgeführt durch @ eddi, eine wesentlich größere Datenmenge sollte für ein realistischeres Benchmarking verwendet werden, so dass hier gehen wir:

n <- 1000 
set.seed(1) 
sample1 <- sample(n) 
sample2 <- sample(n) 
vec <- sapply(sample1, function(i) if (runif(1)>0.5) paste0('v',c(i,sample(n,size=1)),collapse=';') else paste0('v',i)) 
vecNames <- paste0('v', sample2) 
vecDescription <- paste0('descr', sample2) 
df = data.frame(vecNames, vecDescription) 
df2 = data.frame(vecNames, vecDescription, stringsAsFactors = FALSE) 

library('microbenchmark')

-Micro (f.m2 (VEC, DF2), fj (VEC, DF2), f.da2 (VEC, DF2), f.eddi2 (VEC, DF2), f.Metrics (VEC, DF2))

Ergebnisse:

Unit: milliseconds 
       expr  min   lq  mean median   uq  max neval cld 
     f.m(vec, df) 31.679775 35.682250 38.813526 38.53798 41.278268 50.94508 100 b 
     f.m2(vec, df) 8.384308 9.596091 10.833422 10.32222 10.954757 18.33386 100 a  
     f.j(vec, df2) 4.665586 5.216920 6.003011 5.65613 6.184318 12.32919 100 a  
     f.da(vec, df) 87.810338 94.419069 98.369134 96.63011 101.004672 165.76800 100 c 
    f.da2(vec, df) 84.199736 89.024529 94.053774 91.57543 94.448173 171.84077 100 c 
    f.eddi(vec, df) 276.079649 299.699244 314.580860 311.82896 329.421674 352.73114 100 d 
f.Metrics(vec, df) 482.671849 496.465168 507.629372 505.23325 513.390346 594.13570 100  e

Jetzt ist der Champion ist f.j(), die als f.m2() zweimal schneller ist, und andere Funktionen sind um eine Größenordnung langsamer.

[Update 2]

In diesem Benchmark, n = 5000, und alle Funktionen erhalten df2 als Eingabe (Strings sind Zeichen):

Unit: milliseconds 
       expr  min   lq  mean  median   uq  max neval cld 
     f.m2(vec, df2) 44.97854 47.12005 51.13561 48.58260 55.11687 85.57911 100 b 
     f.j(vec, df2) 24.03023 26.03697 28.10994 27.09699 28.45757 39.77269 100 a 
    f.da2(vec, df2) 1150.06311 1236.57530 1276.34064 1269.03829 1296.79251 1583.44486 100 d 
    f.eddi2(vec, df2) 65.88291 68.06959 72.89662 70.05462 76.19301 178.73181 100 c 
f.Metrics(vec, df2) 54.54662 57.37777 59.95356 58.41737 62.15440 69.84452 100 b

Ein weiterer Benchmark, n = 50000:

Unit: milliseconds 
       expr  min  lq  mean median  uq  max neval cld 
     f.m2(vec, df2) 551.7985 602.0489 659.5792 638.6707 685.9923 1135.1548 100 b 
     f.j(vec, df2) 340.2615 415.2678 454.9885 447.5994 494.9217 661.5898 100 a 
    f.eddi2(vec, df2) 833.3205 920.6528 979.3859 963.0641 1018.2014 1519.3684 100 c 
f.Metrics(vec, df2) 795.4200 895.8132 970.6516 954.8318 1001.6742 1427.0432 100 c

und die letzte, n = 500000:

Unit: seconds 
       expr  min  lq  mean median  uq  max neval cld 
     f.m2(vec, df2) 7.420941 7.645800 8.047706 7.978916 8.301547 9.134872 10 b 
     f.j(vec, df2) 5.043295 5.316371 5.925725 5.514834 6.288766 8.289737 10 a 
    f.eddi2(vec, df2) 11.190716 11.373425 12.144147 11.935814 12.487354 14.798366 10 c 
f.Metrics(vec, df2) 13.086297 13.859301 14.143273 14.149004 14.524544 15.151098 10 d

Quelle

2015-02-24 19:58:45

Und wir gehen zurück zum 'match' Argument her m früher am abend :) –

oh nein daten tabelle noooo was passiert ist! – rawr

@rawr Mikrosekundenvergleich passiert; Marat - es ist nicht sehr nützlich, diese Benchmarks bei solch winzigen Daten zu machen; Außerdem denke ich, dass nur "f.da" korrekt funktioniert, versuche sie alle auf z. 'df [c (1: 6,1,2),]'. Ich werde versuchen, meine zu reparieren - es bekommt die richtige Anzahl an Gegenständen, aber vermasselt die Bestellung. – eddi

x1<-strsplit(vec,";") 
x2<-data.frame(do.call(rbind,x1)) 
x3<-df$vecDescription[df$vecNames %in% x2[,1]] 
x4<-df$vecDescription[df$vecNames %in% x2[,2]] 
x5<-lapply(1:length(x1),function(i){ifelse(x3[i]!=x4[i],paste(x3[i],x4[i],sep=";"),paste(x3[i]))}) 

> x5 
[[1]] 
[1] "descr1;descr2" 

[[2]] 
[1] "descr3" 

[[3]] 
[1] "descr4" 

[[4]] 
[1] "descr5;descr6"

Quelle

2015-02-24 20:01:39 Metrics

Simpe mit qdap, die ich halten:

library(qdap) 
mgsub(vecNames, vecDescription, vec) 

## [1] "descr1;descr2" "descr3"  "descr4"  "descr5;descr6"

Wenn Sie die Entwickler-Version von qdap ‚s mgsub sind Benchmarking ist deutlich weniger belastend auf das Gedächtnis und viel schneller . Dieses kurze Skript wird die dev-Version herunterladen:

if (!require("pacman")) install.packages("pacman") 
pacman::p_load_gh("trinker/qdap")

Quelle

2015-02-25 00:56:40

Ich mag Ihre Lösung, aber es scheint deutlich langsamer als der aktuelle Führer' fj() '(83 ms vs 8,3 ms für n = 1000 auf meinem Laptop; n ist die Länge von vecNames/vecDescription, siehe meine Antwort für Details) –

@MaratTalipov Mit der dev-Version? –

Ich denke schon - ich folgte Anweisungen aus Ihrer Antwort, und 'sessionInfo()' sagt '[1] qdap_2.2.1' –

Mapping mehrere Werte

Antwort

Verwandte Themen