Jak szybko tworzyć grupy (kwartyle, decyle itp.), zamawiając kolumny w ramce danych

W pakiecie dplyr znajduje się przydatna funkcja ntile. Jest elastyczny w tym sensie, że możesz bardzo łatwo zdefiniować liczbę * płytek lub "pojemników", które chcesz utworzyć.

Załaduj pakiet (najpierw zainstaluj, jeśli tego nie zrobiłeś) i dodaj kolumnę kwartyl:

library(dplyr)
temp$quartile <- ntile(temp$value, 4)  

Lub, jeśli chcesz użyć składni dplyr:

temp <- temp %>% mutate(quartile = ntile(value, 4))

Wynik w obu przypadkach to:

temp
#   name       value quartile
#1     a -0.56047565        1
#2     b -0.23017749        2
#3     c  1.55870831        4
#4     d  0.07050839        2
#5     e  0.12928774        3
#6     f  1.71506499        4
#7     g  0.46091621        3
#8     h -1.26506123        1
#9     i -0.68685285        1
#10    j -0.44566197        2
#11    k  1.22408180        4
#12    l  0.35981383        3

Data:

Zauważ, że nie musisz wcześniej tworzyć kolumny "kwartyl" i używać set.seed do randomizacji "reproducible": {]}

set.seed(123)
temp <- data.frame(name=letters[1:12], value=rnorm(12))

Dodam wersję data.table dla każdego, kto ją Wygoogluje (tzn. rozwiązanie @BondedDust przetłumaczone na data.table i trochę sparaliżowane):

library(data.table)
setDT(temp)
temp[ , quartile := cut(value,
                        breaks = quantile(value, probs = 0:4/4),
                        labels = 1:4, right = FALSE)]

Co jest o wiele lepsze (czystsze, szybsze) niż to, co robiłem:

temp[ , quartile := 
        as.factor(ifelse(value < quantile(value, .25), 1,
                         ifelse(value < quantile(value, .5), 2,
                                ifelse(value < quantile(value, .75), 3, 4))]

Zauważ jednak, że to podejście wymaga, aby kwantyle były różne, np. nie powiedzie się na rep(0:1, c(100, 1)); Co zrobić w tym przypadku jest otwarte, więc pozostawiam to do ciebie.

Możesz użyć funkcji quantile(), ale musisz obsługiwać zaokrąglanie / precyzję podczas używania cut(). Więc

set.seed(123)
temp <- data.frame(name=letters[1:12], value=rnorm(12), quartile=rep(NA, 12))
brks <- with(temp, quantile(value, probs = c(0, 0.25, 0.5, 0.75, 1)))
temp <- within(temp, quartile <- cut(value, breaks = brks, labels = 1:4, 
                                     include.lowest = TRUE))

Dając:

> head(temp)
  name       value quartile
1    a -0.56047565        1
2    b -0.23017749        2
3    c  1.55870831        4
4    d  0.07050839        2
5    e  0.12928774        3
6    f  1.71506499        4

Przepraszam za spóźnienie na imprezę. Chciałem dodać jedną liner używając cut2, ponieważ nie znałem max / min dla moich danych i chciałem, aby grupy były identycznie Duże. Przeczytałem o cut2 w numerze, który został oznaczony jako DUPLIKAT (link poniżej).

library(Hmisc)   #For cut2
set.seed(123)    #To keep answers below identical to my random run

temp <- data.frame(name=letters[1:12], value=rnorm(12), quartile=rep(NA, 12))

temp$quartile <- as.numeric(cut2(temp$value, g=4))   #as.numeric to number the factors
temp$quartileBounds <- cut2(temp$value, g=4)

temp

Wynik:

> temp
   name       value quartile  quartileBounds
1     a -0.56047565        1 [-1.265,-0.446)
2     b -0.23017749        2 [-0.446, 0.129)
3     c  1.55870831        4 [ 1.224, 1.715]
4     d  0.07050839        2 [-0.446, 0.129)
5     e  0.12928774        3 [ 0.129, 1.224)
6     f  1.71506499        4 [ 1.224, 1.715]
7     g  0.46091621        3 [ 0.129, 1.224)
8     h -1.26506123        1 [-1.265,-0.446)
9     i -0.68685285        1 [-1.265,-0.446)
10    j -0.44566197        2 [-0.446, 0.129)
11    k  1.22408180        4 [ 1.224, 1.715]
12    l  0.35981383        3 [ 0.129, 1.224)

Podobny problem, gdzie czytałem o cut2 w szczegółach

Przystosowanie dplyr::ntile do korzystania z optymalizacji data.table zapewnia szybsze rozwiązanie.

library(data.table)
setDT(temp)
temp[order(value) , quartile := floor( 1 + 4 * (.I-1) / .N)]

Prawdopodobnie nie kwalifikuje się jako czystsze, ale jest szybsze i Jednowierszowe.

Timing na większym zestawie danych

Porównując To rozwiązanie do ntile i cut dla data.table, Jak zaproponowali @docendo_discimus i @MichaelChirico.

library(microbenchmark)
library(dplyr)

set.seed(123)

n <- 1e6
temp <- data.frame(name=sample(letters, size=n, replace=TRUE), value=rnorm(n))
setDT(temp)

microbenchmark(
    "ntile" = temp[, quartile_ntile := ntile(value, 4)],
    "cut" = temp[, quartile_cut := cut(value,
                                       breaks = quantile(value, probs = seq(0, 1, by=1/4)),
                                       labels = 1:4, right=FALSE)],
    "dt_ntile" = temp[order(value), quartile_ntile_dt := floor( 1 + 4 * (.I-1)/.N)]
)

Daje:

Unit: milliseconds
     expr      min       lq     mean   median       uq      max neval
    ntile 608.1126 647.4994 670.3160 686.5103 691.4846 712.4267   100
      cut 369.5391 373.3457 375.0913 374.3107 376.5512 385.8142   100
 dt_ntile 117.5736 119.5802 124.5397 120.5043 124.5902 145.7894   100

temp$quartile <- ceiling(sapply(temp$value,function(x) sum(x-temp$value>=0))/(length(temp$value)/4))

Chciałbym zaproponować wersję, która wydaje się być bardziej solidna, ponieważ napotkałem wiele problemów używając quantile() w opcji breaks cut() w moim zbiorze danych. Używam ntile funkcji plyr, ale działa również z ecdf jako wejście.

temp[, `:=`(quartile = .bincode(x = ntile(value, 100), breaks = seq(0,100,25), right = TRUE, include.lowest = TRUE)
            decile = .bincode(x = ntile(value, 100), breaks = seq(0,100,10), right = TRUE, include.lowest = TRUE)
)]

temp[, `:=`(quartile = .bincode(x = ecdf(value)(value), breaks = seq(0,1,0.25), right = TRUE, include.lowest = TRUE)
            decile = .bincode(x = ecdf(value)(value), breaks = seq(0,1,0.1), right = TRUE, include.lowest = TRUE)
)]

Wypróbuj tę funkcję

getQuantileGroupNum <- function(vec, group_num, decreasing=FALSE) {
  if(decreasing) {
    abs(cut(vec, quantile(vec, probs=seq(0, 1, 1 / group_num), type=8, na.rm=TRUE), labels=FALSE, include.lowest=T) - group_num - 1)
  } else {
    cut(vec, quantile(vec, probs=seq(0, 1, 1 / group_num), type=8, na.rm=TRUE), labels=FALSE, include.lowest=T)
  }
}

> t1 <- runif(7)
> t1
[1] 0.4336094 0.2842928 0.5578876 0.2678694 0.6495285 0.3706474 0.5976223
> getQuantileGroupNum(t1, 4)
[1] 2 1 3 1 4 2 4
> getQuantileGroupNum(t1, 4, decreasing=T)
[1] 3 4 2 4 1 3 1

Jest prawdopodobnie szybszy sposób, ale ja bym zrobił:

a <- rnorm(100) # Our data
q <- quantile(a) # You can supply your own breaks, see ?quantile

# Define a simple function that checks in which quantile a number falls
getQuant <- function(x)
   {
   for (i in 1:(length(q)-1))
       {
       if (x>=q[i] && x<q[i+1])
          break;
       }
   i
   }

# Apply the function to the data
res <- unlist(lapply(as.matrix(a), getQuant))