Projektowanie Guava LoadingCache ze zmienną datą wejścia

Sugeruję, abyś włączył czas wygaśnięcia bezpośrednio do swojej klasy wejściowej i ręcznie wyrzucił go z pamięci podręcznej, jeśli wygasł natychmiast po pobraniu go z pamięci podręcznej:

MyItem item = cache.getIfPresent(key);
if (item != null && item.isExpired()) {
    cache.invalidate(key);
    item = cache.get(key);
    // or use cache.put if you load it externally
}

Jako alternatywę, mogę zasugerować, aby sprawdzić bibliotekę EhCache, która obsługuje politykę expire per element.

LoadingCache oferuje kilka powszechnie używanych zasad wygaśnięcia, ale gdy nie spełniają one tego, czego potrzebujesz, musisz rzucić własne.

Wystarczy dodać DelayQueue . Za każdym razem, gdy dodajesz coś do pamięci podręcznej, dodaj Delayed do tej kolejki, z odpowiednim czasem wygaśnięcia. Delayed obiekt powinien mieć (słaby?) odniesienie do klucza.

Ostatnim składnikiem jest to, że musisz okresowo przepytywać tę kolejkę, aby sprawdzić, czy coś wygasło i musi zostać eksmitowane. Nie koniecznie dodaj aby to zrobić, możesz po prostu przejść do dowolnego wątku, który ma dostęp do LoadingCache. Tuż przed uzyskaniem dostępu do pamięci podręcznej, np.:

private void drainCache() {
  MyDelayed expired;
  while ((expired = delayedQueue.poll()) != null) {
    K key = expired.getReference();
    if (key != null) { // this only in case if you hold the key in a weak reference
      loadingCache.invalidate(key);
    }
  }
}

..
V lookup(K key) {
  drainCache();
  return loadingCache.getUnchecked(key);
}

Myślę, że możesz użyć jawnego invalidate, aby dokładnie określić, które wpisy powinny zostać eksmitowane, ale to nie jest prawdopodobnie to, czego chcesz.

Można jednak podać różne wagi dla wpisów. Nie jest idealny, ale możesz poprowadzić pamięć podręczną, aby eksmitować wpisy, które są mniej ważne. Zobacz Weighter , wpisy o wadze 0 nie będą eksmitowane przez eksmisję opartą na rozmiarze.

W przypadku, gdy wpisy są duże i trzeba zachować pamięć , myślę, że nie ma dobrego rozwiązania, ale te hacki przychodzą na myśl:

• Użyj PriorityQueue uporządkowanej według czasu wygaśnięcia do ręcznego usuwania wpisów. Jeśli chcesz mieć pewność, że żaden wygasły wpis nie zostanie użyty, musisz połączyć to z rozwiązaniem hoaza; Kolejka zapobiega tylko niepotrzebnym wpisom zajmującym pamięć.

• Napisałeś "niektóre powiązane wartości mogą wygasnąć i inni nie mogą", co sugeruje, że opóźnienie wygaśnięcia jest takie samo dla wszystkich wygasających wpisów. Pozwala to na użycie prostszego i szybszego Queue (np. ArrayDeque zamiast PriorityQueue).

• W przypadku, gdy opóźnienie wygaśnięcia jest dość duże, możesz pozwolić, aby wszystkie wpisy wygasły i ponownie wstawić te, które powinny żyć wiecznie w RemovalListener. Może to się nie udać na dwa sposoby: 1. W międzyczasie możesz dostać pudło. 2. Usuwanie i ponowne wstawianie może kosztować dużo czasu procesora.