Porównując IEEE floats i doubles dla równości

Aktualna wersja, której używam to

bool is_equals(float A, float B,
               float maxRelativeError, float maxAbsoluteError)
{

  if (fabs(A - B) < maxAbsoluteError)
    return true;

  float relativeError;
  if (fabs(B) > fabs(A))
    relativeError = fabs((A - B) / B);
  else
    relativeError = fabs((A - B) / A);

  if (relativeError <= maxRelativeError)
    return true;

  return false;
}

To rozwiązuje większość problemów, łącząc względną i absolutną tolerancję błędów. Czy podejście ULP jest lepsze? Jeśli tak, to dlaczego?

@DrPizza: nie jestem guru wydajności, ale spodziewałbym się, że operacje ze stałymi punktami będą szybsze niż operacje zmiennoprzecinkowe (w większości przypadków).

Rzeczy odpowiednie dla pływaków:

Grafika 3D, fizyka / inżynieria, symulacja, symulacja klimatu....

W oprogramowaniu numerycznym często chcemy sprawdzić, czy dwie liczby zmiennoprzecinkowe są dokładnie równe. LAPACK jest pełen przykładów takich przypadków. Oczywiście najczęstszym przypadkiem jest sprawdzenie, czy Liczba zmiennoprzecinkowa jest równa "Zero", "jeden", "dwa", "połowa". Jeśli ktoś jest zainteresowany mogę wybrać kilka algorytmów i przejść bardziej szczegółowo.

Również w BLAS często chcesz sprawdzić, czy Liczba zmiennoprzecinkowa jest dokładnie zerem czy jedynką. Na przykład, rutynowe dgemv można obliczyć operacje formularza

• y = beta * y + alfa * a * x
• y = beta * y + Alfa*A^T * x
• y = beta * y + Alfa * A^H * x

Więc jeśli beta równa się 1, masz "przypisanie plus", a dla beta równa się Zero "przypisanie proste". Więc na pewno można obniżyć koszty obliczeniowe, jeśli dać te (wspólne) przypadki specjalnego traktowania.

Oczywiście, możesz zaprojektować procedury BLAS w taki sposób, aby uniknąć dokładnych porównań (np. używając niektórych FLAG). Jednak LAPACK jest pełen przykładów, w których nie jest to możliwe.

P. S.:

• Z pewnością istnieje wiele przypadków, w których nie chcesz sprawdzić "jest dokładnie równe". Dla wielu ludzi może to być nawet jedyny przypadek, z którym mają do czynienia. Chcę tylko podkreślić, że są też inne sprawy.

• Chociaż LAPACK jest napisany w Fortranie, logika jest taka sama, jeśli używasz innych języków programowania do oprogramowania numerycznego.

Dobry Boże, proszę nie interpretować bitów float jako ints, chyba że używasz P6 lub wcześniej.

Nawet jeśli powoduje kopiowanie z rejestrów wektorowych do rejestrów całkowitych za pośrednictwem pamięci, a nawet jeśli blokuje rurociąg, jest to najlepszy sposób, na jaki się natknąłem, ponieważ zapewnia najbardziej solidne porównania nawet w obliczu błędów zmiennoprzecinkowych.

To rozwiązuje większość problemów, łącząc względną i absolutną tolerancję błędów. Czy podejście ULP jest lepsze? Jeśli tak, to dlaczego?

ULP są bezpośrednią miarą "odległości" między dwoma liczbami zmiennoprzecinkowymi. Oznacza to, że nie wymagają od Ciebie wyczarowania względnych i bezwzględnych wartości błędów, ani nie musisz się upewnić, że uzyskasz te wartości "w porządku". Dzięki ULPs możesz bezpośrednio wyrazić, jak blisko chcesz, aby liczby były, i to samo próg działa równie dobrze dla małych wartości, jak dla dużych.

Jeśli masz błędy zmiennoprzecinkowe, masz jeszcze więcej problemów niż to. Chociaż myślę, że to zależy od osobistej perspektywy.

Nawet jeśli wykonamy analizę numeryczną, aby zminimalizować nagromadzenie błędów, nie możemy go wyeliminować i możemy pozostawić wyniki, które powinny być identyczne (jeśli obliczamy za pomocą liczb rzeczywistych), ale różnią się (ponieważ nie możemy obliczyć za pomocą liczb rzeczywistych).

Jeśli szukasz dwóch pływaków, aby były równe, to moim zdaniem powinny być identyczne. Jeśli masz do czynienia z problemem zaokrąglania zmiennoprzecinkowego, być może reprezentacja punktu stałego będzie lepiej odpowiadać twojemu problemowi.

Jeśli szukasz dwóch pływaków, aby były równe, to moim zdaniem powinny być identyczne. Jeśli masz do czynienia z problemem zaokrąglania zmiennoprzecinkowego, być może reprezentacja punktu stałego będzie lepiej odpowiadać twojemu problemowi.

Być może nie możemy sobie pozwolić na utratę zasięgu lub wydajności, które takie podejście spowodowałoby.

@ DrPizza: nie jestem guru wydajności, ale spodziewałbym się, że operacje ze stałymi punktami będą szybsze niż operacje zmiennoprzecinkowe (w większości przypadków).

@Craig H: Jasne. Nie mam nic przeciwko temu, żeby to wydrukować. Jeśli a lub b przechowują pieniądze, powinny być reprezentowane w punkcie stałym. Ciężko mi wymyślić przykład z prawdziwego świata, gdzie taka logika powinna być sprzymierzona z pływakami. Rzeczy odpowiednie dla pływaków:

• wagi
• szeregi
• odległości
• real world wartości (jak z ADC)

Dla wszystkich tych rzeczy, albo dużo wtedy Liczby i po prostu przedstawić wyniki dla użytkownika do ludzkiej interpretacji, lub złożyć oświadczenie porównawcze (nawet jeśli takie stwierdzenie jest, "ta rzecz jest w 0.001 tej drugiej rzeczy"). Twierdzenie porównawcze takie jak moje jest przydatne tylko w kontekście algorytmu: część "w ciągu 0,001" zależy od tego, jakie pytanie fizyczne zadajesz. To mój 0.02. A może 2/100?

To raczej zależy od tego, kim jesteś robiąc z nimi. Typ stałopunktowy z tym samym zakresem co zmiennoprzecinkowy IEEE byłoby wiele razy wolniej (i wielokrotnie większe).

Dobra, ale jeśli chcę nieskończenie małej rozdzielczości bitowej, to wracam do mojego pierwotnego punktu: = = i != nie mają znaczenia w kontekście takiego problemu.

Int pozwala mi wyrazić ~10^9 wartości (niezależnie od zakresu), który wydaje się wystarczający dla każdej sytuacji, w której zależy mi o dwóch równych sobie. A jeśli to nie wystarczy, użyj 64-bitowego systemu operacyjnego i masz około 10^19 różnych wartości.

Mogę wyrazić wartości z zakresu od 0 do 10^200 (na przykład) w int, to tylko rozdzielczość bitowa, która cierpi (rozdzielczość byłaby większa niż 1, ale, znowu, żadna aplikacja nie ma tego rodzaju zakresu, jak również tego rodzaju rozdzielczości).

Podsumowując, myślę, że we wszystkich przypadkach jeden albo reprezentuje kontinuum wartości, w takim przypadku != i = = są nieistotne, lub jeden reprezentuje stały zestaw wartości, które mogą być odwzorowane do int (lub innego typu O STAŁEJ precyzji).

Int pozwala mi wyrazić ~10^9 wartości (niezależnie od zakresu), który wydaje się jak wystarczająco w każdej sytuacji, w której zależy by dwóch z nich było równe. A jeśli to nie wystarczy, użyj 64-bitowy OS i masz około 10^19 różne wartości.

Pływaki pozwoliły mi znaleźć rozwiązanie problemów matematycznych, ponieważ wartości przepełnione są zerami w dolnej części. Więc w zasadzie miał kropkę dziesiętną pływające aronud w liczbie bez utraty precyzji (mógłbym jak z bardziej ograniczoną odrębną liczbę wartości dozwolone w mantissa float w porównaniu do 64-bitowy int, ale rozpaczliwie potrzebne zakres TH!).

I wtedy rzeczy zamienione z powrotem na liczby całkowite do porównania itp.

Jeśli szukasz dwóch pływaków, aby były równe, to moim zdaniem powinny być identyczne. Jeśli masz do czynienia z problemem zaokrąglania zmiennoprzecinkowego, być może reprezentacja punktu stałego będzie lepiej odpowiadać twojemu problemowi.

#include <iostream>

using namespace std;


int main()
{
  float a = 1.0;
  float b = 0.0;

  for(int i=0;i<10;++i)
  {
    b+=0.1;
  }

  if(a != b)
  {
    cout << "Something is wrong" << endl;
  }

  return 1;
}

Wypisuje frazę "coś jest nie tak". Chcesz powiedzieć, że powinno?

Dobry Boże, proszę nie interpretować bitów float jako ints, chyba że używasz P6 lub wcześniej.

Jest to najlepszy sposób, na jaki się natknąłem, ponieważ zapewnia najbardziej solidne porównania nawet w obliczu błędów zmiennoprzecinkowych.

Jeśli masz błędy zmiennoprzecinkowe, masz jeszcze więcej problemów niż to. Chociaż myślę, że to zależy od osobistej perspektywy.