floating-accuracy
Czy matematyka zmiennoprzecinkowa jest zepsuta?
Rozważ następujący kod:
0.1 + 0.2 == 0.3 -> false
0.1 + 0.2 -> 0.30000000000000004
Dlaczego zdarzają się te nieścisłości?
Jak niebezpieczne jest porównywanie wartości zmiennoprzecinkowych?
Wiem, że UIKit używa CGFloat ze względu na rozdzielczy niezależny układ współrzędnych.
Ale za każdym razem, gdy chcę sprawdz ... wewnętrznie podczas porównywania, czy może się zdarzyć, że {[13] } odczytuje się jako zero nie porównuje się do 0 jako true?
Dlaczego te liczby nie są równe?
Poniższy kod jest oczywiście błędny. W czym problem?
i <- 0.1
i <- i + 0.05
i
## [1] 0.15
if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15")
## i does not equal 0.15
Przykłady niedokładności zmiennoprzecinkowych
Jak wyjaśnisz nieścisłość zmiennoprzecinkową świeżym programistom i laikom, którzy nadal myślą, że komputery są nieskończenie ... aje się, że pomysł jest znacznie lepszy niż dokładne, ale suche Wyjaśnienie?
Jak to jest nauczane na zajęciach z informatyki?
(.1f+.2f==.3f)!= (.1f+.2f).Równa(.3f) dlaczego?
Moje pytanie brzmi Nie o pływającą precyzję. Chodzi o to, dlaczego Equals() różni się od ==.
Rozumiem, dlaczego .1f + .2f = ... ?
.1f + .2f == .3f; // false
(.1f + .2f).Equals(.3f); // true
(.1d + .2d).Equals(.3d); // false
Radzenie sobie z precyzją float w Javascript [duplikat]
To pytanie ma już odpowiedź tutaj:
Jak radzić sobie z precyzją liczb zmiennoprzecinkowych w JavaScript? ... x;
1.2000000000000002
I:
>>> y = 1.23456789
>>> x = 0.2
>>> y - (y % x)
1.2000000000000002
PHP-zmienna precyzja liczb [duplikat]
To pytanie ma już odpowiedź tutaj:
czy matematyka zmiennoprzecinkowa jest zepsuta?
... co chodzi? Zastanawiałem się, dlaczego mój program ciągle donosił dziwne wyniki.
Dlaczego PHP nie zwraca oczekiwanego 0.01?
Dlaczego 0,1 + 0,2 = = 0,3 W D?
assert(0.1 + 0.2 != 0.3); // shall be true
Jest moim ulubionym sprawdzeniem, czy język używa natywnej arytmetyki zmiennoprz ... writeln(a + b != 0.3); // standard calculation in double precision
}
Wyjście:
false
true
Http://ideone.com/z6ZLk
Duże liczby błędnie zaokrąglone w JavaScript
Zobacz ten kod:
var jsonString = '{"id":714341252076979033,"type":"FUZZY"}';
var jsonParsed = JSON.parse(jsonString);
c ... aokrągla się do 714341252076979200, natomiast 714341252076979135 zaokrągla się do 714341252076979100.
Dlaczego to się dzieje?
Czy można uzyskać 0 przez odjęcie dwóch nierównych liczb zmiennoprzecinkowych?
Czy w poniższym przykładzie można uzyskać podział przez 0 (lub nieskończoność)?
public double calculation(double a, double ... du na precyzję obliczeń?
Zauważ, że to pytanie dotyczy Javy, ale myślę, że będzie dotyczyć większości języków programowania.
Jak zrobić integer log2 () w C++?
W bibliotekach standardowych C++ znalazłem tylko metodę dziennika zmiennoprzecinkowego. Teraz używam loga, aby znaleźć poziom ... amiast n. 0. Czy ten strach jest prawidłowy? Jak mogę zmodyfikować moje oświadczenie, aby zawsze zwracało poprawną odpowiedź?
Jak uniknąć błędów precyzji zmiennoprzecinkowej za pomocą float lub doubles w Javie?
Mam bardzo irytujący problem z długimi sumami floatów lub Dubli w Javie. Zasadniczo chodzi o to, że jeśli wykonam:
for ( fl ... recyzji, jednak jak się tego pozbyć? Próbowałem użyć podwaja do połowy błędu, ale wynik jest nadal taki sam.
Jakieś pomysły?
Obcinaj (nie zaokrąglaj) liczby dziesiętne w javascript
Próbuję skrócić liczby dziesiętne do miejsc dziesiętnych. Coś takiego:
5.467 -> 5.46
985.943 -> 985.94
toFixed( ... to, co właściwe, ale uzupełnia wartość. Nie potrzebuję zaokrąglania wartości. Mam nadzieję, że jest to możliwe w javascript.
Szybkie obliczanie Exp: czy można poprawić dokładność bez utraty zbyt dużej wydajności?
Wypróbowuję funkcję fast Exp (x), która wcześniej była opisana w this odpowiedź na pytanie SO dotyczące poprawy szybkości obl ... "moim" przedziale wartości, chociaż zbyt szybko odbiegają od większego ujemnegox , zwłaszcza gdy używa się "tylko" 8 mnożeń.
Jak prawidłowo i standardowo porównywać pływaki?
Za każdym razem, gdy uruchamiam nowy projekt i kiedy muszę porównać zmienne float lub double, piszę kod w ten sposób:
if (f ... aby to zrobić? Może być jakiś standardowy plik nagłówka?
Byłoby również miło mieć limity float i double (wartości min i max)
Python zmiennoprzecinkowy arbitralna precyzja dostępna?
Dla zabawy i ponieważ było to naprawdę łatwe, napisałem krótki program do generowania liczb szczepionych , ale ze względu na ... błąd zmiennoprzecinkowy. Czy jest jakiś sposób na obejście tego pod Pythonem? Czy muszę przejść do C i używać GMP czy coś?
Szerokość/długość przechowywania i kompresji w C
Czy ktoś zna najskuteczniejszą reprezentację dla współrzędnych lat / long? Poziom dokładności powinien być wystarczający dla ...
Innymi słowy, jaka jest minimalna dokładność wymagana do reprezentowania lat / long dla urządzenie na poziomie konsumenta?
Błędy Zaokrąglania?
W moim kursie powiedziano mi:
Wartości ciągłe są reprezentowane w przybliżeniu w pamięci, a zatem obliczanie za pomocą p ... y nie miałem problemów z zaokrągleniem. Nigdy nie czytałem w podręczniku czegoś podobnego. Na pewno konta wirtualnej maszyny?