ieee-754
Jakie jest uzasadnienie dla wszystkich porównań zwracających false Dla wartości NaN IEEE754?
Dlaczego porównania wartości NaN zachowują się inaczej niż wszystkie inne wartości?
Czyli wszystkie porównania z operatorami ... ównując różnicę bezwzględną z małą granicą.
Więc IMHO jest to stosunkowo słaby argument za przełamaniem refleksyjności w NaN.
największa liczba całkowita, która może być przechowywana w podwójnej
Jaka jest największa "nie-pływająca" liczba całkowita, która może być przechowywana w podwójnym typie IEEE 754 bez utraty precyzji ?
Która jest pierwszą liczbą całkowitą, której float IEEE 754 nie jest w stanie dokładnie przedstawić?
Dla jasności, Jeśli używam języka implementującego IEEE 754 i deklaruję:
float f0 = 0.f;
float f1 = 1.f;
...a potem wydru ... w standardowych. Zrobiłem to dla 32-bitowych pływaków na moim komputerze (MSVC++, Win64) i wydawało się to jednak w porządku.
Float i double datatype w Javie
Typ danych zmiennoprzecinkowych jest 32-bitowym zmiennoprzecinkowym IEEE 754 o pojedynczej precyzji, a typ danych double jest ... ennoprzecinkowym IEEE 754 o podwójnej precyzji.
Co to znaczy? A kiedy powinienem używać float zamiast double lub vice-versa?
Czy matematyka zmiennoprzecinkowa jest spójna w C#? Czy to możliwe?
Nie, to nie jest kolejny "dlaczego jest (1/3.0) * 3 != 1 " pytanie.
Ostatnio dużo czytam o zmiennoprzecinkowych; w szczegól ... lną podwójną precyzją?
Jeśli Nie, czy są jakieś biblioteki, które pomogłyby utrzymać spójność obliczeń zmiennoprzecinkowych?
Konwersja zmiennoprzecinkowa 32-bitowa na 16-bitową
Potrzebuję międzyplatformowej biblioteki / algorytmu, który konwertuje między 32-bitowymi i 16-bitowymi liczbami zmiennoprzec ... w C++.
Rozumiem, ile precyzji bym stracił, ale to jest w porządku dla mojej aplikacji.
16-bitowy format IEEE byłby świetny.
Jaki zakres liczb może być reprezentowany w systemach 16 -, 32-i 64-bitowych IEEE-754?
Wiem trochę o tym, jak liczby zmiennoprzecinkowe są reprezentowane, ale obawiam się, że za mało.
Pytanie ogólne brzmi:
... nie tylko zakres liczb 16-bitowych i 32-bitowych z dokładnością do + / - 0,5 (te miejsca) lub +/- 0,0005 (tysięczne miejsce).
Double vs float na iPhone
Właśnie słyszałem, że iphone nie może zrobić podwójnie natywnie, co czyni je znacznie wolniejszymi niż zwykły pływak.
Czy to ... sowany tym problemem, ponieważ mój program wymaga precyzyjnych obliczeń i będę musiał pójść na kompromis w sprawie prędkości.
Dlaczego NaN nie jest równa NaN? [duplikat]
To pytanie ma już odpowiedź tutaj:
Jakie jest uzasadnienie dla wszystkich porównań zwracających false D ... tem pewien, że istnieje dobry powód, dla którego porównywanie NaN jako równe sobie byłoby złe. Ja tylko Nie wiem, co to jest.
Formatowanie podwaja wyjście w C#
Przeprowadzając szybki eksperyment związany z czy podwójne Mnożenie jest złamane w. Net? i czytając kilka artykułów na tema ... by uzyskać nagrodę, chcę wiedzieć, jak (lub czy). Net może sformatować podwójne do wymaganej precyzji, jak widać w kodzie C.
Duże liczby błędnie zaokrąglone w JavaScript
Zobacz ten kod:
var jsonString = '{"id":714341252076979033,"type":"FUZZY"}';
var jsonParsed = JSON.parse(jsonString);
c ... aokrągla się do 714341252076979200, natomiast 714341252076979135 zaokrągla się do 714341252076979100.
Dlaczego to się dzieje?
Czy można uzyskać 0 przez odjęcie dwóch nierównych liczb zmiennoprzecinkowych?
Czy w poniższym przykładzie można uzyskać podział przez 0 (lub nieskończoność)?
public double calculation(double a, double ... du na precyzję obliczeń?
Zauważ, że to pytanie dotyczy Javy, ale myślę, że będzie dotyczyć większości języków programowania.
Pół-precyzja zmiennoprzecinkowa w Javie
Czy istnieje gdzieś Biblioteka Javy, która może wykonywać obliczenia na IEEE 754 Half-precision numerach lub konwertować je ... wiele Nan, nieskończoności i podnormałów.
Podobne pytanie ale dla JavaScript: dekompresowanie pół precyzji w Javascript
Jak przekonwertować z liczby dziesiętnej do formatu zmiennoprzecinkowego IEEE 754 z pojedynczą precyzją?
Jak mógłbym ręcznie zmienić liczbę dziesiętną (bazę 10) na zmiennoprzecinkowy format IEEE 754 z pojedynczą precyzją? Rozumiem ... że są w nim trzy części: znak, wykładnik i mantissa. Nie do końca rozumiem, co właściwie reprezentują dwie ostatnie części.
Przydatność sygnalizacji NaN?
[7]}czytałem ostatnio sporo o IEEE 754 i architekturze x87. Myślałem o użyciu NaN jako " brakującej wartości "w jakimś numer ... ykania rejestrów FPU...
Ponadto wyobrażam sobie, że każda szanująca się implementacja sprawdza NaN i natychmiast zwraca NaN.
Jak działa to floatowe przybliżenie pierwiastka kwadratowego?
Znalazłem dość dziwne, ale działające przybliżenie pierwiastka kwadratowego dla floats; naprawdę tego nie rozumiem. Czy ktoś ... e Jak to działa.
(nota: I ' ve tagged it both c i c++ ponieważ jest to zarówno poprawny (patrz komentarze) kod C i C++)
Dlaczego dzielenie przez zero w standardzie IEEE754 daje nieskończoną wartość?
Jestem tylko ciekaw, dlaczego w IEEE-754 każda niezerowa liczba float podzielona przez zero daje nieskończoną wartość? To bzd ... u tak nie jest w IEEE-754. Musi być ku temu jakiś powód, może jakieś optymalizacje lub kompatybilność.
Więc jaki to ma sens?
Zapewnienie, że C++ to 64 bity
W moim programie C++, muszę wyciągnąć 64-bitowy float z zewnętrznej sekwencji bajtów. Czy jest jakiś sposób, aby upewnić się ... faktycznie szukasz sposobu, aby zapewnić Przechowywanie w formacie IEEE 754, spójrz na odpowiedź Adama Rosenfielda poniżej.
Jaka jest różnica między cichą NaN a sygnalizującą NaN?
Czytałem o zmiennoprzecinkowych i rozumiem, że NaN może wynikać z operacji. ale nie mogę zrozumieć, czym dokładnie są te poję ... a różnica?
Który można wyprodukować podczas programowania w C++? Czy jako programista mogę napisać program powodujący sNaN?
Odczyt / Zapis bajtów float w JS
Czy Jest jakiś sposób na odczytanie bajtów wartości float w JS? To, czego potrzebuję, to zapisanie nieprzetworzonej wartości ... obić, więc czy jest jakiś sposób, aby uzyskać reprezentację bajt po bajcie IEEE 754? I to samo pytanie do pisania oczywiście.
- 1
- 2