5Hitze
2Antwort
höhere Präzision Gleitkomma mit Boost-Lib (höher als 16 Ziffern)
5Hitze
2Antwort
Verlust der Genauigkeit bei der Verwendung von pow in C++
5Hitze
1Antwort
9Hitze
1Antwort
Interpretieren eines 32bit unsigned long als Single Precision IEEE-754 Float in C
6Hitze
2Antwort
Java - führende Nullen in einer langen durch Konvertierung zu Doppel
5Hitze
1Antwort
Verwirrung über Arten in FORTRAN
6Hitze
2Antwort
5Hitze
1Antwort
Ist numpy.sum so implementiert, dass numerische Fehler vermieden werden?
13Hitze
8Antwort
Wie kann man in Python halbe Float-Zahlen richtig aufrunden?
23Hitze
4Antwort
Änderungen an Math.exp oder doppelte Ausführung in .net 4.5.2