2016-09-04 5 views

Antwort

3

Echt pI-Wert auf wenige Stellen mehr als float32 Genauigkeit (von here)

`3.14159265358979323846264338327950288...` 

float32 Präzision eine Genauigkeit von 6 bis 9 Dezimalstellen hat (von here)

3.1 4 1 5 9 2 7 4 1 0125732 # your value 
3.1 4 1 5 9 2 6 5 3 5897 # actual value 
--1 2 3 4 5 6 7 8 9 # (index of decimal place) 

Wie Sie können sehen, dass die Abweichung vom tatsächlichen Wert nach der 7. Dezimalstelle auftritt. Also das ist der Grund, warum es nicht richtig ist danach

+2

Sie können auch überprüfen, die Auflösung mit 'np.finfo ('float32')' – ayhan

+0

Wenn Sie mehr Präzision versuchen Sie 'np.cast ['d'] (np. pi) ', wird es in float64 umgewandelt – BPL

+0

... oder' np.cast ['f8'] (np.pi) ', um doppelte Genauigkeit zu erhalten (dh' np.float64'). "f" entspricht "f4". –

Verwandte Themen