6
Wie funktioniert 0x12.2P2
gleich 72,5?Hexadezimal Gleitkomma-Literale
Ich weiß, dass der Wert nach dem P, genannt der binäre Exponent, die Zweierpotenz angibt, mit der die Zahl multipliziert wird?
Wie funktioniert 0x12.2P2
gleich 72,5?Hexadezimal Gleitkomma-Literale
Ich weiß, dass der Wert nach dem P, genannt der binäre Exponent, die Zweierpotenz angibt, mit der die Zahl multipliziert wird?
0x12.2P2
ist 0x122/16 * 2
Formaler für den Teil vor die P
, können Sie diese sehr klassische Umrechnungstabelle verwenden können (?):
decimal point here ▼
+-----+-----+-----+-----+-+-----+-----+-----+
| 16³ | 16² | 16¹ | 16⁰ | | 16⁻¹| 16⁻²| 16⁻³|
+-----------------------------------------+
| | | 1 | 2 |.| 2 | | |
+-----+-----+-----+-----+-+-----+-----+-----+
So 0x12.2 ist 1⨯16¹ + 2x16⁰ + 2⨯16⁻¹ = 18.125
Ich denke du meinst 290 statt 190. –
@Eran Damn! Dummer Tippfehler ... Danke, dass du darauf hingewiesen hast! –
Ich bekomme 18.125 für die Division 290 von 16 in Dezimal und 72.52 für die Multiplikation von 18.13 mit 4. Ich empfehle, "18.13" mit "18.125" an beiden Stellen zu ersetzen, wo es erscheint. –