Was ist mit dieser Funktion in der DecimalFormat() - Funktion von ColdFusion? Wie bekomme ich das richtige Ergebnis?

Question

<cfset number1 = 20.5/80 * 100 /> 
<cfset number2 = 18.125 /> 
<cfset number3 = 6.875 /> 

<cfoutput> 
DecimalFormat(#number1#): #DecimalFormat(number1)#<br /> 
DecimalFormat(#number2#): #DecimalFormat(number2)#<br /> 
DecimalFormat(#number3#): #DecimalFormat(number3)# 
</cfoutput> 

AUSGÄNGE:

DecimalFormat (25,625): 25,62

DecimalFormat (18.125): 18,13

DecimalFormat (6,875): 6,88

STATT outputing:

D ecimalFormat (25,625): 25.63

DecimalFormat (18,125): 18.13

DecimalFormat (6.875): 6,88

Es scheint, dass eine Variable, die das Ergebnis einer mathematischen Berechnung macht DecimalFormat() anders verhalten. Jede schnelle Lösung, ohne in Java zu graben?

Answer 1

Ich denke, das Problem ist nicht DecimalFormat() ist, aber die typischen Gleitkommazahlen Rundungsfehler.

sehen: PrecisionEvaluate()

Answer 2

DecimalFormat ist eine Formatierungsfunktion. Keine mathematische Funktion. Seine Aufgabe ist es nicht, Ihre Zahl für Sie zu runden, leider fehlen CF gute mathematische Funktionen für Dezimalzahlen, so dass Sie Ihre eigenen schreiben müssen.

Hier ist man jemand auf der CF-LiveDocs Seite für rundes schrieb():

<cffunction name="roundDecimal" returntype="numeric"> 
    <cfargument name="num" type="numeric" required="yes"> 
    <cfargument name="decimal" type="numeric" default="2" required="no"> 

    <cfreturn round(num*10^decimal)/10^decimal /> 
    </cffunction> 

Answer 3

Bitte geben Sie die CF-Dokumentation NumberFormat und tun eine Seite Suche auf Runde sehen einige spezifische Informationen anzuzeigen.

Answer 4

Eine schnelle Lösung wäre Linie zu ändern 1-number1 = NumberFormat(20.5/80 * 100,'9.999')