您好,登錄后才能下訂單哦!
本篇內容介紹了“javascript小數相減出現一長串小數位數的原因是什么”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
原因:整數型會自動轉換成整型來計算,小數則直接轉成double型進行計算;而double型需要精確到小數點后15位,因而javascript小數相減會出現一長串的小數位數。
本教程操作環境:windows7系統、javascript1.8.5版、Dell G3電腦。
<script> var a='38.8'; var b='6.8'; alert(parseFloat(a)-parseFloat(b)); var a=134.22; var b=6; alert(a*b); </script>
以上代碼為什么產生一長串小數位出來,雖然比較精確,可沒必要呀。
這個和數據結構有關系,整數型自動轉換成正型計算,小數型直接轉成double型計算。這是在內存中運算的時候必須這樣,你該知道計算機只認識0和1吧,具體的就是浮點精準度的問題。
float 精確到小數點后7位
double 精確到小數點后15位
javascript:document.write( (11.3-10.1).toFixed(2) )
toFixed()方法不僅僅截去多余的小數位,同時它還根據截取位置的下一個小數位進行四舍五入。例如,對于數值10.739,截取到小數點后的兩位數,結果將是10.74。而對于數值10.732,截取到小數點后的兩位數,結果將是10.73。
注意,在JavaScript中我們只能截取小數點之后0位~20位的小數。
toFixed()方法僅被高版本的瀏覽器所支持,所以在使用之前最好先檢查一下瀏覽器是否支持該方法,檢查的代碼如下所示:
var varNumber = 22.234; if (varNumber.toFixed) { varNumber = varNumber.toFixed(2); } else //瀏覽器不支持toFixed()就使用其他方法 { var div = Math.pow(10,2); varNumber = Math.round(varNumber * div) / div; }
這樣可以解決,但你想問,怎么可能多出這么小數點出來。
為什么會出現如此無法理解的答案?
我Google了一下,發現原來這是JavaScript浮點運算的一個bug。
比如:7*0.8 JavaScript算出來就是:5.6000000000000005
網上找到了一些解決辦法,就是重新寫了一些浮點運算的函數。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:
程序代碼
//除法函數,用來得到精確的除法結果 //說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。 //調用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精確結果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //給Number類型增加一個div方法,調用起來更加方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); } //乘法函數,用來得到精確的乘法結果 //說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。 //調用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精確結果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //給Number類型增加一個mul方法,調用起來更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); } //加法函數,用來得到精確的加法結果 //說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。 //調用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精確結果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //給Number類型增加一個add方法,調用起來更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); }
在你要用的地方包含這些函數,然后調用它來計算就可以了。
比如你要計算:7*0.8 ,則改成 (7).mul(8)
其它運算類似,就可以得到比較精確的結果。
“javascript小數相減出現一長串小數位數的原因是什么”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。