前言
在公司項(xiàng)目中涉及到一個有大量浮點(diǎn)數(shù)價(jià)格計(jì)算的模塊,從而引發(fā)了我一系列的思考:
計(jì)算機(jī)二進(jìn)制環(huán)境下浮點(diǎn)數(shù)的計(jì)算精度缺失問題;
console.log(.1+.2); 0.30000000000000004
為了解決上述問題,使用了toFixed方法卻出現(xiàn)了浮點(diǎn)數(shù)小數(shù)位以5結(jié)尾的四舍五入錯誤問題;
var num = 0.045; console.log(num.toFixed(2)); 0.04
以此為起點(diǎn),引發(fā)了我關(guān)于toFixed的一系列探索,終于找到了一些有用的信息,toFixed使用的計(jì)算規(guī)則是:
銀行家舍入:所謂銀行家舍入法,其實(shí)質(zhì)是一種四舍六入五取偶(又稱四舍六入五留雙)法。
簡單來說就是:四舍六入五考慮,五后非零就進(jìn)一,五后為零看奇偶,五前為偶應(yīng)舍去,五前為奇要進(jìn)一。
正文
下面我們就來證實(shí)這個所謂的銀行家舍入法,證實(shí)分為三種情況,分別以4、5、6為舍入位對toFixed的證實(shí)(以chrome為例):
以4為舍入位:
var num = 0.004; console.log(num.toFixed(2)); 0.00 var num = 0.014; console.log(num.toFixed(2)); 0.01 var num = 0.094; console.log(num.toFixed(2)); 0.09
在4結(jié)尾這種情況下toFixed表現(xiàn)的還算不錯,并沒有錯誤的問題。
以6為舍入位:
var num = 0.006; console.log(num.toFixed(2)); 0.01 var num = 0.016; console.log(num.toFixed(2)); 0.02 var num = 0.096; console.log(num.toFixed(2)); 0.10
以6結(jié)尾這種情況下toFixed表現(xiàn)的也不錯,并沒有錯誤的問題。
以5為舍入位:
5后非零:
var num = 0.0051; console.log(num.toFixed(2)); 0.01 var num = 0.0052; console.log(num.toFixed(2)); 0.01 var num = 0.0059; console.log(num.toFixed(2)); 0.01
根據(jù)規(guī)則,五后非零就進(jìn)一,我們證實(shí)并沒有任何的問題。
以5為舍入位:
5后為零: 由于這種情況比較特殊,是toFixed方法出現(xiàn)計(jì)算錯誤的情況,所以我進(jìn)行了大量的證實(shí),且分別在常見的主流瀏覽器下進(jìn)行了測試:
以如下測試用例為例:
var num = 0.005; console.log(num.toFixed(2)); var num = 0.015; console.log(num.toFixed(2)); var num = 0.025; console.log(num.toFixed(2)); var num = 0.035; console.log(num.toFixed(2)); var num = 0.045; console.log(num.toFixed(2)); var num = 0.055; console.log(num.toFixed(2)); var num = 0.065; console.log(num.toFixed(2)); var num = 0.075; console.log(num.toFixed(2)); var num = 0.085; console.log(num.toFixed(2)); var num = 0.095; console.log(num.toFixed(2));
chrome、firefox、safari、opera的結(jié)果如下:
0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10
ie11結(jié)果如下:
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10
可以看出Ie11下正常,其余瀏覽器下均出現(xiàn)錯誤。雖然并不完全符合銀行家舍入法的規(guī)則,我認(rèn)為是由于二進(jìn)制下浮點(diǎn)數(shù)的坑導(dǎo)致了不完全符合該規(guī)則。
總而言之:不論引入toFixed解決浮點(diǎn)數(shù)計(jì)算精度缺失的問題也好,它有沒有使用銀行家舍入法也罷,都是為了解決精度的問題,但是又離不開二進(jìn)制浮點(diǎn)數(shù)的環(huán)境,但至少他幫助我們找到了問題所在,從而讓我們有解決方法。
解決方法
下面我提供一種通過重寫toFixed的方法:
Number.prototype.toFixed = function(length) { var carry = 0; //存放進(jìn)位標(biāo)志 var num,multiple; //num為原浮點(diǎn)數(shù)放大multiple倍后的數(shù),multiple為10的length次方 var str = this + ''; //將調(diào)用該方法的數(shù)字轉(zhuǎn)為字符串 var dot = str.indexOf("."); //找到小數(shù)點(diǎn)的位置 if(str.substr(dot+length+1,1)>=5) carry=1; //找到要進(jìn)行舍入的數(shù)的位置,手動判斷是否大于等于5,滿足條件進(jìn)位標(biāo)志置為1 multiple = Math.pow(10,length); //設(shè)置浮點(diǎn)數(shù)要擴(kuò)大的倍數(shù) num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有數(shù),然后加上我們的手動進(jìn)位數(shù) var result = num/multiple + ''; //將進(jìn)位后的整數(shù)再縮小為原浮點(diǎn)數(shù) /* * 處理進(jìn)位后無小數(shù) */ dot = result.indexOf("."); if(dot < 0){ result += '.'; dot = result.indexOf("."); } /* * 處理多次進(jìn)位 */ var len = result.length - (dot+1); if(len < length){ for(var i = 0; i < length - len; i++){ result += 0; } } return result; }
該方法的大致思路是首先找到舍入位,判斷該位置是否大于等于5,條件成立手動進(jìn)一位,然后通過參數(shù)大小將原浮點(diǎn)數(shù)放大10的參數(shù)指數(shù)倍,然后再將包括舍入位后的位數(shù)利用floor全部去掉,根據(jù)我們之前的手動進(jìn)位來確定是否進(jìn)位。
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com