您好,登錄后才能下訂單哦!
用js計算
12.32 * 7? ?結果是多少?
答案:86.24000000000001
為什么會出現這種問題?怎么解決?
js在處理小數的乘除法的時候有一個bug,解決的方法可以是:將小數變為整數來處理。
以上的計算可以改為:
12.32 * 100 * 7 /100
得出的結果是:86.24,正確。
另外再計算一下:
8.80 * 100 * 12 / 100
結果:105.60000000000002
38.80也會出現類似的問題。
精確度增加10倍:
8.80 * 1000 * 12 / 1000
結果:105.6
正常了。
16.40 * 1000000 * 6 / 1000000
結果也有問題
為了讓js執行的更準確,在以后的js小數計算中直接將值擴大10000倍,再除以10000,就可以解決問題。
var num = 38.80;
var num2 = 13;
alert(num * 10000 * 12 / 10000);
被乘和除的這個數經過測試10000最合適,小了有些數字出問題,大了(1000000)有些數字也出問題。?
歡迎工作一到五年的Java工程師朋友們加入Java技術交流群:659270626
群內提供免費的Java架構學習資料(里面有高可用、高并發、高性能及分布式、Jvm性能調優、Spring源碼,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個知識點的架構資料)合理利用自己每一分每一秒的時間來學習提升自己,不要再用"沒有時間“來掩飾自己思想上的懶惰!趁年輕,使勁拼,給未來的自己一個交代!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。