溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
首先我們來看一下下面一段代碼：
#include <stdio.h>
int main(int argc, char *argv[])
{
int i;
float sum = 0;
for (i = 0; i < 100; i++){
sum += 0.1;
}
printf("sum = %f \n", sum);
return 0;
} 在32位ubuntu16.10上的執行結果為：
sum = 10.000002
0.1累加100次，結果應該是10.這里卻多出了0.000002，為什么呢？？這主要是與計算機中浮點數計算方式有關。
大家知道計算機是只認識0和1的，也就是所有的運算數值要轉化位二進制后進行運算的，而浮點數轉換成二進制的小數上就會出現問題。首先介紹下十進制小數轉化成二進制小數的方法：
將十進制的整數轉化為二進制時，使用的方法是連續除2，將余數從下向上讀，就可以得到二進制數；相反將十進制的小數轉化為二進制小數時，將小數部分乘2，直到小數部分全為0，如將十進制0.125轉化為二進制為0.001：
0 0.125 * 2 = 0.25 (取0.25的整數部分)
0 0.25 *2 = 0.5 (取0.5的整數部分)
1 0.5 *2 = 1.0 (取1.0的整數部分)
然而并不是所有的十進制小數都能轉化為二進制小數，如十進制的0.1：
0 0.1 * 2 = 0.2
0 0.2 * 2 = 0.4
0 0.4 * 2 = 0.8
1 0.8 * 2 = 1.6
1 0.6 * 2 = 1.2
0 0.2 * 2 = 0.4
.
.
.
可以看出將十進制的0.1轉化為二進制是0.0001100011...是個無限循環的小數，所以當我們進行浮點數進行計算機運算的時候可能出現錯誤。
常見的解決辦法是：
1）對于一些精度要求不高的運算可以選擇忽略
2）對于一些要求較高的科學運算，可以先將十進制的小數轉化為整數再進行運算，因為計算機對整數的運算的是準確的。
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
