您好,登錄后才能下訂單哦!
很多時候,大家都知道,浮點型這個東西,本身存儲就是一個不確定的數值,你永遠無法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時候沒有問題,但是有時候做統計的時候,就會看出端倪
簡單的舉個例子,就知道統計的時候,有可能出現意外的效果,導致可能需要存儲過程或者接收程序的代碼左額外的取舍數位的處理,所以在此其實我是推薦使用Numeric來替代float進行一個替代使用,避免一個sum ,然后明明明細看每一條數據都是正常的2,3位小數,一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT) CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9)) --分開執行------------------------------------------------- INSERT INTO #T ( Va ) VALUES ( 0.60000000) INSERT INTO #T1 ( Va ) VALUES ( 0.60000000) GO 100 SELECT SUM(Va) FROM #T SELECT SUM(Va) FROM #T1 ---------------------- 60.0000000000001 (1 行受影響) --------------------------------------- 60.000000000 (1 行受影響)
總結
以上就是本文關于淺談sqlserver下float的不確定性的全部內容,希望對大家有所幫助。感興趣的朋友可以參閱本站:簡述Redis和MySQL的區別、ORACLE SQL語句優化技術要點解析、MYSQL子查詢和嵌套查詢優化實例解析等,有什么問題可以隨時留言,小編會及時回復大家。感謝各位對億速云的支持!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。