0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

BigDecimal使用失誤的原因分析

Android編程精選 ? 來源:稀土掘金 ? 作者:Android編程精選 ? 2022-07-10 14:35 ? 次閱讀

背景

我們在使用金額計算或者展示金額的時候經常會使用 BigDecimal,也是涉及金額時非常推薦的一個類型。

BigDecimal 自身也提供了很多構造器方法,這些構造器方法使用不當可能會造成不必要的麻煩甚至是金額損失,從而引起事故資損。

事故

接下來我們看下收銀臺出的一起事故。

問題描述

收銀臺計算商品金額報錯,導致訂單無法支付。

事故級別

P0

事故過程

如下:

13:44,接到報警,訂單支付失敗,支付可用率降至 60%

13:50,迅速回滾上線代碼,恢復正常

14:20,review 代碼,預發(fā)布驗證發(fā)現(xiàn)問題點

14:58,修改問題代碼上線,線上恢復

故障原因

BigDecimal 在金額計算中丟失精度。

原因分析

首先我們先用一段代碼復現(xiàn)問題根源,如下所示:

publicstaticvoidmain(String[]args){
BigDecimalbigDecimal=newBigDecimal(88);
System.out.println(bigDecimal);
bigDecimal=newBigDecimal("8.8");
System.out.println(bigDecimal);
bigDecimal=newBigDecimal(8.8);
System.out.println(bigDecimal);
}

執(zhí)行結果如下:

64b88216-ed69-11ec-ba43-dac502259ad0.png

通過測試發(fā)現(xiàn),當使用 double 或者 float 這些浮點數(shù)據類型時,會丟失精度,String、int 則不會,這是為什么呢?

我們點開構造器方法看下源碼:

publicstaticlongdoubleToLongBits(doublevalue){
longresult=doubleToRawLongBits(value);
//CheckforNaNbasedonvaluesofbitfields,maximum
//exponentandnonzerosignificand.
if(((result&DoubleConsts.EXP_BIT_MASK)==
DoubleConsts.EXP_BIT_MASK)&&
(result&DoubleConsts.SIGNIF_BIT_MASK)!=0L)
result=0x7ff8000000000000L;
returnresult;
}

問題就處在 doubleToRawLongBits 這個方法上,在 jdk 中 double 類(float 與 int 對應)中提供了 double 與 long 轉換,doubleToRawLongBits 就是將 double 轉換為 long,這個方法是原始方法(底層不是 java 實現(xiàn),是 c++ 實現(xiàn)的)。

double 之所以會出問題,是因為小數(shù)點轉二進制丟失精度。

64db7bf4-ed69-11ec-ba43-dac502259ad0.png

BigDecimal 在處理的時候把十進制小數(shù)擴大 N 倍讓它在整數(shù)上進行計算,并保留相應的精度信息。

float 和 double 類型,主要是為了科學計算和工程計算而設計的,之所以執(zhí)行二進制浮點運算,是為了在廣泛的數(shù)值范圍上提供較為精確的快速近和計算。

并沒有提供完全精確的結果,所以不應該被用于精確的結果的場合。

當浮點數(shù)達到一定大的數(shù),就會自動使用科學計數(shù)法,這樣的表示只是近似真實數(shù)而不等于真實數(shù)。

當十進制小數(shù)位轉換二進制的時候也會出現(xiàn)無限循環(huán)或者超過浮點數(shù)尾數(shù)的長度。

總結

所以,在涉及到精度計算的過程中,我們盡量使用 String 類型來進行轉換。

編輯:黃飛

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 浮點數(shù)
    +關注

    關注

    0

    文章

    60

    瀏覽量

    15856
  • 代碼
    +關注

    關注

    30

    文章

    4723

    瀏覽量

    68236
  • string
    +關注

    關注

    0

    文章

    40

    瀏覽量

    4715

原文標題:BigDecimal使用不當,造成P0事故!

文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    關于鍍銅表面粗糙問題原因分析

    本帖最后由 gk320830 于 2015-3-7 10:15 編輯 關于鍍銅表面粗糙問題原因分析可能原因如下:  鍍銅槽本身的問題  1、陽極問題:成分含量不當導致產生雜質  2、光澤劑
    發(fā)表于 11-07 11:21

    電池膨脹原因分析

    電池膨脹原因分析 一般電池電池膨脹的主要原因是:
    發(fā)表于 10-21 10:41 ?1030次閱讀

    電容失效原因分析

    電容失效原因分析 電容失效在原因很多很多時候并不是電容的質量不好而是有很多因素造成以下是一人之言請各位指正并探討: 1 失效主要
    發(fā)表于 01-14 10:34 ?6321次閱讀

    某型導彈射手失誤信號的時頻分析研究

    在某型導彈飛行訓練中,射手失誤后,對信號的處理不能準確得出失誤發(fā)生的時間、失誤的程度、失誤原因。針對這個問題,
    發(fā)表于 11-14 11:10 ?29次下載
    某型導彈射手<b class='flag-5'>失誤</b>信號的時頻<b class='flag-5'>分析</b>研究

    壓縮機故障原因分析PDF

    壓縮機故障原因分析PDF空調維修技術壓縮機故障原因分析PDF空調維修技術壓縮機故障原因分析PDF
    發(fā)表于 04-28 11:45 ?6次下載

    導致煙霧報警器失誤的主要原因有哪些?詳細分析

    安裝煙霧報警器主要是為了防止我們在不經意間未能及時發(fā)現(xiàn)火災或者起煙霧將引發(fā)火災的一種防護措施。不過我們偶爾會發(fā)現(xiàn)家里安裝了有些年頭的煙霧報警器會時不時響一下,但是檢查有沒有發(fā)現(xiàn)異常。這是什么原因呢?是什么導致煙霧報警器失誤呢?
    的頭像 發(fā)表于 04-11 16:31 ?1.5w次閱讀

    BigDecimal實際開發(fā)的三坑是什么

    采用String 類型的構造參數(shù)。如果必須要使用double,則可使用Double.toString(double) 方法轉換成String, 再采用Bigdecimal的構造函數(shù).
    的頭像 發(fā)表于 02-16 14:39 ?647次閱讀

    什么是PFMEA中有效的原因分析呢?

    多數(shù)工廠的PFMEA的原因為“違規(guī)作業(yè),未按作業(yè)指導書作業(yè),新員工,操作失誤,沒有培訓,員工技能不足,原材料不良,設備損壞等”。
    發(fā)表于 03-31 11:39 ?818次閱讀

    變頻電機振動原因分析

    變頻電機振動原因分析? 變頻電機振動是一種常見的故障現(xiàn)象,往往會造成設備的不穩(wěn)定性和降低設備的使用壽命。因此,對于變頻電機振動的原因進行分析和解決是非常必要的。本文將從以下幾個方面對變
    的頭像 發(fā)表于 08-28 17:43 ?2507次閱讀

    bigdecimal轉string類型

    BigDecimal轉換為String類型是在Java編程中常常遇到的一個問題。BigDecimal是Java中用于表示高精度十進制數(shù)的類,而String則是用于表示文本字符串的數(shù)據類型。在某些
    的頭像 發(fā)表于 11-30 11:09 ?6190次閱讀

    怎么把bigdecimal轉成string

    BigDecimal轉換為String是一項常見的任務,在Java的開發(fā)中經常會涉及到將數(shù)值進行格式化,并在不同的環(huán)境中傳遞。本文將詳解以下幾個方面的內容: 什么是BigDecimal
    的頭像 發(fā)表于 11-30 11:11 ?1147次閱讀

    bigdecimal轉string類型避免空指針

    在Java中,BigDecimal是用于處理高精度數(shù)字計算的類。它提供了一種有效的方法來避免使用浮點數(shù)的精確度損失問題。然而,在將BigDecimal對象轉換為String類型時,需要特別小心以避
    的頭像 發(fā)表于 11-30 11:12 ?2493次閱讀

    bigdecimal轉字符串保留兩位小數(shù)

    BigDecimals是Java中用于表示任意精度的十進制數(shù)的類。在許多應用程序中,可能需要將一個BigDecimal轉換為字符串并保留兩位小數(shù)。在本文中,我們將探討如何使用BigDecimal
    的頭像 發(fā)表于 11-30 11:18 ?4196次閱讀

    bigdecimal的加減乘除java

    BigDecimal是Java中提供的一個用于精確計算的類,它可以實現(xiàn)浮點數(shù)的精確加減乘除運算,避免了在使用浮點數(shù)進行計算時可能出現(xiàn)的舍入誤差。 首先,我們需要明確一點,浮點數(shù)在計算機中是以二進制
    的頭像 發(fā)表于 11-30 11:19 ?1431次閱讀

    bigdecimal是什么數(shù)據類型

    BigDecimal是Java編程語言中的一個類,用于表示任意精度的十進制數(shù)。它是在數(shù)值計算方面提供更高精度和更多功能的一個解決方案。常規(guī)的浮點數(shù)類型(如float和double)有精度限制,可能會
    的頭像 發(fā)表于 11-30 11:21 ?3009次閱讀