jsでExcelの列の値を0.3556として読み込むのですが、読み込まれた値は0.35559999999999997となっていますが、0.3556を手動で削除して手動で書き込むと問題ありませんが、これはなぜでしょうか?
认证0级讲师
0.3556 を直接入力すると正常になります。Microsoft は 0.35559999999999997 を切り上げて 0.3556 と表示します。
Microsoft は次の考慮事項に基づいている可能性があります:
2 つの数値 a と b の差が非常に小さい場合、a は b と等しいと考えることができます。 小数点以下が多いと見栄えが悪い
2 つの数値 a と b の差が非常に小さい場合、a は b と等しいと考えることができます。
小数点以下が多いと見栄えが悪い
Excelにはセルの小数点以下の桁数を指定できる設定があったと記憶していますが、この設定により後続の桁が非表示になる可能性があります。
Excel では、この数値列の精度が高いと推定されており、JS では、long 型の数値に問題があることを示している可能性があります。
0.3556 を直接入力すると正常になります。Microsoft は 0.35559999999999997 を切り上げて 0.3556 と表示します。
Microsoft は次の考慮事項に基づいている可能性があります:
Excelにはセルの小数点以下の桁数を指定できる設定があったと記憶していますが、この設定により後続の桁が非表示になる可能性があります。
Excel では、この数値列の精度が高いと推定されており、JS では、long 型の数値に問題があることを示している可能性があります。