通用企业网站织梦模板(红绿蓝三色)唐山模板建站系统

最近遇到一个python的小数的问题，本来应该很简单的小于判断，无论如何都不正确，而且浮点小数都没问题，但decimal小数有问题，给我整蒙了，后来才发现是对decimal不了解所致，如果你还用float转decimal求解精确结果，那你一定要看看本文，以下是jupyter的python代码和运行结果

# 首先导入decimal模块
from decimal import DecimalDecimal("0.000000001")

Decimal('1E-9')

# 可以看到decimal可以将 string类型转为精确小数，而且可以反向转换
Decimal("0.000000001").to_eng_string() 

'1E-9'

format(Decimal("0.00000001"), "0.8f")

'0.00000001'

# 但是有如下问题，float的如下判断是false：0.11 < (0.1 +0.01)

False

# decimal的如下判断却是True
Decimal("0.11") < (0.1 +0.01)

True

Decimal("0.11") < Decimal(0.1 +0.01)

True

Decimal("0.11") < Decimal(0.1) + Decimal(0.01)

True

# 更为严重的是，从小数转换为decimal的结果可能与常识不符
Decimal("0.11") == Decimal(0.1) + Decimal(0.01)

False

# 注意下面的结果
Decimal(0.1 +0.01)

Decimal('0.11000000000000000055511151231257827021181583404541015625')

0.1 + 0.01

0.11

Decimal(0.1) + Decimal(0.01)

Decimal('0.1100000000000000057592819402')

Decimal("0.1") + Decimal("0.01")

Decimal('0.11')

# 所以Decimal最好从字符串转，而不是通过float转，这样会有精度问题Decimal("0.1") + Decimal("0.01") ==  Decimal(0.1) + Decimal(0.01)

False

Decimal("0.1") + Decimal("0.01") ==  0.1 + 0.01

False

# 最后看一个实际应用对比Decimal("0.0101") < 1*Decimal("0.0001") + Decimal("0.01")

False

Decimal("0.0101") < 1*Decimal(0.0001) + Decimal("0.01")

True

# 不过0的转换没有问题
Decimal("0") == Decimal(0)

True

Decimal()

Decimal('0')

# 和java中的BigDecimal很像，使用时都需要注意，java的bigdecimal用法可以参考： https://juejin.cn/post/7374683456729104438