小程序中的小数计算问题/浮点数计算问题
在小程序框架中对于浮点数计算存在误差情况。
看示例:
示例1、
<view>{{0.01+0.2}}</view>
示例2:
/**
* 页面的初始数据
*/
data: {
num1: 0.01,
num2: 10.2,
},
this.setData({
num3: this.data.num1 + this.data.num2
})
<view>{{num3}}</view>
计算结果:
0.21000000000000002
10.209999999999999
解决方案:
在页面显示前,使用toFixed() 方法进行四舍五入处理。
this.setData({
num4: (this.data.num1 + this.data.num2).toFixed(2)
})
<view>{{num4}}</view>
结果:10.21,显示正常。
特别注意,在视图绑定是不支持toFixed() 方法。
所以以下为错误写法:
<view>{{(num1+num2).toFixed(2)}}</view>